武士刀的主要部位可以分為刀柄、刀身和刀鞘三大部分，具體如下：
刀柄。包括後鼻、環、莖、套環、護手等部分。後鼻是用於固定整個刀的螺絲，環是刀柄底端的突起部分，莖是供握持的主要部分，套環是莖與護手之間的環狀墊片，護手是位於刀身與莖之間的盤狀金屬物，用於保護手部。
刀身。包括顎、刃、背、尖、面、血溝、背齒、腸鈎等部分。顎是介於刀身與護手之間的金屬物，用於增加刀身與刀鞘之間的摩擦力或防止血液流入莖部，刃是刀身銳利的一側，背是刀身上無刃的一側，尖是刀身的末端，面是指嵴與刃之間的縱深，血溝的作用是微調刀劍平衡度、減輕刀具重量、增加刀具強度並保持鋒利，背齒具有鋸和絞斷鐵絲的功能，腸鈎位於刀背部位，用於處理獵物。
刀鞘。包括鞘口、佩帶、鞘身、護環、鏢等部分。鞘口位於刀鞘進出口部分，護環用於保護刀鞘和佩帶，鞘身通常由木質或硬皮革製成，鏢用於防止刀鞘滑落。