滾刀肉最初是指豬身上的一種肉，這種肉既不是肥肉也不是脂肪，而是被認爲品位較低的囊肉。在天津俗語中，這種肉被稱爲囊膪。滾刀肉的特點是切起來非常費勁，刀落到肉上容易滑動，難以切下。因此，滾刀肉在烹飪時需要特別的處理方法。
隨着時間的推移，滾刀肉的含義發生了引申，不僅指那種難以切動的劣質肉，也用來形容那些難以對付、不聽勸告的人。這樣的人軟硬不喫，糾纏不清，因此被稱爲滾刀筋。由於滾刀筋這個說法不夠上口，隨着時間的推移，人們逐漸將其稱爲滾刀肉。
在北方方言中，滾刀肉也用來形容那些軟硬不喫、油鹽不進的市井無賴，這樣的人難以應對，用任何辦法都難以說服或解決。