「拾人牙慧」這個成語的典故源自東晉時期的一位名叫殷浩的人物。殷浩，字深源，是陳郡長平縣（今河南西華縣）人，是豫章太守、光祿勛殷羨之子。他不僅是東晉時期的大臣、將領，同時也是一位清談家，以深厚的學問和精通玄理而著稱。殷浩曾擔任過「建武將軍」，並統領過揚州、豫州、徐州、兗州、青州等地的兵馬。後來因作戰失敗被罷官，並流放到信安（今浙江省境內）。
殷浩有一個外甥，姓韓，名康伯，此人聰明且善於談吐。在殷浩被流放時，康伯也隨同前往。有一次，殷浩聽到康伯正在對別人發表言論，仔細一聽，發現康伯所講的內容全是抄襲自己的隻言片語，套用自己說過的話，沒有他個人的獨到見解，卻流露出自鳴得意的神情。殷浩對此感到不滿，感嘆道：「康伯連我牙齒後面的污垢還沒有學到就自以為了不起，真不應該。」。
這個故事後來被引申為「拾人牙慧」這個成語，用來比喻抄襲或改頭換面地套用別人說過的話或寫的文章，強調沒有自己的獨特見解和創新。