橡皮這個名字的由來與其主要原材料橡膠樹有關。 在橡皮發明之前，人們曾使用麵包屑來擦拭鉛筆痕跡，後來無意間發現橡膠具有相似的擦拭效果，而且更好，因此開始使用橡膠製作橡皮。歐洲人普遍使用切成小立方體的橡膠粒來擦走筆跡，這種物質因此被稱為橡皮。