使用砂紙時，應遵循以下步驟：
選擇合適的砂紙。根據工作需求選擇合適的砂紙，砂紙的編號越小，表示顆粒越粗；編號越大，表示顆粒越細。例如，用於拋光細膩物體的應選用細砂紙，而需要去除鏽跡或劃痕的則選用較粗的砂紙。
確定砂紙的正確面。砂紙的一面是膠面，另一面是砂面。使用時應將砂面朝上，因爲膠面會阻礙磨削，降低砂力。
正確使用砂紙。始終使用砂紙的平坦部分進行磨削，避免使用砂紙邊緣，以防止破損。磨削時應選擇適當的力度，避免過度使用，造成材料損失。
保持磨削狀態。在使用砂紙時，應保持材料的狀態，防止磨削過度。可以先用預磨處理，然後使用細砂紙進行拋光處理。
注意安全。砂紙屬於磨削工具，使用時應佩戴手套和眼鏡，以保護手部和眼睛。
特殊處理。對於水磨砂紙，可以直接在水中使用，或者慢慢加水使用，但必須避免幹磨。使用水磨砂紙時，應先粗磨後細磨，並定期更換砂紙和水。
此外，砂紙有不同的規格和材質，適用於不同的材料表面處理，如金屬、木材、塑料、橡膠和石膏等。金屬表面使用粗砂紙進行初步研磨，然後逐漸過渡到細砂紙；木材表面通常使用中等粗度的砂紙磨光，最後用細砂紙進行細磨；塑料和橡膠使用中粗的砂紙去毛刺和凸起物，然後用細砂紙拋光。