Первая наждачная бумага появилась еще в древнем Китае. Делали ее из дробленых раковин, семян и песка, а потом помощью натурального клея приклеивали к пергаменту и шлифовали металлические или деревянные поверхности. У некоторых народов в качестве шлифовальной шкурки использовалась… акулья кожа.

В 1833 году англичанин Джон Океи придумал прототип «наждачки», нанеся на пергамент измельченное стекло. Классический же «наждак» была запатентован 14 июня 1834 года Айзеком Фишером-младшим в США. Главным здесь было применение в качестве абразивов карбида кремния или оксида алюминия, проще говоря, мелких камушков, что прекрасно годилось для обработки различных поверхностей.

В 1855 году шведский химик Йохан Лундстрем впервые нанес красный фосфор на поверхность наждачной бумаги и заменил им же белый фосфор в составе головки спички. Такие спички уже не приносили вреда здоровью, легко зажигались о заранее приготовленную поверхность и практически не самовоспламенялись.

В 1902 году пятеро друзей-американцев решили добывать корунд — особо твердый кристалл, применяемый в промышленности. То, что они сочли корундом, на поверку оказалось низкосортным минералом. Решая, что же с ним делать, партнеры создали влагостойкую наждачную бумагу и положили начало созданию крупной промышленной компании 3M. А в 1916 году ее специалисты изобрели усовершенствованный тип водонепроницаемой наждачной бумаги, известной как Woterdry. С ее помощью стали полировать поверхность автомобилей.

Известны случаи и нетрадиционного использования наждачной бумаги. Испанский художник Хуан Миро рисовал на ней свои картины. А в «Балете Наждачной бумаги» М. Морриса она использовалась в качестве музыкального инструмента.