从公元前2000多年前起，中国人就有了漱口的习惯。如《礼记》中就有：“鸡初鸣，碱畲漱”的记载。不过，单凭漱口是不能将牙齿上的污垢、食物残渣等完全去掉的。因此，古人又想出了用手指或柳枝揩齿来清洁牙齿。人们将柳枝的一端用牙咬成刷子状，然后蘸药水来揩齿。唐医王焘在《外台秘要》描述以升麻、白芷、沉香等为药，碾碎成散，将杨柳枝头咬扁，点药擦洗牙齿，这就是早期牙刷、牙膏的雏形。
平民通常使用“柳枝牙刷”
在宋代时期，已有了类似牙膏的替代物，古人以茯苓等药材煮成“古牙膏”，早起用来漱口。就是用杨柳枝，沾上古牙膏清理牙齿。人们主张每日早晚用柳枝揩牙两次，正式有牙刷一词，郭玉诗中云：“南洲牙刷寄头日，去垢涤烦一金值。”从古书记载来看，到了南宋，城里已经有专门制作、销售牙刷的店铺。那时的牙刷是用骨、角、竹、木等材料，在头部钻毛孔两行，上植马尾。和现代的牙刷已经很接近了。
中国牙刷博物馆收藏的唐代骨柄牙刷，这种牙刷通常为贵族使用
元代，一般人用柳枝当做牙刷，参合中草药制成的揩齿粉末刷牙。郭珏在《静思集》中有“短簪削成玳瑁轻，冰丝缀锁银鬃密”之句，说明了在元代，牙刷已经相当普及，当时的牙刷柄不会很长，牙刷形态有如玳瑁，刷毛所用鬃毛经过了精致处理，有了现代牙刷的原形。
明弘治三年（1490年），中国出现了清洁面垂直于刷柄的牙刷，是用从西伯利亚野猪肩胛部位割下的毛，植入竹柄上制成。当时的欧洲还处于用手指或亚麻布浮石粉擦牙的阶段。可见中国制造牙刷的工艺当时在世界上是非常发达的。直到清代，一名法国传教士来到中国，看到中国的牙刷大为惊奇，并将样本和制作工艺带回欧洲。欧洲人对牙刷进行改良，他们将牛骨雕刻出坚固的刷杆，在尾端钻孔，将猪毛用细丝固定，成了与现代牙刷最为接近的古代牙刷。
真正接近现代牙刷形状的刷牙工具是1870年左右的英国人发明的。英国人威廉·阿迪斯因煽动骚乱被关押在英国监狱里。一天早晨他洗过脸后，用一小块布擦牙。可是勤于思考的阿迪斯觉得这个方法不管用，便想出一个新主意：先在一块骨头上钻了一些小孔，然后向监狱看守要了硬猪鬃，切断绑成小簇，一头涂上胶，嵌到骨头上的小孔中去。这样，历史上第一把近代意义的牙刷就诞生了。出狱后，阿迪斯开办工厂生产牙刷。直到今天，他的后人还继承经营着祖辈留下的产业。
第一次世界大战期间，原本用来制作牙刷柄的骨头被军队买去生产肥皂，人们不得不寻找新的材料。20世纪20年代，西方牙科医师发明了毛束间隙宽、毛面平齐、直柄、用天然鬃毛制成的牙刷。二十世纪30年代，世界范围内的战乱，导致猪毛进出口贸易停止。此时美国人发明了尼龙，它能够更方便地生产出结实、规整的细毛刷头。这和刚硬、易脱落、不易晾干的旧式刷毛相比，是很大的进步。
第二次世界大战对牙刷的普及起到了至关重要的作用。被征召到战场上的各国士兵需要遵守统一的卫生规范，当他们回到家乡后，将这些习惯也带回了那里。1948年有人提出了软尼龙设计的牙刷，尼龙丝较细软，直径0.17毫米，毛面平齐，毛束3行，每行6组，后来在这个基础上发展成所谓“多束软尼龙牙刷”，毛束更密，排成3—4行，每行12束，这成为以后牙刷最常见的形态之一。
