可见汉代即有算盘，但形制与今不同。不过，中梁以上一珠当五，中梁以下各珠当一，则与现代相同。又据徐岳说，他的老师刘洪曾问学于道家天目先生，天目即曾传授珠算之法，可见至迟在东汉已出现算盘。有些历史学家认为，算盘的名称，最早出现于元代学者刘因撰写的《静修先生文集》里。

在《元曲选》无名氏《庞居全误放来生债》里也提到算盘：“闲着手，去那算盘里拨了我的岁数。”元代杨辉在其《乘除通变算宝》里、元代朱世杰在其《算学启蒙》里，都记载了有关算盘的“九归除法”。明代吴敬在其《九章详注比类算法大全》里，对算盘的用法记述则较详。

而宋代画家张择端在其《清明上河图》中也画有一个算盘，可见，早在北宋时或北宋以前我国就已普遍使用算盘了。直到明代才出现《盘珠算法》这类专著，那时已有带横梁的上二珠下五珠的算盘。

我国的算盘由古代的“筹算”演变而来。“筹算”就是运用一种竹签作筹码来进行运算。唐代末年，已见筹算乘除法的改进，到宋代产生了筹算的除法歌诀。15世纪中叶，《鲁班木经》中有制作算盘的规格。由于算盘普及，论述算盘的著作也随之产生，流行最久的珠算书是1593年明代程大位所编辑的《算法统宗》。

由于珠算口诀便于记忆，运算又简便，因而在我国被普遍应用，同时也陆续传到了日本、朝鲜、印度、美国、东南亚等国家和地区。算盘的出现，被称为人类历史上计算器的重大改革，就是电子计算器盛行的今天，它仍然在发挥着它特有的作用。