真正能够进行大数值计算的计算机器源自于欧洲。1642年，年仅19岁的法国科学家布雷兹。帕斯卡发明了一种能进行加、减、乘、除四种基本运算的机械计算器。30年后，德国数学家戈特弗德。莱布尼茨研制成功一种称为“步进计算器”的机器，能进行乘法、除法和平方根的计算。再后来，就是欧洲出现的那种用罗盘和齿轮作动力的机械式计算器了，这些计算机器当时都用于频繁的商业贸易和科学研究活动之中。1830年，英国剑桥大学的数学教授查尔斯。巴比奇提出了一种“分析机器”的设想，他认为只要把信息转换为数字，就能用机器来进行处理，同时还提出，这种分析机器要有用来加工数据的“磨坊”和用来存储数据的“仓库”，还要给机器规定一些“指令”，让它按照人的意志去工作。这个推论很显然成为后来计算机发明的重要理论依据。20世纪30年代末，克劳德。商农首次提出计算机采用二进制代码的设想，即用1代表“真”(关)，用0代表“假”(开)。这个理论为后来数字化信息理论和实践铺平了道路。

第二次世界大战期间，美国宾夕法尼亚大学莫尔电子工程学院的数学家们负责为陆军计算火炮射击诸元表，每张表要计算几百条弹道数据，计算一条弹道需要20个小时，他们集中了200多名计算人员参与计算，计算一张火力表也需要两、三个月。战事紧急，被逼无奈，1943年莫尔学院用电子管研制计算机，1945年12月制造成功世界上第一台电子计算机，人们给它起了个名字叫“电子数字交换机和计算器”，缩写词为ENIAC，音译名为埃尼克。埃尼克体型巨大，重达30多吨，占用面积170多平方米，造价48万美元。每秒执行5000次加法和400次乘法运算，是手工运算的20万倍。第一代计算机被称为电子管计算机。

1947年，美国贝尔实验室发现一块微小的银色硅片可以代替电子管做电子开关等同样的工作，而且耗费的电流极小、所产生的热量也小，还可大量节省空间。这种硅片后来被制成晶体管并被用来制造新型的电子计算机，从而使计算机体积大大减小，中央处理机的尺寸减小到只有一个机柜大小，耗电量也减少了许多，可靠性也有明显的提高。这时，出现了第二代晶体管计算机。

20世纪60年代初，晶体管在制作工艺上进行了改进，不再一个一个地焊接和封装晶体管，而是把许多晶体管按照设计要求连接在一块用硅制成的印刷电路板上，从而形成了最早期的集成电路模式。当时，每个集成电路板上只能包含几十个晶体管，后来就可以堆放几百个晶体管了，这时的集成电路被称作中规模集成电路。用一、两块这样的集成电路板就能制成中央处理机，计算机尺寸大大减小。1964年，美国推出了世界上第一台PDP-8小型计算机，第二年就研制出16位的标准化小型计算机。从此，第三代集成电路计算机开始推广应用。

一个集成电路板上既然能够堆放几百个晶体管，为什么不能堆放更多的晶体管呢？很快，不仅达到几千个晶体管，而且用一个单片集成电路便能制成微处理机，其性能远远超过以前的中央处理机，计算机开始向微型化方向发展。20世纪70年代中期，每片集成电路中所含晶体管的数量陡增到几万个，到80年代初期，这一数目就增长到几十万个！从此计算机进入第四代，即大规模集成电路时代。英特尔公司个人计算机微处理机进入了一个快速更新换代的时期：70年代是8080和8088，80年代是80286、80386和80486，90年代推出奔腾80586。微处理机的运算速度几乎每年翻一番，1992年微型计算机的运算速度已经超过曾经风靡全球的PDP和VAX小型机。1997年，美国《时代》周刊封面上的风云人物就是英特尔公司总裁格罗夫，它标志着小小的计算机芯片正在把人类带入一个充满活力的信息时代。当时，超高速集成电路的集成度多达800万个晶体管，到2000年达到6亿个晶体管，2012年后已经超过14亿个晶体管，图形处理器已经达到71亿个晶体管。计算机变得越来越小，运算速度却跳着高地往上翻。计算机进入到第四代，即大规模集成电路计算机时代。

1981年10月，日本在东京第五代计算机国际会议上首先提出第五代智能计算机的概念，迅速引发巨型机和超级计算机的研制。这一年美国的克雷I型巨型计算机运算速度达到每秒1亿次，1982年日本的日立巨型机达到6.3亿次，1984年中国银河巨型机达到1亿次。从此，世界主要大国掀起了高速度、大容量巨型机研制热潮。为了提高巨型机的运算速度，通常采用多台处理机并行完成一项工作。美国的克雷Y-MP/C90，由16台处理机组成，运算速度为160亿次/秒；日本电气公司的SX-3/44，由4台处理机组成，运算速度220亿次/秒。通过大量节点把成千上万台处理机并行起来，可使运算速度呈指数方式提高。比如美国的CM-5型机，节点数16000个，运算速度1万亿次/秒。

第五代计算机运算速度的飞速提升，引发了计算机人工智能与人类智能进行正面对抗的兴趣。20世纪80年代后期，美国IBM公司利用巨型计算机研制出弈棋智能计算机“深思”，并于1989年首次安排深思与苏联男子国际象棋世界冠军卡斯帕罗夫交手，最终“深思”以失败告终。