后来，在中科院数学所一位领导的建议下，吴文俊开始研究中国古代数学。而令他日后成名的机器证明研究，灵感也来自于中国古代数学。

1976年冬，57岁的吴文俊开始了几何定理机器证明研究。他在北京图书馆借遍了与机器证明有关的书籍，虽已近花甲之年依然苦读钻研。

功夫不负有心人。1977年，吴文俊第一篇关于机器证明的论文发表。他创造性地将一般形式的代数簇分解为所谓“三角列”形式，让很多性质变得容易计算，从而使代数几何中很多重要问题得到构造性解决。这个方法后来被以他的姓氏命名为“吴氏方法”。

1979年，吴文俊应邀赴美国访问，做了两场机器证明报告，引起了美国数学家的极大兴趣。那次美国之行，吴文俊向国家申请了2万元美金，购买了一台像样的台式计算机，亲自操作。当时，已到60岁的吴文俊从零开始学习编写计算机程序，自此成为了他所在部门年龄最大的计算机程序员。

61岁那年，吴文俊申请加入中国共产党。当时改革开放的形势让他很兴奋，在入党志愿书上吴文俊写道：“现在党已经进入了第二阶段的革命时期，我国的科学文化也应像政治与经济那样，急需改变几百年的落后面貌，走上独立自主的发展道路，把我国建设为一个科学上最先进的国家，作为一个从事科学工作的知识分子，我决心在党的领导下为这一新的伟大历史任务克尽绵薄。”

1984年，美国举办了一场全美定理机器学术会议。华裔学生周成青提交了一篇题为《用吴方法证明几何定理》的论文。他在现场用电脑演示，短短十几分钟里证明了几百条几何定理。吴方法的成功引起了国际数学界的极大关注。两年后，吴文俊应邀前往美国参加世界数学家大会，并在会上做了45分钟的报告。在当时的中国数学家中，吴文俊是获此殊荣的第一人。

2001年2月19日，国家科学技术奖励大会在北京人民大会堂隆重举行。因在数学机械化领域的开拓性贡献，82岁的吴文俊获得了国家最高科学技术奖。

十年后，以吴文俊名字命名的中国人工智能大会召开，吴文俊被尊称为“中国人工智能先驱”。2017年5月7日，吴文俊因病逝世，享年98岁。

2019年，吴文俊被授予“人民科学家”国家荣誉称号。