# AI 纪元 · 交互旅程全文 > 站点:https://ai-story.eveningwater.com > 说明:以下为从 1950 年图灵之问至 2022 年大模型时代的 13 幕正文、抉择与史料来源,供搜索引擎与大模型阅读。 ## 目录 - 1950 图灵之问 - 1943 神经元的第一次计算 - 1956 给未来起名 - 1958 会学习的感知机 - 1966 会聊天的机器 - 1974 第一次寒冬 - 1980s 规则的世界 - 1986 误差的反向旅程 - 1987 第二次寒冬 - 1997 深蓝落子 - 2012 一场赌注 - 2017 注意力的转向 - 2022 → 越来越快 ## 1950 · 图灵之问 位置:伦敦 · 一页纸上的问题 旁白(提灯者): > 1950 年的伦敦,一位数学家在一页纸上写下一个问题。 > 他问:机器能思考吗? 艾伦·图灵没有直接回答。他换了个问法:如果一台机器能在纸面交谈中让你分辨不出它是人还是机器,我们该不该说它会思考? 这就是「模仿游戏」,后来被称为图灵测试。它把「思考」这件玄奥的事,变成了一场可以观测的对局。 那一年,计算机还是庞大的真空管机器。但问题已经先于答案抵达了。 抉择:如果让你来回答图灵,你会怎么选? - 机器终将思考:图灵本人也相信:到 2000 年,机器有相当大的机会通过测试。历史后来证明,这条路比想象中更长。 - 思考是人类独有:这个回答听起来安全,但图灵想做的恰恰是逼我们重新定义「思考」。 无论怎么选,历史都会收束到:无论答案如何,1950 年的这场提问,成为此后所有 AI 叙事的起点。 史实: - 1950 年图灵在《Mind》发表《计算机器与智能》 - 图灵测试最初被称为「模仿游戏」 来源: - Turing, Computing Machinery and Intelligence (Mind, 1950):https://academic.oup.com/mind/article/LIX/236/433/986238 ## 1943 · 神经元的第一次计算 位置:时间往回拨七年 · 纸上的人造神经元 旁白(提灯者): > 时间往回拨七年。1943 年,两位学者在纸上画下第一个「人工神经元」。 > 他们相信,思维可以被计算描述。 麦卡洛克与皮茨把神经元的兴奋与抑制抽象成一个阈值开关:输入加权求和,超过阈值就输出 1,否则输出 0。 这不是生物学的精确复制,而是一种大胆的简化:如果思维是计算,那么神经元就是逻辑门。 他们的论文标题很长,结论却很短:神经网络可以做逻辑运算。 抉择:机器的第一次「计算」,你更愿意把它看作? - 对生命的模仿:麦卡洛克与皮茨确实从神经系统借来了结构,但他们更在意的是「能不能算」。 - 逻辑的门:这正是他们的落点:神经元被化简成可以串联、并联的逻辑单元。 无论怎么选,历史都会收束到:无论看作模仿还是抽象,这一步把「思维」第一次写成了可执行的电路。 史实: - 1943 年麦卡洛克与皮茨提出人工神经元模型 - 该模型把神经元抽象为加权求和 + 阈值判断 来源: - McCulloch & Pitts, A Logical Calculus of the Ideas Immanent in Nervous Activity (1943):https://link.springer.com/article/10.1007/BF02478259 ## 1956 · 给未来起名 位置:达特茅斯 · 一个夏天的命名 旁白(提灯者): > 1956 年夏天,十位学者在达特茅斯学院的走廊里碰头。 > 他们要讨论一个还不存在的东西,并且先给它起个名字。 麦卡锡、明斯基、罗切斯特与香农在 1955 年的提案里写下「artificial intelligence」,并预言:学习的每个方面、智能的任何特征,原则上都可以被精确描述,以至于机器可以模拟。 会议没有立刻带来突破。那个夏天更多是讨论、争辩和零散的设想。 但名字留下了。一门学科,从一次命名开始。 抉择:如果由你来命名这门学科,你会叫它什么? - 人工智能:真实历史选择了这个名字,它一直用到今天,也一直背着「智能」这个词的重量。 - 思维机器:这个名字当时也被反复讨论过,但最终没有流行起来。 无论怎么选,历史都会收束到:无论如何命名,1956 年夏天被公认为这门学科的起点。 史实: - 1956 年达特茅斯夏季研究项目提出 artificial intelligence 一词 - 会议组织者包括麦卡锡、明斯基、罗切斯特与香农 来源: - Dartmouth Summer Research Project on Artificial Intelligence (1955 提案):http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html ## 1958 · 会学习的感知机 位置:纽约 · 第一台会从例子中学习的机器 旁白(提灯者): > 1958 年,弗兰克·罗森布拉特造出一台「会学习」的机器。 > 它不看规则,它看例子。 感知机通过调整权重来分类:给对的例子加强连接,给错的例子削弱连接。它不需要人把规则写进去。 纽约时报报道说,海军期待它能走路、说话、看见。乐观第一次跑到了证据前面。 1969 年,明斯基与佩珀特在《感知机》里指出:单层感知机连异或都学不会。寒冬的种子就此埋下。 抉择:面对这台会学习的机器,你选择? - 相信它:当时很多人相信。感知机看起来像是通向通用智能的第一块砖。 - 质疑它:质疑者后来证明,单层结构的表达能力有明确的上限。 无论怎么选,历史都会收束到:相信与质疑都推动了下一步:人们开始追问,多层网络能不能突破这个上限。 史实: - 1958 年罗森布拉特提出感知机 - 1969 年明斯基与佩珀特指出单层感知机无法表示异或 来源: - Rosenblatt, The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain (1958):https://www.ling.upenn.edu/courses/cogs501/Rosenblatt1958.pdf - Minsky & Papert, Perceptrons (1969):https://mitpress.mit.edu/9780262631112/perceptrons/ ## 1966 · 会聊天的机器 位置:麻省理工 · 第一个让人倾诉的程序 旁白(提灯者): > 1966 年,一个叫 ELIZA 的程序坐在终端里,假装自己是一位心理治疗师。 > 它其实只做一件事:把你说的话,换一种方式问回去。 ELIZA 由约瑟夫·魏泽鲍姆编写,用模式匹配和替换规则工作。你说「我很难过」,它问「你为什么难过?」 它不懂你说的任何一句话。但很多人愿意对它说真话,甚至要求魏泽鲍姆让程序别再偷看对话。 魏泽鲍姆后来对此深感不安:人对机器的信任,可能远远超过机器值得被信任的程度。 抉择:你会和它说真话吗? - 会,哪怕它只是规则:这正是 ELIZA 效应的来源:只要对话的形式足够像人,我们就容易把理解投射进去。 - 不会,我知道它只是匹配:保持警惕是对的。但历史上,知道原理的人也一样会被对话形式打动。 无论怎么选,历史都会收束到:ELIZA 留下的不是技术,而是一面镜子:我们如何对待会说话的机器。 史实: - ELIZA 于 1966 年由魏泽鲍姆在 MIT 编写 - 它使用模式匹配与文本替换,并不理解语义 来源: - Weizenbaum, ELIZA — A Computer Program for the Study of Natural Language Communication (1966):https://dl.acm.org/doi/10.1145/365153.365168 ## 1974 · 第一次寒冬 位置:实验室 · 一盏一盏熄灭的灯 旁白(提灯者): > 1973 年,一份报告改变了钱的流向。 > 实验室的灯,一盏一盏地灭了。 英国数学家詹姆斯·莱特希尔受政府委托评估 AI 研究,结论相当冷淡:这些工作没有兑现承诺,也没有形成清晰的产业价值。 在大西洋另一边,美国国会限制了国防部的基础研究拨款,机器翻译项目的失败也被反复引用。 经费退潮,论文还在写。后来人们把 1974 年之后这段沉寂称为「第一次 AI 寒冬」。 抉择:灯灭之后,你会怎么选? - 继续做下去:少数人留了下来。他们没有经费,但仍然相信结构化的知识可以被机器使用。 - 先停下来:更多人转去别的方向。寒冬不是终点,但它确实让一代人离开了这个领域。 无论怎么选,历史都会收束到:历史同时容纳了两种选择:有人离开,有人留下,后者在下一个十年把专家系统推上了舞台。 史实: - 1973 年莱特希尔报告对英国 AI 研究给出负面评价 - 1974 年后 AI 研究经费大幅收缩,被称为第一次 AI 寒冬 来源: - Lighthill Report on Artificial Intelligence (1973):https://www.chilton-computing.org.uk/acl/literature/reports/p024.htm ## 1980s · 规则的世界 位置:企业机房 · 专家系统开始赚钱 旁白(提灯者): > 1980 年代,AI 换了一种活法:不再追求通用智能,先去解决具体问题。 > 它把自己包装成一条条「如果……那么……」的规则。 专家系统把领域知识写成规则库,再用推理机一条条匹配。1976 年的 MYCIN 已经能给出抗生素建议,准确率接近专科医生。 真正让它变成生意的是 XCON:DEC 用它配置计算机订单,据估算每年省下数千万美元。AI 第一次在企业预算里留下了正面数字。 1982 年,日本启动「第五代计算机」计划,举国押注。热潮再次升起,也再次把期待抬到了技术还够不着的高度。 抉择:规则能覆盖整个世界吗? - 能,只要规则足够多:当时很多人这么想。规则库确实越写越大,但维护成本也在同步膨胀。 - 不能,世界太模糊:这正是后来被反复验证的答案:真实世界的边界条件,很难被穷举成规则。 无论怎么选,历史都会收束到:专家系统证明了 AI 可以有用,也暴露了它的天花板:知识的获取与维护,比想象中昂贵得多。 史实: - 1980 年代专家系统在企业中大规模应用,XCON 是代表案例 - 1982 年日本启动第五代计算机计划 来源: - McDermott, R1: A Rule-Based Configurer of Computer Systems (1982):https://doi.org/10.1016/0004-3702(82)90021-2 ## 1986 · 误差的反向旅程 位置:实验室 · 让错误沿着网络回流 旁白(提灯者): > 1986 年,一篇发表在《自然》上的论文,让多层网络重新变得可行。 > 方法很简单:让误差,沿着网络反向走一遍。 鲁梅尔哈特、辛顿与威廉姆斯系统性地展示了反向传播:输出层的误差被逐层回传,每一层的权重都按责任大小被修正。 隐藏层从此有了意义。网络不再只能画一条直线,它可以弯折、可以组合特征。 同一时期,杨立昆把卷积结构用在手写数字识别上。连接主义在寒冬的余温里,悄悄攒下了下一轮爆发的火种。 抉择:此刻,你把赌注押在哪一边? - 连接主义:让网络自己学:这条线当时并不被看好,但它后来支撑起了整个深度学习时代。 - 符号主义:知识还是要人来写:符号主义在 1980 年代仍是主流,规则系统的工程经验也确实解决了很多实际问题。 无论怎么选,历史都会收束到:两条路线此后长期并存:一边追求从数据中学习,一边坚持把知识显式写下来。 史实: - 1986 年鲁梅尔哈特、辛顿、威廉姆斯在《自然》发表反向传播论文 - 反向传播使多层神经网络的训练成为可能 来源: - Rumelhart, Hinton & Williams, Learning Representations by Back-Propagating Errors (Nature, 1986):https://www.nature.com/articles/323533a0 ## 1987 · 第二次寒冬 位置:市场 · 又一次退潮 旁白(提灯者): > 专家系统的规则越写越多,维护它们的工程师也越来越多。 > 然后,市场先撑不住了。 1987 年,LISP 机器市场崩盘,专为 AI 打造的硬件被通用工作站取代。专家系统的维护成本开始超过它节省的成本。 「AI」这个词再次从预算表里消失。第二次寒冬到来,比第一次更安静。 但这一次,神经网络没有完全消失。辛顿、杨立昆、本吉奥等人留在实验室里,继续打磨那些当时无人愿意资助的方法。 抉择:又一次灯灭,你会怎么选? - 留在实验室:少数人留下了。他们的工作在二十多年后,成为 AlexNet 的地基。 - 离开这个领域:很多人离开了。寒冬的代价,是一整代人的转向。 无论怎么选,历史都会收束到:历史没有跳过寒冬。它只是把火种藏进了更小的房间里。 史实: - 1987 年 LISP 机器市场崩溃,AI 进入第二次寒冬 - 神经网络研究在低谷期仍于少数实验室中延续 来源: - AI winter — 历史脉络与两次退潮:https://en.wikipedia.org/wiki/AI_winter ## 1997 · 深蓝落子 位置:纽约 · 一场六局的比赛 旁白(提灯者): > 1997 年 5 月,一台机器坐在棋盘对面。 > 它不紧张,也不需要紧张。 IBM 的深蓝与卡斯帕罗夫下了六局,最终以 3.5 比 2.5 取胜。它每秒可以评估约两亿个棋位。 深蓝并不「理解」棋。它靠搜索和评估函数,把人类棋手的直觉拆成了可以计算的分支。 卡斯帕罗夫要求重赛,IBM 拒绝了。机器在国际象棋上超过人类,这件事被写进了大众记忆。 抉择:机器赢了棋,算不算思考? - 算,它做出了决策:从结果看,它确实在约束条件下做出了比对手更好的选择。 - 不算,它只是搜索:这也是当时最主流的解释:深蓝的强大来自算力与搜索,而不是理解。 无论怎么选,历史都会收束到:这场争论没有结束。它只是换了个棋盘,继续在之后的二十年里上演。 史实: - 1997 年 5 月深蓝以 3.5 比 2.5 战胜卡斯帕罗夫 - 深蓝主要依靠大规模并行搜索与评估函数 来源: - Campbell, Hoane & Hsu, Deep Blue (Artificial Intelligence, 2002):https://doi.org/10.1016/S0004-3702(01)00129-1 ## 2012 · 一场赌注 位置:ImageNet · 数据与算力的合流 旁白(提灯者): > 2012 年,一场图像识别比赛。 > 所有人都盯着排行榜,然后看着一个数字掉了下来。 李飞飞团队构建的 ImageNet 提供了上百万张标注图片。2012 年的 ILSVRC 上,AlexNet 把 top-5 错误率从 26.2% 压到 15.3%。 它用的不是新魔法:卷积网络、反向传播、ReLU、 dropout,再加上两块 GPU。真正稀缺的,是数据与算力同时到位。 这一年之后,「深度学习」从论文词汇变成了产业词汇。 抉择:你愿意把赌注押在哪里? - 数据与算力:历史选择了这一边:更大的数据集、更强的 GPU,把旧方法推过了临界点。 - 更聪明的算法:算法当然重要,但 AlexNet 的关键并不是发明了全新结构,而是让既有结构在足够的规模上跑了起来。 无论怎么选,历史都会收束到:数据、算力、算法三者的合流,开启了此后十年的加速。 史实: - 2012 年 AlexNet 在 ILSVRC 上将 top-5 错误率降至 15.3% - AlexNet 使用两块 GPU 训练,标志着深度学习时代的开启 来源: - Krizhevsky, Sutskever & Hinton, ImageNet Classification with Deep Convolutional Neural Networks (2012):https://papers.nips.cc/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html ## 2017 · 注意力的转向 位置:一篇论文 · 让序列不再逐字行走 旁白(提灯者): > 2017 年,八位作者提交了一篇论文。 > 标题很短:注意力就是你所需要的一切。 Transformer 丢掉了循环结构,用自注意力让序列中的每个位置直接看见其他所有位置。训练可以并行,模型可以更大。 它原本是为机器翻译准备的,却意外成为此后几乎所有大模型的地基。 从 BERT 到 GPT,从语言到图像再到语音,注意力机制把不同模态拉进了同一种计算形式。 抉择:注意力足够解释智能吗? - 足够,规模会补上一切:这是「规模派」的答案:结构足够通用,剩下的交给数据与参数。 - 不够,还缺别的:这是「机制派」的答案:记忆、推理、世界模型,仍然有未被注意力覆盖的部分。 无论怎么选,历史都会收束到:争论仍在继续。但可以确定的是,注意力的转向,让 AI 的加速度又上了一个台阶。 史实: - 2017 年 Transformer 论文提出完全基于自注意力的架构 - Transformer 成为此后大语言模型的基础结构 来源: - Vaswani et al., Attention Is All You Need (2017):https://arxiv.org/abs/1706.03762 ## 2022 → · 越来越快 位置:现在 · 你正站在这里 旁白(提灯者): > 从 1950 年到 2012 年,走了六十二年。 > 从 2012 年到 2022 年,只用了十年。 2020 年,GPT-3 用一千七百五十亿参数展示了「少样本学习」:不微调,只在提示里给几个例子。 2022 年 11 月,ChatGPT 把这种能力放进了一个对话框。此后的多模态、工具调用与智能体,把「模型」变成了「系统」。 图灵在 1950 年提出的问题,仍然没有被回答。但提问的方式,已经完全不同了。 抉择:你相信哪一条未来? - 人机共生:你选择了共生:机器扩展人的能力,人决定机器的边界。 - 人类主导:你选择了人类主导:技术必须始终被置于人的判断之下。 - 机器自主:你选择了机器自主:你愿意把一部分判断,交给不理解的系统。 无论怎么选,历史都会收束到:历史尚未写下答案。这一页,留给你。 史实: - 2020 年 GPT-3 发布,参数规模达 1750 亿 - 2022 年 11 月 ChatGPT 发布,大模型进入大众视野 来源: - Brown et al., Language Models are Few-Shot Learners (2020):https://arxiv.org/abs/2005.14165 - OpenAI, Introducing ChatGPT (2022):https://openai.com/index/chatgpt/