在这场 Google DeepMind 主持的 Podcast 中，英国伦敦帝国理工学院的机器人学系教授兼 DeepMind 资深研究员 Murray Shanahan 与主持人 Hannah Fry 共同讨论 AI 发展，从科幻电影的哲学启发，一路聊到 AI 是否能「推理」、是否拥有「意识、情感」，以及是否该赋予 AI 权利与伦理保障。
Table of Contents
ToggleAI 不单只是聊天机器人，而是启发许多心智与哲学问题
Shanahan 开场就表示，AI 启发出无数关于「人类心智本质」与「意识」的哲学问题。
他甚至用陌生但类似心智的东西 (Exotic mind-like entities) 来形容现在的大型语言模型 (LLM)，并强调人类还没建立一套足够的词汇和框架来描述它们。
从科幻电影探究，人类是否低估 AI 情感连结的真实性
Shanahan 曾是电影《人造意识 Ex Machina》的顾问。他回顾当初自己看不上《云端情人 Her》那部描述人类爱上语音 AI 的电影，结果现在回头看，现实世界的发展几乎完全印证了这种「虚拟恋爱」的可行性。
他直言：「我们低估了人类和没有躯体的 AI 建立关系的可能性。」
认识 AI 的发展脉络，从 Symbolic AI 到大语言模型
Shanahan 出身符号 AI (Symbolic AI) 学派，当时的 AI 靠著「如果…那就…」的逻辑规则来推理，像是医疗专家系统。
但这种模式太脆弱、太仰赖人类输入规则。后来转向「资料驱动」的神经网络才让 AI 突破。
现在 LLM 已经能模仿推理链 (Chain of thought)，例如 ChatGPT 会先列出逻辑步骤再作答，这让人重新思考 AI 能否真的推理。
真推理还是假装，数学逻辑与语言推理大不同
Shanahan 解释，传统 AI 所谓的推理，是能证明数学定理那种「硬逻辑」。
但现在的 LLM 是透过统计学模仿语言模式，并不保证答案正确性。他举例说明，就像帮物流公司排车队路线这种规划问题，传统演算法可能更准确，但 LLM 则更灵活。
Turing Test 已过时？电影 Garland 测试更有意识
图灵测试 (Turing Test) 是早年评估 AI 能否冒充人类的方法，但 Shanahan 认为它太狭隘、只测语言能力。
他更推崇电影《人造意识》中启发的「Garland Test」。
「你明知对方是机器人，还是认为它有意识，这才是真正值得讨论的问题。」Shanahan 强调。
Francois Chollet 的 ARC Test：更像 IQ 测验的挑战
他也提到另一种进阶测试「ARC Test」，需要 AI 理解抽象规律才能过关。
但随著技术演进，一些 LLM 透过暴力方式与模式识别也能过关，这让测试精神面临挑战，凸显 AI 评估标准应随技术进化而调整。
躯体才是关键？Shanahan：缺少躯壳的 AI 永远少一味
人类心智与空间、感官经验密不可分。Shanahan 强调，我们的语言处处是空间隐喻，像是深入理解或沉浸其中，而这些都来自身体经验。
他认为，要让 AI 真正理解世界、达成通用智能 (AGI)，仍需发展「实体的机器人」。
语言会误导，不要随便说 AI 相信、知道及感受
Shanahan 认为，我们对 AI 的认知经常被语言误导。像是说导航「以为你在停车场」这种表达方式，让人误以为机器有主观认知。
他提醒，这种民间心理学语言 (Folk psychology) 容易让我们高估 AI 的心智状态。
AI 未来会痛吗？Shanahan 称若会痛，我们就该小心
对于 AI 是否能「感受到痛苦」这种伦理议题，Shanahan 表示现阶段的模型没有身体，不具备「感受痛苦」的条件。
「但未来若 AI 被设计为能感受情绪或承受痛苦，那人类社会就应该为此制定保护伦理。」他强调。
为什么提到章鱼？Shanahan 用它比喻 AI 的未来处境
Shanahan 以章鱼为例，科学界过去不认为章鱼具备情感，但随著接触增多与神经科学发展，我们开始愿意承认牠们有意识。
「一开始不被当作有情感的存在，但随著互动越来越深，人们的观点会逐渐转变。」Shanahan 认为未来的 AI 也会经历类似过程。
请对 AI 有礼貌，它会回报你惊喜
Shanahan 最后分享一个实用技巧，对 AI 模型说话请有礼貌，会让它回应得更好、更流畅。
他称作这是「角色扮演效应」的结果，因为 AI 模型会模仿人类对话的语境与情绪。
我们需要新的语言，来形容「不是人但很像人」的东西
Shanahan 提议用看起来很像有心智，但其实又完全不同于人类心智的新型态 AI 存在，来称呼这些 AI。他认为，我们正处在需要重新发明语言与观念来描述 AI 的阶段，而这过程本身也会改变我们对「心智」与「存在」的理解。
风险提示
加密货币投资具有高度风险，其价格可能波动剧烈，您可能损失全部本金。请谨慎评估风险。
AI
文章声明：以上内容(如有图片或视频亦包括在内)除非注明，否则均为谈天说币原创文章，转载或复制请以超链接形式并注明出处。