人工智能：点头机器还是探索者？

Hugging Face 的首席科学官挑战了 AI 将带来科学突破的观点

Hugging Face 的联创兼首席科学官 Thomas Wolf 正在引发关于人工智能真正局限性的争论。在X 平台上发表的一篇文章中,Wolf 警告说,如果没有突破性的研究进展,AI 可能只会成为"在服务器上点头的机器",一个重复现有知识的工具,而不是创造新知识。

这一观点与像 Sam Altman (OpenAI) 和 Dario Amodei (Anthropic) 等大型 AI 公司领导人的乐观情绪形成鲜明对比,他们仍然坚信 AI 有能力推动科学进步。

AI:乖学生还是科学革命家?

尽管可以访问来自互联网的海量数据,Wolf 认为当前的 AI 仍然只是在"填补"人类知识库中的空白,而不是以新的方式连接数据来实现突破性发现。他将当前的 AI 系统比作"非常乖巧的学生",严格遵守训练数据,不敢提出质疑或挑战既有观点。这一观点得到了包括前 Google 工程师 François Chollet在内的一些专家的认同。

Wolf 指出,AI 领域的"评估危机"是造成这种情况的原因之一。当前的评估标准过于关注回答现有问题的能力,使 AI 只关注优化"封闭"测试,而不是探索新的方向。

为了克服这一限制,Wolf 提出转向关注知识和推理能力的评估体系,允许评估 AI 在"大胆的反事实方法"、从小提示进行概括,以及提出"非显而易见的问题"以开启新的研究方向的能力。

"科学最重要的因素是提出正确的问题并挑战我们已经学习的东西,"Wolf 强调。"我们不需要一个能回答所有问题的 A+ 学生。我们需要一个 B 级学生,能够发现并提出其他人都忽略的问题。"