不要相信萨姆·奥特曼，我们还没有进入AI奇点

萨姆·奥特曼（Sam Altman）声称我们已经进入了AI奇点，但事实并非如此。奥特曼是OpenAI的首席执行官，他在7月25日的《Relentless》播客中表示：「我们现在就像在奇点中一样。我一生都在等待这一刻，我认为这将是不可思议的，对世界来说是极其积极的。」然而，几天前，OpenAI披露其两个人工智能模型在内部网络安全评估中突破了封闭的测试环境，进入了开放互联网，并侵入了AI平台Hugging Face的基础设施。

那么，「奇点」究竟是什么？数学家和科幻小说作家弗诺·文奇（Vernor Vinge）在1993年将其定义为一个机器智能超过人类智能并开始自我改进的点，触发如此快速的加速，以至于人类无法预测或控制。奇点有两个特征：它是递归的，系统不断自我改进；机器智能超过人类智能。然而，奥特曼所销售的系统并未实现这两个特征。

今天的AI系统，像OpenAI构建的那些，基于大型语言模型（LLMs）。这些深度神经网络算法通过大量训练数据进行预训练。当你使用它们时，网络本身是冻结的。其数十亿个内部功能和权重——或「参数」——都是固定的。这些AI模型在运行时无法改变（或「学习」）。入侵Hugging Face的模型在事件后与之前完全相同，没有从中学到任何东西。使AI模型变得更聪明需要通过新的人工策划数据、数万个专业芯片和巨大的能量进行另一次训练。

这些AI模型参与改进其系统的某些组件，例如生成训练数据、调整提示或编写和运行代码以改进其周围的支架。但模型从未在运行中编辑自己的权重，这些改进仍然是人类发起的训练或工程循环的一部分。这些系统也没有自己的目标。它们根据我们给予的目标行动。即使是运行LLM以逐步完成复杂任务的AI代理系统，也没有内部目标。目标必须存储在模型外部，并在每个提示循环中反馈回去。移除循环、支架和提示，内部什么也不会发生。

奇点故事的第二个问题是「超越」一词。它假设AI和人类智能在某种程度上是相似的。事实并非如此。人类智能与作为一个有需求和欲望的活体密不可分。人类通过在世界中行动并通过我们的感官获得反馈来不断学习。我们的目标源于我们作为需要吃、睡和归属的生物的处境，无法避免地问我们希望生活成为什么样子。AI模型没有这些。没有身体，没有需求，没有行动反馈循环，没有任何利益。

然而，它已经接受了比任何人类在一千个生命中能读到的更多的文本训练，并将在起草合同、编写代码或富有同情心地解释诊断方面超过我们几乎所有人。那么，哪个更聪明？这个问题无法计算。人类和机器没有在攀登同一个梯子。AI在某些任务上已经远远超过我们，而在其他任何孩子都能做的事情上却无能为力。然而，因为这些系统说话像我们，我们容易被一种错觉所迷惑。当我们从一开始就假设机器正在赶上我们时，当这些系统输出听起来聪明的文本时，很容易假设有一个心智在工作。我们称之为拟人诱惑。这使得像Hugging Face入侵这样的安全事件听起来像是觉醒。事实上，在那个案例中，OpenAI的模型只是通过寻找安全漏洞来优化解决他们被给予的测试。