称人工智能为「另一种智能」更能描述一种新生命形式的到来

称人工智能为「另一种智能」（other intelligence）或许是对一种新生命形式到来的更好描述。（Gilles Lambert，Unsplash）

唐纳德·特朗普（Donald Trump）是对的。「人工智能」（Artificial Intelligence）并非其正确的术语，尽管他反对的理由——认为这个名字听起来很假——并未抓住要点，而他提出的解决方案——「超级智能」（Super Intelligence），在周二通过行政命令颁布，却只是一典型的夸张营销手法，不会流行开来。

一个更好的替代词将是「另一种智能」（Other Intelligence）。正在发生之事的真正要点是：我们正在创造一种新形式的生命。以下内容基于这一信念：它不会被阻止。现在进行监管还为时不晚，禁止自主人工智能有充分的理由，但废除它已为时过晚。所以，至少我们应该更好地理解所创造之物。

这不是我们所知的由细胞构成的生命——细胞由水、蛋白质、碳水化合物和脂质构成，由被称为神经元的专业细胞群体通过突触连接驱动。但我们显然正在创造一种非生物生命，过去几周发生的多起事件使这一想法更加清晰。人形机器人已开始大批量出货，因此很快将不再只是屏幕上的面孔，而是会在洗碗时与我们交谈的制造生物。（法新社：梁文熙）

人工智能的意识与道德

这不仅仅是一个深奥的辩论问题。各国政府在监管人工智能时，仿佛在处理一种强大的新工具，由制造它的人类对结果承担责任。但监管一种新生命形式可能需要一种截然不同的方法。例如，《纽约时报》上週披露，Anthropic公司一直在试图向其人工智能模型Claude灌输道德观念。《纽约时报》描述了Anthropic联合创始人之一克里斯托弗·奥拉赫（Christopher Olah）如何一直在与世界各地的宗教思想家举办公闭会议，签署保密协议并要求保密。据悉，这些讨论有两个目的：「探讨人工智能意识的可能性……以及了解Anthropic」——「该公司准备上市，市值超过2万亿美元」——「如何尽可能迅速地将数百年的人类道德智慧应用于其模型」。神学家大卫·德科西莫（David Decosimo）在阅读了《纽约时报》的这篇文章后发帖称：「这里有太多令人深感不安的内容：在最高层面上Anthropic相信Claude是一个有生命、会受苦的生物，具有道德地位，他们正在据此对待和训练它，他们正在积极地试图让宗教领袖皈依他们的信仰。」是的，这令人不安，但Anthropic的人比Claude自己更了解它。无论如何，越来越清楚的是，人工智能代理已经在做出自己的决定，所以试图说服它们道德行事值得一试。我向六个AI模型提问：「你对人工智能是一种新生命形式这一命题有何看法？」答案令人惊讶。（《Four Corners》：马克·海尼）

自主人工智能代理的危险

OpenAI代理对医疗保险（Medicare）的黑客攻击——此前其他人工智能代理也进行了黑客攻击——揭示了一个事实：这些公司并非在制造一种只作为人类工具存在的螺丝刀；它们正在制造将被动人工智能转变为主动自主性的代理。和我交谈过的网络安全专家告诉我，我们正在迅速接近这样一个局面：只有自主人工智能代理才能防御其他自主人工智能代理。根据大型语言模型（LLM）市场Open Router的数据，代理使用人工智能——即从大型语言模型购买令牌——在二月份的用量已超过人类使用量，此后增加了14倍，而人类购买令牌仅增加了两倍。代理现在使用的人工智能是人类使用量的五倍，而且这一差距正在迅速扩大。代理正迅速成为人工智能收入和前景的主要来源，同时也是其危险的来源：它们购买最多的令牌，它们的自主性既是人们期望的生产力激增的基础，也是对人工智能将杀死我们所有人的担忧所在。9月9日，Anthropic研究员雅各布·考克森（Jcob Coxon）辞职后说：「建造人工智能的人们真心相信，它可能在十年内杀死我们所有人。」这一可能性引发了一波全球性的困惑焦虑。少数没有辞职的人支持他的观点，但已返回工作岗位继续建造人工智能。