教皇利奥称人工智能必须「解除武装」

教皇利奥（Pope Leo）发布了他在位期间的第一份重要教义文件，警告称人工智能需要「解除武装」。

「这个词很强烈，我知道，但这是故意选择的，因为这个时刻需要能够引起注意的词语。」教皇说道。

虽然这封信主要集中在人工智能上，但教皇利奥也包括了梵蒂冈对天主教会在奴隶制中角色的最强烈、最全面的道歉之一。

教皇写道：「在思考如此多的人所承受的巨大痛苦和屈辱时，不可能不感到深深的悲痛。」他补充说，他「诚挚地以教会的名义请求宽恕」。

利奥提到奴隶贸易与人工智能的关系，暗示世界面临再次将人类剥削正常化的危险——无论是在生产中还是在应用中。

教皇在文件中使用了一些最强烈的图像来描述奴隶制，警告传统奴隶制的历史悲剧与「新数字奴役」新兴威胁之间的相似之处。

他建议存在类似的剥削正常化的风险，人类正处于类似的道德十字路口。

不同寻常的是，教皇利奥选择亲自发布这份名为《壮丽的人性》（Magnifica Humanitas）的通谕，并在梵蒂冈与包括美国人工智能巨头Anthropic联合创始人克里斯托弗·奥拉（Christopher Olah）在内的人工智能专家一同亮相。

在通谕发布后的讲话中，奥拉表示，每个人工智能实验室，包括他自己的，都在一套有时与正确行事相冲突的激励和约束中运作。

奥拉补充说，认为人工智能问题最好由像他这样的计算机科学家来处理是错误的：「人工智能提出的问题不仅在其影响上，而且在其性质上都超出了人工智能研究社区的范围。」

教皇的通谕——也承认了人工智能的许多潜在陷阱——也是对那些掌权者的一个严厉而直接的信息，关于他们在遏制其「威胁」方面的责任。

例如，教皇谴责在战争中使用人工智能，称减少人类对武器的控制使得更难将战争视为「正义的」，并警告不要发起人工智能军备竞赛。

「没有算法可以使战争在道德上可以接受。」教皇写道。

他表示，人工智能不仅没有消除战争的「内在非人性」，而且还可能通过「降低诉诸暴力的门槛，将防御转变为威胁预测，从而将受害者简化为数据」来更快地引发冲突并使其更加非个人化。

利奥还谴责了人工智能对政治的影响——例如它被用来操纵图像和视频，这暴露了人们对偏见或误导性观点的影响。

过去，教皇曾将今天需要的保护措施与工业革命期间为了确保人类尊严所需的保护措施进行比较。

他建议，如果今天不采取行动应对人工智能的风险，就像社会和教会在谴责奴隶制的祸害时的延迟一样。他甚至提到了「数字殖民主义」的风险，将殖民时代的滥用行为与现代技术实践联系起来。

在文件的某个地方，教皇直接向人工智能开发者发出「特别呼吁」。

「开发者承担着特殊的伦理和精神责任，因为每一个设计选择都反映了对人性的看法。」他说。

但这一切将产生什么影响呢？

教皇利奥已经召集了一个委员会来推进他的工作，但面对快速的技术进步，关于这一切将如何有效仍存在巨大疑问。

2015年，已故教皇方济各（Pope Francis）撰写了他的通谕《愿祢受赞颂》（Laudato Si），重点关注应对气候危机的紧迫需要——但随后在2023年谈到他对行动不力的失望。