教皇在宣言中谴责人工智能为「奴役」

教皇利奥（Leo）在其首部通谕中表示，「正义战争」理论已经过时。他在梵蒂冈亲自发布了这份文件，并与包括美国巨头Anthropic的联合创始人在内的人工智能专家共同出席。作为首位美国籍教皇，利奥对人工智能武器发出了警告，称「不可将致命决策交给技术」。

美国公司Anthropic自称为一家道德人工智能公司，因反对其技术用于致命自主战争或大规模监控而与美国军方陷入法律纠纷。利奥强调，「正义战争」理论常被用来为各种战争辩护，现在已不合时宜。他补充道：「没有算法能使战争在道德上可接受。」

根据联合国的数据，到2033年，人工智能的价值可能达到4.8万亿美元，十年内增长25倍，但其利润将集中在少数人手中。教皇在《壮丽人性》（Magnifica Humanitas）中写道：「解除人工智能武装意味着将其从『武装』竞争的心态中解放出来。」

他批评「为了确保地缘政治或商业主导地位而进行的更强大算法和更大数据集的竞赛」。利奥写道：「解除武装并不意味着拒绝技术，而是防止其支配人类。」人工智能应「对人类友好」，对所有人开放讨论和辩论。

教皇将这一热门议题作为其教宗任期的基石，并在其首部通谕中对此进行了详细阐述。宣言引用了从希腊哲学家柏拉图到贝多芬的《第九交响曲》，甚至引用了JRR托尔金的《指环王》中的角色。

利奥警告称，技术革命引发的新形式奴役，指出「人工智能世界中没有任何东西是无形或神奇的」。「每一个看似即时和完美的回应……都依赖于数百万人的默默工作」，从被迫观看令人不安材料的内容审核员，到提取人工智能依赖的稀土元素的儿童。

他们「被伤害、受伤和磨损，以便计算流程可以不间断地继续」，他写道。更高的效率或创新不能为「故意隐藏的剥削链」开脱，同时必须采取更多措施减少人工智能的环境影响并「保护我们的共同家园」。

这份文本的发布是教会对人工智能相关技术进行多年研究的结果。早在2020年，圣座就启动了「罗马人工智能伦理呼吁」，呼吁新技术尊重人类尊严。专家表示，《壮丽人性》可能会像教皇方济各的《愿祢受赞颂》一样具有影响力，这份2015年的气候宣言引发了全球的政治和公民反应。