教皇利奥谴责推动人工智能崛起的「权力文化」

教皇利奥谴责推动人工智能快速崛起的「权力文化」，并警告称这种技术必须受到「最严格」的伦理约束，因为它正在从工作到战争的各个领域渗透。

在他的通谕中，这是他作为教皇的首个关于保护人类的重大文本，他还为天主教会长期未能谴责奴隶制道歉，称其为「基督教记忆中的伤口」，并谈到了由于数字经济导致的「新形式的奴役」。

利奥在去年五月当选后不久表示，他认为人工智能是当今人类面临的最大威胁，他在周一于梵蒂冈举行的活动中亲自展示了这份文件。与会者中包括美国人工智能公司Anthropic的联合创始人克里斯托弗·奥拉（Christopher Olah），该公司正与唐纳德·特朗普政府就人工智能伦理问题进行诉讼。

通谕是教皇向天主教会14亿成员传授的最高形式之一，通常概述他的优先事项，同时强调社会中的重大问题。

在名为《Magnifica Humanitas》（伟大的人性）的文件中，利奥提到「战争作为国际政治工具的令人不安的复兴」，并表示人工智能正在帮助促进「战争的正常化」。

「因此，人工智能在战争中的发展和使用必须受到最严格的伦理约束，以保证对人类尊严和生命神圣性的尊重，并避免发展此类武器的竞赛，」他写道。

利奥呼吁「解除人工智能的武装」，同时指出一些自主武器系统「几乎超出了人类的控制范围」。

「解除人工智能的武装意味着将其从『武装』竞争的心态中解放出来，」他写道。「解除武装并不意味着拒绝技术，而是防止其支配人类」，并补充说，这项技术应该是「对人类友好的」，对所有人开放，并接受讨论和辩论。

在一段似乎针对硅谷的文字中，教皇警告称，数字系统、基础设施和数据的权力「并不掌握在国家手中，而是掌握在主要经济和技术参与者手中」，当这种权力集中在「少数人手中」时，往往会「变得不透明，逃避公众监督，增加扭曲发展形式的风险，导致新的依赖、排斥、操控和不平等」。

奥拉在周一表示，人工智能的发展不能仅仅由科技公司来决定，呼吁宗教领袖、政府和公民社会加强监督。

奥拉与教皇并肩而坐，他表示人工智能「在很大规模上」取代人类劳动的「真实可能性」。

「如果发生这种情况，支持那些被取代的人将成为具有历史意义的道德责任，」他说。

像他这样的公司在「强大的商业、地缘政治和个人压力」等一系列激励和约束下运作，有时可能与「为社会更广泛利益做正确的事情」相冲突，因此外部监督至关重要。

利奥的家族历史包括奴隶和奴隶主，他在谈到奴隶制时写道：「当想到如此多的人所承受的巨大痛苦和屈辱时，与他们作为被主无限爱着的人所拥有的不可估量的尊严形成鲜明对比，无法不感到深深的悲痛……为此，我以教会的名义诚恳地请求宽恕。」

过去的教皇曾为基督徒参与跨大西洋奴隶贸易道歉。但没有一位教皇曾公开承认，更不用说为教皇们在给予欧洲君主明确权力以征服和奴役「异教徒」方面所扮演的角色道歉。

与他的两位枢机主教一起，参加发布会的还有神学家安娜·罗兰兹（Anna Rowlands）和莱奥卡迪·卢尚博（Léocadie Lushombo）。

达勒姆大学天主教社会思想教授罗兰兹表示，这份通谕「将福音的愿景带入人工智能的文化」，并在这样做时「警告一种正在重塑工作、家庭、教育和政治生活的权力文化的增长」。

梵蒂冈多年来一直认真参与围绕人工智能的问题，包括与微软、谷歌和其他大型科技公司进行定期对话。

教皇在周一表示，天主教会希望与人工智能开发者合作，讨论技术的正确使用。

「利奥在这份文件中所做的是将他的职位的全部重量放在天主教会与大科技公司对话的努力上，」乔治城大学天主教社会思想与公共生活倡议高级研究员克里斯托弗·怀特（Christopher White）说，他是《教皇利奥十四世：秘密会议和新教皇时代的黎明》的作者。

「他显然是从谦逊的立场来处理人工智能问题，并明确表示教会在人工智能监管所需的政策方面没有所有答案。但他清楚地表明，人工智能的发展不能像一些倡导者希望的那样成为狂野的西部。」

天主教援助慈善机构Cafod的首席执行官兼董事克里斯汀·艾伦（Christine Allen）在对通谕的反应中表示，教皇的信息讲述了「人类固有的尊严」。

「我们不仅仅是生产的工具，而是活生生的生命，肩负着道德指南针，」她补充道。「在一个充满不平衡的世界中，我们有责任负责任地使用人工智能。今天的信息是，它不应该被用来进一步加剧不平等和痛苦。」