教皇利奥十四世发布关于人工智能“裁军”的通谕

Papa Leão XIV - X/pontifex

Papa Leão XIV - X/pontifex

教皇利奥十四世于 5 月 25 日星期一发布了通谕《Magnifica humanitas》,这是他作为教皇的第一份权威文件。该出版物标志着天主教会对当代社会人工智能的挑战和危险采取了前所未有的立场。发布会在梵蒂冈的主教会议厅举行,高科技专家与教皇一起出席——这象征着该主题的严肃性。

这份约 200 页的通谕是教廷内部历时十年对新技术反思的结果。教宗重申了指导整个文件的核心信念:人工智能必须“解除武装”,并摆脱将其转变为统治、排斥或死亡工具的逻辑。正如教宗解释的那样,这个特意选择的词反映了在人类历史的关键时刻唤醒良知的必要性。

与工业时代的历史比较

教皇唤起了人们对教皇利奥十三世的记忆,他在 135 年前通过通谕“Rerum Novarum”面对了工业革命的转变。当时,工作世界的巨大变化产生了新形式的贫困和痛苦。如今,根据教皇利奥十四世的说法,人工智能代表着规模和复杂性相当的挑战。

5月15日,教宗象征性地签署了《Magnifica humanitas》,这一天标志着《Rerum Novarum》的最初出版。他表示,他感到“被召唤以信仰的眼光、清晰的理性、对神秘的开放态度以及穷人和土地在他心中产生共鸣的呼声来看待另一场伟大的转变”。这种历史的相似性凸显了教会如何寻求对威胁人类尊严的现象保持关注。

罗马教廷确定的风险

该通谕解决了有关人工智能影响的具体问题。教皇报告称,他收到了“相当令人不安”的信息,称武器系统的自主性日益增强,其运行几乎超出了人类的控制范围。此外,它还强调了基于受到偏见和不公正污染的数据而拒绝获得健康、工作和安全的算法。

教宗强调,技术影响“我们生活的许多领域”,影响关键决策,并“从根本上改变战争的方式”。这些观察反映了对人工智能加深不平等和创造新形式的社会排斥的机制的深入分析。在做出技术决策时,那些没有发言权的人的沉默也是该文件的一个核心问题。

“裁军”的概念

选择“裁军”一词并非偶然。教宗认识到这个词是强有力的,是为了吸引注意力、唤醒良知并为人类指明前进的道路而特意选择的。教会维持对核裁军的历史性承诺,以此为人类家庭的和平和尊严服务。同样,今天的人工智能也要求它被解除武装,因为就像核能一样,它必须为每个人和共同利益服务。

教宗强调,“有关技术的决定绝不能脱离良心和责任”。教皇不仅仅是简单地禁止或限制人工智能,还为人工智能的人道主义目的重新定位进行了辩护。根据通谕,真正的和平不仅仅是没有战争,而是正义的行动。当技术削弱人们的批判意识时,和平本身就面临风险。

从抵抗到重建

在强调裁军的必要性之后,教宗提出了第二个同样重要的方面:重建。此次提名带来了他对秘鲁多年使命的个人记忆,特别是2017年,厄尔尼诺现象引发的暴雨和洪水袭击了该国北部。许多家庭眼睁睁地看着自己的家园被泥土吞没,道路和基础设施也被毁坏。

教宗吐露道:“在那里我了解到,重建并不仅仅意味着取代被摧毁的东西。” “这意味着修复关系、恢复信任并重新点燃对未来的希望。”这种人文主义视角将关于人工智能的讨论从单纯的技术辩论转变为社会和道德重建问题。教宗坚称“没有人能够独自重建”——这一说法与面对技术挑战时全球合作的必要性产生了共鸣。

通谕的根源在于聆听

教皇利奥十四世解释说,通谕的根源在于倾听——这是牧灵方法的基本价值。他聆听了科学家和工程师的心声,他们对能够减轻巨大痛苦的技术充满了真诚的热情。他听取了坚持寻求公平规则的政治领导人和公职人员的意见。它还包含了家长和老师对新一代的未来深感忧虑的担忧。

除了这些机构的声音之外,教宗还强调,“那些在决策时没有发言权的人的沉默”引起了强烈共鸣——那些有可能遭受未经他们参与或同意的技术开发的最严重后果的人。

共同利益的整体愿景

正如通谕中所提出的,通过人工智能建设更美好的未来需要全面的愿景。只有具备这种综合视角,人工智能才能面向共同利益。教宗邀请不同行动者之间进行真正的合作:

  • 谁设计了系统,谁承担其后果
  • 最富有的国家和最贫穷的国家
  • 中心化机构和个人
  • 权力中心和边缘化边缘

只有通过这种融合,才有可能建设一个“不是为少数特权者,而是为整个人类大家庭”的未来。这种观点驳斥了将技术归咎于某些专家组或发达国家的说法。

教会的具体贡献

教宗承认教会没有技术答案,也不打算取代那些拥有工程或计算机科学能力的人。他的贡献是独特且互补的:我们这个时代迫切需要的关于人性的智慧。

通谕阐明了天主教教义的基本原则:每个人都是独特且不可替代的;所有人都是自由而聪明的主体,具有意识;每个人都有能力寻求上帝、服务他人和关心共同的家庭。这些人文主义价值观必须指导任何负责任的技术发展。

这就是圣保禄六世和圣若望保禄二世极力宣扬的“爱的文明”概念。教会希望以谦逊和开放的态度参与人工智能对话,为这种深深植根于几个世纪道德和神学反思的人文愿景做出贡献。

通用召唤

教宗在结束《人道颂赞》的演讲时,向教会和人类大家庭的所有成员发出普遍呼吁:“让我们学会互相倾听,勇敢地面对当前的挑战,并合作建设一个更加人性化和兄弟般的社会”。

该通谕的发布旨在开创“希望工匠”的新时代——致力于建设“我们时代的建筑工地”的人们。这一呼吁超越了宗教界限,面向每天面临人工智能带来的变革的政府、商人、科学家、教育工作者和普通公民。教皇利奥十四世将教会定位为批判性和建设性的对话者,而不是技术的对手,能够在人类历史的决定性时刻提供道德指导。

另见