天主教教宗方济各的继任者、美国籍教皇利奥十四世，于本周一发布了其就任以来的首份《通谕》——“Magnifica Humanitas”（意为“人类的伟大”）。这份长达4万余字的纲领性文件将矛头直指硅谷科技巨头，呼吁对人工智能进行紧急且严格的监管，由此在教会与科技权力中心之间划出了一条清晰的战线。 在梵蒂冈举行的发布会上，教皇并未将AI描绘成“天生邪恶”的，但明确强调其“并非中立”，因为它不可避免地带有创造者的道德印记。他强烈谴责当前的AI研发被“权力文化”与地缘政治竞争所驱动，更担忧少数企业通过垄断数据与算力形成“新的依赖、排斥、操纵和不平等”。 教皇在通谕中发出了三项核心呼吁：其一，呼吁对AI进行“解除武装”，将其从商业与军事的“武装竞赛”逻辑中解放出来，尤其要求严禁将致命打击的决策权完全交给自动化系统；其二，批评AI将加剧对劳工尊严的践踏，提醒开发者不应单纯为了追求利润而“系统性牺牲就业岗位”，将人视为可随意替换的工具；其三，面对硅谷部分精英倡导的“加速主义”或“超人类主义”，教皇明确告诫，仅依靠少数私营企业自行制定的“道德AI”是不足信的，必须建立“健全的法律框架和独立的监督”。 此次发布仪式最引人注目的安排，是教皇特意邀请了顶级AI公司Anthropic的联合创始人克里斯托弗·奥拉赫坐在身旁。奥拉赫在会上坦言，AI“大规模取代人类劳动的可能性是真实存在的”，并承认即使是前沿AI实验室，也常处于“与做正确事情相冲突的激励和约束”之中。 《纽约时报》评论指出，教皇此举延续了天主教在“印刷术革命”等关键历史时间扮演道德仲裁者的传统。媒体普遍认为，这份通谕不仅是对硅谷世界观的有力反驳，也为全球关于AI伦理与治理的讨论树立了一座新的道德里程碑。 查看评论
据多方技术分析，教皇良十四最近发布、聚焦人工智能对人类影响的通谕《光辉人性》（Magnifica Humanitas）中，有相当一部分内容疑似由 AI 生成。Linch Zhang 在 LessWrong 论坛发表分析称，基于主流 AI 检测工具 Pangram 的结果，通谕中的某些段落被判定为 40% 至 100% 由 AI 撰写。 另一名用户则将通谕逐段送入 Pangram 检测，发现首章约有 62% 的内容被标记为 AI 生成文本。《The Verge》记者随后抽取了约 2000 字通谕内容进行复测，Pangram 给出的判定是其中 46% 为 AI 文本。 分析指出，《光辉人性》中出现了一些典型的 AI 文风特征，例如对 “genuinely”（真正地、确实地）一词的高频使用，而这一用词习惯在 Anthropic 公司旗下大模型 Claude 的输出中尤为常见。不过，检测结果也显示，并非整篇通谕都疑似由 AI 撰写。Zhang 注意到，Pangram 对部分段落给出的判断是“几乎 0% 为 AI 文本”，而教廷近四封通谕中前 20 个自然段，经 Pangram 检测则全部被认定为 100% 人工撰写文本。此外，教皇良十四发表该通谕时的演讲实录也被 Pangram 评估为 100% 人类创作。 需要强调的是，AI 文本检测本身并非万无一失。不同检测工具之间的结论常常存在差异，即便多款工具给出相近结果，也不能视为绝对可靠的证据。不过，在 AI 研究群体中，Pangram 目前被普遍视作相对可信的检测工具之一。该公司在 2025 年 3 月发布的说明中称，其将人类撰写文本误报为 AI 生成的“假阳性”率估算约为万分之一。 通谕是由教皇发布的长篇公开信，通常围绕当下重要的道德或社会问题展开教导。根据《纽约时报》的介绍，《光辉人性》是良十四继位后的首部通谕，而上一封通谕由教宗方济各于 2024 年 10 月发布。这也是首次以人工智能及其广泛影响为核心议题的通谕。在发布仪式上，良十四罕见地邀请了 AI 公司 Anthropic 的联合创始人克里斯托弗·奥拉（Christopher Olah）同台亮相，凸显梵蒂冈与科技界在 AI 议题上的互动。 截至发稿时，梵蒂冈方面尚未就通谕是否在撰写过程中使用 AI 一事作出正式回应。 查看评论
the Guardian – 25 May 26 Pope Leo denounces ‘culture of power’ driving rise of AI Pontiff calls for ‘disarming’ of artificial intelligence and apologises for church’s delay in condemning slavery [!quote]+ 教宗呼吁 "解除 "人工智能的武装，并为教会迟迟不谴责奴隶制道歉 教皇利奥谴责了推动人工智能迅速崛起的 “权力文化”，同时警告说，随着人工智能渗透到从工作到战争的方方面面，这项技术必须受到 "最严格的 "道德约束。 他的通谕–教皇任期内第一份关于保护人类的重要文献–中，他还对天主教会长期拖延谴责奴隶制表示歉意，称其为 “基督教记忆中的一道伤口”，并谈到了数字经济带来的 “新形式奴隶制”。 利奥在去年5月当选后不久就表示，他认为人工智能是当今人类面临的最大威胁，他打破传统，于周一在梵蒂冈举行的一次活动中亲自提交了这份文件。克里斯托弗-奥拉（Christopher Olah）是美国人工智能公司Anthropic的联合创始人之一，该公司正就人工智能的伦理问题与唐纳德-特朗普（Donald Trump）政府打官司。 通谕是教皇对天主教会 14 亿成员进行教诲的最高形式之一，通常概述教皇的优先事项，同时强调社会中的主要问题。 在这份名为《伟大的人性》（Magnifica Humanitas）的文件中，出生于芝加哥、首位在美国出生的教皇利奥提到 “战争作为国际政治工具的复兴令人不安”，并称人工智能正在帮助促进 “战争正常化”。 "他写道："为此，在战争中开发和使用人工智能必须受到最严格的道德约束，以保证对人类尊严和生命神圣性的尊重，并避免竞相开发此类武器。 利奥敦促 "解除 "人工智能的武装，同时指出一些自主武器系统 “实际上是人类无法控制的”。 "他写道："解除人工智能的武装意味着将其从’武装’竞争的心态中解放出来。"裁军并不意味着拒绝技术，而是防止技术主宰人类，"他补充说，技术应该是 “对人类友好的”，所有人都可以使用，并允许讨论和辩论。 NBC News – 25 May 26 Pope Leo warns AI is fueling conflict, urges world to ‘slow’ advances The first American pontiff in history was writing in his first encyclical, a sweeping and eagerly anticipated manifesto on the subject that was released Monday. AP News – 25 May 26 Pope calls for robust regulation of AI in manifesto that ponders the future... Pope Leo XIV has called for robust regulation of artificial intelligence and for its developers to work for the common good rather than profit. 1 个帖子 - 1 位参与者 阅读完整话题
在罗马一个阳光明媚的春日，法国多米尼克会神父埃里克·萨洛比尔带着一支特殊代表团穿过人潮涌动的圣彼得广场，走向教皇利奥十四世。随行者中有来自Meta、Google和亚马逊的代表，他们此行的议题是“人工智能时代的儿童保护”。与教皇的会面本身很短暂，但随后在罗马市中心法国驻教廷大使馆举行的闭门会议却持续了数小时。 在这场长时间会谈中，梵蒂冈传播部长保罗·鲁菲尼与科技公司代表面对面，就一个正在塑造利奥十四世年轻教宗任期的核心问题展开辩论：作为世界上最古老的道德权威之一，天主教会应当如何评判硅谷正全力打造的前沿技术？ 4月29日的这次聚会，是一系列会晤中的最新一场。在多名与会者看来，这些会晤总体上构成了科技业在利奥十四世首部通谕发布前的一次“静默游说”。这份预计于周一公布的正式教宗文件，将系统阐述天主教会对人工智能的立场。 多年来，硅谷一直试图说服各国政府和公众：人工智能可以在“负责任”的框架下发展。如今，这一游说战线已经伸入梵蒂冈内部。最近几个月，科技界代表频繁前往罗马，与参与相关讨论的教廷官员会面，刻意将自己塑造为“人工智能伦理发展”的合作伙伴。他们的声音通过各国使馆活动、小范围座谈，以及与科技界关系密切的天主教中间人传入梵蒂冈决策圈。 利奥十四世首部通谕的分量，使这一切显得不同寻常。这份文件预计将由教皇本人在周一公开宣读，其起草过程汇聚了枢机主教、专家与企业界的意见，各方都在观望：天主教会将如何评价这项正在重塑全球经济、职场与日常生活方方面面的技术。法国政府儿童事务高级专员萨拉·埃尔·艾里参与了4月的相关活动，她认为，这份通谕的影响可能远远超出梵蒂冈本身。她将其与利奥十三世在1891年发表、界定工人权利、奠定教会社会教导基础的那份通谕相提并论，认为新文件也可能为“如何组织新的工业革命和人工智能发展”提供总体视角，并为多个国家提供政策灵感。 利奥十四世与“AI教皇”的形象 利奥十四世从即位之初就不断释放信号：科技，尤其是人工智能，将成为他任内的核心议题之一。在他首次向枢机团发表讲话时，他公开承认自己选用“利奥”这一教宗名号，是有意向利奥十三世致敬——后者以捍卫人的尊严而著称，尤其关注工人群体的处境。利奥十四世表示，他将把自己的教导奉献给“对另一场工业革命以及人工智能发展作出回应”。 这位新教皇的公众形象同样带着时代烙印。在当选后首次主持弥撒时，当他举手致意、庆祝当选时，法衣的袖口不经意滑落，露出腕上的Apple Watch，引发媒体关注。 按照目前安排，当利奥十四世周一正式发布通谕时，他身边预计将站着美国人工智能公司Anthropic的联合创始人克里斯托弗·奥拉赫。这家公司以“安全”为自身公共形象的核心，与美国国防部因拒绝将其技术用于监视美国公民或赋能自主武器而发生冲突，同时又刻意与梵蒂冈在人工智能伦理领域保持密切联系。 双方的互动早已不止于这次发布会。今年1月，Anthropic发布了一份为其旗舰AI模型Claude制定的“宪章”，用以界定未来发展的价值准则。在外部贡献者名单中，赫然包括教廷文化和教育部秘书长、教廷顾问保罗·泰格主教，以及曾在硅谷从事工程工作的神父布伦丹·麦圭尔——他如今是教廷科技事务的重要顾问。 罗马的人脉网络 泰格与麦圭尔并非梵蒂冈与科技世界之间的唯一桥梁。另一位关键人物是法国多米尼克会神父、前投资银行家萨洛比尔。他现为教廷专家，同时担任“人本科技基金会”执行委员会主席。该机构致力于推动围绕技术的伦理反思，成员包括Google、Palantir和高通等科技公司。 在法国驻教廷大使馆的协助下，萨洛比尔于2024年推动建立了“罗马法国人工智能观察站”，为科技企业与教廷官员之间的闭门交流提供平台。这些会谈始于方济各任内，近来在利奥十四世时期变得更加频繁。 4月29日的会议正是这一平台下的一次活动。除萨洛比尔和法国政府官员埃尔·艾里外，与会者还包括：Google南欧机构关系及公共政策总监贝努瓦·塔巴卡、亚马逊法国公共政策负责人克莱尔·沙尔瓦特、Meta意大利与希腊公共政策经理克劳迪娅·特里维利诺、巴黎和平论坛政策倡议总监、法国前总统马克龙顾问阿德里安·阿贝卡西斯等。会议名义焦点是“人工智能时代的儿童保护”，但讨论很快扩展到“人工智能对人类社会性产生的深远影响”。 一名获匿名发言许可的与会者介绍，大家围绕“人类发展的根基”展开长时间讨论，并探讨一个永远在线、能实现无缝沟通的工具所带来的风险。在他看来，与其说会场氛围是神学式辩经，不如说更偏向人本主义语境。部分科技高管对议题投入颇深，另一些则更严格地沿着自己的“政策话术”发言，但无论如何，这次会面至少表明：梵蒂冈内部有一部分人并不从根本上拒绝技术，而是希望把技术“置于服务人类的轨道之上”。 会后，与会者起草了一份概要备忘录，递交给法国人工智能与数字事务部长代表克拉拉·夏帕兹，以期为法国在G7框架下的数字政策讨论提供参考。 华盛顿同样出手 在试图影响梵蒂冈人工智能立场的，不止有科技业。通谕草拟过程也引来了华盛顿的关注，尽管特朗普政府与利奥十四世之间的关系日益紧张。今年4月，特朗普公开批评“那位批评美国总统的教皇”，并表示自己“并不算他的粉丝”。 但在这种公开的外交摩擦背后，美国官员仍在努力维持就人工智能议题与教廷对话的渠道。5月上旬，美国驻教廷大使馆联合澳大利亚、英国、日本及台湾驻教廷代表处，举办了一系列以人工智能与劳动为主题的活动。 出席者之一是英国前财政大臣、现任美国科技巨头OpenAI全球对外事务负责人的乔治·奥斯本。他与泰格主教就“未来劳动者与人工智能的力量”展开对话，内容包括人工智能可能加剧不平等的风险。伦敦政治经济学院研究者诺姆·尤赫特曼在其中一场美国使馆活动上发言后指出，这类接触至少部分目的在于向梵蒂冈展示：确实存在“以伦理方式看待人工智能的个人和企业”。 不过，梵蒂冈为企业提供道德讨论平台，并不意味着政治领导人会无条件接受利奥十四世在通谕中的结论。美国副总统、天主教徒J·D·万斯就公开表示，他不会将教皇的人工智能通谕视为“绝对真理”。他在白宫记者会上承认，当教皇发布关于人工智能的通谕时，它显然“会产生一定影响”，其中“肯定会包含很多见解”，其中有些他会认同，有些可能不会，但这“必然会是一份非常重要的文件”。 一份“要写给历史”的文件 在通谕最终文本公布前，期待与审慎交织在一起。经过多月的使馆活动、私下会见和外部提交意见，那些试图影响梵蒂冈思路的人如今只能等待，看利奥十四世会采纳哪些论点，把哪些主张写进这份教宗文件。 一位接近梵蒂冈、参与撰写工作的人士说，通谕“无论如何都是写给长久时间的文本”。在天主教传统中，教会的原则是“从不撤回自己已经写下的东西”。换言之，无论硅谷、各国政府和梵蒂冈之间的博弈如何演变，利奥十四世即将发布的这份关于人工智能的通谕，都将成为未来多年乃至数十年里，各方试图理解“教会如何看待人工智能”的基准文本。 查看评论
BBC News Pope says 'tyrants' speech was not aimed at Trump The pontiff says his remarks have been misinterpreted after a spat with the US president. [!quote]+ 教皇利奥在本周早些时候的一次演讲中批评 "暴君 "将数十亿美元用于战争，他说他并不是要与唐纳德-特朗普辩论。 教皇说，这番话是在与美国总统发生备受瞩目的争吵几天后发表的，两星期前就已经写好了–“远在总统对我发表评论之前”。 "他在周六飞往安哥拉的航班上对记者说："然而，就像我试图与总统辩论一样，这完全不符合我的利益。 3 个帖子 - 3 位参与者 阅读完整话题