教宗利奥十四世于本周一发布了其首部通谕《Magnifica Humanitas》，主题聚焦人工智能时代人类人格的保护。尽管AI是这部通谕的切入点，但教宗所关注的问题更为深远：不平等、战争、民主侵蚀，以及权力向少数人集中的趋势。
权力集中与公共利益
这份近200页的文件由教宗与AI公司Anthropic联合创始人Chris Olah共同呈现。利奥十四世认为，由少数精英构建和治理的技术，从根本上无法服务于公共利益。
"当权力集中在少数人手中时，它往往变得不透明、逃避公众监督，增加扭曲性发展的风险，制造新的依赖、排他、操纵和不平等。"
通谕还指出，AI与所有重大技术变革一样，倾向于放大那些已经拥有经济资源、专业知识和数据访问权限者的权力，使其能够「塑造信息和消费模式、影响民主进程、将经济动态导向自身利益」。
政策背景与军备竞赛批评
通谕发布前几天，美国总统特朗普推迟签署AI行政令——该行政令原本要求zf 在新模型发布前进行审核&查验。据报道，推迟签署是应VC投资人、前白宫AI负责人David Sacks之请。
利奥十四世呼吁AI应受「明确标准和有效监督」的指导，尤其需要受影响社区的参与。更具体地，他呼吁终止AI军备竞赛——即企业和国家竞相开发「更强大的算法和更大规模数据集」以确保「地缘政治或商业主导地位」的竞赛。
"裁军意味着否定技术权力自动赋予治理权的假设。"
历史渊源与当下警示
这些议题并非AI时代才有。1891年，教宗利奥十三世就曾通过通谕《Rerum Novarum》关注工业革命时期的权力集中问题。但利奥十四世所引用的当代案例更近：马斯克收购Twitter并利用该平台帮助特朗普胜选，以及科技精英向超级政治行动委员会投入数亿美元阻止AI监督&管理。
圣母大学法学院教授Paolo Carozza（教廷社会科学院成员、Meta监督委员会主席）向TechCrunch表示，AI驱动的虚假信息和深度伪造已「侵蚀了我们辨别真伪的能力，这对民主政治造成了切实影响」。他还指出，科技行业「收集和操纵」人类数据的做法，对「认知自由」构成了「根本性挑战」。
利奥十四世的结论直指核心：当前AI令人难以置信的强大能力，极大地抬升了失控的风险。
评论