币圈界报道:

教宗首度以通谕形式定义人工智能的道德边界

教宗利奥十四世于周一发布其任内首份通谕,全文共245段,全面聚焦人工智能议题。该文件明确指出,技术并非价值中立,而是深刻反映设计者的价值取向、认知局限与经济利益诉求,要求对大型科技企业实施强化监管。

历史性文件在梵蒂冈正式发布

这份题为《伟大的人类》的通谕于5月25日在梵蒂冈主教会议厅公开宣读。教宗于5月15日签署文件,恰逢1891年《新事》通谕发表135周年纪念日——该文献奠定了天主教社会训导中关于劳工权利的核心基础。

教宗将人工智能定位为其任教期间最紧迫的伦理命题,并将其影响类比于工业革命带来的社会重构。

涵盖多重风险的系统性警告

通谕广泛触及战争中的自主武器、人的工具化、技术官僚主义、数据殖民现象、儿童网络保护、大规模失业、虚假信息传播及超人类主义等议题。其核心观点清晰:每一条算法背后都嵌入了开发者、资助方与部署者的优先级判断。试图通过隐藏算法逻辑来消除偏见,只会使不公更加隐蔽而非消失。

数据作为公共福祉必须被重新界定

延续天主教社会训导中自然资源属于全人类的理念,教宗利奥将此原则延伸至数字领域。通谕主张,算法、平台与数据应被视为公共资产,不应被少数企业垄断或商品化。“数据源于集体贡献,不应成为可交易的商品,亦不可交由少数精英掌控。”教宗在文中强调。

推动分布式治理与社区审计机制

通谕将“辅助性原则”应用于技术管理,主张决策应在最贴近个体的层级展开。除倡导自上而下的监管外,更呼吁实现算法透明、独立的社区审查机制,并赋予公民法律权利,以质疑影响其信用评级、就业机会或司法风险评估的自动化系统。教宗警示,若缺乏这种分散式监督,人工智能治理将演变为压制性的数字专制。

拒绝将人性局限视为缺陷

针对日益流行的超人类主义思潮,教宗提出根本性反驳:有限性并非需要消除的弱点。正是由于自身的脆弱与边界感,人类才具备同理心、道德选择能力以及对他人的真诚关怀。任何旨在彻底优化并剔除这些特性的系统,不仅无法造就更完善的人类,反而会催生一种高效排斥弱势群体的新形态存在。

厘清技术的本质与认知界限

教宗刻意避免将人工智能人格化。他明确指出,当前系统“无身体,无法体验喜乐或痛苦”。通谕强调,算法虽能模拟共情与生成连贯语言,但不具备真实理解力,也无法经历生活经验中的情感波动。

这一区分具有深远意义。当算法参与招聘筛选、信贷审批或法庭风险评估时,其表面客观性掩盖了深层的价值选择。通谕特别提醒,绝不应将敏感决策交给那些“不懂怜悯、慈悲与宽恕”的自动化系统,也不应因结果出自机器之手,便误认为其具有中立性。

跨领域对话开启治理新路径

通谕发布当日,克里斯托弗·奥拉——某科技公司联合创始人兼可解释性研究团队负责人——与两位梵蒂冈枢机及两位神学家共同出席发布会。奥拉公开揭示多数AI企业高管回避的现实:主要实验室均在特定激励与约束框架下运行,有时甚至与道德实践相悖。他强调,来自政府、宗教团体与公民社会的外部审视至关重要。

他还指出,由AI驱动的劳动力替代若大规模发生,将带来“前所未有的历史责任”。

超越道德合规的深层诉求

教宗利奥在通谕中进一步提出:即便构建出更具道德性的AI系统,若其伦理标准仍由掌握数据与算力的少数人决定,依然无法实现真正的正义。早在2025年11月,教宗已在梵蒂冈向硅谷高层重申此观点。

此外,相关机构已于5月16日批准成立一个新的内部人工智能协调委员会,成员来自七个部门,旨在统筹未来在人工智能治理领域的跨部门协作。