摘要:印度储备银行发布人工智能风险管理草案,要求金融机构建立覆盖全生命周期的AI风险管控体系,包括强制性紧急停用机制与董事会级审批流程,同时强化对第三方模型供应商的审查。

币圈界报道:
印度央行推出AI风险管控框架:含强制停用与多级监督机制
印度储备银行(RBI)正式发布人工智能与机器学习模型风险管理指导方针草案,旨在规范金融机构在运营中部署各类智能系统时的风险控制行为。该框架要求所有受监管实体建立全面的风险管理架构,并设立可即时触发的紧急关闭机制,以应对模型输出异常或造成潜在危害的情况。
模型全周期登记与分级风险评估制度
为实现对人工智能系统的有效监管,草案规定所有用于银行运营的模型——从基础数据分析工具到前沿生成式AI系统——均须完成注册备案。机构需按个体及企业维度定期开展风险评估,并在识别出超出预设容忍度的隐患时,立即启动纠正程序,可能包括强化内部控制、限制使用范围,甚至完全终止模型运行。相关决策必须附带详尽的风险说明报告。
高阶模型须经董事会批准并接受人工干预
该体系引入分层风险分类标准,每个模型无论复杂程度如何,都必须被明确归类至相应风险等级。对于被划分为高风险的系统,其部署前需获得董事会下设风险管理委员会的正式批准。同时,所有模型均需配置可操作的暂停与终止功能,确保在出现错误判断或不当输出时能迅速响应。
客户知情权与防自动化偏差机制
针对面向公众的服务场景,指导方针强调银行必须向用户明确告知其交互对象为人工智能系统,并提供随时切换至人工服务的选项。此举意在防范“自动化偏差”现象,即员工未经独立核实便采纳AI建议。此外,涉及客户交互的生成式模型还需满足额外网络安全标准。
第三方模型责任追溯与独立验证要求
无论模型由内部研发还是外部采购,银行始终承担最终责任。监管机构特别关注供应链集中化风险,警示过度依赖少数全球性技术提供商可能带来的系统性威胁。所有第三方提供的AI模型必须经过独立验证,且机构需设定清晰的可解释性阈值,确保模型输出结果可用非技术语言进行合理说明。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
