币圈界报道:

印度央行推出AI风险管控框架:含强制停用与多级监督机制

印度储备银行(RBI)正式发布人工智能与机器学习模型风险管理指导方针草案,旨在规范金融机构在运营中部署各类智能系统时的风险控制行为。该框架要求所有受监管实体建立全面的风险管理架构,并设立可即时触发的紧急关闭机制,以应对模型输出异常或造成潜在危害的情况。

模型全周期登记与分级风险评估制度

为实现对人工智能系统的有效监管,草案规定所有用于银行运营的模型——从基础数据分析工具到前沿生成式AI系统——均须完成注册备案。机构需按个体及企业维度定期开展风险评估,并在识别出超出预设容忍度的隐患时,立即启动纠正程序,可能包括强化内部控制、限制使用范围,甚至完全终止模型运行。相关决策必须附带详尽的风险说明报告。

高阶模型须经董事会批准并接受人工干预

该体系引入分层风险分类标准,每个模型无论复杂程度如何,都必须被明确归类至相应风险等级。对于被划分为高风险的系统,其部署前需获得董事会下设风险管理委员会的正式批准。同时,所有模型均需配置可操作的暂停与终止功能,确保在出现错误判断或不当输出时能迅速响应。

客户知情权与防自动化偏差机制

针对面向公众的服务场景,指导方针强调银行必须向用户明确告知其交互对象为人工智能系统,并提供随时切换至人工服务的选项。此举意在防范“自动化偏差”现象,即员工未经独立核实便采纳AI建议。此外,涉及客户交互的生成式模型还需满足额外网络安全标准。

第三方模型责任追溯与独立验证要求

无论模型由内部研发还是外部采购,银行始终承担最终责任。监管机构特别关注供应链集中化风险,警示过度依赖少数全球性技术提供商可能带来的系统性威胁。所有第三方提供的AI模型必须经过独立验证,且机构需设定清晰的可解释性阈值,确保模型输出结果可用非技术语言进行合理说明。