币圈界报道:

微软发布重大AI安全举措,股价仍下跌2.37%

尽管微软推出了重大的AI安全计划,其股票仍下跌了2.37%,报收于505.71美元。微软联合超过40家合作伙伴,共同制定AI透明度方面的开放标准。新的AI框架旨在加强对自主企业代理的监督。微软计划将AI安全控制措施整合到Copilot和Foundry工具中。

在微软 outlining 新的人工智能保障措施之际,MSFT股份从515美元的高点回落。微软公司(股票代码:MSFT)股价下跌2.37%,至505.71美元,每股下跌12.28美元,尽管公司宣布了一项重大的AI安全倡议。周二交易时段,卖压主导市场,股价从盘中接近515美元的高位回落。与此同时,微软推出了新措施,以加强企业系统中AI的透明度、安全监督和企业问责制。

微软股价下滑,尽管有AI安全公告

微软股票在整个周二交易中表现挣扎,尽管在下午交易时段录得小幅回升。此次下跌发生在微软在其Ignite大会上公布“AI透明度倡议”之时。首席执行官萨提亚·纳德拉将该倡议作为微软对更安全的AI系统更广泛承诺的一部分进行介绍。

随着企业在运营中部署自主AI代理,该倡议旨在解决日益严峻的安全挑战。这些代理越来越多地访问敏感信息、企业工具、凭证和基础设施,且无需对每个操作都进行审批。当组织追踪决策并验证其AI系统内的活动时,面临着额外的挑战。

微软旨在建立共同的安全标准,帮助企业跨不同平台审查AI行为。该公司还希望组织能够在自主系统执行关键操作之前识别风险。此外,随着AI采用的扩大,该框架寻求加强审计程序并保持问责制。

微软与40多家组织合作制定AI标准

微软宣布与40多个组织合作,开发AI透明度的共同标准。合作伙伴包括埃森哲、Adobe、毕马威、万事达卡和沃尔沃汽车,以及其他支持该倡议的公司。这些组织将共同努力,加强验证方法、安全控制和治理实践。

微软还将扩大其在国家标准与技术研究院(NIST)SI代理标准倡议中的参与。这一参与将支持研究可由公司在不同AI模型中应用的开放标准。此外,微软计划将由此产生的框架整合到Microsoft AI、Microsoft Foundry和Microsoft Copilot中。

这种整合将帮助客户将AI活动记录与其现有的安全和合规系统连接起来。企业还将获得评估访问权限、委托权限和操作风险的工具。然而,微软尚未提供每项计划能力的具体实施时间表。

微软针对自主AI代理加强控制

微软的安全框架侧重于三个功能:可见性、独立验证以及对AI活动的控制。组织将跟踪代理身份、授权任务、访问的信息以及工作流中的操作。此外,独立的记录有助于安全团队验证系统行为,而不完全依赖模型生成的报告。

控制措施将帮助公司在AI代理执行敏感操作之前强制执行内部政策。安全团队还可以在活动记录中使用调查、恢复程序和监管审计。这种方法确保部署AI系统的组织保留责任。

微软设计该倡议以支持来自不同提供商的封闭式和开放权重模型。因此,公司可以在保持一致的监督和控制的同时更换AI提供商。尽管此次公告扩大了微软的企业安全战略,但其即时股价表现仍为负值。