近日，《堡垒之夜》游戏开发商 Epic Games 在一次联动活动中，引入了由人工智能生成的达斯·维达角色。该角色基于已故配音演员詹姆斯·厄尔·琼斯的授权肖像，但由于设计漏洞，玩家能够诱导其说出种族主义、恐同言论以及脏话。
这一 AI 版本的达斯·维达作为《星球大战》与《堡垒之夜》联动活动“Fortnite：银河之战”的一部分，于上周五上线。角色的对话由纽约语音人工智能公司 ElevenLabs 制作，支持实时回应玩家互动。
然而，上线仅数小时后，社交媒体上便出现了大量视频，显示玩家诱导该角色说出种族歧视、恐同侮辱以及其他不当词汇。这些内容引发了广泛关注，甚至包括一些听起来像仇恨言论的内容。
针对这一情况，Epic Games 迅速采取行动，发布了一个热修复补丁以解决问题。该公司在 X 平台上表示：“我们立即发布了修复程序，这种情况不会再发生。”
在后续声明中，Epic Games 承认此次事件暴露了内容审核上的不足。一位发言人解释称：“虽然我们设置了多条规则和说明来防止达斯·维达咒骂或重复不当内容，但过滤器未能捕捉到某些特定变体。”
据介绍，AI 功能配备了三层安全过滤机制：第一层为 Gemini 的可配置安全设置；第二层是系统指令，用于阻止违反社区规则的响应；第三层为最终审核，旨在过滤任何可能违规的内容，例如仇恨语言或露骨表达。
值得一提的是，AI 版达斯·维达使用了詹姆斯·厄尔·琼斯的存档录音生成。琼斯于 2024 年去世，他生前授权卢卡斯影业继续使用其配音形象，让这一经典角色得以延续。
Epic Games 在声明中表示：“如果没有詹姆斯·厄尔·琼斯的传奇演绎，达斯·维达就不会如此令人印象深刻。我们很荣幸能继承他的遗产，并为玩家提供这样的体验。”
这不是《堡垒之夜》首次因 AI 内容引发争议。2024 年初，Epic Games 曾因用户创建岛屿中包含种族主义内容而进行清理。尽管所有用户生成内容都需经过人工审核，但团队仍决定加强审查措施。
Epic Games 强调：“如果内容存在争议，我们的审核团队会假设创作者意图良好，从而避免过度审查。”
编辑：安德鲁·海沃德
