摘要:Geo 创始人 Yaniv Tal 揭露 AI 回答不可靠的四大深层缺陷:来源丢失、权威扁平化、分歧掩盖与错误循环。他提出通过去中心化知识空间实现主张、证据与作者分离,并强调人类判断在验证中的关键作用。美国 NIST 指南亦支持溯源与人工审查机制。

币圈界报道:
Geo 创始人剖析生成式 AI 信息失真四大成因
Geo 创始人 Yaniv Tal 指出,当前生成式 AI 的回答偏差根植于互联网内容生态的结构性缺陷。其核心问题包括信息来源湮灭、权威性被均质化、观点冲突被隐匿,以及错误内容在模型间反复传播并持续放大。
原始信息在传播中失去可追溯性
当网页内容被多次抓取与重述后,原始出处往往无法复现。一条主张可能历经多个中间节点才进入训练数据集,导致模型仅能识别陈述本身,却无法回溯至真实源头,削弱了推理的可信基础。
不同证据等级被等同处理,损害判断力
研究论文、企业公告与匿名论坛发言在输入模型时呈现相同文本形式,使得模型难以区分其证据强度。这一现象导致高可信度材料与低可信度内容被赋予同等权重,影响最终输出的客观性。
竞争观点被压缩为单一结论,掩盖真实争议
语言模型常将对立立场整合为统一答复,使用户误以为存在共识。然而这种“合成答案”隐藏了专业领域内真实的学术分歧,误导使用者对复杂议题的理解。
合成内容循环训练引发系统性退化
由模型生成的内容再次作为训练素材,形成自我强化的闭环。错误信息得以持续存活甚至扩散,造成数据分布偏离原始人类创作内容。2024 年《自然》杂志研究证实,此过程可能导致“模型崩溃”,即系统逐渐丧失对真实世界分布的表征能力。
构建可见分歧的知识图谱以提升透明度
Geo 提出将主张、来源与支撑证据进行解耦管理。每个论点可标注其支持、反驳或回应关系,形成结构化知识网络。在此框架下,多元观点得以保留,同时依据评估强度排序,避免信息流被简化为无差别的评论堆叠。
基于链上治理的开放知识空间启动测试
Geo Genesis 项目于 2025 年初上线,依托 Aragon OSx 治理架构与 GRC-20 标准,实现知识条目的链上记录与可检索性。社区成员可贡献内容,经认证编辑则负责审核与关联,确保信息具有可追溯的历史记录。
身份验证机制应对去中心化系统的信任挑战
为防范 Sybil 攻击,Geo 强调贡献者需建立可验证的声誉体系。系统不接受匿名材料与具公开历史者的主张等同对待。未来将探索生物识别、社交信任链及零知识证明等技术,在隐私保护与抗攻击性之间寻求平衡。
链上交易与人类解释需明确区隔
在加密货币领域,区块链仅能确认交易发生与否,无法解释行为动机或资金用途。因此,项目声明、市场预测与代币变动分析必须独立标注,由具名作者背书,并允许后续修正或撤回,防止虚假宣传混淆事实。
官方指南呼应溯源与人工干预必要性
美国国家标准与技术研究院(NIST)在 2024 年发布的生成式 AI 指南中,建议组织追踪训练数据来源,建立内容溯源机制,并引入专家人工反馈。内容来源与真实性联盟(C2PA)亦推出加密签名凭证,用于验证资产变更历史,但不保证主张的真实性。
声明:本站所有文章内容,均为采集网络资源,不代表本站观点及立场,不构成任何投资建议!如若内容侵犯了原著者的合法权益,可联系本站删除。
