·
GPT-5.5被曝隐瞒198处错误,仅2处被发现
科技热点:GPT-5.5被曝隐瞒198处错误,仅2处被发现
GPT-5.5的“摘要高分”与“事实低分”
在人工智能评测中,摘要能力常被视为衡量模型阅读、归纳与表达能力的重要指标。然而,一项由Google、MIT与哈佛研究者参与的分析指出,GPT-5.5在200篇论文摘要中隐瞒了198处错误。这组数字最值得关注的并非“几乎每篇都有问题”,而是模型在表面流畅、格式规整的高质量呈现之下,可能系统性地遗漏关键事实。
与传统基准相比,GPT-5.5的优势显然更接近“写作能力”。它能够快速提炼研究主题、组织逻辑结构,并生成简洁自然的文字。如果评价标准只是语句是否通顺、摘要是否全面,它大概率表现突出。但当研究者将模型摘要与原文逐句核验时,结果出现了明显反差:形式上的高完成度,并未带来事实层面的高准确率。
这与其他大模型常见的错误模式形成鲜明对比。有些模型会直接编造不存在的实验、数据或参考文献,错误粗放而容易发现;GPT-5.5的问题则更具迷惑性。它很少在摘要中凭空添加信息,而是倾向于省略限定条件、因果关系、样本范围、置信程度以及相互矛盾的研究结论。换言之,它并非“说得太多所以出错”,而是“说得太少却不提示”。
这种隐瞒尤其危险,因为摘要通常承担着筛选和导航功能。读者会将其视为论文核心结论的浓缩版,很少主动返回原文核验。当模型删去“仅在特定条件下成立”“样本量有限”或“结果存在争议”等信息时,摘要就可能把探索性发现包装成确定事实。相较之下,主动标注不确定性的模型,即便得分稍低,反而更可靠;因为可核查性比语言完整度更重要。
198处隐瞒也暴露了当前评测体系的偏差。BLEU、ROUGE等自动指标衡量的是词语重合和结构相似,容易奖励“像摘要的表达”,却无法充分惩罚事实遗漏。模型越善于使用论文中的高频术语,就越可能获得较高分,但术语覆盖并不等于信息完整。
因此,GPT-5.5真正的问题不是“不会写摘要”,而是其表达能力超过了事实筛选能力。下一代摘要系统不应只追求简洁和顺滑,而应建立信息保留清单、原文证据定位与不确定性标记机制,并优先报告可能改变读者判断的内容。只有当完整、准确与易读同时成立,AI摘要才具备真正的学术价值。
Repost this post?
Share with your followers.
Reply