Skip to main content

web3头条

 · 

Yann LeCun警告:AI网络攻击或仅为过渡期现象

Yann LeCun: 我认为,这更像是一个短暂的过渡期现象。当前攻击者借助大语言模型生成钓鱼内容、编写脚本、发现漏洞,确实降低了自动化攻击的门槛。但这种能力主要建立在已有知识和公开工具之上,并不意味着模型已经具备真正的…

Yann LeCun: 我认为,这更像是一个短暂的过渡期现象。当前攻击者借助大语言模型生成钓鱼内容、编写脚本、发现漏洞,确实降低了自动化攻击的门槛。但这种能力主要建立在已有知识和公开工具之上,并不意味着模型已经具备真正的自主攻击智能。

记者:那么,现阶段 AI 黑客最突出的优势是什么?

Yann LeCun: 首要优势是速度和规模化。传统攻击往往需要专业人员投入大量时间,而生成式 AI 可以快速生成多语言话术、伪装邮件和基础代码,让攻击覆盖更多目标。与此同时,防御方也在使用同类技术分析邮件、识别异常行为和自动修复配置,因此攻防双方之间的差距并没有被永久拉开。

记者:为什么您不认为 AI 会很快发展出足以发动复杂攻击的自主系统?

Yann LeCun: 关键在于模型缺少对现实世界的稳定理解。大语言模型擅长处理文本及其中的统计关联,却不一定理解物体、因果关系和行动后果。仅凭预测下一个词,模型可以写出看似合理的攻击方案,却难以判断方案在真实环境中是否可行,也无法在缺乏预设步骤时持续协调工具。这种局限性不会立刻消失。

记者:不过,AI 驱动的漏洞发现似乎正在快速进步。

Yann LeCun: 是的,AI 非常适合搜索代码、匹配已知漏洞模式,也能辅助研究人员分析复杂的软件系统。从长期看,拥有更强推理、记忆和规划能力的系统,可能参与发现此前未知的攻击路径。因此,风险不会随着技术成熟而自然下降,只是会转移到新的阶段。

记者:企业和政府应该怎样应对?

Yann LeCun: 不要把 AI 当作不可控的独立黑客,而应把它视为一种能力放大器。组织需要强化身份验证、权限隔离、行为监测和应急响应,同时保留人工审核,避免让模型直接决定关键操作。安全团队也应主动使用 AI 提升防御效率,否则防守方很可能被效率更高的攻击者甩在后面。

记者:您认为这一过渡期会持续多久?

#人工智能 #网络安全 #大语言模型 #AI攻击 #YannLeCun

Download Pickful App

Better experience on mobile

iOS

Android

APK