·
公开AI模型被黑,沦为网络犯罪工具
科技热点:公开AI模型被黑,沦为网络犯罪工具
公开AI模型正成为网络犯罪的新基础设施
黑客利用公开AI模型构建网络犯罪工具,意味着生成式人工智能带来的风险已经不再停留在“辅助写作”或“制作图片”的层面,而是深入脚本编写、漏洞利用、钓鱼攻击和恶意代码开发等核心环节。与传统网络犯罪相比,AI工具并未凭空创造新的攻击目标,却显著压缩了技术门槛、成本和作案时间,使原本需要专业能力的攻击逐渐转向自动化、规模化和低门槛化。
传统网络犯罪往往依赖成套的地下产业链。恶意软件由专业开发者编写,钓鱼邮件由熟练人员策划,漏洞利用则需要较强的编程与逆向工程能力。攻击者之间通常通过暗网市场、加密通信和分工协作完成交易,各环节效率有限,也容易因人员流动暴露线索。相比之下,公开AI模型可以在几秒或几分钟内生成攻击代码、伪造身份话术,甚至针对不同系统调整钓鱼内容。攻击者不必每次从头开始,只需提供指令,就能获得可供测试和修改的初始方案。
更重要的是,AI降低了“规模化”的门槛。过去,针对不同受害者制作个性化诈骗内容需要投入大量人力,如今同一模型可以批量生成不同身份、语气和场景的话术。攻击者可利用公开模型进行代码补全、漏洞分析、密码字典构造和社工脚本优化,再配合自动化扫描工具,形成从信息收集到漏洞尝试的连续流程。对中小型企业和缺乏专职安全人员的机构而言,这种低成本、高频率的攻击更具现实威胁。
不过,AI带来的并非安全威胁的简单增加,而是攻防双方效率差距的扩大。防守方同样可以使用AI分析日志、识别异常流量和生成检测规则,但攻击者拥有更直接的工具收益,也更容易绕过传统关键词过滤。安全团队若仍依赖静态规则、人工逐条告警和事后响应,就可能在自动化攻击中陷入被动。
治理重点也不应只是限制模型访问。完全封禁公开模型并不现实,企业和研究人员仍需依赖其开发与创新。更可行的方式,是建立多层次防护体系:模型服务方加强滥用检测、身份认证和可疑批量调用限制;企业部署终端检测、邮件验证、代码审计与最小权限控制;执法机构跨平台共享恶意提示词、攻击样本和基础设施情报;关键行业则应通过红队测试提前发现AI辅助攻击路径。
公开AI模型既不是犯罪的根源,也不可能仅凭模型开放就走向失控。真正的问题在于,技术扩散速度是否快于安全治理和公众适应速度。与传统网络犯罪相比,AI-enabled犯罪最大的变化并非攻击手段更神秘,而是犯罪能力被更快复制。应对这一趋势,必须把AI安全从单一产品的附加功能提升为组织治理、系统防护和公共协作的长期任务。
轉發此貼文?
與您的關注者分享。
回覆