Geoffrey Hinton 与 400 余名科学家联名呼吁默认隔离具备网络攻击能力的 AI 模型

Geoffrey Hinton 与 400 余名 AI 领域顶尖科学家联名发声，呼吁科技企业默认隔离具备网络攻击能力的 AI 模型

1. 事件背景
   • Geoffrey Hinton（被称为“AI 教父”）联合全球 400 余名 AI 科学家发布联名公开信
   • 信中核心诉求是要求 AI 开发企业默认隔离具备网络攻击能力的 AI 模型
   • 这一呼吁直接针对当前 AI 技术被滥用于网络犯罪的风险
2. 发起人物与联署规模
   • Geoffrey Hinton 是深度学习奠基人之一，曾在 Google 任职，现已离职专注于 AI 安全研究
   • 联署名单涵盖图灵奖得主、顶尖高校教授、头部科技企业研究员
   • 联署人数超过 400 人，代表了 AI 学术界和产业界的重要声音
3. 核心风险点
   • 部分 AI 系统已具备自动发现漏洞、生成攻击代码的能力
   • 这些能力若被恶意利用，可能导致大规模网络攻击事件
   • 现有安全防护体系难以应对 AI 驱动的自动化攻击手段
   • 模型开源生态中存在潜在的安全隐患
4. 主要建议措施
   • 要求 AI 企业对具备攻击能力的模型实施“默认隔离”策略
   • 建立模型能力评估与分级制度，区分研究用途与商业部署
   • 加强模型发布前的安全审计流程
   • 设立行业安全标准，限制高风险模型的获取渠道
5. 行业影响
   • 该呼吁引发硅谷和全球 AI 行业的广泛讨论
   • 多家人工智能公司已开始内部评估模型安全策略
   • 监管机构或将介入，制定针对 AI 安全的相关法规
   • 投资市场开始关注 AI 安全领域的创业机会
6. 后续发展
   • 联署团队计划向各国政府提交政策建议书
   • 预计将在今年内举办 AI 安全国际研讨会
   • 多所高校宣布将 AI 安全纳入核心课程体系
   • 公众对 AI 技术的信任度将成为行业发展的关键因素