Skip to main content

Web3头条

 · 

英国砸1亿英镑共建AI生物安全实验室

科技热点:英国砸1亿英镑共建AI生物安全实验室

2024年,英国加速构建国家级人工智能安全体系,将大模型在生物、化学和网络领域的潜在风险纳入重点评估范围。此前由英国安全研究所承担的部分监管与测试工作,为新机制提供了组织基础,但面对能力更复杂、研发节奏更快的模型,仍需要独立实验室提供持续验证。

2025年,英国宣布投入1.0亿英镑,建设人工智能生物安全实验室,并计划与OpenAI、Anthropic、Google DeepMind共同合作。三家机构分别代表通用模型、对齐安全与前沿人工智能研究力量,其参与意味着实验室不只服务于英国本土监管,也将连接全球头部实验室的模型能力、资源和专业知识。

按照项目时间线,首阶段工作将围绕高风险模型建立统一测试流程。合作方需要向实验室提供必要的模型访问权限,并协助设计能够真实复现危险能力的实验。测试范围预计覆盖生物序列设计、蛋白质功能改变、病原体相关研究以及自动化实验系统,从而判断模型是否能够降低技术门槛、扩大能力边界。

第二阶段将建立可重复的基准与评估方法。与一次性的模型评测不同,实验室计划形成长期更新的测试集,并记录模型在提示策略、工具调用和自主代理环境中的行为变化。这样一来,监管机构能够区分偶发失误与系统性风险,也能为模型上线前的安全评估提供相对一致的技术尺度。

第三阶段聚焦成果共享与防护响应。合作实验室将把测试发现反馈给英国政府、合作企业和国际同行,并探索在发现严重生物风险时快速暂停、隔离或发布预警的标准机制。该环节被视为整个项目的关键,因为发现问题只是起点,能否及时控制风险扩散同样重要。

从更长时间线看,这项计划把英国此前侧重“模型评测”的监管思路,推进到“持续监测—联合研究—应急处置”的闭环。其意义不在于单纯增加一笔科研资金,而在于尝试让政府资金、前沿企业和国际实验室共同承担生物安全责任。

随着项目进入实施阶段,外界将关注三个关键问题:1.0亿英镑如何分期投入,三家企业会共享哪些测试结果,以及实验室能否保持足够独立性。只有当资金转化为稳定、可验证且公开透明的生物安全能力,这场由政府与企业共同推动的实验,才能真正成为前沿人工智能扩张与生物安全治理之间的缓冲带。

#人工智能安全 #生物安全 #大模型 #AI监管 #人工智能实验室

Download Pickful App

Better experience on mobile

iOS

Android

APK