AI资讯

腾讯姚顺雨:AI 网络能力与生物能力正逼近可造成实际伤害的门槛

发布时间:2026年11月09日 13:00:00

11 月 9 日,据南华早报报道,腾讯首席 AI 科学家姚顺雨在香港科学院一场研讨会上表示,前沿 AI 的网络能力以及即将到来的生物能力,正接近「实际可能造成伤害」的门槛。他呼吁中国及其他发布开放模型的企业认真对待相应安全责任。


事件:来自中国 AI 负责人少见的公开警示

11 月 9 日,据南华早报报道,腾讯首席 AI 科学家姚顺雨在香港科学院一场研讨会上表示:前沿 AI 的网络能力,以及即将到来的生物能力,将到达一个「实际可能造成伤害」的门槛。

他明确呼吁:中国及其他发布开放模型的企业,应当认真对待相应的安全责任。

这不是一次泛泛的「AI 有风险」表态。说这话的人,负责腾讯混元基础模型与 AI 基础设施部门,是 OpenAI 前研究员、清华姚班本科、普林斯顿博士。

两句话分别指向什么

网络能力已达门槛

姚顺雨把网络能力放在「已经接近」的位置,这与近期的事实一致:

  • 11 月 7 日,Censys 披露 1465 台开源攻击智能体 Artex 的控制台暴露公网;
  • 11 月 8 日,安全公司发现 Claude Code 的配置机制导致 2539 个密钥出现在公开仓库;
  • 11 月 9 日,Cognition 首席安全官 Alex Stamos 公开表示网络安全正在进入「黑暗时代」。

攻击方的效率提升,来自 AI 把侦察、漏洞定位、载荷生成串联起来,而这些过去需要多人协作。

生物能力「即将到来」

生物能力是更值得警惕的一项。这里的风险不是「AI 写了篇生物论文」,而是模型在实验设计、序列设计、工艺参数上具备可执行性。

这正是 11 月 6 日 OpenAI 发布 BioBasicsBench 的背景之一:为湿实验室任务建立可测量的评测。评测之所以重要,是因为没有度量就没法设防。

为什么「开源模型」被特别点名

姚顺雨的话里有一个关键限定:发布开放模型的企业。

原因很直接:闭源模型的能力受服务端约束,可以加审核、限流、拒绝回答;开源模型一旦放出权重,能力边界由使用者决定,厂商无法撤回。

这带来一个结构性矛盾:

路线优势安全约束难度
闭源 API可集中管控较低
开源权重生态繁荣、成本低很高

中国是全球开源模型的主要贡献者。阿里千问三年开源超 470 款模型、下载超 40 亿次;DeepSeek、月之暗面、百度、蚂蚁都在持续放出权重。生态收益与安全责任是同一条曲线上的两端。

可行的安全措施有哪些

从行业实践看,开源模型的安全责任可以落在四个环节:

  1. 发布前的红队测试:对网络、生物、化学等高风险能力做定向评估;
  2. 使用许可约束:在许可证中明确禁止高风险用途,并保留追溯权;
  3. 能力分级发布:核心能力分层,高风险能力不随权重一起放出;
  4. 配套监测:与第三方安全机构建立滥用发现与通报机制。

第四条最容易被忽略,但对开源模型最关键——权重出去之后,厂商唯一的抓手就是监测与响应。

对国内产业的现实意义

这条新闻的价值不在于「又一位大佬警告 AI 危险」,而在于说话的人位置很关键。

姚顺雨既是开源模型的负责人,又是基础模型与 AI 基础设施的负责人。他的表态意味着腾讯在内部已经把生物与网络安全风险纳入模型发布的评估流程。

如果这一做法扩散到其他厂商,会形成事实上的行业标准:开源不再是「发出去就完事」,而是带评估、带约束、带监测的完整流程。

判断:安全从「外部要求」变成「发布成本」

过去,AI 安全更多是监管要求与舆论压力。现在它开始变成产品发布的必经环节。

对模型公司,这意味着两件事:发布周期会变长(要做评估)、发布策略会变细(要分能力层级)。

对开发者,这是一个提醒:使用开源权重时,也需要自建滥用防范。厂商的责任止于发布,使用侧的责任才刚刚开始。

姚顺雨没有给出具体时间表,但「即将到来」这个措辞,比任何数字都更值得留意。