AI 能不能既变得更强，又不要让危险能力跟着无限制增加？
2026 年 10 月 25 日，今天两则重要 AI 新闻，刚好从不同方向回答这个问题。
中国 AI 公司 Moonshot 推出新一代 Kimi K3.1 Pro，却在准备公开模型权重前，主动移除部分资安相关训练数据，希望降低模型被用来进行网络攻击的能力。
另一方面，英国政府宣布成立 AI Biosecurity Lab，要利用最先进的 AI 协助侦测生物威胁、加速疫苗与其他医疗对策研究。
一边是限制可能被滥用的能力，另一边是运用同样强大的 AI 保护人类。
这两个方向，正在成为前沿 AI 发展的重要课题。
一、Kimi K3.1 Pro 发表：模型明明可以更强，为什么 Moonshot 反而主动降低网攻能力？
10 月 24 日，中国 AI 公司 Moonshot 正式发表 Kimi K3.1 Pro。
这是 Kimi K3.1 系列的第一个模型，也是 Moonshot 目前最强大的 3 兆参数级开放权重模型。
根据官方介绍，新模型拥有最高 100 万 Token 的上下文窗口，强化了程序开发、3D 建模、金融研究与长时间 Agent 任务能力。
公司也同步推出 Kimi K3.1 Pro Highspeed，宣称运行速度可达标准版本的 2 至 3 倍。
但这次最值得注意的地方，不是模型有多大，也不是它在哪一项程序评测取得高分。
而是 Moonshot 公开承认：
公司刻意让准备发布的模型，保留较低的资安攻击能力。
为什么要刻意让 AI 的某些能力变弱？
现在的前沿 AI 模型已经可以阅读代码、操作开发工具、检查系统错误，甚至持续尝试解决非常复杂的技术任务。
这些能力对软件工程师与资安人员非常有用。
例如协助寻找程序漏洞、理解旧系统的安全问题，以及整理需要修补的地方。
但相同能力也可能被用来寻找可利用的弱点，降低发动网络攻击的技术门槛。
尤其对开放权重模型而言，问题更复杂。
当完整模型权重发布后，外部开发者就有机会在自己的设备上部署、调整与重新训练模型。
这种开放方式可以支持创新，但原始开发公司也更难集中控制模型的后续使用。
Moonshot 这次选择在发布权重之前，先调整模型的训练过程。
Moonshot 怎么降低 Kimi 的资安攻击能力？
根据 Moonshot 官方技术文章，团队发现，随着模型后期训练规模增加，模型在漏洞研究相关任务中的能力也持续提升。
研究人员进一步追查发现，部分资安相关内容存在于中期训练数据中，而某些涉及资安的任务，也被放进强化学习的训练环境。
因此，Moonshot 对两个阶段进行调整。
第一，识别并移除部分资安相关训练数据。
第二，从强化学习环境中排除部分资安相关任务，同时保留一般用途的程序开发训练。
这项做法的目标，不是让 Kimi 完全失去写程序或协助调试的能力。
而是试着避免模型在网络攻击方面的能力，随着一般程序能力提升而同步达到更高水准。
官方所说的 90.5% 降到 81.0%，究竟代表什么？
Moonshot 使用内部测试集 xdev-bench-hard，比较有无采取资安风险降低措施的模型。
这套测试包含重现软件漏洞的受控环境，让模型尝试完成漏洞利用任务。
测试采用 pass@3 的计分方式，也就是允许多次尝试后评估任务是否成功。
官方公布：
- 未采取相关数据移除措施的对照模型：90.5%。
- 最终发布的 Kimi K3.1 Pro：81.0%。
两者相差 9.5 个百分点。
Moonshot 认为，这显示移除部分资安相关数据，确实可以降低模型在指定攻击任务上的表现。
但有两件事必须说清楚。
第一，这是 Moonshot 自己的内部测试结果，尚未获得独立第三方完整验证。
第二，81.0% 不是现实世界网络攻击的成功率，也不代表模型已不具备危险能力。
它只反映模型在该特定测试设计与条件下的表现。
而且，Moonshot 也表示，新模型的资安能力仍高于上一代 Kimi K3。
因此，这不是让模型变得完全无害，而是控制特定能力的成长幅度。
Kimi K3.1 Pro 现在可以使用了吗？
可以，但需要区分产品服务与模型权重。
根据 10 月 24 日官方公告，Kimi K3.1 Pro 与 Highspeed 版本已开始透过 Kimi.com、Kimi Work、Kimi Code 与 Kimi API 提供使用。
但完整模型权重目前仍未正式公开。
Moonshot 预定最晚于 2026 年 11 月 4 日发布完整权重。
换句话说：
现在可以使用官方提供的 Kimi K3.1 Pro 服务，不代表今天已经能下载完整模型权重，在自己的服务器上部署。
企业与开发者还需要等正式权重、授权条款与部署文档发布，再决定是否适合导入。
这件事真正值得注意的是什么？
过去新模型发表，科技公司通常强调：
模型参数更大、推理更强、程序能力更好、评测分数更高。
但 Moonshot 这次把另一个问题带到台面上。
如果模型有能力变得更危险，开发公司是否应该在发布前，主动限制某些能力？
这不代表所有 AI 公司都必须采取完全相同的方法。
毕竟，减少资安数据也可能影响部分正当防御用途，而且开放模型发布后仍可能被重新训练。
但至少可以看到，前沿 AI 的竞争正在从单纯追求高分，延伸到哪些能力适合直接开放、哪些能力需要额外管理。
二、英国投入 1 亿英镑成立 AI 生物安全实验室：AI 能帮忙预防下一场大流行吗？
同样在 10 月 24 日，英国政府宣布成立 AI Biosecurity Lab，简称 AIBL。
这是一项新的国家级 AI 生物安全研究计划。
英国政府表示，新实验室将投入人工智能与生命科学研究，希望更早发现生物威胁，并加快疫苗、药物及其他医疗对策的研究。
政府也宣称，这将是全球第一个专门投入 AI 生物安全的机构。
但这是英国政府对新机构的定位，并不代表它已经正式完成建置，或已成功阻止某场疫情。
英国为什么需要 AI 生物安全实验室？
AI 的科学研究能力正在快速进步。
例如，研究人员可以使用 AI 分析大量生物数据、比较蛋白质特性、寻找可能的药物候选方向，以及协助设计研究流程。
这些能力有机会加快某些医疗研究工作。
但能力愈强，也可能带来新的风险。
英国政府指出，先进 AI 系统可能降低部分有害生物活动的技术门槛。
因此，国家需要的不只是研发更强的 AI，也需要提升侦测、预防和应对生物威胁的能力。
AIBL 的目标，就是把 AI 能力与生物安全专业结合，创建可用于防御的技术。
AI Biosecurity Lab 将负责哪些工作？
依照英国政府目前公布的规划，最初的工作将集中在两个方向。
第一，更早侦测正在出现的生物威胁。
例如协助研究人员分析相关数据，辨识值得进一步调查的异常或潜在风险。
但 AI 提供的分析仍需要专业检验，不代表只靠模型就能确认病原体或预测疫情。
第二，加速疫苗、治疗方式与其他医疗对策研发。
透过 AI 与生物研究团队合作，缩短部分数据分析、候选方案筛选与研究设计工作所需时间。
不过，从 AI 提出候选方向到实际产生安全有效的疫苗或治疗方式，中间仍然有大量实验、验证、临床试验与监管进程。
不能把研究计划的目标，直接当成已完成的医疗成果。
英国政府到底投入多少钱？
这次公告有几组容易被混淆的金额。
首先，英国政府宣布投入 1 亿英镑，设立 AI Biosecurity Lab。
其次，政府另规划 6,500 万英镑，用于加强生物监测与特定病原体的医疗对策。
这两部分构成总额 1.65 亿英镑的 National AI Biosecurity Initiative。
另外，OpenAI 与 Anthropic 将为 AI Biosecurity Lab 提供最高合计 2 亿英镑的模型、算力与技术支持资源。
这里需要特别注意：
科技公司提供的主要是模型使用额度、算力额度与技术支持承诺，不等于直接捐出 2 亿英镑现金。
因此，不能直接把所有金额加起来，就说政府已收到同等数额的现金投资。
英国政府同时公布更广泛、总规模超过 6 亿英镑的 AI 投资与安全措施计划。
那是涵盖资安、芯片设计、产业、公共服务等多个项目的整体方案，不是全数投入这一座实验室。
OpenAI、Anthropic 和 Google 各自提供什么？
依据英国政府公告：
OpenAI 将提供价值 1 亿英镑的算力与模型使用额度，并透过 Rosalind Biodefense 计划，提供经过授权的相关前沿模型访问。
Anthropic 将提供最高 1 亿英镑的模型使用额度、可信任模型访问及专门技术支持。
Google DeepMind 将参与相关研究合作，并评估提供前沿 Gemini 与专用科学模型的可信任访问方式。
英国生命科学 AI 公司 Basecamp Research 也将提供模型、技术能力与专业知识。
这里的重点，不是把所有模型直接公开给任何人研究生物威胁。
官方强调的是可信任的访问与合作研究机制。
AI Biosecurity Lab 已经开始运作了吗？
截至 10 月 24 日官方公告，这仍是新机构成立与初期合作安排的宣布。
英国政府规划它以独立非营利机构形式运作，并由科学顾问委员会提供相关建议。
未来还会与英国卫生安全署、动植物健康相关单位、防务科学机构，以及药品监管机关合作。
但目前不能宣称它已完成全部研究设备建置，或已有经正式验证的疫情防范成绩。
后续真正值得观察的是：
它能不能把 AI 模型的能力，转化成可靠、可验证的生物安全工具？
是否能在实际研究中提升威胁侦测速度？
又能否加快医疗对策的开发，同时符合安全与监管要求？
这些成果都需要后续实际研究与公开证据回答。
三、为什么今天这两则新闻值得一起看？
Moonshot 与英国政府的做法，看起来方向不同。
Moonshot 选择在开放模型权重前，刻意限制部分可能被滥用的能力。
英国政府则投入资源，希望使用前沿 AI 提升生物安全防御能力。
但它们其实面对同一个核心问题：
当 AI 同时具备有益与潜在危险的能力，社会应该如何决定它能被谁使用、用在什么地方？
在资安领域，AI 既可以协助研究人员寻找漏洞，也可能降低发动攻击的门槛。
在生命科学领域，AI 既可以协助防疫与医疗研究，也可能带来新的生物安全疑虑。
这类技术通常被称为「双重用途技术」。
解决问题不一定只有「完全开放」或「全部禁止」两个选项。
实际上，还可以透过不同层次的措施管理风险。
例如在模型发布前进行能力评测、限制特定训练内容、采用分阶段发布、创建可信任研究访问管道，以及要求研究结果接受独立验证。
但每种措施都有局限。
训练数据过滤不一定能完全消除危险能力；可信任访问也需要明确审核与持续监督。
因此，判断一项安全措施是否有效，不能只看公司或政府是否宣称重视安全。
还要看测试是否透明、结果能否重现，以及实际使用后有没有持续改善。
今天一般用户最需要知道什么？
如果你只是日常使用 AI，今天不需要立即更换 ChatGPT、Claude 或 Kimi。
但可以开始创建一个判断新 AI 产品的习惯。
当公司宣称某项安全措施有效时，先确认结果来自官方内部测试，还是独立第三方。
当模型宣布开放权重时，先确认权重是否真的已发布，以及授权条款与部署条件。
当政府宣布投入巨额资金时，则要分清楚实际预算、资源额度、合作承诺与已经完成的成果。
这些区别看似细节，却往往决定一则 AI 新闻究竟是令人兴奋的愿景，还是已经能够验证的进展。
未来 AI 值不值得信任，不能只靠它有多强，也要看它的能力如何被验证、限制与负责任地使用。
