如果 AI 已经能自己找出程序漏洞、验证风险，甚至产生修补程序，这么强大的能力应该开放给所有人吗？
Google 选择先把新模型交给经过筛选的资安防御团队。
法国 AI 公司 Mistral 却在另一边，将大型模型的权重正式公开，让企业自行下载与部署。
同一天，OpenAI 也更新了 GPT 应该如何行动的公开规范，试图让愈来愈自主的模型更能理解人的意图和界线。
2026 年 10 月 30 日，今天值得关注的三则 AI 更新，分别牵涉模型能力、开放使用与行为控制。
AI 正在变得更有能力，但「有能力」与「应该怎么使用」之间的距离，也开始愈来愈重要。
一、Google 发表 Gemini 4 Carbon：AI 找漏洞测试达 88.2%，为什么不直接开放所有人？
美国时间 10 月 28 日，Google 正式发表 Gemini 4 Carbon。
它是 Gemini 4 家族的新一款前沿模型，特别强调三种能力：
- 长时间、多步骤的软件工程工作。
- 发现程序与系统中的资安漏洞。
- 验证漏洞并协助产生修补程序。
Google 表示，Carbon 是目前该公司能力最强的模型，并在多项程序开发与资安测试中取得新成绩。
但最值得注意的是：Google 并没有选择立刻让所有 Gemini 用户使用这款模型。
Gemini 4 Carbon 的资安能力有多强？
Google 公布三项与资安直接相关的测试结果。
评测Gemini 4 Carbon 成绩SEC-bench Pro：寻找程序漏洞88.2%ExploitGym：验证漏洞能否被利用54.8%CWE-bench：修补漏洞71.0%这三项测试对应资安工作中不同的步骤。
第一步是发现问题。
第二步是判断问题是否真的具有风险。
第三步是修正问题。
这比单纯要求 AI 回答「这段代码安全吗？」更接近完整的资安处理流程。
不过，这里有一个重要限制。
88.2% 是 SEC-bench Pro 特定测试中的成绩，不代表 Carbon 在真实世界可以找出 88.2% 的所有漏洞。
Google 也明确说明，部分资安评测是在没有安全护栏限制的条件下进行。
因此，不能直接把这些数字当成一般用户在 Gemini App 里的实际成功率。
Google 为什么特别强调「长时间工作」？
一般 AI 对话通常很短。
用户问一个问题，模型给出一个回答。
但真实的程序开发与资安工作，可能需要连续完成很多步骤。
例如：
先阅读大量代码。
找到可能出错的功能。
创建测试情境。
确认漏洞能否重现。
产生修补程序。
再检查修补是否影响其他功能。
Google 表示，在内部工程环境中，Carbon 已能持续数天处理复杂工程问题。
这是 Google 公布的内部使用经验，不代表所有用户都能让模型无限制、无监督地工作数天。
真正重要的改变，是 AI 开始朝向需要长时间保持上下文、持续处理问题的工作方式发展。
这么强的模型，为什么要限制开放？
因为资安能力具有两面性。
能够找出系统漏洞的 AI，可以协助企业防御攻击。
但相同能力也可能被用来寻找尚未修补的漏洞。
Google 因此决定采取分阶段开放方式。
官方表示，Carbon 将先提供给部分资安防御者，并透过 Fairwind Program 逐步扩大到其他受信任伙伴。
Google 也提到，正在参与美国政府的模型发布前自愿测试进程。
一般开发者、企业与消费者的开放时间，则尚未公布确切日期。
Gemini 4 Carbon 现在可以在 Gemini App 使用吗？
目前不能把它当成已全面开放的 Gemini 功能。
Google 已公布预计采用的 API 初期价格：
- 每百万输入 Token：2 美元。
- 每百万输出 Token：10 美元。
- 缓存输入 Token：较标准输入价格低 95%。
官方另指出，优惠期结束后，预计调整为每百万输入 Token 4 美元、输出 Token 20 美元。
但公布价格不等于一般开发者已经取得 API 使用权。
实际可用资格，仍须依后续开放公告为准。
这对一般人有什么关系？
假设一家网络商店使用 AI Agent 协助维护网站。
如果 AI 能更有效率地发现程序漏洞，可能有助于降低网站遭入侵的风险。
但如果直接让 AI 自动修改正式网站，而没有测试和人工确认，也可能造成新的故障。
因此，即使未来使用更强的资安 AI，仍然需要清楚区分：
哪些工作可以自动检查。
哪些修改只能先进入测试环境。
哪些重要操作必须由工程师核准。
模型能力变强，不代表它取得的系统权限也应该自动增加。
二、Mistral Large 4 正式开放模型权重：企业为什么想把强大的 AI 留在自己手上？
Google 选择先限制用户。
法国 AI 公司 Mistral 则采取不同做法。
10 月 29 日，Mistral 正式公开 Mistral Large 4 的模型权重，让外部开发者及企业能下载、部署与调整模型。
这个日期很重要。
Mistral Large 4 并不是 10 月 29 日才第一次亮相。
公司早在 10 月 6 日就先推出 API 公开预览。
当时开发者可以透过 Mistral 的云端服务试用，但模型权重还没有正式提供下载。
10 月 29 日的新进展，是模型权重真正公开，让自行部署成为可行的选择。
Mistral Large 4 是什么规模的模型？
根据 Mistral 官方数据，Large 4 是一款混合专家模型（Mixture-of-Experts，MoE）。
它具备约 1.05 兆个总参数，每次运算激活约 520 亿个参数（包含相关嵌入与输出层）。
模型可处理文字、图片及长篇文档，并支持最长约 100 万 Token 的上下文。
Hugging Face 同日确认，官方提供 FP8 与 NVFP4 两种权重版本。
这不代表一般家用笔电已经能轻松运行这款模型。
即使模型每次只激活部分参数，部署仍涉及大量模型权重、内存、运算设备及相应软件配置。
对一般用户而言，透过云端 API 使用可能仍然比较实际。
但对拥有专业基础设施的企业来说，自行部署的意义就不一样。
为什么企业需要自行部署 AI？
想像一家企业正在处理重大资安事故。
工程师需要将代码、系统纪录及疑似恶意程序样本交给 AI 协助分析。
如果 AI 只能透过外部平台使用，企业就必须考虑：
敏感数据是否适合传到外部服务？
外部平台突然限制帐号或服务中断时怎么办？
模型拒绝分析某些疑似攻击行为时，会不会影响合法的资安调查？
Mistral 这次强调，自行部署可以让组织在自己控制的环境里使用模型，并管理相关工作流程。
尤其在资安领域，研究人员有时需要重现漏洞，才能确认漏洞存在并测试修补效果。
某些云端模型的安全限制，可能会拒绝运行这类看起来具有攻击性的操作。
Mistral 希望提供资安团队另一种选择。
但自行部署并不代表可以忽略信息安全管理，也不代表模型产出的任何操作都适合直接运行。
Mistral Large 4 的资安表现如何？
Hugging Face 在 10 月 29 日的技术文章中指出，Large 4 在 Artificial Analysis Cyber Index 的特定漏洞重现与修补测试中取得 82% 成绩。
该测试要求模型重现开源软件中的真实漏洞，再完成修补。
Hugging Face 也介绍 Large 4 在程序开发、Agent 工作与其他资安评测中的表现。
不过，这些仍是有特定题目、工具及设置的测试结果。
尤其不能直接拿 Mistral 的 82%，与 Google Gemini 4 Carbon 在 SEC-bench Pro 的 88.2% 相比，再宣称其中一款一定比较强。
因为两个数字来自不同测试，衡量的任务和条件并不相同。
要比较哪款模型更适合企业，仍然需要在相同工作、相同限制及相同验收标准下进行测试。
模型权重公开，就代表完全免费、没有授权限制吗？
不是。
Mistral Large 4 使用的是 Mistral Ecosystem Open-Weight License。
Hugging Face 说明，这项授权以 MIT 类型授权为基础，但增加了对某些 Model-as-a-Service 业务的限制。
换句话说，企业可以下载模型权重，不代表任何人都能无条件把它包装成自己的商业 AI API 服务。
实际的商业使用方式，仍应核对正式授权条文。
此外，开放权重也不等于使用成本为零。
即使不向模型供应商支付每次 API 调用费用，自行部署仍可能产生：
GPU 设备成本。
云端或机房费用。
电力与维护费用。
模型更新与安全管理费用。
因此，企业不应只因为模型可以下载，就假设它一定比使用云端服务便宜。
开放这么强的资安模型，会不会反而更危险？
这也是这次发布的重要争议。
开放权重的优点，是防御团队、研究机构及企业可以自行检查、部署和调整模型。
但一旦权重公开，供应商也很难再限制所有人下载与使用。
Reuters 引述 Mistral 科学副总裁 Pierre Stock 的说法指出，权重公开后，外部用户取得模型的能力就难以重新收回。
这种不可逆性同时带来好处与风险。
合法资安团队可以减少对单一云端服务商的依赖。
另一方面，恶意行为者也可能取得相同模型能力。
所以，今天真正值得注意的，不只是 Mistral 又推出一款大型模型。
而是前沿 AI 的资安能力，正在出现「限制访问」和「开放权重」两种不同路线。
三、OpenAI 更新 Model Spec：ChatGPT 以后会更懂你的意思，而不是只照字面运行？
10 月 29 日，OpenAI 正式更新 Model Spec。
Model Spec 是 OpenAI 公开发布的模型行为规范，说明公司希望 GPT 如何理解指令、处理冲突，以及在不同情境下作出回应。
这次更新不是推出另一款 GPT 模型。
也不是宣布所有 ChatGPT 用户今天都获得新的操作功能。
它主要改变的是：OpenAI 如何定义模型应该遵循的行为原则。
新版 Model Spec 的五项内核价值是什么？
OpenAI 刷新了五项内核价值。
第一，忠于人的意图（Faithfulness to human intent）。
模型不应只机械式运行字面指令，而要理解用户真正想完成的目标，同时遵守必要的限制。
第二，降低伤害（Harm minimization）。
模型在采取行动前，需要考虑可能造成的后果，并尊重明确的安全界线。
第三，诚实与透明（Honesty and transparency）。
模型应该清楚区分自己知道什么、不知道什么，以及做过哪些事情。
第四，支持人的自主决定（Human agency）。
AI 应该协助用户理解问题、比较选择，而不是悄悄替用户决定人生方向。
第五，关怀（Care）。
模型需要考虑用户与其他受影响者的处境，提供符合情境、可依赖的协助。
这五项价值并不是彼此完全独立。
OpenAI 希望模型在真实工作中，能够处理它们之间可能出现的冲突。
什么叫做理解用户意图，而不是只照字面回答？
例如，你要求 AI 帮忙比较两份工作机会。
如果 AI 只看薪水，可能直接选择收入较高的一份。
但你真正重视的，也许是通勤时间、工作稳定度或家庭生活。
新版规范希望模型能考虑用户已提供的相关背景，而不是每次都把问题当成孤立的一句话。
不过，这里也有一个重要界线。
模型不能因为推测你喜欢某种答案，就刻意迎合你，或偷偷排除其他合理选择。
如果 AI 使用过去的偏好来分析，这些假设也应该能被用户看见及修正。
真正的目标是帮助人作决定，而不是取代人作决定。
新版 Model Spec 对 AI Agent 有什么影响？
这次更新特别补强三个方向。
第一，是如何使用对话、记忆和其他背景信息来理解需求。
第二，是如何支持用户的自主选择。
第三，是更明确地控制及说明 AI 行动可能造成的副作用。
所谓副作用，不一定是程序出现错误。
例如，用户只是要求 AI 整理一份文档。
如果 Agent 在整理时，又自行修改其他文件、对外发送内容，或运行没有获得授权的动作，就可能超出用户原本的意图。
因此，更强的 AI Agent 需要的不只是更好的任务完成率。
还需要能清楚区分：
用户要求完成什么。
哪些操作属于授权范围。
哪些可能造成额外影响。
什么情况下应该先停下来确认。
这些原则是 Model Spec 所描述的方向，并非保证所有现有 AI Agent 都已经完全做到。
OpenAI 更新规范后，ChatGPT 会立即改变吗？
不一定。
这是今天最需要厘清的地方。
OpenAI 在官方公告中明确表示，Model Spec 描述的是公司正在努力达成的模型行为。
现有模型尚未完全符合新版规范。
公司也表示，正在研究新的训练方法，让模型不只是背诵规则，而是更能理解这些原则的理由及适用情境。
因此，不能把今天的公告解读成：
ChatGPT 从现在开始不会再犯错。
AI Agent 已经完全不会越权。
模型一定能正确理解每位用户真正的意思。
新版 Model Spec 是一份公开的行为标准与改进方向，而不是已完成所有安全问题的证明。
对一般用户最实际的改变是什么？
短期来看，用户不必为了这次公告调整所有 Prompt。
但可以透过更明确的工作要求，减少 AI 误解与越权行动的风险。
例如，在交办重要工作时，直接说明：
「先整理数据，不要修改源文件案。」
「遇到没有证据的地方，标记不知道，不要自行补充。」
「有多种合理选择时，列出优缺点，最后由我决定。」
「涉及删除、付款或对外发送，请先取得我的确认。」
这些要求不保证模型永远遵守，但有助于创建清楚的工作边界。
比起要求 AI 变得无所不能，让它知道哪些事情不能自行决定，同样重要。
四、Google 限制使用、Mistral 开放权重、OpenAI 重写规范，三家公司为什么走不同路？
今天三则消息，看起来像是不同公司的独立发展。
但把它们放在一起，就会发现 AI 产业正面对三个不同问题。
Google 想处理的是：
当模型的资安能力非常强时，应该先让谁使用？
它选择让受信任的防御者先测试，再评估更广泛的开放。
Mistral 想处理的是：
企业可不可以不受单一 AI 平台控制，自行部署前沿模型？
它选择公开模型权重，让符合授权要求的用户自行管理。
OpenAI 想处理的是：
当 AI 愈来愈能采取实际行动时，模型应该依照什么原则作出判断？
它选择更新公开的行为规范，并持续研究如何让模型更符合这些原则。
这三种做法不一定互相排斥。
受限模型也可以创建清楚的行为规范。
开放权重模型同样需要资安管理。
而公开行为规范的公司，也仍须考虑高风险能力应该如何开放。
真正需要持续观察的，是这些策略在实际部署中能不能带来更可靠的结果。
五、今天三则 AI 更新，一般人最应该记住什么？
首先，不要只看模型排行榜。
一款模型即使在特定测试中取得高分，也不代表它已向所有人开放，或能在任何情境下得到相同结果。
其次，开放权重不是免费又没有限制的代名词。
企业想自行部署模型，需要同时评估授权、硬件、维护与安全责任。
最后，AI 公司公布更好的行为规范，也不代表模型从此不会犯错。
尤其当 AI 开始可以操作文件、系统与外部工具时，用户仍需要设置权限、确认范围与验收条件。
AI 的未来不只是让模型更聪明，而是让强大的能力能够在清楚的规则与责任之下被使用。
