AI 能不能既變得更強，又不要讓危險能力跟著無限制增加？
2026 年 10 月 25 日，今天兩則重要 AI 新聞，剛好從不同方向回答這個問題。
中國 AI 公司 Moonshot 推出新一代 Kimi K3.1 Pro，卻在準備公開模型權重前，主動移除部分資安相關訓練資料，希望降低模型被用來進行網路攻擊的能力。
另一方面，英國政府宣布成立 AI Biosecurity Lab，要利用最先進的 AI 協助偵測生物威脅、加速疫苗與其他醫療對策研究。
一邊是限制可能被濫用的能力，另一邊是運用同樣強大的 AI 保護人類。
這兩個方向，正在成為前沿 AI 發展的重要課題。
一、Kimi K3.1 Pro 發表：模型明明可以更強，為什麼 Moonshot 反而主動降低網攻能力？
10 月 24 日，中國 AI 公司 Moonshot 正式發表 Kimi K3.1 Pro。
這是 Kimi K3.1 系列的第一個模型，也是 Moonshot 目前最強大的 3 兆參數級開放權重模型。
根據官方介紹，新模型擁有最高 100 萬 Token 的上下文視窗，強化了程式開發、3D 建模、金融研究與長時間 Agent 任務能力。
公司也同步推出 Kimi K3.1 Pro Highspeed，宣稱執行速度可達標準版本的 2 至 3 倍。
但這次最值得注意的地方，不是模型有多大，也不是它在哪一項程式評測取得高分。
而是 Moonshot 公開承認：
公司刻意讓準備釋出的模型，保留較低的資安攻擊能力。
為什麼要刻意讓 AI 的某些能力變弱？
現在的前沿 AI 模型已經可以閱讀程式碼、操作開發工具、檢查系統錯誤，甚至持續嘗試解決非常複雜的技術任務。
這些能力對軟體工程師與資安人員非常有用。
例如協助尋找程式漏洞、理解舊系統的安全問題，以及整理需要修補的地方。
但相同能力也可能被用來尋找可利用的弱點，降低發動網路攻擊的技術門檻。
尤其對開放權重模型而言，問題更複雜。
當完整模型權重發布後，外部開發者就有機會在自己的設備上部署、調整與重新訓練模型。
這種開放方式可以支持創新，但原始開發公司也更難集中控制模型的後續使用。
Moonshot 這次選擇在發布權重之前，先調整模型的訓練過程。
Moonshot 怎麼降低 Kimi 的資安攻擊能力？
根據 Moonshot 官方技術文章，團隊發現，隨著模型後期訓練規模增加，模型在漏洞研究相關任務中的能力也持續提升。
研究人員進一步追查發現，部分資安相關內容存在於中期訓練資料中，而某些涉及資安的任務，也被放進強化學習的訓練環境。
因此，Moonshot 對兩個階段進行調整。
第一，識別並移除部分資安相關訓練資料。
第二，從強化學習環境中排除部分資安相關任務，同時保留一般用途的程式開發訓練。
這項做法的目標，不是讓 Kimi 完全失去寫程式或協助除錯的能力。
而是試著避免模型在網路攻擊方面的能力，隨著一般程式能力提升而同步達到更高水準。
官方所說的 90.5% 降到 81.0%，究竟代表什麼？
Moonshot 使用內部測試集 xdev-bench-hard，比較有無採取資安風險降低措施的模型。
這套測試包含重現軟體漏洞的受控環境，讓模型嘗試完成漏洞利用任務。
測試採用 pass@3 的計分方式，也就是允許多次嘗試後評估任務是否成功。
官方公布：
- 未採取相關資料移除措施的對照模型：90.5%。
- 最終發布的 Kimi K3.1 Pro：81.0%。
兩者相差 9.5 個百分點。
Moonshot 認為，這顯示移除部分資安相關資料，確實可以降低模型在指定攻擊任務上的表現。
但有兩件事必須說清楚。
第一，這是 Moonshot 自己的內部測試結果，尚未獲得獨立第三方完整驗證。
第二，81.0% 不是現實世界網路攻擊的成功率，也不代表模型已不具備危險能力。
它只反映模型在該特定測試設計與條件下的表現。
而且，Moonshot 也表示，新模型的資安能力仍高於上一代 Kimi K3。
因此，這不是讓模型變得完全無害，而是控制特定能力的成長幅度。
Kimi K3.1 Pro 現在可以使用了嗎？
可以，但需要區分產品服務與模型權重。
根據 10 月 24 日官方公告，Kimi K3.1 Pro 與 Highspeed 版本已開始透過 Kimi.com、Kimi Work、Kimi Code 與 Kimi API 提供使用。
但完整模型權重目前仍未正式公開。
Moonshot 預定最晚於 2026 年 11 月 4 日發布完整權重。
換句話說：
現在可以使用官方提供的 Kimi K3.1 Pro 服務，不代表今天已經能下載完整模型權重，在自己的伺服器上部署。
企業與開發者還需要等正式權重、授權條款與部署文件發布，再決定是否適合導入。
這件事真正值得注意的是什麼？
過去新模型發表，科技公司通常強調：
模型參數更大、推理更強、程式能力更好、評測分數更高。
但 Moonshot 這次把另一個問題帶到台面上。
如果模型有能力變得更危險，開發公司是否應該在發布前，主動限制某些能力？
這不代表所有 AI 公司都必須採取完全相同的方法。
畢竟，減少資安資料也可能影響部分正當防禦用途，而且開放模型發布後仍可能被重新訓練。
但至少可以看到，前沿 AI 的競爭正在從單純追求高分，延伸到哪些能力適合直接開放、哪些能力需要額外管理。
二、英國投入 1 億英鎊成立 AI 生物安全實驗室：AI 能幫忙預防下一場大流行嗎？
同樣在 10 月 24 日，英國政府宣布成立 AI Biosecurity Lab，簡稱 AIBL。
這是一項新的國家級 AI 生物安全研究計畫。
英國政府表示，新實驗室將投入人工智慧與生命科學研究，希望更早發現生物威脅，並加快疫苗、藥物及其他醫療對策的研究。
政府也宣稱，這將是全球第一個專門投入 AI 生物安全的機構。
但這是英國政府對新機構的定位，並不代表它已經正式完成建置，或已成功阻止某場疫情。
英國為什麼需要 AI 生物安全實驗室？
AI 的科學研究能力正在快速進步。
例如，研究人員可以使用 AI 分析大量生物資料、比較蛋白質特性、尋找可能的藥物候選方向，以及協助設計研究流程。
這些能力有機會加快某些醫療研究工作。
但能力愈強，也可能帶來新的風險。
英國政府指出，先進 AI 系統可能降低部分有害生物活動的技術門檻。
因此，國家需要的不只是研發更強的 AI，也需要提升偵測、預防和應對生物威脅的能力。
AIBL 的目標，就是把 AI 能力與生物安全專業結合，建立可用於防禦的技術。
AI Biosecurity Lab 將負責哪些工作？
依照英國政府目前公布的規劃，最初的工作將集中在兩個方向。
第一，更早偵測正在出現的生物威脅。
例如協助研究人員分析相關資料，辨識值得進一步調查的異常或潛在風險。
但 AI 提供的分析仍需要專業檢驗，不代表只靠模型就能確認病原體或預測疫情。
第二，加速疫苗、治療方式與其他醫療對策研發。
透過 AI 與生物研究團隊合作，縮短部分資料分析、候選方案篩選與研究設計工作所需時間。
不過，從 AI 提出候選方向到實際產生安全有效的疫苗或治療方式，中間仍然有大量實驗、驗證、臨床試驗與監管程序。
不能把研究計畫的目標，直接當成已完成的醫療成果。
英國政府到底投入多少錢？
這次公告有幾組容易被混淆的金額。
首先，英國政府宣布投入 1 億英鎊，設立 AI Biosecurity Lab。
其次，政府另規劃 6,500 萬英鎊，用於加強生物監測與特定病原體的醫療對策。
這兩部分構成總額 1.65 億英鎊的 National AI Biosecurity Initiative。
另外，OpenAI 與 Anthropic 將為 AI Biosecurity Lab 提供最高合計 2 億英鎊的模型、算力與技術支援資源。
這裡需要特別注意：
科技公司提供的主要是模型使用額度、算力額度與技術支援承諾，不等於直接捐出 2 億英鎊現金。
因此，不能直接把所有金額加起來，就說政府已收到同等數額的現金投資。
英國政府同時公布更廣泛、總規模超過 6 億英鎊的 AI 投資與安全措施計畫。
那是涵蓋資安、晶片設計、產業、公共服務等多個項目的整體方案，不是全數投入這一座實驗室。
OpenAI、Anthropic 和 Google 各自提供什麼？
依據英國政府公告：
OpenAI 將提供價值 1 億英鎊的算力與模型使用額度，並透過 Rosalind Biodefense 計畫，提供經過授權的相關前沿模型存取。
Anthropic 將提供最高 1 億英鎊的模型使用額度、可信任模型存取及專門技術支援。
Google DeepMind 將參與相關研究合作，並評估提供前沿 Gemini 與專用科學模型的可信任存取方式。
英國生命科學 AI 公司 Basecamp Research 也將提供模型、技術能力與專業知識。
這裡的重點，不是把所有模型直接公開給任何人研究生物威脅。
官方強調的是可信任的存取與合作研究機制。
AI Biosecurity Lab 已經開始運作了嗎？
截至 10 月 24 日官方公告，這仍是新機構成立與初期合作安排的宣布。
英國政府規劃它以獨立非營利機構形式運作，並由科學顧問委員會提供相關建議。
未來還會與英國衛生安全署、動植物健康相關單位、防務科學機構，以及藥品監管機關合作。
但目前不能宣稱它已完成全部研究設備建置，或已有經正式驗證的疫情防範成績。
後續真正值得觀察的是：
它能不能把 AI 模型的能力，轉化成可靠、可驗證的生物安全工具？
是否能在實際研究中提升威脅偵測速度？
又能否加快醫療對策的開發，同時符合安全與監管要求？
這些成果都需要後續實際研究與公開證據回答。
三、為什麼今天這兩則新聞值得一起看？
Moonshot 與英國政府的做法，看起來方向不同。
Moonshot 選擇在開放模型權重前，刻意限制部分可能被濫用的能力。
英國政府則投入資源，希望使用前沿 AI 提升生物安全防禦能力。
但它們其實面對同一個核心問題：
當 AI 同時具備有益與潛在危險的能力，社會應該如何決定它能被誰使用、用在什麼地方？
在資安領域，AI 既可以協助研究人員尋找漏洞，也可能降低發動攻擊的門檻。
在生命科學領域，AI 既可以協助防疫與醫療研究，也可能帶來新的生物安全疑慮。
這類技術通常被稱為「雙重用途技術」。
解決問題不一定只有「完全開放」或「全部禁止」兩個選項。
實際上，還可以透過不同層次的措施管理風險。
例如在模型發布前進行能力評測、限制特定訓練內容、採用分階段發布、建立可信任研究存取管道，以及要求研究結果接受獨立驗證。
但每種措施都有局限。
訓練資料過濾不一定能完全消除危險能力；可信任存取也需要明確審核與持續監督。
因此，判斷一項安全措施是否有效，不能只看公司或政府是否宣稱重視安全。
還要看測試是否透明、結果能否重現，以及實際使用後有沒有持續改善。
今天一般使用者最需要知道什麼？
如果你只是日常使用 AI，今天不需要立即更換 ChatGPT、Claude 或 Kimi。
但可以開始建立一個判斷新 AI 產品的習慣。
當公司宣稱某項安全措施有效時，先確認結果來自官方內部測試，還是獨立第三方。
當模型宣布開放權重時，先確認權重是否真的已發布，以及授權條款與部署條件。
當政府宣布投入巨額資金時，則要分清楚實際預算、資源額度、合作承諾與已經完成的成果。
這些區別看似細節，卻往往決定一則 AI 新聞究竟是令人興奮的願景，還是已經能夠驗證的進展。
未來 AI 值不值得信任，不能只靠它有多強，也要看它的能力如何被驗證、限制與負責任地使用。
