強調主權與治理，代理AI成為各國當前焦點
隨著生成式 AI(Generative AI)迅速發展，國際間AI治理的問題意識，已從「要不要管、訂什麼原則」，進一步推進到「用什麼制度去管、由誰來確認安全」等議題。本文從政策治理的角度，綜整2026年上半年國際間與AI安全(Safety)及資安(Security)相關的動態，梳理這段期間的發展趨勢。
當前值得注意的趨勢有三：各國管制路線雖有不同，但均重視主權；治理工具尋求落實；以及代理AI(Agentic AI)成為治理新標的。文末並就這些趨勢，提出對我國可能的政策建議。本文參考資料取自本院《國際資安政策法制觀測》週報對各國的長期追蹤。

一、各國的管制路線雖有不同但均重視主權
首先，美國川普政府在近期發佈《促進先進人工智慧創新與安全》行政命令，採取「自願協作而非強制授權」的路線，不另設強制授權或預先審查機制，而把AI風險治理與國家安全、關鍵基礎設施防護結合，並以聯邦既有機關與自律標準替代繁重管制。這條去管制而重國安的路線，是川普在第二任期當中對AI的政策基調。
歐盟同樣以自主為政策重點，作法則是雙軌並進。一方面以數位綜合法案(Digital Omnibus)修法提案簡化《人工智慧法》(AI Act)的合規負擔，提供中小企業比例性的合規措施；另一方面推出歐洲科技主權包裹(European Technological Sovereignty Package)，透過相關立法設定五至七年內把資料中心容量增為三倍的目標。簡化合規與強化主權同時推進，顯示歐盟一面維持規範密度，一面正視過度依賴境外供應商的風險。
亞洲主要國家則走第三條路，把治理嵌進法律與行政流程。韓國的《人工智慧基本法》於今年一月施行，被視為繼歐盟之後全球第二部綜合性AI法律，課予業者高影響AI判定、生成內容透明度標示等義務，並設約一年的緩衝期，整體採「促進與信任並重」的取向。日本則設置首席 AI官(Chief AI Officer, CAIO)統籌各機關的AI治理，並透過政府採購指引，把風險評估與責任分工嵌入行政流程。
三種路線的共同點是主權自主：無論透過國安、立法或算力布局，各國都在爭取對AI基礎設施、標準與評估能力的自主掌握。
二、治理工具尋求落實
第二個趨勢是，治理工具正從抽象原則轉為可操作、可落實的制度。過去兩年各國競相發布AI原則與倫理宣言，近期則進入落地階段。韓國在基本法施行後，發布支援窗口案例集，就「高影響AI」判定、透明度標示等義務提供企業可遵循的操作解答；並於五月預告施行令修正案，銜接七月生效的修正後基本法。日本數位廳的《生成式AI採購與利用指引》2.0版，則以風險評估與CAIO三層治理機制，把生成式AI的採購與高風險用例管理系統化。政策的著力點，已從「宣示要負責任」轉向「規定怎麼做才算負責任」。
落地的另一個面向，是量測能力的強化，各國陸續設立的AI安全研究機構(AI Safety／Security Institute，簡稱AISI)，正成為研究AI驗證與測試方法的核心單位。英國AI安全研究院(AI Security Institute)發布多步驟網路攻擊的評測研究，以受控靶場量測模型在不同推論算力下完成攻擊任務的能力；美國NIST人工智慧標準暨創新中心(Center for AI Standards and Innovation, CAISI)等則以大規模公開紅隊競賽檢驗代理(Agent)的脆弱性，並與多家前沿實驗室簽訂部署前的國安測試協議。日本人工智慧安全研究所(J-AISI)與資訊處理推進機構(IPA)合辦的JAI-Trust計畫，設置十一個分科委員會，分別針對偏見、越獄、資訊洩漏、代理型AI、多模態等風險建立可共用的評估基準。這些機構並開始相互協作，例如英國與澳洲(Australian AI Safety Institute)於五月簽署合作備忘錄，共享前沿模型的能力評估與最佳實務。
制度落地也改變了「安全」的定義。NIST 研究員證明，任何有限的護欄(guardrails)規則集都必然存在可規避它的對抗性提示，這是數學定理的延伸結果，而非實作缺陷。換言之，要求業者建立「完整防護」形同要求達成不可能之事。資安政策的重點，因而從追求完整防護，移向強化監控覆蓋與應變速度：NIST主張為已部署系統建立「部署後監控、回饋、再設計」的循環，英國AISI的「喪失監管」(loss of oversight)報告也提醒，監管能力需要從設計、訓練到部署各階段主動建置。
三、代理型AI成為治理新標的
第三個趨勢，是治理對象由「模型的輸出內容」推進到「能自主行動的系統」。具自主規劃與工具調用能力的代理型AI，已成為各國治理框架的新焦點。
新加坡率先發布全球首份由政府發布、代理專屬的《AI代理治理框架模型》(Model AI Governance Framework for Agentic AI)；澳洲偕同五眼聯盟發布《審慎導入代理式人工智慧服務》，提醒最小權限、人為介入(human-in-the-loop)等共通原則。治理所關注的範圍，已從「它會不會答錯」擴大到「它能自己動手做多少事」。
代理本身也是可能被攻擊的弱點所在，政策因而必須跟上技術發展。對應的治理方向，是從代理的身分與授權著手：NIST 旗下國家網路安全卓越中心(NCCoE)的概念文件主張把既有身分協定與模型上下文協定(Model Context Protocol, MCP)納入代理治理，並將「可稽核性」列為必要條件；德國聯邦資訊安全局(BSI)的查核表則援引「代理人雙重法則」(Agents Rule of Two)，避免單一代理同時握有讀取機敏資料、接收不可信輸入與對外執行三種權限。最小權限與可稽核性，正成為公務機關導入代理時的政策底線。
代理與前沿模型的能力躍進，也開始牽動國家層級的因應。日本的「Project YATA-Shield」即是一例：以 Anthropic 前沿模型 Claude Mythos Preview 展現的自主漏洞挖掘能力為觸發點，日本分別針對關鍵基礎設施業者、軟體廠商與政府機關發布分眾警示與修補要求，並規劃由日本AI安全研究所與英國等外國同類機構協作評估前沿模型，形成把「前沿模型能力」直接連動到國家資安回應的機制。韓國則向約2.8萬家企業資安長(CISO)發出強化要求，並提出以自主技術為基礎的「AI資安主權」目標。近日，美國CISA偕G7多國發布的《AI軟體物料清單最低要素》(SBOM for AI)，則嘗試為代理與AI供應鏈的透明化建立共通的揭露格式。
小結
綜觀上半年，各國做法雖有差異，其方向卻相近：在確保AI主權的前提下同步提升AI安全與資安，並讓治理由原則宣示走向制度落地、由規範模型輸出走向治理自主系統。我國其實也在同一波浪潮上：《人工智慧基本法》已於今年一月公布施行，因此，當前課題已不在「要不要立法」，而在如何落實包括風險分類框架的建立、各機關的AI風險評估與使用規範等。
前述國際趨勢正可作為落地階段的參照：在量測的部分，各國多已投入資源建置AI安全研究機構與測試量能，值得我國及早布局；代理AI的身分、權限與可稽核性等，宜研究如何導入相關的安全規範；治理方向上，則需要持續思考如何強化資安事件監控與事後韌性等面向。

資料來源：國家資通安全研究院資安週報重點節錄