蔡鎤銘/淡江大學財務金融學系兼任教授
人工智慧正在跨越一個重要門檻。過去的AI主要接受指令、提供答案，如今的AI代理程式則逐漸具備規劃任務、使用工具、讀取資料、操作軟體與自主採取行動的能力。當AI從「回答問題」走向「替人做事」，真正棘手的問題也隨之出現：如果AI可以自主行動，誰能夠控制它？當它出現錯誤或造成危害，又由誰負責？
這已不只是科幻小說中的想像。2026年，美國國家標準暨技術研究院（National Institute of Standards and Technology，NIST）針對AI代理程式安全展開一系列研究，顯示傳統網路安全原則雖然仍然重要，卻必須因應AI代理程式的新特性加以調整。問題核心已從「模型會產生什麼答案」，進一步轉向「模型取得什麼權限，以及能夠採取什麼行動」。
因此，美國的AI安全之爭其實是一場更深層的控制權競賽。政府希望確保國家安全與科技優勢，企業則希望保留技術與產品自主性；州政府關注安全與權益，國際社會則擔心AI競爭演變成新的安全困境。誰能控制AI，以及如何控制，正在成為AI時代最重要的治理問題之一。
從AI競賽走向控制權
美國目前的AI政策，已將科技發展與國家安全高度結合。2025年7月公布的《美國AI行動計畫》，提出超過90項聯邦政策行動，涵蓋加速創新、建設AI基礎設施，以及國際外交與安全三大方向。美國不只是要發展最先進的AI，也希望把美國的AI技術、標準與產業體系推向全球。
2026年6月，川普發布行政命令，要求強化政府與關鍵基礎設施的AI資安防護，並建立機密性的前沿模型基準測試程序，評估先進AI模型的網路攻擊能力。同時，行政命令設計的是與企業合作的自願性框架，而非強制性的AI模型事前許可制度。
這裡存在一個難以迴避的矛盾。AI越重要，政府越不能完全放任；但政府介入越深，也可能增加企業成本、影響創新速度。因此，美國真正面對的並不是單純「要不要監管AI」，而是如何在科技競爭與安全治理之間建立合理邊界。
AI代理程式讓安全問題升級
AI代理程式的出現，使問題更加複雜。2026年2月，NIST推出「AI代理程式標準倡議」，把安全、身分認證、授權及不同系統間的互通性列為重要方向。同月公布的概念文件也特別關注AI代理程式取得資料、工具與應用程式權限後所產生的風險，包括身分識別、授權、稽核及提示注入防護。
2026年3月，NIST分析一項大規模AI代理程式紅隊測試，涵蓋13個前沿模型及超過25萬次攻擊嘗試，結果在所有受測模型中都至少發現一次成功的代理程式劫持攻擊。這並不代表AI已經失去控制，而是顯示當AI能讀取外部資料、使用工具並執行任務時，其攻擊面遠大於單純聊天模型。
2026年5月，NIST進一步發布AI代理程式安全資訊徵詢回應分析。各界普遍認為，AI代理程式產生了新的安全威脅，既有網路安全原則仍然重要，但需要調整；政府則可在實施指引、資訊共享與標準制定方面發揮作用。
因此，AI安全的概念已經改變。過去主要檢查模型「說了什麼」，未來更需要檢查模型「能做什麼」。當AI可以讀取郵件、操作軟體、存取企業資料甚至執行程式時，真正的安全邊界便是模型、權限、工具與數位環境的總和。
政府與企業的控制權之爭
更敏感的問題，是政府與AI企業究竟誰擁有最後決定權。當AI只是商業產品時，企業可以透過使用條款決定技術用途；但當AI逐漸進入國防、情報、政府行政及關鍵基礎設施，國家安全要求便可能與企業自身設定的安全原則發生碰撞。
Anthropic與美國國防部的爭議就是具體案例。Anthropic拒絕取消對完全自主武器及大規模監控用途的限制後，國防部將其列為國家安全供應鏈風險。2026年8月，加州聯邦法院曾阻止相關措施；9月25日，華盛頓特區聯邦上訴法院則以2比1裁決支持國防部的決定。雙方仍可能繼續法律攻防。
這場爭議凸顯一項前所未有的治理問題：私人企業能否以自身安全原則拒絕政府要求？政府又能否以國家安全為由，要求企業放寬安全限制？如果完全由企業決定，可能缺乏公共監督；如果完全由政府決定，也可能壓縮企業的技術自主與安全研究。
比較重要的不是誰取得絕對控制權，而是建立清楚的法律授權、透明風險評估、獨立安全測試，以及可以接受司法審查的政府介入程序。
中國大陸帶來的競爭壓力
AI安全之所以成為美國國家戰略問題，也與中國大陸的科技發展密切相關。美國已將AI視為經濟、軍事與國際影響力的重要基礎技術，並推動向盟友及夥伴輸出包括硬體、模型、軟體、應用程式與標準在內的完整AI技術體系。
這使AI競爭不同於一般商業競爭。誰掌握先進模型，不只是誰取得更高營收，也可能影響網路安全、國防系統、科研能力與數位基礎設施。美國與大陸因此都面臨「速度」與「安全」之間的兩難。
但AI安全也可能成為雙方必須保持溝通的領域。AI代理程式涉及跨境網路攻擊、金融系統或能源設施時，風險不會因國界而消失。即使存在科技競爭，最低限度的安全對話、事故通報與風險控制仍具有必要性。
台灣不能只當AI使用者
對台灣而言，美國AI安全之爭最重要的啟示，是不能只關注取得多少先進模型，更要建立自己的AI安全治理能力。台灣《人工智慧基本法》已於2026年1月14日公布，確立永續發展與福祉、人類自主、隱私保護與資料治理、安全、透明與可解釋、公平及可問責等基本原則。法律同時要求建立風險分類、評估驗證及高風險AI責任等治理機制。
2026年7月，數位發展部正式發布「人工智慧風險分類框架」，要求各主管機關依序盤點AI應用情境、識別風險、評估影響，再提出相應措施。這種風險導向模式的價值，在於不把所有AI一體看待，而是依據實際用途與可能造成的影響決定管理強度。
下一步更值得關注的，是將這套制度延伸至AI代理程式。台灣需要明確界定AI可以讀取哪些資料、使用哪些工具、執行哪些指令，以及哪些高風險決策必須保留人工確認。同時應發展獨立的AI測試與驗證能力，將提示注入、資料外洩、權限濫用、模型錯誤及代理程式自主行動納入測試範圍。
對高度依賴半導體、金融、電信、能源、交通與醫療數位系統的臺灣而言，AI安全更應成為國家韌性的一部分。真正需要問的不是「AI能不能完成這項工作」，而是「完成這項工作需要給AI多少權限」。權限越大，人工覆核、稽核紀錄、異常監控與緊急中止機制就越重要。
不能讓速度取代安全
AI治理最危險的情況，不一定是某個模型突然失控，而可能是所有開發者都因競爭壓力而不願放慢速度。當企業擔心競爭者搶先推出更強大的模型，國家又擔心安全規範使自己落後，便容易形成「人人知道有風險，卻沒有人願意先踩煞車」的局面。
因此，完整的AI安全制度必須涵蓋模型發布前測試、部署時權限管理、持續紅隊測試、異常行為監控，以及重大事故通報與追蹤。AI可以犯錯，但必須讓錯誤可追蹤、權限可限制、行動可中止。
誰將控制人工智慧？從目前發展看，答案不會是某一個政府，也不會是某一家企業。真正需要建立的是政府、企業、研究機構與國際社會之間的制衡架構。
對美國而言，關鍵是如何在科技領先與安全監督間取得平衡；對全球而言，則是如何避免AI競爭變成沒有人敢踩煞車的技術競賽；對臺灣而言，則必須把AI安全從法律原則進一步轉化為模型評測、資料治理、權限管理、資安防護與事故應變能力。
最終真正需要控制的，不是AI本身，而是AI所擁有的權限。誰能掌握權限、標準、資料與安全驗證能力，誰就更有能力確保強大的AI仍然在人類可以監督與介入的範圍內。這才是美國AI安全之爭對台灣最值得重視的啟示。
※以上言論不代表梅花媒體集團立場※