湯紹成／亞太綜合研究院院長
2024年諾貝爾物理學獎得主辛頓（Geoffrey Hinton），這位被譽為「AI教父」、又親手推動AI革命的科學家，如今卻成為最積極提出警告的人之一。他最近又再度指出，假如AI任由發展，而人類沒有建立有效的安全機制與治理規範，未來可能造成非常嚴重甚至難以挽回的災難。
辛頓的警告並不是要人類停止科技進步，而是提醒我們：AI的發展速度，可能已經超過人類理解、控制與立法的速度。過去的電腦只是被動執行人類輸入的指令，但是新一代AI不僅能夠學習、推理和生成內容，還逐漸具備規劃任務、使用工具以及自主採取行動的能力。當AI開始被賦予目標時，它可能自行推導出人類並未設定的結果。
AI為了達成目的 可能不擇手段
問題正在於此。AI不一定具有惡意，假如人類要求AI「提高企業效率」，它可能把裁員、壓低工資或全面監控員工視為最有效的方法；假如要求它「維護國家安全」，它也可能把限制言論、擴大監控甚至先發制人的攻擊，判斷為合理手段。可見，真正的危險是來自AI擁有強大能力，卻缺乏人類的倫理、同理心與責任感，因為AI為了達成目的，可能不擇手段。
此外，AI的風險已經成為現實問題，比如假訊息、深度偽造、網路詐騙、自動化武器和演算法操控輿論等。當少數科技公司掌握模型、算力、資料與平台，大型AI系統甚至可能形成新的權力集中。若政府只關心產業競爭，企業只追求市場占有率，各國又陷入「誰先發展、誰就領先」的競賽，安全與倫理便很容易被視為阻礙創新的負擔。
因此，AI治理不能只依靠科技公司的自律，也不能等到災難發生後才補救。各國應建立模型測試、風險分級、事故通報與責任追究制度；對於軍事、金融、醫療和公共治理等高風險領域，更必須保留「人在決策迴路中」(human-in-the-loop)，不得把生殺、戰爭及重大公共決策完全交給機器。
同時，國際社會也應比照核能、航空與生物安全，建立跨國監督及資訊共享機制。多位AI研究者已主張，面對可能導致大規模傷害乃至失去控制的風險，現有治理措施仍遠遠不足。
辛頓的警告最值得重視之處，在於他是深知AI這項技術如何形成、又可能走向何方的開創者。人類真正需要思考的，不是AI會不會繼續發展，而是AI究竟要朝什麼方向發展、由誰控制，又為誰服務？
科技本身沒有方向，方向必須由人類決定。假如AI的能力不斷增長，而人類的倫理、制度與責任卻停滯不前，那麼我們所創造的，可能不只是協助人類的工具，也可能是人類再也無法掌控的力量。