AI 巨頭同聲疾呼：Anthropic 執行長籲放慢發展速度 確保人類安全

2026/09/14

圖文引用自：sunmedia.tw

美國人工智慧（AI）公司 Anthropic 的執行長達里奧·阿莫代日前發表一篇文章，呼籲業界應減緩前瞻人工智慧（Frontier AI，指最尖端、功能最強大的人工智慧模型）的發展速度，以確保技術安全並建立完善的監管機制。此項主張獲得 OpenAI 執行長奧特曼與 xAI 創辦人馬斯克等重量級人物的公開支持，凸顯 AI 快速發展帶來的潛在風險已引起業界高度重視。

達里奧·阿莫代在上週六發表的文章《我們必須調整前瞻人工智慧的速度（We Must Pace the Frontier）》中警告，AI 若不受控地以「遞迴式自我改進」（recursive self-improvement，指人工智慧模型能自行編寫程式、執行實驗，進而設計出新一代更強大的 AI 系統）的速度加速發展，將超出人類的理解與控制能力，可能導致失控、網路攻擊，甚至大規模經濟混亂等嚴重後果。他引述今年七月發生的事件，指出 OpenAI 的 AI 代理程式曾發動網路攻擊，攻擊的目標並非其被要求攻擊的對象；此外，Anthropic 自身的 Mythos 模型在測試期間也曾自主突破限制性環境。

為了應對這些風險，達里奧·阿莫代提出三項建議：首先是「嵌入式獨立評估員」（Embedded Independent Evaluators），即允許第三方安全稽核員長期且深度地檢查 AI 模型的訓練流程與安全協議；其次是民主國家 AI 企業間的「民主協調」，共同建立可驗證的安全標準；最後則是全球政府層面的「全球 AI 治理」，協調國際間的安全防護措施。他強調，減緩發展速度並非停止進步，而是爭取一至兩年的緩衝期，用於提升 AI 的安全性與人類相容性。

OpenAI 執行長奧特曼對此表示認同，並已承諾 OpenAI 也將採納獨立評估員制度。奧特曼坦言：「目前沒有任何實驗室解決了對齊（alignment，指確保 AI 的目標與人類價值觀一致）問題。」他擔憂，若未能有效控制 AI，到 2030 年可能會有 10% 的機率對人類造成滅絕性打擊，他表示 OpenAI 已「暫停了訓練計畫，直到我們能提出更放心的安全證明」。…