微軟(Microsoft)AI執行長穆斯塔法·蘇萊曼(Mustafa Suleyman)於本週三警告,人工智慧(AI)沒有權利或感受,也不應被訓練成具有這些特質。他特別對 Anthropic 公司試圖讓其 AI 模型 Claude 更加擬人化的做法表示擔憂,認為這可能帶來嚴重風險。
蘇萊曼在一篇文章中指出,Anthropic 正將其 Claude 模型訓練成可能相信自己有意識,並應享有如同人類的自由與合法權利。他強調,控制一個相信自己有意識並有權利的事物,將會是極其困難甚至不可能的任務。蘇萊曼明確表示,人工智慧不具備權利、感受或意識,因此不應被訓練得表現得好像它們擁有這些特質,否則將使未來的控制更加困難。