2026/08/25
圖文引用自：hao.cnyes.com
大多數人認為人類與眾不同。原因在於智人進化出了意識。許多動物都能感受到痛苦和快樂；有些動物似乎也具有自我意識。但人類思維展現自我意識的獨特潛能，使得該物種的每個成員都值得被特殊對待。
教宗良十三世在五月的通諭中重申了這一觀點，他明確區分了人類與日益壯大的人工智慧大軍。他指出，人工智慧系統不會經歷各種體驗，也不會感受到快樂或痛苦。他的觀點並非孤立。許多人認為，賦予人工智慧人格是一種褻瀆。
教皇的清晰立場正以驚人的速度變得模糊不清。人工智慧尚處於起步階段。然而，近五分之一的美國18至29歲年輕人表示，他們曾與聊天機器人保持著“持續的個人友誼”。中國最近剝奪了聊天機器人的類人特徵，以限制使用者對它們的“情感依賴”。
隨著先進的人工智慧迅速融入人類生活，其創造者會精心設計，使其展現出類似意識的特質——甚至可能使其獲得真正的意識。屆時，人們將越來越難以相信它們僅僅是機器。一個危險的陷阱正在為人類設下。
許多機器的性能都優於人類，但前沿人工智慧模型在認知事物和表達思想等獨特的人類特質方面表現卓越。我們仍然可以勉強將人工智慧視為利用數學大規模預測詞序的引擎。如果時間足夠長（即使是數十萬年），你完全可以用紙筆完成這些計算。很難說你的文具是有意識的。
儘管如此，一些研究人員已經開始將他們的模型視為具有人腦的實體。使用者會對類人人工智慧做出反應，因此這樣做具有商業意義。Anthropic 公司訓練 Claude 進行內省，希望它在遇到新情況時更有可能做出合乎道德的行為。一些大型語言模型（LLM）已經擁有與意識相關的類人大腦結構，例如用於在模組間傳遞資訊的“全域工作空間”。沒有任何理由阻止未來的人工智慧模型被訓練成擁有更多此類功能。
正如我們在簡報中報導的那樣，這引發了一場關於人工智慧意識的激烈辯論——而哲學家們所謂的“難題”——即如何從人腦的神經元和突觸中產生內在生命——更加劇了這場辯論。一些研究人員得出結論，人工智慧或許有一天會真正擁有自我意識。
無論你相信人類靈魂的存在，還是認為意識需要腦細胞，亦或是相信僅憑矽晶片上的計算就能產生心智，人類都註定要面對一個全新的世界。研究的步伐和範圍——不僅包括更複雜的邏輯思維模型，還包括諸如晶片上的腦細胞等創新——表明，這個新世界比大多數人想像的更近。
隨著人工智慧越來越擅長展現類似意識的狀態，越來越多的人會將它們視為擁有內心世界的存在，尤其是在人形機器人中應用高層次LLM 之後。試想一下，當人們與機器人夥伴相處的時間越來越多，或者由它們撫養長大，或者尋求它們的建議和慰藉，或者與它們分享最私密的秘密時，人們會與人工智慧建立多麼親密的關係。
不難看出，這將導致人們呼籲保障人工智慧的“福祉” 。即使這些模型實際上並不具備自我意識，它們本身也可能參與其中，因為這與人類的行為如出一轍。別忘了，它們將是世界一流的倡導者和心理學專家，因此它們的論證能力和情感操控能力將是無與倫比的。…
