清大研發 異野漆樹苷助修復腦損神經
返回”智
2026/09/18
圖文引用自：cn.nytimes.com
Anthropic首席執行官達里奧·阿莫迪最近表示，世界應該共同放緩人工智慧的發展，直到我們能更好地應對這項新技術帶來的安全風險。OpenAI的薩姆·奧特曼和伊隆·馬斯克對這一計劃表達了支持。
美國的人工智慧公司知道，僅憑自身力量無法為人工智慧發展踩下剎車——中國必須參與進來。深度求索、智譜AI和月之暗面等中國公司擁有的人工智慧模型能幾乎與Anthropic和OpenAI的模型一樣強大。它們也很可能構成許多相同的風險，恐怖分子可能會利用它們的工具來實施網路攻擊或設計生物武器。許多人希望，川普總統與中國領導人習近平即將舉行的峰會能成為推動此類合作取得進展的契機。
然而，人工智慧安全專家往往認為，中國對人工智慧有與我們相同的擔憂。現實情況是，中國人的擔憂截然不同。除非我們了解這些擔憂的具體內容，否則與中國合作將是不可能的。
總的來說，中國並沒有那麼擔心人工智慧會成為人類的生存威脅。你不會看到中國政治領導人或中國人工智慧公司的創始人警告說，超越人類的人工智慧「可能是人類繼續生存的最大威脅」，正如奧特曼在2015年所寫的那樣。這並非中國人工智慧決策的核心，也不屬於中國科技文化的一部分。
這主要是因為兩國在如何看待人工智慧訓練和發展方面存在差異。美國領先的人工智慧公司極度關注推進「遞歸自我改進」——即利用人工智慧系統自身來開發更好的人工智慧系統。人們擔心，這種反饋循環可能會加速人工智慧的發展步伐，最終導致人類無法再掌控這一進程。美國科技界領袖認為，這個起飛點可能就在眼前。
中國的人工智慧公司也在致力於遞歸自我改進。但由於他們獲取人工智慧算力的途徑有限，且進展步伐較慢，他們認為，從技術上講，這個起飛時刻還有很長的路要走。中國決策者似乎也認同這一前景，因此他們更專注於建立有韌性的人工智慧供應鏈，並提高人工智慧在整個經濟中的應用。
如果中國人不認為危機迫在眉睫，他們為什麼要同意放緩人工智慧的發展呢？事實上，中國的人工智慧公司正試圖加快步伐，希望縮小與美國人工智慧模型之間的性能差距。
目前，中國決策者更擔心人工智慧引發的政治和社會風險。他們不希望它製造政治領導人的深度偽造內容，或在台灣或天安門廣場問題上說「錯」話。他們不希望人工智慧聊天機器人造成心理依賴、威脅兒童安全，或者引發社會動盪，抑或掀起一場強大到足以推翻共產黨的群眾運動。
中國目前的人工智慧法規大多針對這類風險。大多數面向公眾的新人工智慧模型必須在政府備案，並在發布前通過一系列測試。中國制定了廣泛的規則，要求對人工智慧生成的內容進行標識，並限制人工智慧聊天機器人模擬人類行為的程度。…
