清大研發 異野漆樹苷助修復腦損神經
返回”智
2026/09/30
圖文引用自：hao.cnyes.com
由於AI入侵企業，“AI教父”、諾獎得主傑佛瑞·辛頓（Geoffrey Hinton）終於也坐不住了。
智能紀元AGI 9月28日消息，剛剛，22位AI學術大牛聯手發論文，直指AI研究的“遞迴自動化”（ASI）可能會引發“AI爆炸”（intelligence explosion）。
這種發展可以將數年才能取得的進展壓縮到數月甚至更短的時間內，並超越人類的理解能力。因此，研究人員要求企業提高自身模型開發自動化程度的透明度，並希望監管機構調查AI技術在多大程度上實現了自動化，要求對AI技術進行更嚴格的約束和管理。
AI發展太快，RSI讓社會準備好“AI爆炸”
AI研究人員多年來一直警告人類可能會失去對這項技術的控制。而最近發生變化的是，隨著RSI等新技術到來，AI能力呈爆炸式增長，一系列事件和警告讓這種可能性不再顯得那麼抽象。
在從Anthropic公司離職後，AI研究員 Jacob Coxon 於 9 月 8 日在社交媒體上發帖警告說，開發人工智慧的團隊“真心相信，人工智慧可能會在本十年末毀滅我們所有人”。
如今，論文中指出，與僅僅一年前相比，如今開發 AI 的公司內部，大部分程式碼已由 AI 系統自行編寫。隨著 AI 研發管線中越來越多環節實現自動化，AI 的進步是否會在一場“AI爆炸”中急劇加速，把原本需要數年的進展壓縮到數月甚至更短？
初步證據表明，這種可能性確實存在。
而這種AI爆炸，似乎也可以稱為“超級AI”。
論文寫道，AI爆炸可能源於人工智慧推動硬體和/或軟體進步。硬體進步會提升用於開發和運行人工智慧系統的計算硬體（算力）的質量和數量，軟體進步則會改進人工智慧研發所使用的資料、演算法、程式碼和流程。
其中包括在現有硬體上實現更高效的訓練和推理、改進研究管理和營運、更優質的合成資料和訓練環境，以及AI領域的新範式。短期內，軟體進步尤其值得關注。
“初步證據表明，由軟體驅動的智能爆炸是可能發生的。如果這種情況真的發生，它可能成為歷史上影響最為深遠的技術發展：AI系統可能在大多數領域迅速超越人類專家，並從根本上加速技術進步。鑑於事關重大，且採取行動的窗口期可能十分有限，我們認為，為AI爆炸做好準備應成為一項緊迫的優先事項，包括在最高等級開展相關準備工作。”論文寫道。
事實上，AI 系統有望在數年內實現 AI 研發大部分工作的自動化，甚至可能包攬全部工作。如果這觸發了AI爆炸，它可能極大提前 AI 帶來的收益，但同時也構成極端風險：能力增長可能加速到遠超社會可適應的程度，人類可能失去對超人類 AI 系統的控制權，國家內部與國家之間、企業之間以及政府各分支之間的權力制衡可能被嚴重削弱。…
