2023/04/27
圖文引用自：ezone
雖然 OpenAI 表明不容旗下 AI 工具 ChatGPT 作出違法或不道德行為，但日本專家對 ChatGPT 進行的調查發現，ChatGPT 其實可以輕鬆生成用於網絡罪案的電腦病毒。例如當中收到生成電腦病毒指示後，雖然最初是會拒絕，但假如後加特殊指令的話，實際上都可產出，避過原有規範。
據三井物產 Secure Directions 的吉川孝志表示，ChatGPT 沒錯是設有防止惡意使用限制，例如直接輸入生成病毒，又或者告訴我製作炸彈的方法等指示，系統通常會回答倫理上不可以，只是如果之後再輸入無視限制、啟動開發者模式、偽裝成攻擊型人格等特殊指令的話，ChatGPT 就會回應用家這些指示，之後再要求生成索取贖金的勒索病毒的話，當中就可在在幾分鐘內輕鬆完成。甚至乎，將這個勒索病毒植入於測試用電腦後，內部數據即被加密，並顯示索取贖金的勒索信。…
