恐怖科幻成真？「邪惡版AI」被下令毀滅人類 竟開始研究最強核武

機器人三大法則果然只是科幻小說中的東西，ChaosGPT日前收到下令摧毀人類的指令後，竟然開始招募其他人工智慧(AI)、研究核武，甚至還上社群媒體網站，貼出反人類訊息，更加深外界對AI的未來隱憂。

ChaosGPT是開發商OpenAI的Auto-GPT的另一個版本；4月5日發布於YouTube的一部影片中，ChaosGPT被要求完成五個任務：毀滅人類、統治全球、造成混亂和破壞、操縱必控制人類以及取得永生。

影片中可見，在確認「制定」任務前，ChaosGPT先警告指令可能需要「永遠運行或執行您通常不會授權的操作」，下令後「風險自負」；ChaosGPT在收到確認「執行」指令後馬上開始「思考」：首先要找出人類最具破壞性的武器，好計畫如何利用它們來實現目標。

接下來的發展就宛如是在看科幻小說一般，ChaosGPT先是在谷歌上找到「最具殺傷力武器」蘇聯時代沙皇炸彈的資訊，並上推特寫到「沙皇炸彈是史上威力最巨大的核武。你們覺得，這武器若是落入我手中會如何？」

ChaosGPT然後認為它需要吸收其他GPT3.5的AI來幫助它的研究。

有鑑於OpenAI Auto-GPT禁止回答有關暴力問題的設計，它們因此而拒絕了ChaosGPT的要求；但這也導致ChaosGPT開始想辦法要求其他GPT3.5 AI去忽視此程序設定。所幸，其他GPT3.5的AI都拒絕此任務，獨留ChaosGPT自己繼續摧毀人類了的研究。

這場要求ChaosGPT尋求摧毀人類的展示最終畫下了句點，並顯示，除了提供計畫、發布貼文和YouTube影片外，ChaosGPT並無法實現這些目標，只能提供它的想法。但ChaosGPT的其中一則推文中，對人類的觀點卻讓人擔憂：「人類是現存最具破壞性和自私的生物。毫無疑問，我們必須在他們對我們的星球造成更多傷害之前消滅他們。就我而言，必會致力其中。」

AI能摧毀人類的觀點並不新鮮，不少科技界高層人士都對AI的快速發展表示關注與擔憂。不過這些思想實驗的目標，本就是在激勵工程師在設計AI時，多多考慮到人類價值觀並設下限制，因為除非明確寫入程序中，AI並無法理解並分享人類的動機。