昔催生原子弹 橡树岭国家实验室今研究AI利弊
田纳西州橡树岭国家实验室(Oak Ridge National Laboratory)80多年前参与「曼哈顿计划」(Manhattan Project),协助催生第一枚原子弹;目前新人工智能(AI)狂热进行中,该国家实验室设立新的研究中心,研究对人类存亡绝续同样重要的AI,专注于了解该科技带来的希望与毁灭力。
华盛顿时报(Washington Times)报导,创办该中心的主任贝哥利(Edmon Begoli)正研究AI对人类可能造成的危害,他表示在意的是无情又有效率的AI系统带来的威胁。
他想像中的AI危险,倒不是依循好莱坞卖座系列电影「魔鬼终结者」(The Terminator)的剧情路线,说有邪恶科技工具试着伤害人类,而是一套链接力无所不在的AI系统,扩大「打击面」给黑客,很难避开。
贝哥利表示,这种AI系统如此无所不在,人无法后退、删除而与其他隔开,再强调一次,它倒不是有如什么更高智能,想杀害人类,而只是一套极擅长做它做的事,能伤害人类的原因,在站边错误。
贝哥利的实验室以外,AI安全研究也如火如荼。大受欢迎聊天机器人ChatGPT的开发厂商OpenAI去年也自组团队,钻研各项令人忧心的事,例如AI变成巨恶,能让人类灭绝。OpenAI去年7月警告说,有种危险是可能出现超聪明的AI系统,站错边又太聪明,人类无法节制。
过去六个月,OpenAI据说已跨越年营收20亿元的门槛;该公司研究AI危险的头号强敌Anthropic财测表示,2024年营收能达到8亿5000万元。
橡树岭国家实验室官网指出,其年度总预算约为24亿元,包办一切研究项目,由核子科学到先进运算。实验室的上级是能源部,工作动机与民间部门及学术界的学者并不相同。
贝哥利推崇OpenAI、Anthropic两公司的研究,但他指出,自己团队对黑客钻AI弱点的研究,创设出跳板,范畴是无与伦比的。民间公司专注于会影他们产品的威胁,但他的实验室获得授权,要研究更广的危险,还与国土安全部以及空军研究实验室(Air Force Research Lab)结盟。
FB留言