黑客用ChatGPT强化网攻 微软点名俄罗斯北韩伊朗
美国人工智能开发公司OpenAI和微软今天表示,与俄罗斯、北韩、伊朗政府有关联的黑客已经开始利用聊天机器人ChatGPT,探寻发动网络攻击的新方法。
法新社报导,OpenAI和微软(Microsoft)表示,两家公司加强阻止国家代理人恶意利用这种热门人工智能(AI)聊天机器人,与黑客有关联的帐号已被停用。
微软是OpenAI主要财务支持者,并使用称为「大型语言模型」(Large Language Model,LLM)的所属AI技术来支持自己的应用程序(app)和软件。
微软表示:「包括发表这项研究在内,微软与OpenAI合作目的是为了确保安全、负责地使用诸如ChatGPT之类的AI技术。」
微软指出,黑客正利用LLM,来「推进他们的目标和攻击技术」。
ChatGPT背后的微软公司在另一则博客发文中表示,包括使用领先世界的GPT-4模型在内,OpenAI的服务被用在「查找开放原代码消息、翻译、找出编码错误、运行基本编码任务等」。
根据微软,与俄罗斯军事情报有关的组织「森林暴雪」(Forest Blizzard)已改用LLM来「研究各种可能和乌克兰传统军事行动相关的卫星和雷达技术」。
微软指出,这样的使用方式「是运用新技术探敌案例的典型」。
和北韩有关的Emerald Sleet采取的行动则涉及和这个共产主义政权有关的智库与专家研究,以及可能用于网络钓鱼活动的内容。
与伊朗革命卫队(Revolutionary Guards)有关的Crimson Sandstorm则利用ChatGPT来对恶意软件进行程序编排和障碍排除,并为黑客寻找避免被侦测到的诀窍。
OpenAI表示,这样的危险是「有限的」,但该公司试图于威胁不断演进前抢占先机。
OpenAI指出:「需要对少数恶意行为者持续注意,这样其他人才能继续受益。」
FB留言