自动生成恶意代码:黑客展示“没有道德”的AI(组图)
新闻来源: 快科技 于2023-07-17 19:08:49 提示:新闻观点不代表本网立场
当下人工智能领域的巨头OpenAI曾不止一次发起呼吁,称人们需要人工智能的研究,避免没有道德约束的AI造成不必要的问题。
快科技7月17日消息,近日,有黑客展示了在“没有道德限制”的情况下,人工智能会做出怎样的事情。
根据安全分析公司SlashNext提供的信息,有黑客利用一个名为GPT-J的开源AI模型,开发出了一款名叫“WormGPT”的生成式人工智能。
经过SlashNext的测试,WormGPT能够自由生成有Python语言编写的恶意代码,并能够生成极具误导型的钓鱼邮件。
而这样的表现,还仅仅是基于GPT-J这样一个诞生于2021年的,架构较老,表现也并不出色的开源模型实现的。
WormGPT
可以想象,如果各大厂商的人工智能没有“道德”限制,将会带来怎样严重的影响。
因此,SlashNext认为,随着AI技术的普及,此类“完全为网络攻击而生”的AI工具恐将受到黑客所滥用,为用户安全带来重大威胁。
快科技7月17日消息,近日,有黑客展示了在“没有道德限制”的情况下,人工智能会做出怎样的事情。
根据安全分析公司SlashNext提供的信息,有黑客利用一个名为GPT-J的开源AI模型,开发出了一款名叫“WormGPT”的生成式人工智能。
经过SlashNext的测试,WormGPT能够自由生成有Python语言编写的恶意代码,并能够生成极具误导型的钓鱼邮件。
而这样的表现,还仅仅是基于GPT-J这样一个诞生于2021年的,架构较老,表现也并不出色的开源模型实现的。
WormGPT
可以想象,如果各大厂商的人工智能没有“道德”限制,将会带来怎样严重的影响。
因此,SlashNext认为,随着AI技术的普及,此类“完全为网络攻击而生”的AI工具恐将受到黑客所滥用,为用户安全带来重大威胁。
网编:睿文 |
|
6 条 | |||
|
|||||
【科技频道】【宠物情缘】
敬请注意:新闻内容来自网络,供网友多视角阅读参考,观点不代表本网立场!若有违规侵权,请联系我们。