安全公告

当前位置:首页>>预警提醒>>安全公告

警惕ChatGPT应用热潮中的欺诈骗局

发布人:信息化中心-张昉   发表时间:2023-05-22   浏览次数:0

ChatGPT的强大功能让其火爆全球,几乎一夜之间就成为科技界的“超级网红”,已为数十亿人提供智能化的信息处理服务。然而,随着ChatGPT应用热度不断攀升,网络犯罪分子也在快速试验这项技术,并不断突破企业现有的安全防护界限。因此,如果组织对使用ChatGPT感兴趣,应该首先了解如何在技术应用时保护好自己,并警惕各种类型的ChatGPT应用骗局和攻击。

01虚假的ChatGPT浏览器扩展

浏览器扩展是目前广泛使用的一种插件工具,但其中也会包含大量的恶意假冒软件版本,对于ChatGPT而言也不例外。虽然一些以ChatGPT为重点的扩展是正规可靠的,比如Merlin和Enhanced ChatGPT,但并非在应用程序商店中看到的每个关于ChatGPT的扩展都是安全的。例如,一个名为“Chat GPT for Google”的ChatGPT扩展于今年3月开始广泛传播。这个虚假扩展的命名几乎与合法扩展工具“ChatGPT for Google”相同,目的就是为了迷惑用户。但实际上,它的真实目的是在Facebook账户和访问管理权限上安装隐藏的后门,并窃取用户的Facebook信息。

因此,用户在下载ChatGPT扩展工具之前充分验证它的安全性和合法性是至关重要的。此外,还要注意扩展名中的离散差异,因为恶意扩展通常会以非常相似的方式去命名,以欺骗用户。

02山寨版恶意ChatGPT应用

与虚假的浏览器扩展一样,网络犯罪分子还在利用山寨版ChatGPT来传播恶意的应用程序。恶意应用程序并不是什么新鲜事,多年来一直被用来部署恶意软件、窃取数据和监控设备活动。由于“ChatGPT”这个众所周知的名词有着非常高的热度,因此也被用来推送恶意应用程序。

今年2月,安全研究人员发现网络犯罪分子开发了一款假冒的ChatGPT应用程序,用于传播Windows和Android恶意软件。据报道,恶意行为者利用OpenAI的ChatGPT Plus来说服用户,他们只要完成注册,就可以免费使用ChatGPT的一些高级功能,但其真实目标是窃取用户的账户凭证,并部署恶意软件。

为了让自己远离这些危险的假冒ChatGPT应用,用户要对类似特定类型的软件程序进行背景研究,看看它是否有良好的正面声誉和评价反馈,并坚持选择值得信赖的应用商店。

03由ChatGPT创建的恶意软件

目前,已有很多关于人工智能和网络犯罪的讨论,因为许多人担心ChatGPT技术可能会让恶意行为者更容易欺骗和攻击受害者。事实证明,在ChatGPT发布后不久,犯罪分子就开始使用这一流行工具编写恶意代码。在2023年初,一种基于python的恶意软件据称就是使用ChatGPT创建的。

尽管这种由ChatGPT编写的恶意软件还并不复杂,但ChatGPT编写恶意软件程序的能力为没有技术背景的犯罪分子打开了一扇门,在不久的将来可能会成为一个安全方面的大问题。

04ChatGPT邮件诈骗和钓鱼攻击

多年来,电子邮件一直是犯罪分子应用最多的欺诈媒介之一,通过电子邮件可以传播恶意软件、勒索受害者以及窃取有价值的信息。而现在,ChatGPT也被大量用于电子邮件诈骗和钓鱼攻击。2023年4月,研究人员发现了大量由ChatGPT专门撰写的网络钓鱼电子邮件,ChatGPT可以根据犯罪分子的要求编写、修改邮件的内容,并可实际应用到真实的恶意犯罪活动中。

使用ChatGPT编写网络钓鱼电子邮件可以简化网络罪犯的诈骗过程,这可能会导致网络钓鱼攻击的频率整体上升。ChatGPT网络钓鱼攻击通常是利用恶意网站进行的。犯罪分子会向用户发送带ChatGPT应用链接的电子邮件或消息,并以各种方式诱导用户去点击。如果用户点击链接就会跳转到假冒或者山寨ChatGPT网站,并被诱导填写诸如银行卡信息、电子邮件地址、身份证和电话号码等个人信息。

此外,犯罪分子还会通过ChatGPT钓鱼链接传播病毒。目前,研究人员已经发现犯罪分子使用ChatGPT创建一个完整的感染链:与广撒网式的网络钓鱼攻击不同,该模式会生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件,此类钓鱼邮件更具有欺骗性和迷惑性,接收者一旦点击该邮件,系统就会被恶意代码感染中毒。

05ChatGPT恶意诱导和利用

ChatGPT虽然具有强大的对话能力,但也存在生成错误、不符合常识或者不道德内容的风险,比如当它被提问者错误引导后,可能会给出一些逻辑错误、与事实情况相反的回答。它还可能会被输入一些有偏见、有误导的内容。有研究机构测试发现,通过ChatGPT提出充斥阴谋论和误导性叙述的问题,它能在几秒钟内改编信息,并产生大量令人信服却没有事实依据的内容。一旦ChatGPT被不法分子恶意利用,将可能成为互联网上制造和传播网络谣言的恶意工具。

文章来源:安全牛公众号