ChatGPT等生成式AI导致网络钓鱼邮件攻击暴增，警惕网络安全风险生成式AI网络钓鱼攻击增长

发表时间: 2023-04-04 22:31

随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。

更新后，跟据全球媒体的反馈来看，GPT-4相较于GPT-3.5确实有很大的性能提升，但好景不长，性能提升不小的新版ChatGPT仍然出现了之前老版本的ChatGPT的“胡言乱语”的问题，甚至还出现了其他的信息安全问题。

今日消息，根据网络安全公司Darktrace公布的最新研究报告，攻击者使用ChatGPT等生成式AI，通过增加文本描述、标点符号和句子长度，让社会工程攻击量增加了135%。

报告中还指出全球30%的员工过去曾因欺诈性电子邮件或短信而上当受骗。此外，87%的人担心在线提供的有关他们的个人信息量可能会被用于网络钓鱼和其他电子邮件诈骗。

在过去6个月中，诈骗电子邮件和短信的频率增加了70%，并且79% 的公司垃圾邮件过滤器错误地阻止了重要的合法电子邮件进入他们的收件箱。

此外，据外媒报道，三星电子引入聊天机器人ChatGPT不到20天就发生了3起涉及ChatGPT的事故，其中2起与半导体设备有关，1起与会议内容有关。

三星最近曝出的一起涉及机密信息泄露的事故，涉及半导体设备测量数据、产品良率等，这些机密信息已被存储在ChatGPT数据库中。

为了防止类似事故再次发生，三星正在制定相关的保护措施。如果今后发生类似事故，三星可能切断ChatGPT服务。

在此前，意大利数据保护机构称对ChatGPT的禁止和调查已于3月31日“立即生效”，意大利数据保护机构表示，该模型存在隐私问题。

而在此前，人们一直担心AI的潜在风险，包括它对工作的威胁以及错误信息和偏见的传播。本周早些时候，包括埃隆・马斯克在内的相关行业人士呼吁暂停开发更高级的AI系统。意大利数据保护机构则表示，意大利不仅会阻止OpenAI 的聊天机器人，还会调查它是否符合通用数据保护条例。

此外，爱尔兰数据保护委员会也表示，该机构正在与意大利监管机构跟进，以了解他们采取行动的依据。

据之前的报道，OpenAI的首席执行官奥特曼曾公开承认开源库中出现错误，导致部分用户与ChatGPT的聊天记录被泄露。

此外，由于这次GPT-4的性能提升幅度很大，不少国内外的科技媒体预测其将会在未来的几年之内迅速成长为可以独立思考的AI，但是否可控、性能怎样都无法得知，也使得不少AI顶级研发人员表示，需要暂停研发下一代的语言模型，直到其可控为止。

目前相关安全问题正在持续出现报道中，感兴趣的小伙伴可以保持关注。

ChatGPT等生成式AI导致网络钓鱼邮件攻击暴增，警惕网络安全风险