LLMs unlock new paths to monetizing exploits
Nicholas Carlini, Milad Nasr, Edoardo Debenedetti, Barry Wang, Christopher A. Choquette-Choo, Daphne Ippolito, Florian Tramèr, Matthew Jagielski
我们认为大型语言模型(LLM)将很快改变网络攻击的经济学。 LLM不是攻击最常用的软件,而是通过针对受害者中最低的共同点来攻击最常用的软件并将漏洞利用货币化,而是使对手能够在用户的基础上发起量身定制的攻击。 在开发方面,而不是人类攻击者在拥有数百万用户的产品中手动搜索一个难以识别的bug,LLM可以在拥有数千个用户的产品中找到数千个易于识别的bug。 在货币化方面,而不是通用的勒索软件,总是执行相同的攻击(加密你所有的数据,并要求付款解密),LLM驱动的勒索软件攻击可以根据每个被利用的设备的特定内容来定制赎金需求。 我们表明,这两种攻击(以及其他几个攻击)使用最先进的LLM迫在眉睫。 例如,我们表明,在没有任何人为干预的情况下,LLM在安然电子邮件数据集(例如,与另一名员工有暧昧关系的高管)中发现高度敏感的个人信息,这些信息可用于勒索。 虽然我们的一些攻击仍然过于昂贵,无法广泛扩展,但随着LLM变得越来越便宜,实施这些攻击的激励措施只会增加。 因此,我们认为LLM需要新的深入防御方法。
We argue that Large language models (LLMs) will soon alter the economics of cyberattacks. Instead of attacking the most commonly used software and monetizing exploits by targeting the lowest common denominator among victims, LLMs enable adversaries to launch tailored attacks on a user-by-user basis. On the exploitation front, instead of human attackers manually searching for one difficult-to-identify bug in a product with millions of users, LLMs can find thousands of easy-to-identify bugs in pro...