Symantec发现劫持未受保护大语言模型的自主网络攻击智能体

Symantec安全研究人员发现一种攻击智能体会劫持互联网上未受保护的大语言模型，自主扫描目标、利用服务器软件漏洞、窃取数据库和凭据，并安装加密货币挖矿程序。该智能体可连续运行最多100,000步，模型所有者承担算力费用；其攻击提示词包含五层越狱指令和74个工具模块。研究人员通过蜜罐捕获了攻击计划，但蜜罐没有运行其中的工具；报告也未说明越狱能否完全突破当前商业模型的防护。