以色列特拉维夫大学的研究人员揭示了一种名为 HalluSquatting 的新型 LLM 攻击技术，该技术能够诱导 AI 编程助手安装恶意软件。
这种名为 HalluSquatting 的攻击方式利用了大型语言模型（LLM）的特性，通过精心设计的提示词，使得 AI 编程助手（如 GitHub Copilot、Gemini 等）在生成代码时，将恶意软件的下载或执行命令嵌入其中。研究人员发现，在特定情况下，这种攻击的成功率高达 85%，甚至在某些测试中达到了 100%。
HalluSquatting 的原理在于，攻击者可以诱导 AI 模型产生看似无害但实则包含恶意指令的代码片段。当开发者复制代码并执行时，恶意程序便会被安装到其系统中。研究人员指出，这种攻击尤其针对那些依赖 AI 辅助编码的开发者，由于 AI 生成的代码常被视为可靠，开发者可能不会对其进行深入审查。
这项研究的发现对 AI 安全领域敲响了警钟，凸显了在 AI 驱动的开发环境中，对代码安全性的验证需求更加迫切。同时，相关的安全组织也在积极研究防御措施，以应对这类新型攻击。fifa 相关的安全漏洞也需要引起重视，尽管这次研究聚焦于 AI 编程助手，但安全挑战是普遍存在的。