DriftNet: A Dual-Head Trajectory Transformer for Detecting and Localizing Prompt Injection in LLM Agents
本文提出DriftNet,一种双头轨迹Transformer,用于检测和定位LLM代理中的间接提示注入攻击,通过单次前向传递解决攻击入口、受污染步骤及抵抗情况。
0 citationsRead paper
本文提出DriftNet,一种双头轨迹Transformer,用于检测和定位LLM代理中的间接提示注入攻击,通过单次前向传递解决攻击入口、受污染步骤及抵抗情况。
研究提出AgentDrift,一个包含12,536个合成工具调用轨迹的基准,用于检测和标记LLM代理中的间接提示注入攻击,通过分步标签识别注入点及受影响步骤。
本文针对异构机器人在不同更新层级下导航的问题,提出了一种结合大语言模型、UCB算法和双深度Q网络的方法,并通过实验验证了其有效性。
本文提出RT-HiSS算法,利用GPU的光线追踪核心加速高维数据集的相似性搜索,通过快速索引构建、候选优化等方法提高搜索效率。
该研究针对跨组织代理消息的离线可验证责任问题,提出了一种基于保存证据包的方法,确保在无实时系统支持下也能独立验证。
本文提出DriftNet,一种双头轨迹Transformer,用于检测和定位LLM代理中的间接提示注入攻击,通过单次前向传递解决攻击入口、受污染步骤及抵抗情况。
研究提出AgentDrift,一个包含12,536个合成工具调用轨迹的基准,用于检测和标记LLM代理中的间接提示注入攻击,通过分步标签识别注入点及受影响步骤。
本文针对异构机器人在不同更新层级下导航的问题,提出了一种结合大语言模型、UCB算法和双深度Q网络的方法,并通过实验验证了其有效性。
本文提出RT-HiSS算法,利用GPU的光线追踪核心加速高维数据集的相似性搜索,通过快速索引构建、候选优化等方法提高搜索效率。
该研究针对跨组织代理消息的离线可验证责任问题,提出了一种基于保存证据包的方法,确保在无实时系统支持下也能独立验证。