Why ToLO Matters

ToLO 指程序把 LLM 输出直接当成可信的控制信号、代码片段、查询条件、路径、命令、工具参数或权限判断依据。

这类问题重要，是因为 LLM 编排框架正在把自然语言输出接入传统程序执行链。传统安全边界依赖类型、权限、验证和隔离；ToLO 风险来自这些边界被“模型输出看起来合理”这件事绕开。

研究关注点

• LLM 输出进入敏感 sink 的路径。
• 框架默认 guard 是否足够。
• Agent/tool 调用链中的隐式信任。
• RAG、workflow、plugin 和 code execution 组件中的边界失效。