博客与长文

下面是按”对应 ToLO 章节”和”什么时候读它”组织的博客清单。

Layer 2 资源:质量较高但不是学术论文,适合建立直觉或了解最新工程动态。事实级别引用仍要回到原始 advisory / 论文。

怎么用这一页

每条按以下格式:

**标题** — 作者,年份
  - 链接
  - 一句中文摘要
  - 对应章节(站内链接)
  - 什么时候读:学完哪些站内章节后读这篇,会得到什么

Simon Willison 是早期持续讨论 prompt injection 的独立研究员,博客读起来不费力,适合学完先修知识后第一批读。

链接:https://simonwillison.net/2023/Apr/14/worst-that-can-happen/
一句中文摘要:梳理 prompt injection 后果,可映射到 ToLO sink。
对应章节:Core ToLO Patterns
什么时候读:学完 03 Taxonomy 后读。它能帮你把”后果”和”sink 类别”对上 —— 比如 SQL injection / 数据外泄 / 代码执行各自对应哪个子类。

链接:https://simonwillison.net/2023/Apr/25/dual-llm-pattern/
一句中文摘要:用隔离 LLM 分离能力边界,呼应 C_SAFE^{capability}。是 CaMeL 的直接前身思路。
对应章节:Defensive Patterns
什么时候读:学完 03 Taxonomy §C_SAFE^{capability} 后读。读完应能讲清”dual-LLM”的核心思路,并把它和 CaMeL 对照。

Johann Rehberger 是 LLM 应用 red team 领域的代表实验者,演示真实产品攻击。他的博客适合学完通道理论后看实际操作。

链接:https://embracethered.com/blog/posts/2023/ai-injections-direct-and-indirect-prompt-injection-basics/
一句中文摘要:区分直接与间接注入,支撑 C1/C2 通道建模。
对应章节:Attacker Channels §C1/C2
什么时候读:读 04 Threat Model 时同步读。能巩固”通道”概念。

链接:https://embracethered.com/blog/posts/2023/chatgpt-plugin-youtube-indirect-prompt-injection/
一句中文摘要:展示字幕触发间接注入,帮助理解 C2 边界 —— 你之前可能没想到字幕也是 source。
对应章节:Attacker Channels §C2
什么时候读:读 04 Threat Model §C2 后读。它把 C2 的范围从”明显的网页 HTML 注释”扩到更隐蔽的来源,提示任何被引入 prompt 的外部内容都是 C2 入口。

链接:https://embracethered.com/blog/posts/2024/claude-computer-use-c2-the-zombais-are-coming/
一句中文摘要:把 prompt injection 连接到工具执行,突出 ToLO-Shell 风险 —— 一个端到端真实案例链。
对应章节:Core ToLO Patterns §ToLO-Shell
什么时候读:在 03 Taxonomy 后读。这是看”prompt injection → ToLO 落地”的最好真实例子。

链接:https://embracethered.com/blog/posts/2025/model-context-protocol-security-risks-and-exploits/
一句中文摘要:分析不可信 MCP server,支撑 C4 工具响应控制。
对应章节:Attacker Channels §C4
什么时候读:读 04 Threat Model §C4 与 Papers / ToolHijacker 之间读这篇 —— 它给学术论文之外的真实部署观察。

链接:https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/
一句中文摘要:给出 LLM 输出处理风险的行业清单条目,可对照 ToLO 边界。
对应章节:Why ToLO §与 OWASP LLM05
什么时候读:学完 01 Background §Differentiation 后读。它给”ToLO 与 OWASP 关系”提供官方语言,适合写报告 / 给工程团队解释时引用。

对完全新读者:

读完这 8 篇 + 站内 [01-04 章],可以转去读 Papers。

新增博客条目时,需要写清楚:

如果一条博客没法对应到具体章节或说不出”读完获得什么”,不要收录。本站不做泛 AI 安全资源库。