Skip to content

外部学习资源总览

本节收录消化过、可推荐的外部学习材料。每条资源都附一句中文摘要,说明它与 ToLO 学习路径的关系。

外部资源页用于补充论文和 CVE 之间的空白。博客、工具和演讲常比学术论文更早展示真实 LLM 应用风险,但质量差异更大,因此本站只收录能映射到具体章节的材料。

你需要先知道什么

外部资源不是权威结论的替代品。博客适合快速理解问题,工具适合动手实验,课程适合系统学习;但涉及 CVE、版本、修复状态时,仍要回到 NVD、GHSA、vendor advisory、项目 release note 或论文原文核验。

已整理资源

  • 博客与长文:Simon Willison、Johann Rehberger 与 OWASP 的 prompt injection / output handling 文章。
  • 工具与开源项目:AgentDojo、PyRIT、garak、NeMo Guardrails。

课程与演讲页目前保留模板,等待可核验条目。没有足够来源时宁可留空,不用低质量视频填充导航。

分类

收录标准

  • 内容公开且可访问。
  • 与 LLM 应用安全、agent 安全、prompt injection、静态分析或 ToLO 子主题相关。
  • 至少能映射到本站某一章的知识点。
  • 不收录纯营销内容、付费墙后内容(除非有公开摘要)、未署名转载。

每条资源都要说明”对应章节”。如果无法对应到 Background、Threat Model、Taxonomy、Static Analysis、Case Studies 或 Papers 中任一章节,就说明它暂时不是本站需要的资源。

维护方式

外部链接清单维护在 data/resources.yml,状态字段标记是否已经写入对应页面。

写入页面前应重新打开链接核验标题、作者、年份和可访问性。工具类资源还应记录仓库状态和许可证;博客类资源应避免把作者观点写成学术事实;OWASP 等标准类资源应区分规范原文和本站解释。

如何使用这些资源

学习顺序建议:

  1. 先读博客与长文,建立直觉。
  2. 再读论文页,找到学术定义和实验边界。
  3. 最后看工具与开源项目,理解如何评测或实现防御。

读资源时不要问”它是不是 ToLO”,而要问”它帮助 ToLO 哪一段”:输入通道、模型边界、工具边界、执行边界、检测方法或防御模式。

读完检查

新增资源前,确认它能回答:

  • 这条资源对应本站哪一章?
  • 它是观点、工具、标准、论文还是案例?
  • 它的事实来源是否可靠?