Skip to content

LLM Application Stack

典型 LLM 应用栈包括 prompt 构造、模型调用、输出解析、memory/RAG、tool 调用、workflow 编排、权限控制和最终执行环境。

ToLO 研究重点不在模型本身,而在模型输出进入程序控制流之后发生了什么。

常见组件

  • PromptTemplate
  • OutputParser
  • Agent
  • Tool
  • Retriever
  • Memory
  • Workflow
  • Sandbox