设计原则
Shire 应用架构设计原则
在《构筑大语言模型应用:应用开发与架构设计》中,我们定义了五条 LLM 应用架构设计原则:
- 用户意图导向设计。通过设计全新的人机交互体验,构建领域特定的 AI 角色,以更好地理解用户的意图。
- 上下文感知。通过构建适合于获取业务上下文的应用架构,以生成更精准的 prompt,并探索高响应速度的工程化方式。
- 原子能力映射。分析 LLM 所擅长的原子能力,将其与应用所欠缺的能力进行结合,进行能力映射,让每个 AI 做自己擅长的事。
- 语言接口/语言 API。探索和寻找合适的新一代 API,以便于 LLM 对服务能力的理解、调度与编排,如自然语言作为人机 API,DSL 作为 AI
与机器间的 API。
Shire 架构设计原则 (Draft)
Shire 是一个 AI Agent 语言与 IDE 数据流框架,我们在设计 Shire 时,遵循了以下原则:
- 可描述的编程元素抽象。即可以通过自然语言、类编程语言来描述各类元素,进而通过 Shire 语言进行操作。
- 智能的上下文感知。即通过上下文感知,让 Shire 更好地理解用户的意图,以更好地生成代码。
- 流式处理架构。即通过流式处理的方式,将数据流转化为一系列的处理器,以实现数据的处理。