地基 小白友好

大模型应用开发基础

框架再多,地基就这几块:API 调用、提示词与上下文工程、结构化输出、工具调用、流式响应。地基打牢,后面每个开源项目都看得懂、改得动。

为什么学这一模块

很多人一上来就学 Agent 框架,结果框架一升级就跟不上。这一模块把大模型应用开发的「不变量」讲透:消息协议、结构化输出、Function Calling、流式与多模态——无论后面学 DeepAgents 还是 DeepSeek Harness,这些底层能力全部复用。

核心技术栈

OpenAI API Anthropic API DeepSeek 国产模型全景 Prompt Engineering Context Engineering Structured Output Function Calling SSE 流式 多模态调用 Embedding Token 成本核算

技术亮点

主流模型 API 横向实测
OpenAI / Anthropic / DeepSeek / 国产模型同题横评,基于 OpenAI 兼容协议封装统一调用层,一套代码自由切换模型
结构化输出与工具调用
JSON Schema + Pydantic 约束解码,让模型输出永远可解析;Function Calling 从单轮到多轮工具链的完整实现
从 Prompt 到 Context Engineering
系统提示词分层设计、few-shot 构造、上下文窗口预算管理——这是后续所有 Agent 框架的底层逻辑

核心内容

LLM API 调用工程化:鉴权、重试、限流、超时与异常处理
消息协议与多轮对话状态管理(messages / responses 两种范式)
流式响应(SSE)原理与前后端联调实战
结构化输出:JSON Schema / 约束解码 / 数据校验
Function Calling 与工具编排入门(为 Agent 模块铺路)
多模态调用:图像理解、语音转写、文档解析
Embedding 与语义检索入门(为 RAG 模块铺路)
Token 计费模型与成本核算、模型选型方法论

实战产出

  • 多模型统一调用层 SDK(可切换 5+ 模型)
  • 结构化信息抽取工具(Schema 驱动)
  • 流式聊天 Web 应用骨架
  • 模型选型与成本核算对照表