知识体系
大模型应用开发定律
AI 能力定律
$$能力落地 = min(AI 能力, 使用者判断力)$$
AI 提效定律
$$生产效率提升幅度 = \frac{使用者判断力}{使用者生产力}$$
大模型应用开发知识体系 v1.0.2
下面的表格是由 孙志刚 老师总结的的大模型应用开发知识体系。当下可以用来实现的热门领域有:
智能客服
智能知识库
智能数据分析
智能情报分析
智能写作助手
...
- | 原理 | 实战 | 认知 |
---|---|---|---|
交付 |
GPU/云厂商选型
向量数据库选型
私有化部署
高可用架构
内容安全
算法备案
|
||
产品 |
商业逻辑
用户体验
|
需求分析
UI 设计
原型迭代
过程管理
Figma & draw.io
沟通技巧
|
Copilot 和 Agent 两种形态的未来
|
Fine-tuning |
机器学习
Transformer
大模型训练
微调原理
|
求解器
损失函数
超参
过拟合/欠拟合
学习率
Attention
Transformer 架构
开源大模型
Prompt-Tuning
P-Tuning
Prefix-Tuning
LoRA
|
微调仍是炼丹
|
框架 |
Agent
|
LangChain & LangChain.js
LLM
ChatModel
PromptTemplate
OutParser
Document Loaders
Text Embedidngs
Vector Stores
Retrievers
Memory
Chain
Agent
Callbacks
LangSmith
LangFlow
Semantic Kernel
Connectors
Plugins
Planners
Text chunkers
Native Functions
Pipelines
ChatCompletion
TextGeneration
TextEmbeddings
Core plugins
Memory
Web search plugins
Semantic Functions
Semantic Kernel Tools
|
LangChain 和 SK 的选型
Prompt 和 代码分离
微软的 Semantic Plugins 战略
|
Embeddings |
向量化
|
词向量
句子向量
篇章向量
相似度计算
基于相似度聚类
向量数据库
|
从关键词搜索到向量搜索
|
API |
用微调提升 prompt 稳定性
|
生成 API
对话 API
Function Calling
Plugins
Embeddings
Fine-Tuning
|
自然语言连接一切
|
AI 编程 |
ChatGPT
Bing Chat
Github Copilot
CodeGeex
MetaGPT
ChatALL
|
AI 能力天花板和落地场景
|
|
Prompt |
LLM 生成原理
高质量 prompt 原理
|
基本要素
格式约束
思维链
思维树
指令调优
Prompt 攻击和防范
|
思考方式从程序逻辑变为语言逻辑
|