engineering 上下文工程 ≠ 提示词技巧

大多数创始人以为自己在打造AI产品，但实际上他们真正在构建的是上下文选择系统。
check_circle
模型微调通常用不上，RAG做得到位就足够
check_circle
高级上下文工程包括LLM的特征选择、语义+元数据分层
check_circle
上下文可观测性：跟踪哪些输入提高/降低了输出质量

layers 语义 + 元数据分层

采用双层架构处理杂乱的输入格式，确保检索结果不仅是”相似内容”，而是真正相关的结构化知识。
check_circle
语义层：经典向量搜索
check_circle
元数据层：根据文档类型、时间戳、访问权限过滤
check_circle
统一处理PDF、音频、日志、指标等杂乱格式

memory 记忆设计的不同层级

记忆不仅仅是存储，更是一种架构设计，需要考虑用户体验、隐私和系统设计。
用户级
个人偏好、图表类型、写作风格
团队级
常见查询、数据看板、运维手册
组织级
机构知识、规章制度、过往决策

route 多模型推理与流程编排

在实际生产环境中，并非所有任务都直接调用GPT-4，而是根据多种因素实现模型智能调度。
speed
简单查询 → 本地模型处理
schema
结构化查询 → DSL/SQL翻译器
psychology
复杂分析 → OpenAI/Anthropic
verified
验证机制 → 双模型冗余设计

security 治理与信任

安全、溯源和权限管理不是走形式的核对项，而是阻碍部署的关键因素。
check_circle
必须追踪哪些输入导致了哪些输出（溯源/谱系）
check_circle
必须尊重行级别、基于角色的访问（策略门控）
check_circle
即使提示词相同，也必须为不同用户定制特定的输出
check_circle
信任问题源自于人，而不是技术本身