AI 智能体
能阅读文档、查询系统、起草内容并请人确认的智能体,嵌入到您真实的业务流程中。
不是演示,而是能接入业务的智能体
做一个对话演示只要一天。难的是让智能体从内部系统获取准确数据、设定边界避免错误回答,并建立由人审核和批准结果的流程。我们把这最后一步也视为交付物。
我们如何构建
- 范围收窄。 从一个任务、一个团队开始,看到成效再扩展。
- 先定义工具。 明确智能体可调用的查询、撰写、发送工具,权限保持最小。
- 把评估当代码管理。 用真实案例构建评估集,每次更换模型或提示词都自动验证。
- 为人留出位置。 需要确认的决定一定交给人来做。
引入步骤
- 业务与系统分析。 梳理业务流程、需要连接的系统以及数据所在的位置。
- 数据整理。 对文档分类并整理成可检索的形式,划分访问权限。
- 智能体设计。 确定可用的工具和权限,以及由人审批的环节。
- 隔离测试。 在与生产环境隔离的环境中用真实案例运行。
- 上线。 接入业务流程,观察结果并持续修正。
主要使用的技术
商用模型与开放权重模型,基于 vLLM 的自建推理服务器(量化、批处理、多 GPU),基于 Model Context Protocol(MCP)与 LangGraph 的工具集成,pgvector、Qdrant 向量检索与重排序模型,Temporal 工作流引擎。我们采用可替换的架构,避免被特定模型或供应商锁定。