用 59API 搭建团队内部知识助手:从文档检索到可追溯问答
先定义一个可用的内部知识助手
团队知识助手不应只是“能聊天的机器人”,而应回答制度、项目文档、故障复盘和产品规范,并明确说明答案来自哪里。一个实用的最小版本包含四步:收集文档、切分并建立索引、检索相关片段、让大模型基于片段生成答案。这样可以避免模型脱离团队真实资料自由发挥。
本文以 Python 为例。模型调用使用兼容 OpenAI SDK 的 59API,Base URL 是 https://api.59api.com。它提供 Claude Opus、Sonnet、Haiku、Fable 及 GPT 等原生官方质量模型,按量付费,适合先从小范围知识库验证效果,再逐步扩展到全团队。
第一步:准备文档和向量索引
将 Markdown、PDF 转出的纯文本或 Wiki 导出内容统一放入 docs 目录。切分时建议每段约 500 到 800 个汉字,并保留文件名、标题、更新时间等元数据。切分过大容易带入无关上下文,过小则会丢失完整条件和结论。
可先安装依赖:pip install openai chromadb。下面示例用 Chroma 保存本地向量,生产环境可换成 pgvector、Milvus 或托管向量数据库。嵌入模型可使用你当前可用的模型服务;核心原则是入库和查询必须使用同一个嵌入模型。
示例索引逻辑:from chromadb import PersistentClient;client = PersistentClient(path='data/chroma');collection = client.get_or_create_collection('team_docs')。遍历文本块后,调用 collection.add(ids=[chunk_id], documents=[chunk_text], metadatas=[{'source': file_name, 'updated_at': updated_at}], embeddings=[embedding])。每次文档更新时,删除该文件旧的 chunk,再写入新版本,避免助手引用过期资料。
第二步:通过 59API 生成可追溯回答
创建环境变量 59API_KEY,不要把密钥写入仓库。OpenAI SDK 只需替换请求地址和密钥:from openai import OpenAI;client = OpenAI(base_url='https://api.59api.com/v1', api_key=os.environ['59API_KEY'])。这也意味着现有 OpenAI SDK、Codex 或 Claude Code 工作流通常能较低成本地接入,无需重写整套调用层。
收到问题后,先向量检索最相关的 4 到 6 段资料:results = collection.query(query_embeddings=[question_embedding], n_results=5, include=['documents','metadatas'])。然后将检索结果整理为上下文,并要求模型只依据这些内容回答:
messages = [{'role':'system','content':'你是团队知识助手。只能根据提供的资料回答;资料不足时明确说不知道。回答末尾列出引用的来源文件。'},{'role':'user','content':f'资料:{context}\n\n问题:{question}'}];response = client.chat.completions.create(model='claude-sonnet', messages=messages, temperature=0.2)。低 temperature 有助于制度、流程和技术规范类回答保持稳定。
第三步:加入权限、引用和评估
内部知识库的关键不是模型参数,而是权限边界。为每个文档块写入 department、project、visibility 等元数据,检索时按当前用户所属团队过滤。不要将薪酬、客户合同、密钥或生产数据原文直接放入通用索引。
- 在回答中返回 source、updated_at 和 chunk_id,方便用户打开原文核对。
- 记录问题、检索命中、模型版本、耗时和用户反馈,用于定位错误答案。
- 准备 30 个真实问题作为测试集,检查引用是否正确、答案是否遗漏前提、无资料时是否拒答。
- 高频简单问答可用 Haiku,复杂跨文档分析再切换 Sonnet 或 Opus,以控制成本。
59API 的低价按量计费很适合这种分层策略:先用较经济的模型覆盖日常检索问答,再把高价值、复杂任务路由给更强模型,同时仍能获得原生模型能力。完成测试集后,可将助手接入 Slack、飞书或企业门户,并为每次回答保留反馈按钮。想快速验证团队知识库效果,可以注册 59API 后用同一套 OpenAI SDK 代码开始接入。
शुरू करने के लिए तैयार?
कुछ ही मिनटों में Claude और GPT जोड़ें, सबसे कम कीमत पर। साइन अप करें और API key पाएं।
मुफ़्त साइन अप