模型配置
Pharmate 支持多模型接入。SaaS 版由平台统一配置;私有化版管理员可接入自有模型。
模型使用场景
| 场景 | 模型要求 | 建议 |
|---|---|---|
| 对话与智能问数 | 响应快、中文好 | 通用对话模型 |
| 报告生成 | 长上下文、结构化输出稳定 | 长文本模型 |
| eCTD 合规预审 | 专业性强、遵循指令严格 | 旗舰模型 |
| 术语翻译 | 领域词汇覆盖 | 通用模型 + 专业字典约束 |
| 向量嵌入 | 语义检索质量 | 专用 Embedding 模型 |
SaaS 版
模型由平台预置与调优,用户无需配置。平台持续评估并升级底层模型,升级不影响使用方式。
私有化版配置
接入方式
管理端 → 模型配置,支持三类接入:
| 类型 | 说明 |
|---|---|
| 云端 API | 接入商用大模型 API(服务器可出网时),配置 API 地址与密钥 |
| 本地模型 | 接入企业内网部署的开源模型(如 vLLM / Ollama 服务),数据不出域 |
| 混合模式 | 敏感任务(批记录、申报数据)走本地模型,通用任务走云端,兼顾合规与效果 |
配置项
- API 地址与认证密钥(密钥加密存储,界面不回显)
- 模型名称与上下文长度
- 温度等生成参数(报告类任务建议低温度保证稳定)
- 各任务场景的模型路由
切换与回退
- 支持按场景独立切换模型,互不影响。
- 配置变更前建议先用测试会话验证输出质量。
- 保留原配置备份,效果不佳可快速回退。
安全注意事项
重要
- API 密钥仅存储于服务器配置,不会出现在前端、日志与 AI 回答中。
- 私有化环境出网调用云端模型时,建议通过企业代理统一管控,并在防火墙中限制目标地址。
- 涉及未公开申报数据与客户批数据的任务,若合规要求数据不出域,请使用本地模型或混合模式。
