模型配置
LanMate 内置主流大模型,覆盖推理、多模态及图像理解能力,并支持接入自定义模型供应商。模型是 LanMate 各项智能能力的调用底座,对话、写作、技能等功能的背后都由模型驱动。
你可以使用的模型来自两个渠道:一是组织通过管理端统一下发的内置模型,开箱即用;二是你自行接入的自定义模型服务,按需在设置中添加。两者共同出现在模型选择器中,你可以随时切换。
查看与切换模型
在对话界面顶部或输入框附近找到模型选择器,点击即可查看当前可用的全部模型,并切换当前会话使用的模型。
模型选择器中的模型分为两类:
| 类型 | 来源 | 是否需要配置 | 可否编辑删除 |
|---|---|---|---|
| 内置模型 | 管理端统一配置下发 | 否,打开客户端即可使用 | 否 |
| 自定义模型 | 你在客户端本地添加 | 是,需先在设置中添加 | 是 |
每个模型选项会显示模型名称和类型标签,方便你区分内置与自定义模型。内置模型排在列表前面,自定义模型排在后面。
设置默认模型
如果你希望新建会话自动使用某个模型,可以在设置中指定默认模型:
- 打开「设置」,进入「模型设置」。
- 在「默认模型」下拉列表中选择目标模型。
- 选择后立即生效,之后新建的会话将默认使用该模型。
如果默认模型被删除或不再可用,默认模型会自动回退为列表中的第一个模型;当前正在进行中的会话不受影响。
使用内置模型
内置模型由组织通过管理端统一配置下发——组织为你分配了哪些模型,客户端上就能看到哪些,安装 LanMate 后即可使用,无需任何额外配置。
使用时请注意:
- 每个模型支持的功能(如图片输入、思考模式、推理能力等)因模型而异。
- 管理端可为每个模型设置启用/禁用开关,只有已启用的模型才会出现在你的模型选择器中。
- 如果组织暂未下发任何内置模型,模型选择器中将仅展示你自己添加的自定义模型。
接入自定义模型
如果内置模型不满足需求,你可以接入自己的模型服务。自定义模型以供应商为单位管理:先添加供应商,再在供应商下添加具体模型,完成后即可在模型选择器中选用。
添加供应商
- 打开「设置」,进入「模型设置」,点击添加供应商。
- 选择 API 格式(OpenAI 或 Anthropic)。
- 填写 Base URL(模型服务的接口地址)和 API Key(访问凭据,本地部署的模型服务可留空)。
- 保存后,供应商即出现在列表中。
供应商级别的配置由其下属的所有模型共享,添加一次即可,无需为每个模型重复填写。API Key 在界面上脱敏显示(如 sk-abc…xyz),并加密存储在本地。
添加模型
在已添加的供应商下添加具体模型:
- 在供应商下点击「添加模型」,弹出填写表单。
- 填写必填字段:模型名称(自定义的显示名称)、模型标识(实际调用的模型 ID)。
- 按需填写选填字段:上下文长度(默认 128k)。
- 点击「添加」保存,弹窗关闭后新模型即出现在列表中。
同一供应商下可添加多个模型,但模型标识不可重复。模型名称、模型标识等必填字段为空时无法提交。
测试连接
填写 Base URL 后,建议先点击「测试连接」按钮验证模型服务是否可用:
- 测试过程中按钮显示加载状态。
- 验证通过显示「连接成功」,即可放心保存使用。
- 验证失败显示「连接失败」,请检查 Base URL、API Key 是否正确,以及模型服务是否正常运行。
管理自定义模型
在设置的模型列表中,每个模型卡片会显示模型名称、模型标识和 Base URL,你可以随时维护:
- 编辑供应商:修改名称、API 格式、Base URL、API Key,修改后下属模型同步生效。
- 删除供应商:需二次确认,删除后该供应商及其下属模型一并移除。
- 编辑模型:点击模型卡片上的编辑按钮,表单会回填当前信息,修改后保存即可。注意编辑时不能清空必填字段,否则无法保存。
- 删除模型:点击模型卡片上的删除按钮,二次确认后移除。如果被删除的模型是当前默认模型,默认模型会自动回退为列表中的第一个模型;正在进行中的会话不受影响,但下次新建会话时该模型不再可选。
内置模型由管理端统一维护,不支持在客户端编辑或删除。
常见问题与注意事项
我的 API Key 会被上传吗?
不会。模型配置信息仅保存在你本地的配置文件中,API Key 仅在本地加密存储,LanMate 不会将其上传至云端。API Key 是访问你第三方模型账号的关键凭据,请妥善保管,不要泄露给他人。
对话内容会发送到哪里?
使用自定义模型时,你的输入内容由 LanMate 转发至对应的第三方模型服务,由该模型按其自身规则处理。LanMate 仅作为通信链路,具体的数据处理规则以你与该第三方之间的协议为准。接入前,建议先阅读该模型服务方的服务协议与隐私政策,并确保模型来源合法。
使用自定义模型如何计费?
使用自定义模型产生的全部费用(Token 消耗、订阅费用等)由你直接向第三方支付,与 LanMate 无关。使用过程中可能持续触发模型调用,请密切关注你在第三方平台的账户余额与费用情况。
为什么列表里没有我需要的内置模型?
内置模型由组织管理端统一配置和下发,只有已启用的模型才会到达客户端。如果你需要的模型未出现,请联系组织的管理员确认该模型是否已配置并启用。
使用建议
- 建议优先使用内置模型,以获得更稳定的服务体验。
- 自定义模型由第三方独立运营,其可用性、稳定性与生成结果质量请关注该第三方的服务状态与公告。
- 添加自定义模型后,先通过「测试连接」确认服务可用,再投入使用。