模型設定
LanMate 內建主流大型模型,涵蓋推理、多模態及圖像理解能力,並支援接入自訂模型供應商。模型是 LanMate 各項智慧能力的調用底座,對話、寫作、技能等功能的背後都由模型驅動。
你可以使用的模型來自兩個渠道:一是組織透過管理端統一下發的內建模型,開箱即用;二是你自行接入的自訂模型服務,按需在設定中加入。兩者共同出現在模型選擇器中,你可以隨時切換。
查看與切換模型
在對話介面頂部或輸入框附近找到模型選擇器,點擊即可查看目前可用的全部模型,並切換目前會話使用的模型。
模型選擇器中的模型分為兩類:
| 類型 | 來源 | 是否需要設定 | 可否編輯刪除 |
|---|---|---|---|
| 內建模型 | 管理端統一設定下發 | 否,打開用戶端即可使用 | 否 |
| 自訂模型 | 你在用戶端本地加入 | 是,需先在設定中加入 | 是 |
每個模型選項會顯示模型名稱和類型標籤,方便你區分內建與自訂模型。內建模型排在列表前面,自訂模型排在後面。
設定預設模型
如果你希望新建會話自動使用某個模型,可以在設定中指定預設模型:
- 打開「設定」,進入「模型設定」。
- 在「預設模型」下拉式清單中選擇目標模型。
- 選擇後立即生效,之後新建的會話將預設使用該模型。
如果預設模型被刪除或不再可用,預設模型會自動回退為列表中的第一個模型;目前正在進行中的會話不受影響。
使用內建模型
內建模型由組織透過管理端統一設定下發——組織為你分配了哪些模型,用戶端上就能看到哪些,安裝 LanMate 後即可使用,無需任何額外設定。
使用時請注意:
- 每個模型支援的功能(如圖片輸入、思考模式、推理能力等)因模型而異。
- 管理端可為每個模型設定啟用/停用開關,只有已啟用的模型才會出現在你的模型選擇器中。
- 如果組織暫未下發任何內建模型,模型選擇器中將僅展示你自己加入的自訂模型。
接入自訂模型
如果內建模型不滿足需求,你可以接入自己的模型服務。自訂模型以供應商為單位管理:先加入供應商,再在供應商下加入具體模型,完成後即可在模型選擇器中選用。
加入供應商
- 打開「設定」,進入「模型設定」,點擊加入供應商。
- 選擇 API 格式(OpenAI 或 Anthropic)。
- 填寫 Base URL(模型服務的介面網址)和 API Key(存取憑證,本地部署的模型服務可留空)。
- 儲存後,供應商即出現在列表中。
供應商層級的設定由其下屬的所有模型共用,加入一次即可,無需為每個模型重複填寫。API Key 在介面上遮罩顯示(如 sk-abc…xyz),並加密儲存在本地。
加入模型
在已加入的供應商下加入具體模型:
- 在供應商下點擊「加入模型」,彈出填寫表單。
- 填寫必填欄位:模型名稱(自訂的顯示名稱)、模型標識(實際調用的模型 ID)。
- 按需填寫選填欄位:上下文長度(預設 128k)。
- 點擊「加入」儲存,視窗關閉後新模型即出現在列表中。
同一供應商下可加入多個模型,但模型標識不可重複。模型名稱、模型標識等必填欄位為空時無法提交。
測試連接
填寫 Base URL 後,建議先點擊「測試連接」按鈕驗證模型服務是否可用:
- 測試過程中按鈕顯示載入狀態。
- 驗證通過顯示「連接成功」,即可放心儲存使用。
- 驗證失敗顯示「連接失敗」,請檢查 Base URL、API Key 是否正確,以及模型服務是否正常執行。
管理自訂模型
在設定的模型列表中,每個模型卡片會顯示模型名稱、模型標識和 Base URL,你可以隨時維護:
- 編輯供應商:修改名稱、API 格式、Base URL、API Key,修改後下屬模型同步生效。
- 刪除供應商:需二次確認,刪除後該供應商及其下屬模型一併移除。
- 編輯模型:點擊模型卡片上的編輯按鈕,表單會回填目前資訊,修改後儲存即可。注意編輯時不能清空必填欄位,否則無法儲存。
- 刪除模型:點擊模型卡片上的刪除按鈕,二次確認後移除。如果被刪除的模型是目前預設模型,預設模型會自動回退為列表中的第一個模型;正在進行中的會話不受影響,但下次新建會話時該模型不再可選。
內建模型由管理端統一維護,不支援在用戶端編輯或刪除。
常見問題與注意事項
我的 API Key 會被上傳嗎?
不會。模型設定資訊僅儲存在你本地的設定檔中,API Key 僅在本地加密儲存,LanMate 不會將其上傳至雲端。API Key 是存取你第三方模型帳號的關鍵憑證,請妥善保管,不要洩漏給他人。
對話內容會傳送到哪裡?
使用自訂模型時,你的輸入內容由 LanMate 轉發至對應的第三方模型服務,由該模型按其自身規則處理。LanMate 僅做為通訊鏈路,具體的資料處理規則以你與該第三方之間的協議為準。接入前,建議先閱讀該模型服務方的服務條款與隱私權政策,並確保模型來源合法。
使用自訂模型如何計費?
使用自訂模型產生的全部費用(Token 消耗、訂閱費用等)由你直接向第三方支付,與 LanMate 無關。使用過程中可能持續觸發模型調用,請密切關注你在第三方平台的帳戶餘額與費用情況。
為什麼列表裡沒有我需要的內建模型?
內建模型由組織管理端統一設定和下發,只有已啟用的模型才會到達用戶端。如果你需要的模型未出現,請聯絡組織的管理員確認該模型是否已設定並啟用。
使用建議
- 建議優先使用內建模型,以獲得更穩定的服務體驗。
- 自訂模型由第三方獨立營運,其可用性、穩定性與生成結果品質請關注該第三方的服務狀態與公告。
- 加入自訂模型後,先透過「測試連接」確認服務可用,再投入使用。