模型設定 | LanMate 使用手冊

模型設定

LanMate 內建主流大型模型,涵蓋推理、多模態及圖像理解能力,並支援接入自訂模型供應商。模型是 LanMate 各項智慧能力的調用底座,對話、寫作、技能等功能的背後都由模型驅動。

你可以使用的模型來自兩個渠道:一是組織透過管理端統一下發的內建模型,開箱即用;二是你自行接入的自訂模型服務,按需在設定中加入。兩者共同出現在模型選擇器中,你可以隨時切換。

查看與切換模型

在對話介面頂部或輸入框附近找到模型選擇器,點擊即可查看目前可用的全部模型,並切換目前會話使用的模型。

模型選擇器中的模型分為兩類:

類型 來源 是否需要設定 可否編輯刪除
內建模型 管理端統一設定下發 否,打開用戶端即可使用
自訂模型 你在用戶端本地加入 是,需先在設定中加入

每個模型選項會顯示模型名稱和類型標籤,方便你區分內建與自訂模型。內建模型排在列表前面,自訂模型排在後面。

設定預設模型

如果你希望新建會話自動使用某個模型,可以在設定中指定預設模型:

  1. 打開「設定」,進入「模型設定」。
  2. 在「預設模型」下拉式清單中選擇目標模型。
  3. 選擇後立即生效,之後新建的會話將預設使用該模型。

如果預設模型被刪除或不再可用,預設模型會自動回退為列表中的第一個模型;目前正在進行中的會話不受影響。

使用內建模型

內建模型由組織透過管理端統一設定下發——組織為你分配了哪些模型,用戶端上就能看到哪些,安裝 LanMate 後即可使用,無需任何額外設定。

使用時請注意:

接入自訂模型

如果內建模型不滿足需求,你可以接入自己的模型服務。自訂模型以供應商為單位管理:先加入供應商,再在供應商下加入具體模型,完成後即可在模型選擇器中選用。

加入供應商

  1. 打開「設定」,進入「模型設定」,點擊加入供應商。
  2. 選擇 API 格式(OpenAI 或 Anthropic)。
  3. 填寫 Base URL(模型服務的介面網址)和 API Key(存取憑證,本地部署的模型服務可留空)。
  4. 儲存後,供應商即出現在列表中。

供應商層級的設定由其下屬的所有模型共用,加入一次即可,無需為每個模型重複填寫。API Key 在介面上遮罩顯示(如 sk-abc…xyz),並加密儲存在本地。

加入模型

在已加入的供應商下加入具體模型:

  1. 在供應商下點擊「加入模型」,彈出填寫表單。
  2. 填寫必填欄位:模型名稱(自訂的顯示名稱)、模型標識(實際調用的模型 ID)。
  3. 按需填寫選填欄位:上下文長度(預設 128k)。
  4. 點擊「加入」儲存,視窗關閉後新模型即出現在列表中。

同一供應商下可加入多個模型,但模型標識不可重複。模型名稱、模型標識等必填欄位為空時無法提交。

測試連接

填寫 Base URL 後,建議先點擊「測試連接」按鈕驗證模型服務是否可用:

管理自訂模型

在設定的模型列表中,每個模型卡片會顯示模型名稱、模型標識和 Base URL,你可以隨時維護:

內建模型由管理端統一維護,不支援在用戶端編輯或刪除。

常見問題與注意事項

我的 API Key 會被上傳嗎?

不會。模型設定資訊僅儲存在你本地的設定檔中,API Key 僅在本地加密儲存,LanMate 不會將其上傳至雲端。API Key 是存取你第三方模型帳號的關鍵憑證,請妥善保管,不要洩漏給他人。

對話內容會傳送到哪裡?

使用自訂模型時,你的輸入內容由 LanMate 轉發至對應的第三方模型服務,由該模型按其自身規則處理。LanMate 僅做為通訊鏈路,具體的資料處理規則以你與該第三方之間的協議為準。接入前,建議先閱讀該模型服務方的服務條款與隱私權政策,並確保模型來源合法。

使用自訂模型如何計費?

使用自訂模型產生的全部費用(Token 消耗、訂閱費用等)由你直接向第三方支付,與 LanMate 無關。使用過程中可能持續觸發模型調用,請密切關注你在第三方平台的帳戶餘額與費用情況。

為什麼列表裡沒有我需要的內建模型?

內建模型由組織管理端統一設定和下發,只有已啟用的模型才會到達用戶端。如果你需要的模型未出現,請聯絡組織的管理員確認該模型是否已設定並啟用。

使用建議