模型設定 | LanMate 使用手冊

模型設定

LanMate 內建主流大型模型,覆蓋推理、多模態同圖像理解能力,並支援接入自訂模型供應商。模型係 LanMate 各項智能能力嘅調用底座,對話、寫作、技能等功能嘅背後都由模型驅動。

你可以用嘅模型嚟自兩個渠道:一係組織透過管理端統一發放嘅內建模型,開箱即用;二係你自行接入嘅自訂模型服務,按需喺設定加入。兩者一齊出現喺模型選擇器,你可以隨時切換。

查看與切換模型

喺對話介面頂部或者輸入框附近搵到模型選擇器,撳一下就可以查看當前可用嘅全部模型,並切換當前對話用嘅模型。

模型選擇器入面嘅模型分做兩類:

類型 來源 係咪需要設定 可唔可以編輯刪除
內建模型 管理端統一設定發放 唔使,打開用戶端就可以用 唔可以
自訂模型 你喺用戶端本地加入 要,要先喺設定加入 可以

每個模型選項會顯示模型名稱同類型標籤,方便你區分內建同自訂模型。內建模型排喺列表前面,自訂模型排後面。

設定預設模型

如果你想新開對話自動用某個模型,可以喺設定指定預設模型:

  1. 打開「設定」,進入「模型設定」。
  2. 喺「預設模型」下拉列表揀目標模型。
  3. 揀完立即生效,之後新開嘅對話會預設用呢個模型。

如果預設模型被刪除或者唔再可用,預設模型會自動退回做列表入面嘅第一個模型;當前進行緊嘅對話唔受影響。

使用內建模型

內建模型由組織透過管理端統一設定發放——組織分咗邊啲模型畀你,用戶端就見到邊啲,裝咗 LanMate 就可以用,唔使任何額外設定。

使用嗰陣請注意:

接入自訂模型

如果內建模型滿足唔到需求,你可以接入自己嘅模型服務。自訂模型以供應商為單位管理:先加供應商,再喺供應商下面加具體模型,完成後就可以喺模型選擇器揀用。

加入供應商

  1. 打開「設定」,進入「模型設定」,撳加入供應商。
  2. 揀 API 格式(OpenAI 或者 Anthropic)。
  3. 填寫 Base URL(模型服務嘅接口地址)同 API Key(存取憑證,本地部署嘅模型服務可以留空)。
  4. 儲存後,供應商即刻出現喺列表。

供應商級別嘅設定由佢下面嘅所有模型共用,加一次就得,唔使為每個模型重複填。API Key 喺介面上會遮住顯示(例如 sk-abc…xyz),並加密儲存喺本地。

加入模型

喺已加入嘅供應商下面加入具體模型:

  1. 喺供應商下面撳「加入模型」,彈出填寫表格。
  2. 填寫必填欄位:模型名稱(自訂嘅顯示名稱)、模型標識(實際調用嘅模型 ID)。
  3. 按需填寫選填欄位:上下文長度(預設 128k)。
  4. 撳「加入」儲存,彈窗閂後新模型即刻出現喺列表。

同一供應商下面可以加多個模型,但模型標識唔可以重複。模型名稱、模型標識等必填欄位留空嗰陣冇辦法提交。

測試連接

填好 Base URL 後,建議先撳「測試連接」按鈕驗證模型服務用唔用到:

管理自訂模型

喺設定嘅模型列表,每張模型卡片會顯示模型名稱、模型標識同 Base URL,你可以隨時維護:

內建模型由管理端統一維護,唔支援喺用戶端編輯或者刪除。

常見問題與注意事項

我嘅 API Key 會被上載嗎?

唔會。模型設定資料淨係儲存喺你本地嘅設定檔案,API Key 淨係喺本地加密儲存,LanMate 唔會將佢上載去雲端。API Key 係存取你第三方模型帳號嘅關鍵憑證,請妥善保管,唔好洩漏畀其他人。

對話內容會發送去邊?

用自訂模型嗰陣,你嘅輸入內容由 LanMate 轉發去對應嘅第三方模型服務,由嗰個模型按佢自己嘅規則處理。LanMate 淨係做通訊鏈路,具體嘅資料處理規則以你同嗰個第三方之間嘅協議為準。接入前,建議先睇吓嗰個模型服務方嘅服務協議同私隱政策,並確保模型來源合法。

用自訂模型點樣收費?

用自訂模型產生嘅全部費用(Token 消耗、訂閱費用等)由你直接畀第三方,同 LanMate 冇關。使用過程中可能持續觸發模型調用,請密切留意你喺第三方平台嘅戶口餘額同費用情況。

點解列表冇我需要嘅內建模型?

內建模型由組織管理端統一設定同發放,淨係已啟用嘅模型先會去到用戶端。如果你需要嘅模型未出現,請聯絡組織嘅管理員確認嗰個模型係咪已設定並啟用。

使用建議