模型設定
LanMate 內建主流大型模型,覆蓋推理、多模態同圖像理解能力,並支援接入自訂模型供應商。模型係 LanMate 各項智能能力嘅調用底座,對話、寫作、技能等功能嘅背後都由模型驅動。
你可以用嘅模型嚟自兩個渠道:一係組織透過管理端統一發放嘅內建模型,開箱即用;二係你自行接入嘅自訂模型服務,按需喺設定加入。兩者一齊出現喺模型選擇器,你可以隨時切換。
查看與切換模型
喺對話介面頂部或者輸入框附近搵到模型選擇器,撳一下就可以查看當前可用嘅全部模型,並切換當前對話用嘅模型。
模型選擇器入面嘅模型分做兩類:
| 類型 | 來源 | 係咪需要設定 | 可唔可以編輯刪除 |
|---|---|---|---|
| 內建模型 | 管理端統一設定發放 | 唔使,打開用戶端就可以用 | 唔可以 |
| 自訂模型 | 你喺用戶端本地加入 | 要,要先喺設定加入 | 可以 |
每個模型選項會顯示模型名稱同類型標籤,方便你區分內建同自訂模型。內建模型排喺列表前面,自訂模型排後面。
設定預設模型
如果你想新開對話自動用某個模型,可以喺設定指定預設模型:
- 打開「設定」,進入「模型設定」。
- 喺「預設模型」下拉列表揀目標模型。
- 揀完立即生效,之後新開嘅對話會預設用呢個模型。
如果預設模型被刪除或者唔再可用,預設模型會自動退回做列表入面嘅第一個模型;當前進行緊嘅對話唔受影響。
使用內建模型
內建模型由組織透過管理端統一設定發放——組織分咗邊啲模型畀你,用戶端就見到邊啲,裝咗 LanMate 就可以用,唔使任何額外設定。
使用嗰陣請注意:
- 每個模型支援嘅功能(例如圖片輸入、思考模式、推理能力等)因模型而異。
- 管理端可以幫每個模型設定啟用/禁用開關,淨係已啟用嘅模型先會出現喺你嘅模型選擇器。
- 如果組織暫時未發放任何內建模型,模型選擇器淨係會展示你自己加嘅自訂模型。
接入自訂模型
如果內建模型滿足唔到需求,你可以接入自己嘅模型服務。自訂模型以供應商為單位管理:先加供應商,再喺供應商下面加具體模型,完成後就可以喺模型選擇器揀用。
加入供應商
- 打開「設定」,進入「模型設定」,撳加入供應商。
- 揀 API 格式(OpenAI 或者 Anthropic)。
- 填寫 Base URL(模型服務嘅接口地址)同 API Key(存取憑證,本地部署嘅模型服務可以留空)。
- 儲存後,供應商即刻出現喺列表。
供應商級別嘅設定由佢下面嘅所有模型共用,加一次就得,唔使為每個模型重複填。API Key 喺介面上會遮住顯示(例如 sk-abc…xyz),並加密儲存喺本地。
加入模型
喺已加入嘅供應商下面加入具體模型:
- 喺供應商下面撳「加入模型」,彈出填寫表格。
- 填寫必填欄位:模型名稱(自訂嘅顯示名稱)、模型標識(實際調用嘅模型 ID)。
- 按需填寫選填欄位:上下文長度(預設 128k)。
- 撳「加入」儲存,彈窗閂後新模型即刻出現喺列表。
同一供應商下面可以加多個模型,但模型標識唔可以重複。模型名稱、模型標識等必填欄位留空嗰陣冇辦法提交。
測試連接
填好 Base URL 後,建議先撳「測試連接」按鈕驗證模型服務用唔用到:
- 測試過程中按鈕顯示載入狀態。
- 驗證通過顯示「連接成功」,就可以放心儲存使用。
- 驗證失敗顯示「連接失敗」,請檢查 Base URL、API Key 係咪正確,同埋模型服務係咪正常運行緊。
管理自訂模型
喺設定嘅模型列表,每張模型卡片會顯示模型名稱、模型標識同 Base URL,你可以隨時維護:
- 編輯供應商:修改名稱、API 格式、Base URL、API Key,修改後下面嘅模型同步生效。
- 刪除供應商:需要二次確認,刪除後呢個供應商同佢下面嘅模型一併移除。
- 編輯模型:撳模型卡片上嘅編輯按鈕,表格會自動填返當前資料,修改後儲存就得。注意編輯嗰陣唔可以清空必填欄位,否則冇辦法儲存。
- 刪除模型:撳模型卡片上嘅刪除按鈕,二次確認後移除。如果被刪除嘅模型係當前預設模型,預設模型會自動退回做列表第一個模型;進行緊嘅對話唔受影響,但下次新開對話嗰陣呢個模型唔再揀得。
內建模型由管理端統一維護,唔支援喺用戶端編輯或者刪除。
常見問題與注意事項
我嘅 API Key 會被上載嗎?
唔會。模型設定資料淨係儲存喺你本地嘅設定檔案,API Key 淨係喺本地加密儲存,LanMate 唔會將佢上載去雲端。API Key 係存取你第三方模型帳號嘅關鍵憑證,請妥善保管,唔好洩漏畀其他人。
對話內容會發送去邊?
用自訂模型嗰陣,你嘅輸入內容由 LanMate 轉發去對應嘅第三方模型服務,由嗰個模型按佢自己嘅規則處理。LanMate 淨係做通訊鏈路,具體嘅資料處理規則以你同嗰個第三方之間嘅協議為準。接入前,建議先睇吓嗰個模型服務方嘅服務協議同私隱政策,並確保模型來源合法。
用自訂模型點樣收費?
用自訂模型產生嘅全部費用(Token 消耗、訂閱費用等)由你直接畀第三方,同 LanMate 冇關。使用過程中可能持續觸發模型調用,請密切留意你喺第三方平台嘅戶口餘額同費用情況。
點解列表冇我需要嘅內建模型?
內建模型由組織管理端統一設定同發放,淨係已啟用嘅模型先會去到用戶端。如果你需要嘅模型未出現,請聯絡組織嘅管理員確認嗰個模型係咪已設定並啟用。
使用建議
- 建議優先使用內建模型,攞到更穩定嘅服務體驗。
- 自訂模型由第三方獨立營運,佢嘅可用性、穩定性同生成結果質素請留意嗰個第三方嘅服務狀態同公告。
- 加咗自訂模型後,先透過「測試連接」確認服務用到,先至投入使用。