電腦控制 | 藍莓辦公(LanMate)使用手冊
使用奇安信版藍莓辦公?查看奇安信版使用手冊

電腦控制

電腦控制讓藍莓辦公像人一樣操作你的桌面:看螢幕、認按鈕、點選、打字、拖曳,也能開啟和切換應用程式。macOS 上還能在你忙別的事情時背景操作,不搶你的滑鼠和鍵盤。

開啟

設定 → 電腦控制:

  1. 開啟「啟用電腦控制」總開關
  2. macOS 授予「輔助使用」(滑鼠鍵盤、介面元素)與「螢幕錄製」權限
  3. 授權後重新啟動藍莓辦公才會生效

Linux 需要 xdotool 與 python3-pyatspi;缺少相依套件時設定頁會提示安裝指令。

它能看到什麼

設定裡可選三種截圖回傳方式:

模式 適合
僅截圖 只看畫面,適合影像辨識類操作
僅介面元素 讀取按鈕、輸入框等結構化清單,座標更準,大型應用程式讀取較慢
截圖 + 介面元素 兩者都回傳,預設較穩定

對應的工具是 computer_screenshot / computer_screenshot_window、computer_get_ui_tree、computer_get_app_state、computer_get_active_app。

能做什麼

能力 工具
點按、拖曳、捲動 computer_click / computer_drag / computer_scroll / computer_move_mouse
輸入文字、按鍵、填值 computer_type / computer_press_key / computer_set_value / computer_select_text
操作介面元素 computer_ax_act(按元素語意操作,不靠座標猜)
開應用程式、切換視窗、等待 computer_open_app / computer_activate_window / computer_wait_for
教學錄製 computer_start_teach_record / computer_stop_teach_record
已學技能 computer_list_learned_skills / computer_refine_skill / computer_forget_skill

點按、輸入這類會改動電腦的操作,預設先問你;可以選「一律允許操作桌面軟體」,或按應用程式逐個放行。

背景操作(macOS)

藍莓辦公可以在你用電腦做別的事情時操作另一個應用程式:你的滑鼠和鍵盤完全不受影響。適合讓它填表、整理文件時,你繼續做自己的事。

教學錄製

這是 1.0.x 的重點能力:把你親手做一遍的流程,蒸餾成可重複使用的技能。

設定 → 電腦控制 → 教學錄製:

錄製結束後只提交去識別化後的步驟(觸發條件、輸入、操作、驗證),截圖隨技能保存在本機。沒有可重複使用的固定步驟時,會明確告訴你沒有產生技能。

已學技能在同一個設定頁管理:能看到回放次數,也可以「遺忘技能」——技能目錄、步驟與關鍵影格一起刪除,無法復原。

接管 Office 文件

電腦控制開啟後,藍莓辦公還能直接接手你目前正開著的 Word / Excel / PPT:

更完整的人機共編體驗(左側對話 + 修訂落款)見檔案與產物的辦公文件編輯。

子母畫面監視

設定 → 電腦控制 → 子母畫面監視:藍莓辦公操作哪個應用程式,就把那個應用程式的即時畫面投到置頂小窗。它做什麼你看得一清二楚,但你的滑鼠鍵盤不被佔用。

安全底線

平台支援

平台 狀態
macOS 支援(輔助使用 + 螢幕錄製)
Windows 支援
Linux 支援(需 xdotool / python3-pyatspi;部分增強能力依系統版本而定)