電腦控制
電腦控制讓藍莓辦公像人一樣操作你的桌面:看螢幕、認按鈕、點選、打字、拖曳,也能開啟和切換應用程式。macOS 上還能在你忙別的事情時背景操作,不搶你的滑鼠和鍵盤。
開啟
設定 → 電腦控制:
- 開啟「啟用電腦控制」總開關
- macOS 授予「輔助使用」(滑鼠鍵盤、介面元素)與「螢幕錄製」權限
- 授權後重新啟動藍莓辦公才會生效
Linux 需要 xdotool 與 python3-pyatspi;缺少相依套件時設定頁會提示安裝指令。
它能看到什麼
設定裡可選三種截圖回傳方式:
| 模式 | 適合 |
|---|---|
| 僅截圖 | 只看畫面,適合影像辨識類操作 |
| 僅介面元素 | 讀取按鈕、輸入框等結構化清單,座標更準,大型應用程式讀取較慢 |
| 截圖 + 介面元素 | 兩者都回傳,預設較穩定 |
對應的工具是 computer_screenshot / computer_screenshot_window、computer_get_ui_tree、computer_get_app_state、computer_get_active_app。
能做什麼
| 能力 | 工具 |
|---|---|
| 點按、拖曳、捲動 | computer_click / computer_drag / computer_scroll / computer_move_mouse |
| 輸入文字、按鍵、填值 | computer_type / computer_press_key / computer_set_value / computer_select_text |
| 操作介面元素 | computer_ax_act(按元素語意操作,不靠座標猜) |
| 開應用程式、切換視窗、等待 | computer_open_app / computer_activate_window / computer_wait_for |
| 教學錄製 | computer_start_teach_record / computer_stop_teach_record |
| 已學技能 | computer_list_learned_skills / computer_refine_skill / computer_forget_skill |
點按、輸入這類會改動電腦的操作,預設先問你;可以選「一律允許操作桌面軟體」,或按應用程式逐個放行。
背景操作(macOS)
藍莓辦公可以在你用電腦做別的事情時操作另一個應用程式:你的滑鼠和鍵盤完全不受影響。適合讓它填表、整理文件時,你繼續做自己的事。
教學錄製
這是 1.0.x 的重點能力:把你親手做一遍的流程,蒸餾成可重複使用的技能。
設定 → 電腦控制 → 教學錄製:
- 手動開始:點「開始錄製」,照常做事,再點「結束並總結」
- 每個任務自動:藍莓辦公每次操作電腦都錄製,任務結束自動總結
錄製結束後只提交去識別化後的步驟(觸發條件、輸入、操作、驗證),截圖隨技能保存在本機。沒有可重複使用的固定步驟時,會明確告訴你沒有產生技能。
已學技能在同一個設定頁管理:能看到回放次數,也可以「遺忘技能」——技能目錄、步驟與關鍵影格一起刪除,無法復原。
接管 Office 文件
電腦控制開啟後,藍莓辦公還能直接接手你目前正開著的 Word / Excel / PPT:
- 先讀取你正在編輯的內容,理解脈絡後再動手
- 按你的指示就地修改(如「在這一段後面補一版風險提示」),不用關視窗、不用匯出檔案
- 首次呼叫需授權系統自動化權限,寫入仍走審批
更完整的人機共編體驗(左側對話 + 修訂落款)見檔案與產物的辦公文件編輯。
子母畫面監視
設定 → 電腦控制 → 子母畫面監視:藍莓辦公操作哪個應用程式,就把那個應用程式的即時畫面投到置頂小窗。它做什麼你看得一清二楚,但你的滑鼠鍵盤不被佔用。
安全底線
- 總開關預設關閉,隨時可以關掉
- 改動操作先問:點按、輸入、拖曳前彈出確認;可以按應用程式記住授權
- 自動任務更嚴格:藍信管道、定時任務只能操作白名單內的應用程式,其他一律拒絕
- 密碼框不碰:遇到密碼輸入會停下來讓你自己輸入
- 操作遙測預設關閉:只作為本機診斷資料;要把操作變成技能,用「教學錄製」
平台支援
| 平台 | 狀態 |
|---|---|
| macOS | 支援(輔助使用 + 螢幕錄製) |
| Windows | 支援 |
| Linux | 支援(需 xdotool / python3-pyatspi;部分增強能力依系統版本而定) |