agent-desktop:让 AI Agent 后台操控电脑
Claude Code 和 Codex 现在能直接操作你电脑上的 App 了,点按钮、填表单、切菜单,全在后台完成,两条命令装好!
结构清晰拆解了技术原理与实操步骤,对开发者有直接参考价值。
Claude Code 和 Codex 现在能直接操作你电脑上的 App 了,点按钮、填表单、切菜单,全在后台完成,两条命令装好! 以前让 Agent 操控电脑,最烦的就是它一动手,你的鼠标就被抢走了, Vercel Labs 开源的 agent-desktop 把这件事解决得很漂亮:Agent 在后台点按钮、填表单、切菜单,你在前台照常刷微信写东西,两边互不干扰。
Apache-2.0 协议,macOS、Windows、Linux 都能用。
它快的原因很朴素,之前大部分 Computer Use 是截一张图,让模型猜该点哪个坐标,又慢又容易点歪。
agent-desktop 不截图,它直接读系统的无障碍树,也就是读屏软件用的那套接口,给界面上每个按钮和输入框编一个号,Agent 按编号去点、去输入,点完再读一遍,确认结果对不对。
默认是后台模式,不动鼠标、不抢焦点。真要用物理鼠标键盘时,再加 --headed。
几个让它好用的点: → 自己不带模型,Claude Code、Codex 这类能跑命令的 Agent 都能直接用 → 也能当 MCP 服务接进去,每个命令就是一个工具 → 覆盖窗口管理、剪贴板、通知、菜单栏,常用操作基本都包了 → npm 一装就能用,不依赖任何第三方 App 的运行时
装起来只要两步: npm install -g agent-desktop agent-desktop permissions --guide 第二条会在 Mac 上一步步引导你打开辅助功能权限。
然后在 AGENTS.md 或 CLAUDE.md 里加一句,让 Agent 第一次使用前先读一遍它自带的使用指南,之后它就会用了。
有一点要提前知道:它读到的界面快照、剪贴板和截图,可能带着你的私人内容,作者在文档里也专门提醒过,别把这些日志贴到公开的地方。
老规矩仓库和那句 AGENTS.md 指令原文放一楼了
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力