靠谱阿无
06-22·AI领域创作者
AI第一线
字节开源AI操控电脑:像人一样点鼠标
字节跳动把“让AI替你坐班”这件事,做成了一个能直接用的开源项目——UI-TARS Desktop。它不是调API,是真·看屏幕、动鼠标、敲键盘,一步步把活干完。传统RPA像背死路线的导航,界面一变就卡壳;UI-TARS靠多模态模型实时“看”截图,按钮在哪、输入框在哪,自己认。不管你是开浏览器、切VS Code、翻Excel还是改系统设置,只要屏幕上能看见,它就能操作。更聪明的是“混合控制”:点大按钮用视觉,填深层表单切DOM精确定位,两种策略自动切换,比纯靠眼睛或纯靠代码稳得多。底层还搭了MCP协议——相当于AI界的USB接口,接个天气、数据库、文件系统Server就能扩能力,不是只能“点鼠标”的玩具。从v0.2.0开始,它还支持远程操控电脑或云端浏览器,操作全程有“行车记录仪”可回放,调试自动化流程特别省心。上手门槛不高:一行npx @agent-tars/cli@latest就能跑CLI+Web UI;桌面版去GitHub下安装包,Windows、macOS都支持。配个火山引擎或Anthropic的API Key(模型云端跑),Node.js≥22就行,5分钟能看效果。它最大的优势是开源——Anthropic、OpenAI的同款能力要么闭源要么付费,UI-TARS把实现全摊开,开发者能直接改、能基于它搭自己的方案,3.3万GitHub Star就是社区投的信任票。当然也有局限:视觉识别会翻车,界面越复杂越容易出错;云端推理有延迟和成本;目前更适合流程明确的重复活,创造性操作还不稳。适合用的场景很具体:跨网站扒数据、批量操作没API的老后台、给GUI做自动化测试。碰敏感信息(截图要传云端)或要求100%准的关键任务,暂时先别交给它。整体看,这是目前开源圈里最完整的“AI操控电脑”方案——不是炫技Demo,是能真刀真枪干活的技术栈,想玩AI Agent、GUI自动化的,值得花点时间摸一摸。
发布于 安徽
1
评论
赞
未登录
友善发言
评论
加载中
下载脉脉APP,成就职业梦想
违法不良信息&未成年人有害信息举报电话/客服电话:400 065 0808
违法不良信息&未成年人有害信息举报邮箱/客服邮箱:maimai@taou.com
清朗系列专项行动相关违规信息举报电话:400 065 0808,举报邮箱:maimai@taou.com
个人/企业等被诽谤侮辱、人身权或知识产权等被侵犯、网络谣言的举报地址:maimai.cn/tousu | 涉企虚假不实信息举报投诉专区
京ICP备12005786号-1copyright©maimai.cn