找找AI 原创出品 技术

GUI智能体“观察-思考-行动”循环的工程实现

原创标识

GUI智能体通过分析屏幕截图完成网页或应用程序的自动化操作。主流实现基于视觉编码器+大语言模型,具体架构分为三层:fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
观察层:以当前屏幕截图(近期连续3~5帧)为输入,经ViT(Vision Transformer)提取网格状视觉特征。同时抽取DOM树(网页)或可交互元素坐标(桌面应用),与视觉特征做对齐——将每个UI元素的文本、类型、边界框编码为序列token。fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
思考层:大语言模型接收“历史对话+当前视觉token+可交互元素列表”作为prompt。输出为结构化语言,例如 {"action": "click", "element_id": 23} 或 {"action": "type", "text": "search query"}。为提升准确率,多数实现采用思维链(CoT),强制模型先输出“观察结论”→“计划”→“下一步动作”三段式中间结果。fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
行动层:解析LLM输出的结构化指令,调用设备或浏览器的原生API执行点击、输入、滚动等操作。执行后获取新的截图,进入下一轮循环。fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
安全暂停机制:当模型预测的动作涉及敏感操作(如提交表单、删除数据)或缺少必要信息(如用户密码未提供)时,系统不执行动作,而是返回一个“需要确认”的信号,等待用户人工介入。fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
fRU找找AI - 专业AI导航网站,一站式AI导航,找找AI官网
当前最先进的GUI智能体在300+真实网站上的任务完成率达到63%~72%(基于Mind2Web基准),瓶颈主要出现在多步骤逻辑推理和动态加载页面的元素定位。

AI问答

国内AI最近犯过什么事儿吗?
说出来你可能不信,已经有人因为AI亏钱而在法院起诉了。
听说AI又在安全上捅娄子了?
这几天的安全新闻一个比一个惊悚。
有没有什么牛X的新模型发布?
看几个硬指标:编程测试SWE-Bench Pro,它直接干到了69.2% ,比GPT-5.5的58.6%高出10个百分点;金融分析测试也是53.9% ,同样领先所有对手。更狠的是,不但性能上去了,快速模式的速度快了一倍多,成本直接砍到原来的三分之一。
不听不听,我就想知道OpenAI权斗和马斯克互撕的大结局是啥?
前CTO Mira Murati出庭作证,对着奥特曼就是一顿锤。她直接在法庭上说,奥特曼在模型安全审批上误导过她,还说此人有个“大招”——给不同高管传递不同版本的事实,让大家谁都没法掌握全貌,决策权永远回到他自己手里。这不是外人瞎编,是亲信在法庭上当着全世界说的。
AI安全最近又出新问题了?听说有人用AI换脸直接盗号了?
对,而且是真事儿,5月30号央视刚曝出来的。一家国内公司好好的账号突然自己发了一篇“即将停更”的公告,后台密码也改了,连法人信息都被人篡改了。最后查出来,是有人伪造了以假乱真的动态“AI人脸”视频,直接骗过了平台的身份验证系统,顺利登陆进去了。
嵌入向量:AI把文字转换成数字的秘密
AI不认识文字,它只认识数字。为了让AI处理语言,第一步必须把每个字或词转换成一串数字,这串数字叫嵌入向量。
微调是怎样让通用模型变成专家模型的
一个通用大模型什么都能聊几句,但让它在某个专业领域表现得像专家,就需要做微调。微调的原理是:在已经训练好的模型基础上,用少量专业数据继续训练一小段时间。
为什么模型越大效果越好?
AI圈有一个经验规律:模型参数量每增加10倍,性能会稳定提升。这被称为规模定律。但为什么大模型就一定更聪明呢?
Transformer中的注意力机制是怎么“注意”的
大模型的核心技术叫注意力机制。简单说,模型在读一段文字时,会给每个词分配不同的“关注程度”。
查看更多问答 →