CUA 智能体框架

🔤 Rust ★ 30141 ⑂ 0 monthly #18 (+7211) 抓取 2026-10-19

一句话简介

cua 是一个开源的计算机使用智能体框架,支持在虚拟 macOS/Linux/Windows 沙箱中通过自然语言指令自动化操作桌面应用与浏览器任务。

标签

  • AI智能体
  • 桌面自动化
  • 计算机使用
  • 开源框架
  • 虚拟沙箱

适用应用场景

  • 自动化操作桌面应用完成重复性任务
  • 通过自然语言控制浏览器进行网页交互与数据采集
  • 在隔离沙箱中安全运行 AI 驱动的 UI 测试与代码生成
  • 构建可观察、可扩展的端到端 GUI 工作流

README 中文摘要

项目概览

Cua 是一个面向 AI 代理的计算机使用框架,提供完整的桌面环境、自动化驱动、本地虚拟机以及评测工具链。整个仓库围绕一个核心理念:让 AI 代理能够像人类一样在真实桌面系统中操作。

组件构成

Cua Spaces

桌面应用,为代理提供完整桌面。每个 Space 既可以是本地 Mac 上的 macOS 虚拟机,也可以是 Linux 或 Omarchy 镜像。Space 可部署在本地 Mac、其他自有机器,或自有云账号(AWS、Google Cloud、Modal)中。

核心特性包括:

  • Teleport:将已登录的应用迁移到 Space 中,会话凭证经 Cua Keyvault 加密保存
  • Multiplayer:人与代理在同一桌面协同,各自拥有独立光标
  • Agent-ready 镜像:预装 cua-spacesd,启动即可提供进程、文件、截图和输入能力

个人版免费,Pro 版每月 18 美元,Teams 版每席位每月 30 美元,需 macOS 26 及以上。

Cua Driver

后台运行的桌面自动化驱动,支持 macOS、Windows 和 Linux,可通过 CLI、MCP 或类型化 SDK 连接。在应用与平台支持的前提下,可在不夺取焦点的前提下操作界面。

安装命令:

# macOS / Linux
/bin/bash -c "$(curl -fsSL https://cua.ai/driver/install.sh)"

# Windows (PowerShell)
irm https://cua.ai/driver/install.ps1 | iex

Lume

基于 Apple Silicon 的 Virtualization.Framework 框架,提供本地 macOS 和 Linux 虚拟机的创建与管理能力。

Cua SDK 与 CLI

统一的 SDK 与 cua 命令行工具,覆盖本地虚拟机、容器,以及运行 cua-spacesd 的任意机器。

核心使用示例:

cua sb create ubuntu --name dev          # 创建 gVisor 容器
cua sb exec dev uname -a                 # 在容器内执行命令
cua sb screenshot dev                    # 截取容器屏幕
cua sb rm dev                            # 删除容器

Python SDK 用法:

from cua_sandbox import Image, Sandbox

async with Sandbox.ephemeral(Image.linux(), local=True) as sb:
    print((await sb.shell.run("uname -a")).stdout)

SDK 支持 Python(pip install cua)、TypeScript(@trycua/cua)、Swift 与 Kotlin,内嵌进程或通过共享的 cua daemon 运行。镜像若安装了 cua-spacesd(端口 3211),还可提供低延迟音视频流。

CUA-S1

CUA-S1 是面向计算机使用场景的"系统 1"小模型系列,专注于快速、有限边界的决策,例如为表单字段选择合适的值。首个研究方向聚焦表单填写:依据结构化的界面元素和文档值进行评分决策。模型权重托管在 Hugging Face,源代码以 MIT 协议开源。

Cua Bench

用于构建计算机使用任务、评测代理并导出训练轨迹。模拟任务无需虚拟机、Docker 或模型 API 密钥。

安装方式(需 Python 3.12/3.13 与 uv):

uv tool install 'cua-bench[browser]'
uv tool run --from 'cua-bench[browser]' playwright install chromium

软件包

包名 说明
cua-driver 跨平台后台代理
cua SDK 与 CLI Raster 核心与 cua 命令
cua (Python) Python SDK
@trycua/cua Node 与浏览器 SDK
Cua (Swift) Swift SDK(SwiftPM、XCFramework)
cua-sandbox 高级 Sandbox/Image/Pool API
cua-spacesd 沙箱内守护进程(端口 3211)
Cua Spaces for macOS 菜单栏与刘海区界面
Cua Spaces core Tauri 跨平台核心
cua-bench 计算机使用基准与 RL 环境
lume Apple Silicon 上的虚拟机管理
lumier Lume 的 Docker 兼容接口

协议说明

除 Cua Spaces 与 Cua Driver Bench 采用 FSL-1.1-MIT 外,其余组件均采用 MIT 协议。FSL 部分禁止以托管服务形式竞争,每个版本发布两年后转为 MIT。部分子目录(如可选的 cua-som、cua-perception 扩展)使用 AGPL-3.0 或其他协议,使用前需查阅相应许可。

摘要更新于 2026-10-19 01:22:00 · 原文 21207 字符 · md5 d054d80855a2…