ZIWU AIEmbodied Intelligence Measurement
菜单
TASKGRAPH · EVALUATION, DIAGNOSIS & RECOVERY

每一次机器人运行
都落到同一张任务图上

无论动作来自 VLA 策略(Simate-beta、π0 系列、Xiaomi-Robotics),来自大模型规划器(目前为 GPT-6 Astra,可替换),还是由 GPT-6 Astra 调度 Simate,ZIWU 都把运行整理成任务图:任务目标、运行状态、失败位置与视频和原生结果对齐,用来比较控制方式,并筛出“出现故障、修正、重新取得进展”的恢复轨迹。

示意 · 早期 VLA 插笔任务图 · FILL_PEN_HOLDER
Xiaomi_R1 · 四支全部入筒 · SUCCESSACT · 持筒停滞 0/4 · TIMEOUT

示意:早期两条 VLA 仿真轨迹落在同一张任务图上,一条完成插入,另一条在瓶颈处反复直至超时。点击打开 RoboRSI 插笔入筒的交互式任务图。

3 tasks101+ trajectories12 audited frames
01 · 结果 · RoboRSI 5 任务 × 5 布局,双臂 ARX X5 仿真

三种控制方式,落在同一张任务图上

A

10/25 成功

GPT-6 Astra+固定技能。平均分 47.5 / 100,全程不调用 VLA。

B

10/25 成功

GPT-6 Astra+可选 Simate。平均分 56.1 / 100;10 次成功中 5 次没有实际调用 Simate。

C

5/25 成功

Simate(VLA):Simate-beta 单独控制。平均分 21.6 / 100,不调用 GPT-6 Astra。

R

24/75 恢复

任务图自动筛出「故障 → 修正 → 重新取得进展」的回合 24 条,正在用人工盲标核对准确率与召回率。

02 · 任务图用于什么

从运行轨迹到可改进的证据

01

比较控制方式

同一任务、同一布局下,把 VLA、大模型规划器和大模型调度 VLA 的运行放进同一张图,比较成败、过程和失败位置,而不只看一个成功率。

02

发现过程退化

新版本仍然成功,却变慢、绕路、抖动或依赖更多修正;成功率无法单独反映这些过程变化。

03

筛出故障恢复轨迹

在任务图上找出“掉了、倒了、抓空、对不准”之后又修正并重新取得进展的片段,附故障、修正、恢复的步号,回到录像即可核对。

04

支撑自我改进

恢复片段和失败位置交给复盘模型,修改执行代码与配置(模型权重不变);改动是否保留,由同布局、同预算的配对实验决定。

ZIWU 的两个产品

一个账号,两套工具

WORKSPACE · ZIWU AGENT

把每一次 AI 编程会话,变成可复用的技能

汇总所有电脑上的 Claude Code、Codex 会话;整理成工作流、规则和踩坑,生成关系图、流程图和技能,与团队共享。

npm install -g @ziwu-ai/ziwu-agent
EVALUATION · TASKGRAPH

具身运行的任务图:评测、诊断与故障恢复筛选

上传任意控制方式的运行数据(VLA、大模型规划、两者结合)生成任务图,对照视频与原生结果回放,标出故障与恢复,并用人工标注检验筛选结果。

Overview

从轨迹视频
到可检查的运行路径

Technical framework · Graph × Visualization

运行、任务图与评测指标

Connector 接入运行,Graph 记录任务与运行关系,Visualization 展示差异;结果可用于选型、门禁、数据采集和复测。

LIVE · 已有证据NEXT · 近期产品化VISION · 长期网络
ZIWU 从高维任务现实,经语义任务图、任务地形与度量坐标,到评估、诊断和改进的技术框架

图中将 Agent、机器人和世界模型运行统一为事件,并映射到语义任务图、任务地形和度量坐标;结果保留版本、视频、action 和原生输出来源。

  1. LIVE01 · Connector接入异构运行

    Task / Robot / Policy / Episode

  2. LIVE02 · Graph记录指标、失败与证据

    Metric / Failure / Evidence

  3. LIVE03 · Visualization展示工作流与回放

    Workflow / Landscape / Replay

  4. NEXT04 · Decision将证据接入决策流程

    Match / Gate / Route / Retest

  5. VISION05 · Physical Track扩展到真实测试网络

    Test Cell → Robot Town

评测结果用于后续部署、训练和复测。

Evidence review

从视频回放到问题定位

03

Cohort comparison

将同任务的 101 条轨迹按可追溯行为分组,并区分 demo 与 policy truth。

02

Timeline review

Goal、当前状态、目标距离和中文说明沿时间轴同步显示。

01

Synchronized evidence

三路相机、逐步 action、原生 score 与运行 manifest 对齐到同一个 step。

Decision support

从 success 指标到 CI 质量门禁

G5

Deployment gate · PLANNED

规划将成功率、执行成本和经验证的过程指标用于发布门禁;当前尚未形成完整闭环。

G3

Regression detection

对终点相似的运行,比较耗时、路径、方向反转和低活动步。

G1

Infrastructure status

基础设施 pass 仅表示环境可运行,与 policy success 分开记录。

03 · 证据边界

区分示教素材、仿真运行与结论

本节列出各类证据可以支持和不能支持的结论。

证据事实可用于
Fill Egg Holder · Official Teleop demos两条官方训练示教;最终帧呈现关盖外观;官方 score 未重跑强差异质量对照 Demo
Fold Clothes · Official DataGen demos两条官方训练示教;4%–10% 级过程与视觉代理差异;官方 score 未重跑细微退化检测 Demo
Fill Pen Holder · ACT policy run真实 GPU 运行,success=false,score=0失败诊断
RoboRSI · 5 任务 × 5 布局 × 3 种控制方式75 回合:GPT-6 Astra+固定技能 10/25,GPT-6 Astra+可选 Simate 10/25,Simate(VLA) 5/25;可选 Simate 组 10 次成功中 5 次未调用 Simate;轮间布局与源码有变化控制方式的探索性对照
本页已有证据
  • 两条蛋盒官方示教可被三视角同步回放
  • 逐步 action 可计算时长、路径、反转与低活动步
  • 强差异与细微退化能进入同一质量账本
  • 系统可以区分“终点相似,但过程质量不同”
本页不支持以下结论
  • 这两条是两个 policy 的同 seed / 同 layout A/B
  • 两条都取得 RoboDojo 官方满分
  • 反转与低活动步等同于人工标注的重试或停滞
  • 两条样本足以证明跨 seed 稳健性
  • 大模型调度 VLA 稳定优于两端基线,或自主代码改写已持续提升成功率
  • 故障恢复的自动筛选已达到某个准确率(人工标注完成前只是候选)
下一步

用人工标注检验故障恢复筛选,再让恢复证据驱动改进

先确认任务图筛出的恢复轨迹是真的、漏得少,再把它交给复盘与配对实验。

  1. 01RoboRSI 75 回合建图并自动筛选恢复片段(候选)
  2. 02独立盲标,计算准确率、精确率与召回率
  3. 03同任务、同起点 100 回合评测集,调规则与评测样本分开
  4. 04恢复片段交给大模型复盘生成候选,配对实验决定是否保留
早期案例:示教质量对照(蛋盒、叠衣服)与过程指标
早期案例 · Long-Horizon Demo

同一任务,终点相似,运行过程不同

任务要求把四个蛋放入蛋盒、关盖并让机器人回到原位。两个官方示教以真实速度同步起播:Episode 2 在 10.80 秒结束,Episode 54 还要继续 18.64 秒。

耗时更短、路径更短Official demo · Episode 2
270 frames · 25 FPS视频 10.80 s
终点相似,耗时更长Official demo · Episode 54
736 frames · 25 FPS视频 29.44 s
0.00 s
对照要点

两次运行耗时分别为 10.80 秒和 29.44 秒。同步多视角回放用于核对额外动作发生在哪个阶段,并将耗时、动作路径、方向反转和低活动步记录为可复测指标。

早期案例 · 系统记录了什么

同时比较任务结果与执行过程

绿色代表 Episode 2,橙色代表 Episode 54。全部数字来自官方示教视频与 14 维 action;没有 ground truth 的成功分不会填成 0 或 100。

Episode 2Episode 54本组指标均为 ↓ 越低越好
示教时长三路视频从第一帧到最后一帧;25 FPS
10.80 s
29.44 s
↓ 越低越好快 63.3%
动作空间路径14 维 action 相邻步 L2 变化量总和,不是米
24.00
29.78
↓ 越低越好少 19.4%
方向反转各关节动作增量变号次数;是来回修正代理,不是语义重试
850
2,533
↓ 越低越好少 66.4%
低活动步相邻 14 维 action 变化 L2 < 0.01;是停滞代理
3 · 1.1%
123 · 16.7%
↓ 越低越好3 vs 123
逐步动作活动度

长程差异体现在整个运行过程

每根柱子聚合一段 14 维 action 的相邻变化量。点击柱子可以跳回相应视频时间;Episode 54 的时间轴横跨 29.44 秒,因此相似终点背后的额外等待与反复修正仍可检查。

Episode 2
Episode 54
早期案例 · 细微退化

差异不总是 2.73×;小退化也值得在上线前被发现

Fold Clothes 官方示教用来展示肉眼难以稳定识别的 4%–10% 级质量差异。

Fold Clothes Episode 36 最终头部视角
Episode 3612.00 s · action path 27.19
Fold Clothes Episode 93 最终头部视角
Episode 9312.52 s · action path 30.23
SUBTLE REGRESSION10.1%

Episode 36 的动作空间路径更短;同时快 4.2%,最终轮廓矩形度代理高 5.9%。这组差异幅度较小,可用于说明持续评测与回归检测的作用。

下载 Fold Clothes 报告
数据来源

页面数字附有原始数据来源