fix: 调整peripheral_cfg函数中的目标力矩设置值

.gitignore

@@ -44,3 +44,6 @@ AMENT_IGNORE
 *.vsix
 
 .codex
+
+# RealSense camera test snapshots
+/xr_rm_bringup/test/camera_test_output/

AGENTS.md

@@ -288,7 +288,7 @@ test: 添加 xxx 测试
 
 ## 项目专属规则
 
-* 本项目面向 Ubuntu 22.04 和 ROS2 Humble；构建、测试和运行命令应在工作空间根目录 `/home/robot/WS_xr` 执行，并先 `source /opt/ros/humble/setup.bash`。
+* 本项目面向 Ubuntu 22.04 和 ROS2 Humble；编译前必须先切换到工作空间根目录 `/home/robot/WS_xr`，并执行 `source /opt/ros/humble/setup.bash`。禁止在 `/home/robot/WS_xr/src` 中运行 `colcon build`，否则会在源码目录生成多余的 `build/`、`install/` 和 `log/`；测试和运行命令也应在工作空间根目录执行。
 * 工作空间包含 `xr_rm_input`、`xr_rm_teleop` 两个 `ament_python` 包，以及 `xr_rm_interfaces`、`xr_rm_bringup` 两个 `ament_cmake` 包；优先使用现有 ROS2 包、节点和消息，不要另建重复入口。
 * 修改 ROS 节点、launch、消息定义或安装配置后，至少运行 `colcon build --symlink-install`；涉及遥操作姿态控制时，再运行 `pytest src/xr_rm_teleop/test/test_orientation_control.py`。
 * 遥操作统一使用 `xr_rm_bringup/launch/arm_debug.launch.py`；调试和验证默认使用 `use_mock:=true`，未经用户明确要求不得连接真机、移动机械臂或操作夹爪。

README.md

@@ -1,7 +1,7 @@
 # XR-RM75 双臂遥操作
 
 基于 **Ubuntu 22.04、ROS2 Humble、PICO 4 Ultra 和睿尔曼 RM75** 的双臂 XR 遥操作
-工作空间，支持单臂/双臂 Mock 与真机控制，以及 MuJoCo 运动学显示。
+工作空间，支持单臂/双臂 Mock 与真机、MuJoCo 显示和右臂番茄采摘 ACT 数据采集。
 
 > [!WARNING]
 > 真机命令会连接并控制机械臂。首次运行必须从 Mock 和单臂低速验证开始，确保急停
@@ -10,11 +10,11 @@
 ## 当前能力
 
 - PICO/XR 双手柄 UDP 输入，相对位姿目标与 Placo QP 七关节控制。
-- 单臂/双臂 Mock 与真机、手柄/话题夹爪控制，以及只读 MuJoCo 双臂显示。
+- 单臂/双臂 Mock 与真机、夹爪开合，以及只读 MuJoCo 双臂显示。
 - 工作空间/圆柱限位、速度限制、指令超时和安全慢停。
-- 统一 launch、Tkinter 启动面板、调试话题和 Mock 输入工具。
+- 三路 RealSense 链路测试与右臂 ACT/ALOHA 风格 HDF5 采集。
 
-尚未完成：D405/D435 视频流、数据记录、相机标定、目标检测、双臂碰撞避障、任务级状态机，以及 PICO 与 ROS 的完整时间同步和状态回传。
+尚未完成：左腕 D405 的 ACT 接入、相机 ROS launch/TF/标定、目标检测、双臂碰撞避障、任务级状态机，以及 PICO 与 ROS 的完整时间同步和状态回传。
 
 ## 系统架构
 
@@ -27,11 +27,14 @@ PICO / XRoboToolkit
   -> 相对 TCP 目标 + Placo QP
   -> Mock 或 RM75 rm_movej_canfd
   -> joint_states / 调试话题
-       -> 可选 xr_rm_mujoco/dual_arm_simulator
+       ├── xr_rm_mujoco/dual_arm_simulator
+       └── ActControlSample + D455/D405
+            -> act_episode_recorder
+            -> episode_<编号>.hdf5
 ```
 
 工作空间包含五个 ROS2 包：`xr_rm_input` 负责手柄输入，`xr_rm_interfaces` 定义消息，
-`xr_rm_teleop` 实现遥操作与真机适配，`xr_rm_bringup` 提供启动和配置，
+`xr_rm_teleop` 实现控制与 ACT 录制，`xr_rm_bringup` 提供启动和配置，
 `xr_rm_mujoco` 负责只读运动学显示。
 
 `single_arm_velocity_teleop` 每个实例只控制一台机械臂；双臂模式分别启动 `left_arm_teleop` 和 `right_arm_teleop`。
@@ -49,11 +52,12 @@ colcon build --symlink-install
 source install/setup.bash
 ```
 
-遥操作和 MuJoCo 节点固定使用 `/home/robot/miniconda3/envs/xr/bin/python`，
+遥操作、MuJoCo 和 ACT 节点固定使用 `/home/robot/miniconda3/envs/xr/bin/python`，
 其中固定 Placo 0.9.4、Pinocchio 3.7.0、NumPy 2.2.6 和 MuJoCo 3.10.0；不要从
 用户或系统 Python 覆盖这些版本。
 
-真机模式另需睿尔曼 Python API2；Mock 模式不依赖厂商 SDK。
+真机模式另需睿尔曼 Python API2。ACT 采集需要 `h5py` 和 `pyrealsense2`，
+三相机测试还需要 OpenCV。Mock 模式不依赖厂商 SDK。
 
 ## 快速开始
 
@@ -121,7 +125,56 @@ ros2 launch xr_rm_bringup arm_debug.launch.py arm:=both use_mock:=false
 ```
 
 按住 `grip` 控制对应机械臂；松开后停止。点击 `trigger` 切换对应夹爪开/关。
-左手 X、右手 A 会请求对应机械臂回到配置的初始位姿；真机使用前必须清空安全区。
+
+## RealSense 与 ACT 采集
+
+### 三相机测试
+
+连接两台 D405 和一台 D455 后执行：
+
+```bash
+/home/robot/miniconda3/envs/xr/bin/python \
+  src/xr_rm_bringup/tools/realsense_multi_camera_test.py
+```
+
+默认将序列号 `260322272273` 识别为左腕 D405，另一台 D405 为右腕，D455 为
+全局相机。按 `S` 保存三路快照，按 `Q` 或 `Esc` 退出并打印链路汇总。
+快照目录为 `src/xr_rm_bringup/test/camera_test_output/`。
+
+### ACT episode
+
+ACT 目前仅支持右臂真机。以下命令会连接并控制右侧 RM75：
+
+```bash
+ros2 launch xr_rm_bringup arm_debug.launch.py \
+  arm:=right use_mock:=false record_act:=true
+```
+
+`record_act:=true` 启动后默认显示全局 D455 和右腕 D405 双路画面，并显示实时
+FPS、真实丢帧率、帧龄、双相机时间差、录制状态、episode 编号和样本数。按
+`Q`、`Esc` 或关闭窗口只会停止预览，ACT 相机采集和录制继续运行；没有桌面环境
+或 OpenCV 显示失败时也不会影响录制。
+
+相机采集线程观察到的真实掉帧仍会拒绝 episode。独立 `30 Hz` 控制和相机时钟
+造成的 ACT 样本重复/跨帧只写入 HDF5 质量指标，不再误报为相机丢包。
+
+默认配置位于 `xr_rm_bringup/config/act_tomato_pick.yaml`：D455 序列号
+`234222303366`，右腕 D405 序列号 `412622272532`，90 Hz 控制数据下采样为
+30 Hz。输出位于 `/home/robot/ACT_Data/tomato_pick/`，状态发布到
+`/act/recording_status`。
+
+录制流程：
+
+1. 打开夹爪并松开右手 `grip`。
+2. 点击右手 B 完成预检并进入 `ARMED`。
+3. 按住右手 `grip` 开始遥操作和录制。
+4. 松开 `grip`，点击右手 B 保存。
+
+`ARMED` 或录制期间长按左手 Y 一秒可丢弃当前 episode。录制期间点击右手 A
+会触发初始化位姿并使当前数据无效。
+
+预检和保存会检查控制连续性、反馈有效性、夹爪状态、磁盘空间、相机帧率/掉帧、
+帧龄和双相机时间差。不合格或中断的数据保存在 `rejected/`。
 
 ## Launch 参数
 
@@ -132,6 +185,7 @@ ros2 launch xr_rm_bringup arm_debug.launch.py arm:=both use_mock:=false
 | `arm` | `right` | `left`、`right` 或 `both` |
 | `use_mock` | `true` | `false` 会连接真机 |
 | `use_mujoco` | `false` | 仅支持 `arm:=both` |
+| `record_act` | `false` | 仅支持 `arm:=right use_mock:=false` |
 | `udp_host` | `0.0.0.0` | UDP 监听地址 |
 | `udp_port` | `15000` | UDP 监听端口 |
 | `udp_timer_hz` | `200.0` | UDP receiver 轮询频率 |
@@ -145,6 +199,7 @@ ros2 launch xr_rm_bringup arm_debug.launch.py arm:=both use_mock:=false
 | `right_arm_rm75.yaml` | 右臂单独调试 |
 | `peripherals_rm75.yaml` | 工具坐标、负载和末端执行器 |
 | `dual_arm_mujoco.yaml` | MuJoCo 刷新频率 |
+| `act_tomato_pick.yaml` | ACT 相机、存储与质量阈值 |
 
 修改某一侧控制参数时，同时检查单臂和双臂 YAML 是否需要同步。必须保留工作空间/
 圆柱限位、线速度与角速度限制、关节速度/加速度限制、指令超时和安全停止逻辑。

docs/superpowers/plans/2026-08-13-act-camera-preview-alignment.md

@@ -0,0 +1,756 @@
+# ACT 双相机预览与采样质量判定修正实施计划
+
+> **供代理执行者使用：** 必须使用 `superpowers:subagent-driven-development`（推荐）或 `superpowers:executing-plans`，逐项执行本计划。所有步骤使用复选框（`- [ ]`）跟踪。
+
+**目标：** 保持 ACT 当前因果时间对齐，同时把真实相机丢帧与软件采样相位漂移分开判定，并在 ACT 数采启动时默认显示全局 D455 和右腕 D405 实时画面。
+
+**架构：** 继续由 `act_episode_recorder` 独占两台 RealSense，并按每三个 `90 Hz` 控制周期选择不晚于控制时刻的最新图像。`CameraBuffer` 负责真实采集质量，HDF5 校验只记录 ACT 样本重复/跨帧率；同一节点内新增一个只读 OpenCV 预览线程，复用现有帧缓冲且不进入机器人控制链路。
+
+**技术栈：** Ubuntu 22.04、ROS2 Humble、Python 3、rclpy、NumPy、h5py、pyrealsense2、OpenCV、pytest、HDF5。
+
+---
+
+## 文件结构
+
+本次不新建 ROS 包或运行进程，文件职责保持如下：
+
+- 修改 `xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py`：真实采集统计、ACT 采样相位指标、质量判定、双路预览及关闭顺序；
+- 修改 `xr_rm_teleop/test/test_act_episode_recorder.py`：指标口径、误拒绝复现、帧号回退和预览隔离测试；
+- 修改 `README.md`：说明 ACT 数采默认预览、显示内容和关闭行为。
+
+不修改 `arm_debug.launch.py`、`launcher_ui.py`、ROS 消息、机器人控制节点和相机 YAML。工作区已有的 `xr_rm_teleop/xr_rm_teleop/fun_peripheral.py` 未提交改动属于用户，不加入本任务提交。
+
+所有构建和测试命令从工作空间根目录执行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+```
+
+自动化测试不得启动真机 launch、移动机械臂或操作夹爪。
+
+### 任务 1：区分真实丢帧与 ACT 采样相位漂移
+
+**文件：**
+
+- 修改：`xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py:408-579`
+- 修改：`xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py:595-657`
+- 修改：`xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py:1472-1511`
+- 测试：`xr_rm_teleop/test/test_act_episode_recorder.py:273-296`
+- 测试：`xr_rm_teleop/test/test_act_episode_recorder.py:491-607`
+
+- [ ] **步骤 1：写异步采样不拒绝和指标测试**
+
+在测试导入中加入 `sample_frame_metrics`，并增加：
+
+```python
+def test_sample_frame_metrics_separate_repeats_skips_and_regressions():
+    repeat, skip, regression = sample_frame_metrics(
+        np.asarray((986, 986, 988), dtype=np.uint64)
+    )
+
+    assert repeat == pytest.approx(0.5)
+    assert skip == pytest.approx(0.5)
+    assert regression == 0
+
+
+@requires_h5py
+def test_validate_episode_accepts_async_camera_phase_drift(tmp_path):
+    path = _valid_episode(tmp_path)
+    with h5py.File(path, "r+") as root:
+        root["debug/cameras/cam_high_frame_number"][:] = (986, 986, 988)
+
+    report = validate_episode(path, _quality_limits())
+
+    assert report.accepted
+    assert report.metrics["cam_high_sample_repeat_ratio"] == pytest.approx(0.5)
+    assert report.metrics["cam_high_sample_skip_ratio"] == pytest.approx(0.5)
+```
+
+在 `_valid_episode()` 写入新增的真实采集属性：
+
+```python
+root.attrs["camera_high_frame_number_regression_count"] = 0
+root.attrs["camera_right_wrist_frame_number_regression_count"] = 0
+```
+
+- [ ] **步骤 2：写真实帧号回退测试**
+
+扩展现有 `CameraBuffer` 测试：
+
+```python
+def test_camera_buffer_counts_frame_number_regressions():
+    buffer = CameraBuffer(maxlen=4)
+    for frame_number in (100, 101, 1, 2):
+        buffer.push(
+            CameraFrame(
+                _image(frame_number),
+                frame_number,
+                float(frame_number),
+                time.monotonic_ns(),
+            )
+        )
+
+    stats = buffer.stats()
+
+    assert stats.frame_number_regression_count == 1
+    assert stats.dropped_frames == 0
+```
+
+测试文件顶部增加标准库导入：
+
+```python
+import time
+```
+
+并在稳定拒绝原因参数中增加真实采集帧号回退：
+
+```python
+elif mutation == "camera_frame_regression":
+    root.attrs["camera_high_frame_number_regression_count"] = 1
+```
+
+对应期望：
+
+```python
+("camera_frame_regression", "camera_frame_number_regression"),
+```
+
+- [ ] **步骤 3：运行新增测试并确认失败**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+pytest src/xr_rm_teleop/test/test_act_episode_recorder.py \
+  -k "sample_frame_metrics or async_camera_phase_drift or frame_number_regressions or camera_frame_regression" -v
+```
+
+预期：测试因 `sample_frame_metrics` 尚不存在、`CameraStats` 没有回退计数，或旧校验仍以 `camera_sample_drop_ratio` 拒绝而失败。
+
+- [ ] **步骤 4：实现最小采样相位指标**
+
+在质量校验辅助函数附近增加纯函数：
+
+```python
+def sample_frame_metrics(
+    frame_numbers: np.ndarray,
+) -> tuple[float, float, int]:
+    diffs = np.diff(np.asarray(frame_numbers, dtype=np.int64))
+    denominator = max(1, len(diffs))
+    return (
+        float(np.count_nonzero(diffs == 0) / denominator),
+        float(np.count_nonzero(diffs > 1) / denominator),
+        int(np.count_nonzero(diffs < 0)),
+    )
+```
+
+把 `validate_episode()` 中原有“所有 `diff != 1` 都拒绝”的循环替换为：
+
+```python
+for camera in ("cam_high", "cam_wrist"):
+    frame_numbers = datasets[
+        f"debug/cameras/{camera}_frame_number"
+    ][:]
+    repeat_ratio, skip_ratio, regression_count = sample_frame_metrics(
+        frame_numbers
+    )
+    metrics[f"{camera}_sample_repeat_ratio"] = repeat_ratio
+    metrics[f"{camera}_sample_skip_ratio"] = skip_ratio
+    if regression_count:
+        return _quality_failure("camera_frame_number_regression", metrics)
+```
+
+这样 `986 → 986 → 988` 只产生统计，不再触发 `camera_sample_drop_ratio`。
+
+- [ ] **步骤 5：在采集层统计帧号回退**
+
+扩展 `CameraStats`：
+
+```python
+@dataclass(frozen=True)
+class CameraStats:
+    frame_count: int
+    dropped_frames: int
+    frame_number_regression_count: int
+    first_host_monotonic_ns: int | None
+    last_host_monotonic_ns: int | None
+```
+
+在 `CameraBuffer.__init__()` 增加：
+
+```python
+self._frame_number_regression_count = 0
+```
+
+在 `CameraBuffer.push()` 更新帧号前使用互斥分支：
+
+```python
+if self._last_frame_number is not None:
+    if frame.frame_number <= self._last_frame_number:
+        self._frame_number_regression_count += 1
+    elif frame.frame_number > self._last_frame_number + 1:
+        self._dropped_frames += (
+            frame.frame_number - self._last_frame_number - 1
+        )
+```
+
+在 `stats()` 返回：
+
+```python
+frame_number_regression_count=self._frame_number_regression_count,
+```
+
+- [ ] **步骤 6：把真实采集回退纳入 episode 属性和拒绝条件**
+
+把 `_interval_camera_metrics()` 的返回值扩展为 FPS、真实丢帧率和本 episode 新增的回退数：
+
+```python
+@staticmethod
+def _interval_camera_metrics(
+    baseline: CameraStats,
+    current: CameraStats,
+) -> tuple[float, float, int]:
+    frames = max(0, current.frame_count - baseline.frame_count)
+    dropped = max(0, current.dropped_frames - baseline.dropped_frames)
+    regressions = max(
+        0,
+        current.frame_number_regression_count
+        - baseline.frame_number_regression_count,
+    )
+    if (
+        baseline.last_host_monotonic_ns is None
+        or current.last_host_monotonic_ns is None
+    ):
+        return 0.0, 1.0, regressions
+    elapsed_ns = (
+        current.last_host_monotonic_ns
+        - baseline.last_host_monotonic_ns
+    )
+    fps = frames * 1e9 / elapsed_ns if elapsed_ns > 0 else 0.0
+    expected = frames + dropped
+    drop_ratio = dropped / expected if expected else 1.0
+    return fps, drop_ratio, regressions
+```
+
+`_write_camera_metrics()` 写入：
+
+```python
+"camera_high_frame_number_regression_count": high[2],
+"camera_right_wrist_frame_number_regression_count": wrist[2],
+```
+
+`validate_episode()` 在读取 FPS 和真实丢帧率后要求两个回退属性存在且为零：
+
+```python
+for name in (
+    "camera_high_frame_number_regression_count",
+    "camera_right_wrist_frame_number_regression_count",
+):
+    if name not in root.attrs:
+        return _quality_failure("camera_stats_missing", metrics)
+    value = int(root.attrs[name])
+    metrics[name] = value
+    if value:
+        return _quality_failure("camera_frame_number_regression", metrics)
+```
+
+- [ ] **步骤 7：确保采样指标写入保存和拒绝文件**
+
+增加读取 HDF5 根节点的辅助函数：
+
+```python
+def episode_sample_frame_metrics(root: Any) -> dict[str, int | float]:
+    metrics: dict[str, int | float] = {}
+    for camera in ("cam_high", "cam_wrist"):
+        repeat, skip, regression = sample_frame_metrics(
+            root[f"debug/cameras/{camera}_frame_number"][:]
+        )
+        metrics[f"{camera}_sample_repeat_ratio"] = repeat
+        metrics[f"{camera}_sample_skip_ratio"] = skip
+        metrics[f"{camera}_sample_frame_number_regression_count"] = regression
+    return metrics
+```
+
+`validate_episode()` 复用该函数更新 `report.metrics`。在 `_reject_closed_partial()` 已打开 HDF5 后也执行：
+
+```python
+for name, value in episode_sample_frame_metrics(root).items():
+    root.attrs[name] = value
+```
+
+保存路径继续由 `_complete_save()` 把 `report.metrics` 写入属性。保存日志追加紧凑摘要：
+
+```python
+self.get_logger().info(
+    "ACT相机采样相位："
+    f"high重复={report.metrics['cam_high_sample_repeat_ratio']:.2%}, "
+    f"high跨帧={report.metrics['cam_high_sample_skip_ratio']:.2%}, "
+    f"wrist重复={report.metrics['cam_wrist_sample_repeat_ratio']:.2%}, "
+    f"wrist跨帧={report.metrics['cam_wrist_sample_skip_ratio']:.2%}"
+)
+```
+
+- [ ] **步骤 8：运行相关测试并确认通过**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+pytest src/xr_rm_teleop/test/test_act_episode_recorder.py \
+  -k "camera or validate_episode" -v
+```
+
+预期：所有选中测试通过；真实丢帧率仍使用 `camera_drop_ratio` 拒绝，异步重复/跨帧不拒绝。
+
+- [ ] **步骤 9：提交任务 1**
+
+```bash
+git add src/xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py \
+  src/xr_rm_teleop/test/test_act_episode_recorder.py
+git commit -m "fix: 修正ACT相机采样质量判定"
+```
+
+### 任务 2：在录制器中增加非阻塞双路预览
+
+**文件：**
+
+- 修改：`xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py:595-657`
+- 修改：`xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py:1006-1152`
+- 修改：`xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py:1668-1671`
+- 测试：`xr_rm_teleop/test/test_act_episode_recorder.py`
+
+- [ ] **步骤 1：写两秒滚动 FPS 测试**
+
+扩展 `CameraBuffer` 测试，使用明确的单调时间：
+
+```python
+def test_camera_buffer_reports_two_second_rolling_fps():
+    buffer = CameraBuffer(maxlen=4)
+    start_ns = 10_000_000_000
+    for index in range(61):
+        buffer.push(
+            CameraFrame(
+                _image(index),
+                index,
+                float(index),
+                start_ns + index * 33_333_333,
+            )
+        )
+
+    assert buffer.stats().rolling_fps == pytest.approx(30.0, rel=0.02)
+```
+
+- [ ] **步骤 2：写预览显示异常隔离测试**
+
+构造不经过 ROS 初始化的录制器和抛错的 `cv2` 替身：
+
+```python
+def test_preview_failure_does_not_change_recording_state():
+    recorder = object.__new__(ActEpisodeRecorder)
+    recorder._session = _recording_session()
+    recorder._preview_stop = threading.Event()
+    recorder._preview_thread = None
+    recorder.get_logger = lambda: _Logger()
+
+    class FailingCv2:
+        WINDOW_NORMAL = 0
+
+        @staticmethod
+        def namedWindow(*_args):
+            raise RuntimeError("no display")
+
+    recorder._preview_loop(FailingCv2())
+
+    assert recorder.state is RecordingState.RECORDING
+```
+
+`_Logger` 增加 `warns` 收集和 `warn()`：
+
+```python
+self.warns = []
+
+def warn(self, message):
+    self.warns.append(message)
+```
+
+- [ ] **步骤 3：写预览关闭顺序测试**
+
+验证关闭节点时先停预览，再停相机：
+
+```python
+def test_close_stops_preview_before_cameras_and_releases_lock():
+    events = []
+    recorder = object.__new__(ActEpisodeRecorder)
+    recorder._stop_preview = lambda: events.append("preview")
+    recorder._high_camera = SimpleNamespace(
+        stop=lambda: events.append("high")
+    )
+    recorder._wrist_camera = SimpleNamespace(
+        stop=lambda: events.append("wrist")
+    )
+    recorder._directory_lock = SimpleNamespace(
+        release=lambda: events.append("lock")
+    )
+
+    recorder.close()
+
+    assert events == ["preview", "high", "wrist", "lock"]
+```
+
+- [ ] **步骤 4：运行新增预览测试并确认失败**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+pytest src/xr_rm_teleop/test/test_act_episode_recorder.py \
+  -k "rolling_fps or preview or close_stops_preview" -v
+```
+
+预期：测试因 `rolling_fps`、`_preview_loop()` 和 `_stop_preview()` 尚不存在而失败。
+
+- [ ] **步骤 5：实现两秒滚动 FPS**
+
+在 `CameraBuffer.__init__()` 增加：
+
+```python
+self._recent_host_monotonic_ns: deque[int] = deque()
+```
+
+每次 `push()` 时裁剪两秒窗口：
+
+```python
+self._recent_host_monotonic_ns.append(frame.host_monotonic_ns)
+cutoff_ns = frame.host_monotonic_ns - 2_000_000_000
+while (
+    self._recent_host_monotonic_ns
+    and self._recent_host_monotonic_ns[0] < cutoff_ns
+):
+    self._recent_host_monotonic_ns.popleft()
+```
+
+`CameraStats` 增加字段和属性：
+
+```python
+recent_host_monotonic_ns: tuple[int, ...]
+
+@property
+def rolling_fps(self) -> float:
+    if len(self.recent_host_monotonic_ns) < 2:
+        return 0.0
+    elapsed_ns = (
+        self.recent_host_monotonic_ns[-1]
+        - self.recent_host_monotonic_ns[0]
+    )
+    return (
+        (len(self.recent_host_monotonic_ns) - 1) * 1e9 / elapsed_ns
+        if elapsed_ns > 0
+        else 0.0
+    )
+```
+
+`stats()` 使用：
+
+```python
+recent_host_monotonic_ns=tuple(self._recent_host_monotonic_ns),
+```
+
+- [ ] **步骤 6：实现最小预览渲染方法**
+
+在 `ActEpisodeRecorder` 增加固定窗口名：
+
+```python
+PREVIEW_WINDOW = "ACT - D455 Global / D405 Right Wrist"
+```
+
+增加生成单个画面块的方法。相机帧是 RGB，因此显示前转换成 BGR：
+
+```python
+@staticmethod
+def _preview_tile(role: str, frame, stats, cv2):
+    if frame is None:
+        tile = np.zeros((480, 640, 3), dtype=np.uint8)
+        frame_number = "-"
+    else:
+        tile = cv2.cvtColor(frame.image, cv2.COLOR_RGB2BGR)
+        frame_number = str(frame.frame_number)
+    tile = tile.copy()
+    cv2.rectangle(tile, (0, 0), (640, 74), (0, 0, 0), -1)
+    lines = (
+        f"{role}  FPS {stats.rolling_fps:.1f}  Frame {frame_number}",
+        f"Received {stats.frame_count}  Dropped "
+        f"{stats.dropped_frames} ({stats.drop_ratio:.2%})",
+    )
+    for index, line in enumerate(lines):
+        cv2.putText(
+            tile,
+            line,
+            (10, 28 + index * 30),
+            cv2.FONT_HERSHEY_SIMPLEX,
+            0.65,
+            (255, 255, 255),
+            1,
+            cv2.LINE_AA,
+        )
+    return tile
+```
+
+增加 `_compose_preview()`：读取两个缓冲最新帧，水平拼接，并在底部显示状态：
+
+```python
+def _compose_preview(self, cv2):
+    high_frames = self._high_camera.buffer.snapshot()
+    wrist_frames = self._wrist_camera.buffer.snapshot()
+    high = high_frames[-1] if high_frames else None
+    wrist = wrist_frames[-1] if wrist_frames else None
+    high_stats = self._high_camera.buffer.stats()
+    wrist_stats = self._wrist_camera.buffer.stats()
+    image = np.hstack(
+        (
+            self._preview_tile("GLOBAL D455", high, high_stats, cv2),
+            self._preview_tile("RIGHT WRIST D405", wrist, wrist_stats, cv2),
+        )
+    )
+
+    now_ns = self._now_ns()
+    high_age = (
+        f"{(now_ns - high.host_monotonic_ns) * 1e-6:.1f} ms"
+        if high is not None
+        else "-"
+    )
+    wrist_age = (
+        f"{(now_ns - wrist.host_monotonic_ns) * 1e-6:.1f} ms"
+        if wrist is not None
+        else "-"
+    )
+    skew = (
+        f"{abs(high.host_monotonic_ns - wrist.host_monotonic_ns) * 1e-6:.1f} ms"
+        if high is not None and wrist is not None
+        else "-"
+    )
+    episode = (
+        f"episode_{self._episode_index}"
+        if self._episode_index is not None
+        else "-"
+    )
+    samples = self._store.count if self._store is not None else 0
+    footer = np.zeros((80, image.shape[1], 3), dtype=np.uint8)
+    lines = (
+        f"Age high={high_age} wrist={wrist_age}  Camera skew={skew}",
+        f"ACT {self.state.value}  {episode}  Samples {samples}",
+    )
+    for index, line in enumerate(lines):
+        cv2.putText(
+            footer,
+            line,
+            (10, 30 + index * 32),
+            cv2.FONT_HERSHEY_SIMPLEX,
+            0.7,
+            (255, 255, 255),
+            1,
+            cv2.LINE_AA,
+        )
+    return np.vstack((image, footer))
+```
+
+若尚无帧，对应数值显示 `-`；该方法不修改任何录制器状态。
+
+- [ ] **步骤 7：实现预览线程生命周期和故障隔离**
+
+在相机成员创建前初始化：
+
+```python
+self._preview_stop = threading.Event()
+self._preview_thread: threading.Thread | None = None
+```
+
+两台相机成功启动后调用 `_start_preview()`：
+
+```python
+if self._camera_start_error is None:
+    self._start_preview()
+```
+
+实现：
+
+```python
+def _start_preview(self) -> None:
+    if not (os.environ.get("DISPLAY") or os.environ.get("WAYLAND_DISPLAY")):
+        self.get_logger().warn("未检测到桌面显示环境，ACT双相机预览已停用。")
+        return
+    try:
+        import cv2
+    except ImportError as exc:
+        self.get_logger().warn(f"OpenCV不可用，ACT双相机预览已停用：{exc}")
+        return
+    self._preview_stop.clear()
+    self._preview_thread = threading.Thread(
+        target=self._preview_loop,
+        args=(cv2,),
+        name="act_camera_preview",
+        daemon=True,
+    )
+    self._preview_thread.start()
+
+def _preview_loop(self, cv2) -> None:
+    try:
+        cv2.namedWindow(self.PREVIEW_WINDOW, cv2.WINDOW_NORMAL)
+        while not self._preview_stop.is_set():
+            cv2.imshow(self.PREVIEW_WINDOW, self._compose_preview(cv2))
+            key = cv2.waitKey(1) & 0xFF
+            if key in (ord("q"), ord("Q"), 27):
+                break
+            if cv2.getWindowProperty(
+                self.PREVIEW_WINDOW,
+                cv2.WND_PROP_VISIBLE,
+            ) < 1:
+                break
+            self._preview_stop.wait(0.1)
+    except Exception as exc:
+        self.get_logger().warn(f"ACT双相机预览已停用：{exc}")
+    finally:
+        try:
+            cv2.destroyWindow(self.PREVIEW_WINDOW)
+        except Exception:
+            pass
+
+def _stop_preview(self) -> None:
+    self._preview_stop.set()
+    if self._preview_thread is not None:
+        self._preview_thread.join(timeout=2.0)
+    self._preview_thread = None
+```
+
+`close()` 的第一步调用 `self._stop_preview()`，然后保持现有相机停止和目录锁释放顺序。
+
+- [ ] **步骤 8：运行预览相关测试并确认通过**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+pytest src/xr_rm_teleop/test/test_act_episode_recorder.py \
+  -k "rolling_fps or preview or close_stops_preview" -v
+```
+
+预期：所有选中测试通过，测试过程不打开真实窗口或相机。
+
+- [ ] **步骤 9：运行 ACT 录制器完整单元测试**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+pytest src/xr_rm_teleop/test/test_act_episode_recorder.py -v
+```
+
+预期：全部通过。
+
+- [ ] **步骤 10：提交任务 2**
+
+```bash
+git add src/xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py \
+  src/xr_rm_teleop/test/test_act_episode_recorder.py
+git commit -m "feat: 添加ACT双相机实时预览"
+```
+
+### 任务 3：更新使用说明并完成工作空间验证
+
+**文件：**
+
+- 修改：`README.md:144-169`
+
+- [ ] **步骤 1：更新 ACT 数采说明**
+
+在 ACT episode 启动命令后补充：
+
+```markdown
+`record_act:=true` 启动后默认显示全局 D455 和右腕 D405 双路画面，并显示实时
+FPS、真实丢帧率、帧龄、双相机时间差、录制状态、episode 编号和样本数。按
+`Q`、`Esc` 或关闭窗口只会停止预览，ACT 相机采集和录制继续运行；没有桌面环境
+或 OpenCV 显示失败时也不会影响录制。
+
+相机采集线程观察到的真实掉帧仍会拒绝 episode。独立 `30 Hz` 控制和相机时钟
+造成的 ACT 样本重复/跨帧只写入 HDF5 质量指标，不再误报为相机丢包。
+```
+
+- [ ] **步骤 2：运行文档和 Python 静态检查**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+python -m py_compile \
+  src/xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py \
+  src/xr_rm_teleop/test/test_act_episode_recorder.py
+git diff --check
+```
+
+预期：命令返回码为 `0`，没有语法或空白错误。
+
+- [ ] **步骤 3：运行项目要求的工作空间构建**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+colcon build --symlink-install
+```
+
+预期：所有包构建成功。不得在 `/home/robot/WS_xr/src` 中运行该命令。
+
+- [ ] **步骤 4：构建后再次运行 ACT 录制器测试**
+
+运行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+source install/setup.bash
+pytest src/xr_rm_teleop/test/test_act_episode_recorder.py -v
+```
+
+预期：全部通过。
+
+- [ ] **步骤 5：确认提交范围并提交任务 3**
+
+运行：
+
+```bash
+git status --short
+git diff -- README.md \
+  src/xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py \
+  src/xr_rm_teleop/test/test_act_episode_recorder.py
+git add README.md
+git commit -m "docs: 更新ACT相机预览说明"
+```
+
+不得暂存或提交 `xr_rm_teleop/xr_rm_teleop/fun_peripheral.py`。
+
+## 现场验证
+
+自动化实施结束后，由用户在确认现场安全条件后运行现有 ACT 数采入口：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+source install/setup.bash
+ros2 launch xr_rm_bringup arm_debug.launch.py \
+  arm:=right use_mock:=false record_act:=true
+```
+
+该命令会连接右臂真机，代理不得自行执行。现场确认：
+
+1. 双路画面默认出现且角色正确；
+2. FPS、真实丢帧率、帧龄、双相机时间差和 ACT 状态持续更新；
+3. 关闭窗口后录制状态和 HDF5 写入继续；
+4. 正常异步重复/跨帧的 episode 能保存；
+5. HDF5 属性包含真实采集质量与两路采样重复/跨帧指标。

docs/superpowers/specs/2026-08-10-act-tomato-pick-data-collection-design.md

@@ -0,0 +1,657 @@
+# 右臂番茄采摘 ACT 数据采集适配设计
+
+## 背景与目标
+
+当前项目已经通过 ROS2 Humble、PICO 手柄、Placo QP 和 RealMan Python API2
+完成 RM75 遥操作。右臂遥操节点以名义 `90 Hz` 读取实际关节反馈，根据 PICO
+相对位姿生成 TCP 目标，经过工作空间限制、QP、关节速度与加速度限制后，通过
+`rm_movej_canfd` 下发最终关节目标。
+
+本次变更在不重写现有遥操链路的前提下，增加一个独立的 ALOHA/ACT 风格数据采集
+节点。第一阶段只采集右臂番茄采摘任务，每个 episode 覆盖从初始位姿出发、抓取
+番茄、搬运至 RM75 下方收集篮并释放番茄的完整过程。
+
+核心目标如下：
+
+- 以右臂 7 个实际关节角和夹爪逻辑状态作为 `observations/qpos`；
+- 以实际成功下发或零阶保持的 7 个最终关节目标和夹爪目标作为 `action`；
+- 同步采集一台全局 D455 和一台右腕 D405 的 RGB 图像；
+- 以 `30 Hz` 形成同周期因果对齐的数据；
+- 每个完整任务流式保存为一个 ALOHA/ACT 核心结构兼容的 HDF5 文件；
+- 支持手柄开始、结束、丢弃、拒绝、质量检查、崩溃恢复和编号防覆盖；
+- 保留足够的 PICO、TCP、QP、夹爪和时间戳调试数据，但不让采集节点进入机器人
+  控制链路。
+
+参考实现为 ALOHA 官方仓库中的
+[`record_episodes.py`](https://github.com/tonyzhaozh/aloha/blob/master/aloha_scripts/record_episodes.py)。
+官方双臂数据使用 14 维状态和动作；本项目第一阶段采用右臂 `7+1=8` 维，因此只
+保证 HDF5 核心组织方式兼容，不声称官方旧训练加载器可以不修改直接训练。
+
+## 非目标
+
+第一阶段明确不实现：
+
+- 左臂或双臂 ACT 采集；
+- ACT 训练代码、数据加载器、策略部署或自动完成判定；
+- 深度图、红外图、点云、图像压缩或 ROS 图像话题；
+- rosbag、中间格式、离线转换工具、GUI、声音或手柄震动反馈；
+- 让 ACT 学习 A 键触发的回初始位姿运动；
+- 修改现有工作空间限制、圆柱限制、速度限制、指令超时、安全停止或
+  `move_to_initial_pose_on_connect` 默认值；
+- 新建重复的 ROS2 包或第二个 RealMan 连接。
+
+后续训练时建议将 ACT `chunk_size` 设为 `60`，对应约 2 秒动作长度；该参数属于
+训练配置，不写死在采集逻辑中。
+
+## 现有控制链路与关键约束
+
+现有 `single_arm_velocity_teleop` 在每个控制周期内依次完成：
+
+```text
+读取最新 RM75 反馈
+→ 同步 Placo 状态
+→ 读取 PICO 状态并生成 TCP 目标
+→ 工作空间、位姿步长与速度限制
+→ Placo QP
+→ 关节速度与加速度限制
+→ rm_movej_canfd 下发
+→ 发布 joint_target 调试话题
+```
+
+当前 `joint_states`、TCP 调试话题和 `joint_target` 分别发布并各自取时间戳。如果
+采集节点仅订阅这些分散话题，即使时间接近，也可能把第 100 个控制周期的
+`q_actual` 与第 99 个控制周期的 `q_target` 拼在一起。这里的“第 100 个周期”是
+控制序号，不是 `100 Hz`；现有控制频率仍是名义 `90 Hz`。
+
+此外，A 键回位调用的是一次阻塞式 `rm_movej(initial_joint_pose)`。轨迹由 RM75
+控制器内部生成，项目不能获得每个控制周期的中间目标，也不经过当前 QP 和
+`rm_movej_canfd` 链路，因此不能与遥操动作混用同一种标签语义。
+
+## 总体架构
+
+采用一个自定义原子控制采样消息和一个独立 ACT 采集节点：
+
+```text
+PICO 输入 + RM75 反馈
+          ↓
+single_arm_velocity_teleop（90 Hz）
+          ↓
+QP → 关节限速/限加速度 → RM75 下发
+          ↓
+ActControlSample（同周期、同时间戳、同序号）
+          ↓
+act_episode_recorder（每 3 个控制周期取 1 个）
+          ├──────────────┐
+          ↓              ↓
+   全局 D455 RGB     右腕 D405 RGB
+          └──────┬───────┘
+                 ↓
+        30 Hz 流式写入临时 HDF5
+                 ↓
+       裁剪 → 质量检查 → 保存/拒绝/丢弃
+```
+
+“原子”表示消息是一个逻辑上不可拆分的控制周期快照。订阅者要么收到该周期完整的
+反馈、求解结果、最终动作和状态，要么该周期整体缺失；不会自行拼接多个异步话题。
+
+职责边界如下：
+
+- 遥操节点继续唯一负责 RM75 连接、反馈、QP、限位、动作下发和安全停止；
+- 遥操节点只增加原子消息发布和夹爪逻辑状态记录，不读取相机、不写 HDF5；
+- 采集节点只订阅控制/PICO 数据、独占两台相机并写文件，不连接或控制 RM75；
+- 采集节点异常、退出或写盘过慢不得阻塞遥操发布或改变机器人动作；
+- 相机由采集节点通过 `pyrealsense2` 直接打开，不再发布和重新订阅 ROS 图像。
+
+原子消息使用本机低延迟、非阻塞的 best-effort QoS。采集节点检测任何需要保留的
+控制周期丢失并拒绝 episode，而不是让 DDS 反压影响遥操控制。
+
+## 原子控制采样消息
+
+在 `xr_rm_interfaces` 中新增 `ActControlSample.msg`，发布话题为：
+
+```text
+/xr_rm/right_rm75/act_control_sample
+```
+
+消息至少表达以下内容：
+
+| 类别 | 字段语义 |
+|---|---|
+| 周期标识 | ROS header、`control_seq`、控制周期单调时间戳 |
+| 关节反馈 | `q_actual[7]`、当前 URDF 关节上下限、反馈接收单调时间戳、反馈年龄、反馈有效状态 |
+| QP | QP 原始输出或失败时的保持目标 `q_qp_raw[7]`、是否尝试、成功状态、耗时 |
+| 最终动作 | 经关节限速后的 `q_target[7]`、动作时间戳、是否当前周期成功下发 |
+| TCP | 当前 TCP、PICO 映射前的原始目标 TCP、最终受限目标 TCP、命令速度 |
+| PICO | 当前右手位姿、Grip、Trigger、A、B 和摇杆值 |
+| 夹爪 | 请求目标、已确认逻辑状态、命令是否处理中、命令是否失败 |
+| 控制状态 | `teleop_active`、`action_valid`、QP 回退、目标限位和控制故障状态 |
+
+数值型关节字段在 ROS 消息中保持双精度，写入 HDF5 核心数据时显式转换成
+`float32`。位姿使用位置加四元数，不保存完整 Placo 对象、Hessian、约束矩阵或
+其他大体积求解器内部状态。
+
+消息在每个实际执行的 90 Hz 控制回调中发布，包括 Grip 松开和安全停止状态：
+
+- 当前周期成功发送动作时，`command_sent=true`；
+- 当前周期没有发送，但此前存在成功目标时，`q_target` 零阶保持上一个成功目标，
+  `command_sent=false`、`action_valid=true`；
+- 尚未形成任何有效目标或当前动作发送失败时，`action_valid=false`；
+- QP 失败但成功重发上次有效目标时，`qp_success=false`、`action_valid=true`；
+- 发送失败必须发布失败状态，并由采集节点拒绝当前 episode。
+
+相机数据不放进该消息。相机时间戳和帧号由采集节点在同一主机的单调时钟域中补充。
+
+## 夹爪数据语义
+
+右臂使用 Modbus 电动夹爪。由于不同番茄尺寸会导致实际停止开度不同，而本项目只
+关心抓取意图，第一阶段不读取或估算实际开度。
+
+统一约定：
+
+```text
+0 = closed
+1 = open
+```
+
+两类状态必须分开：
+
+- `action[7]` 是目标状态，在 Trigger 产生开合请求的控制周期立即改变；
+- `qpos[7]` 是已确认逻辑状态，只有 Modbus 命令正常返回后才改变；
+- 命令失败时 `qpos[7]` 保持原值，并拒绝当前 episode；
+- 采集前右臂夹爪必须成功初始化为完全打开 `1.0`，之后才允许把初始
+  `qpos[7]` 设为 `1`；
+- 不再使用原先含义不明确的 `0.75 → 0.15` 初始化序列。
+
+结束一个有效番茄采摘 episode 前，操作者应先请求打开夹爪，等待日志/状态确认
+逻辑状态已经变为 `open`，再松开 Grip 并按 B。结束时夹爪命令仍在执行，保存状态
+最多等待 3 秒；失败或超时则拒绝。最终裁剪后的数据若没有包含已确认的打开状态，
+同样拒绝，不能把保存后的成功状态回填到更早样本中。
+
+## 相机配置与采集
+
+第一阶段固定使用两台已确定序列号的 RealSense：
+
+| ACT 名称 | 型号与位置 | 序列号 |
+|---|---|---|
+| `cam_high` | 全局 D455 | `234222303366` |
+| `cam_right_wrist` | 右臂腕部 D405 | `412622272532` |
+
+两路图像参数统一为：
+
+```text
+分辨率：640 × 480
+帧率：30 FPS
+格式：RGB uint8
+HDF5 形状：(T, 480, 640, 3)
+```
+
+不采集深度、红外和点云，不使用 JPEG 压缩。采集线程直接请求 RealSense RGB8，
+避免为颜色通道转换引入 OpenCV 依赖。
+
+每台相机使用独立采集线程和一个很小的 `deque` 帧缓冲。每帧保存：
+
+- RealSense 帧号；
+- RealSense 硬件时间戳；
+- `wait_for_frames` 返回后立即读取的主机单调时间戳；
+- RGB 数组。
+
+两台设备的硬件时钟不能默认视为同一时钟域，因此正式对齐只使用同一主机的单调
+时钟；硬件时间戳只用于发现设备重启、帧号跳变和采集异常。
+
+采集节点独占相机。指定设备缺失、型号/序列号不匹配、流配置失败或已经被其他
+进程占用时，预检失败并停留在 `IDLE`，不自动替换成其他相机。
+
+## 30 Hz 采样与因果对齐
+
+正式采样不使用独立的 30 Hz ROS 定时器。采集节点在首次有效 Grip 控制周期记录
+`sample_origin_seq`，随后只选择：
+
+```text
+(control_seq - sample_origin_seq) % 3 == 0
+```
+
+因此 90 Hz 控制消息按 `0、3、6、9...` 的相对序号形成名义 30 Hz 数据，同时保证
+第一个正式样本就是首次有效动作，而不是等待一个全局取模相位。
+
+每个样本的定义为：
+
+```text
+observation[t]
+  = 当前控制周期开始时读取的 q_actual
+  + 对每台相机选择主机时间戳不晚于该控制周期的最新帧
+
+action[t]
+  = 同一控制周期经 QP、关节限速后成功发送的 q_target
+    或 Grip 暂停/QP 回退时明确定义的上次成功目标
+```
+
+采集节点收到消息时，相机缓冲中可能已经存在晚于控制周期的帧，因此不能简单取
+“回调时最新帧”，必须按 `host_monotonic_ns <= control_monotonic_ns` 选择最近帧。
+不存在满足条件且年龄不超过 50 ms 的帧时，当前 episode 拒绝。
+
+不采用官方旧加载器中的 `action[t-1]` 补丁。HDF5 根属性写入：
+
+```text
+action_alignment = "same_step_causal"
+```
+
+控制、反馈、动作和图像源时间戳全部保存在 `/debug`，未来只有在真实延迟测量证明
+存在稳定偏移时，才在训练加载器中调整；原始 HDF5 不进行不可逆移位。
+
+## Episode 边界与手柄状态机
+
+### 按键映射
+
+- 右手 B，即右手 `secondary` 单击：开始准备或结束保存；
+- 左手 Y，即左手 `secondary` 长按 1 秒：丢弃当前准备/录制；
+- 右手 A，即右手 `primary`：继续保持现有右臂回初始位姿功能；
+- Grip：继续只控制遥操离合，不作为“只在按下时才记录”的采集开关。
+
+右手 B 在右手 Grip 按下时始终忽略，避免运动中误触开始或结束。左手 Y 仅在
+`ARMED` 或 `RECORDING` 中长按有效，在 `IDLE` 中无作用，且永远不删除上一个已经
+保存的 episode。
+
+### 状态机
+
+```text
+IDLE
+  └─ Grip 松开时单击右手 B
+       ├─ 预检失败 → IDLE
+       └─ 预检通过 → ARMED
+
+ARMED
+  ├─ 第一次 Grip 有效动作 → RECORDING
+  ├─ 再次单击右手 B → 取消 → IDLE
+  ├─ 长按左手 Y 1 秒 → DISCARDED → IDLE
+  └─ 按右手 A → 取消 → IDLE
+
+RECORDING
+  ├─ Grip 松开后单击右手 B → SAVING
+  ├─ 长按左手 Y 1 秒 → DISCARDED → IDLE
+  ├─ 按右手 A → REJECTED → IDLE
+  └─ 硬质量故障/60 秒上限/Ctrl+C → REJECTED → IDLE
+
+SAVING
+  ├─ 质量检查通过 → SAVED → IDLE
+  └─ 质量检查失败 → REJECTED → IDLE
+```
+
+`IDLE`、`ARMED`、`RECORDING`、`SAVING` 是运行状态；`SAVED`、`DISCARDED`、
+`REJECTED` 是短暂结果状态，发布一次结果并输出日志后回到 `IDLE`。`SAVING`
+期间忽略 B/Y 录制按键，A 键仍属于原有遥操逻辑，但不会再进入已经结束的数据。
+
+状态通过 `std_msgs/msg/String` 话题 `/act/recording_status` 和终端日志报告，不增加
+新状态消息、声音或震动接口。
+
+### 连续记录与 Grip 暂停
+
+正式时间轴从 `ARMED` 后 Grip 按下且第一次
+`action_valid=true、command_sent=true` 的控制周期开始。Grip 刚按下的建基准周期
+尚未向 RM75 发送新的 CANFD 目标，因此不作为第一个训练样本。
+录制过程中临时松开 Grip 时仍以 30 Hz 保存图像和 `qpos`，`action` 零阶保持上次
+成功目标，并记录 `teleop_active=false`：
+
+- 松开后重新按 Grip：暂停区间保留，继续同一个 episode；
+- 最后一次松开后按 B：将该次松开至 B 之间的纯操作等待数据裁掉，episode 结束在
+  最后一次 Grip 松开附近；
+- 夹爪打开确认必须已经包含在裁剪终点之前，否则拒绝该 episode。
+
+只在 Grip 按下时保存数据会丢失接近任务开始、暂停恢复和完整视觉上下文，因此不
+采用该方案。
+
+### Episode 是否包含 A 键回位
+
+一个正式 episode 只包含：
+
+```text
+初始位姿、夹爪打开
+→ 接近番茄
+→ 闭合夹爪
+→ 搬运至收集篮
+→ 打开夹爪并确认成功
+→ 松开 Grip
+→ 按 B 结束
+```
+
+A 键的 `rm_movej(initial_joint_pose)` 必须在成功结束 episode 后执行，不写进
+episode。这样 ACT 始终学习同一种逐周期 `q_target` 动作语义。未来实时推理若要
+连续采摘，应由上层状态机执行：
+
+```text
+ACT 完成一次采摘 → 完成判定 → 固定 rm_movej 复位 → 下一次 ACT 采摘
+```
+
+若在 `RECORDING` 中误按 A，当前文件转入拒绝目录，原因写为：
+
+```text
+initial_pose_command_during_episode
+```
+
+拒绝数据不会拦截 A 键原有回位动作，也不会额外控制机器人。
+
+## HDF5 核心结构
+
+数据根目录和任务目录固定为：
+
+```text
+/home/robot/ACT_Data
+/home/robot/ACT_Data/tomato_pick
+```
+
+正式文件核心结构：
+
+```text
+/observations/qpos                       float32 (T, 8)
+/observations/images/cam_high            uint8   (T, 480, 640, 3)
+/observations/images/cam_right_wrist     uint8   (T, 480, 640, 3)
+/action                                  float32 (T, 8)
+/debug/...
+```
+
+`T` 是该次任务的实际样本数，不要求所有 episode 等长，不进行文件内 padding。
+最短有效 episode 为 `60` 个样本，即 2 秒；最长为 `1800` 个样本，即 60 秒。
+
+8 维字段顺序固定为：
+
+```text
+qpos[0:7]   = RM75 实际反馈关节角，单位 rad
+qpos[7]     = 已确认夹爪逻辑状态，0 closed、1 open
+
+action[0:7] = 最终成功下发或明确定义为保持的关节目标，单位 rad
+action[7]   = 夹爪请求目标，0 closed、1 open
+```
+
+根属性至少包括：
+
+| 属性 | 值或语义 |
+|---|---|
+| `sim` | `false`，与 ALOHA 真实数据约定一致 |
+| `task_name` | `tomato_pick` |
+| `sample_rate_hz` | `30` |
+| `action_alignment` | `same_step_causal` |
+| `arm` | `right_rm75` |
+| `episode_status` | `saved` 或 `rejected` |
+| `camera_high_serial` | `234222303366` |
+| `camera_right_wrist_serial` | `412622272532` |
+| `joint_names` | 7 个 RM75 关节名和 `gripper` 的固定顺序 |
+| `joint_lower_limits` | 来自当前 Placo/URDF 的 7 关节下限 |
+| `joint_upper_limits` | 来自当前 Placo/URDF 的 7 关节上限 |
+| `reject_reason` | 仅拒绝文件存在 |
+| `interrupted` | 正常文件为 `false`，Ctrl+C/异常恢复为 `true` |
+
+图像不压缩，每帧使用一个 HDF5 chunk；数值数据使用可扩展的一维时间轴并分块
+写入。按两路 `640×480×3×30` 计算，图像数据约为 3.3 GB/分钟，因此不能把完整
+episode 先缓存到内存再一次性保存。
+
+不创建 `/observations/qvel`、`/observations/effort`、压缩标记或 `compress_len`；
+也不使用零值、有限差分或其他伪数据填充缺失字段。后续训练加载器按存在的核心
+字段读取。
+
+## Debug 结构
+
+自定义消息是运行时传输载体，进程退出后不会保留；HDF5 `/debug` 是永久诊断记录。
+ACT 训练默认不读取该组。
+
+建议使用以下精简结构，布尔状态以 `uint8` 保存：
+
+```text
+/debug/timestamps/control_monotonic_ns          int64   (T,)
+/debug/timestamps/feedback_monotonic_ns         int64   (T,)
+/debug/timestamps/action_monotonic_ns           int64   (T,)
+/debug/timestamps/cam_high_host_monotonic_ns    int64   (T,)
+/debug/timestamps/cam_wrist_host_monotonic_ns   int64   (T,)
+/debug/timestamps/cam_high_hardware_ms           float64 (T,)
+/debug/timestamps/cam_wrist_hardware_ms          float64 (T,)
+/debug/timestamps/cam_high_age_ms                float32 (T,)
+/debug/timestamps/cam_wrist_age_ms               float32 (T,)
+/debug/timestamps/inter_camera_skew_ms           float32 (T,)
+
+/debug/cameras/cam_high_frame_number             uint64  (T,)
+/debug/cameras/cam_wrist_frame_number            uint64  (T,)
+
+/debug/control/control_seq                       uint64  (T,)
+/debug/control/teleop_active                     uint8   (T,)
+/debug/control/action_valid                      uint8   (T,)
+/debug/control/command_sent                      uint8   (T,)
+/debug/control/target_clamped                    uint8   (T,)
+/debug/control/control_fault                     uint8   (T,)
+
+/debug/qp/raw_target                             float32 (T, 7)
+/debug/qp/attempted                              uint8   (T,)
+/debug/qp/success                                uint8   (T,)
+/debug/qp/duration_ms                            float32 (T,)
+
+/debug/tcp/current_pose                          float32 (T, 7)
+/debug/tcp/raw_target_pose                       float32 (T, 7)
+/debug/tcp/final_target_pose                     float32 (T, 7)
+/debug/tcp/command_velocity                      float32 (T, 6)
+
+/debug/pico/right_pose                           float32 (T, 7)
+/debug/pico/right_inputs                         float32 (T, 6)
+/debug/pico/left_secondary                       uint8   (T,)
+
+/debug/gripper/target_open                       uint8   (T,)
+/debug/gripper/state_open                        uint8   (T,)
+/debug/gripper/command_pending                   uint8   (T,)
+/debug/gripper/command_failed                    uint8   (T,)
+```
+
+位姿顺序统一为 `[x, y, z, qx, qy, qz, qw]`，TCP 速度顺序统一为
+`[vx, vy, vz, wx, wy, wz]`。`right_inputs` 顺序在文件属性中写明。当前周期没有发送
+动作时，`action_monotonic_ns=-1`，并以 `command_sent=false` 消除歧义。
+
+episode 根属性额外保存 QP 失败次数、失败占比、最长连续失败次数、目标限位次数、
+相机帧率、丢帧率和最大时间偏差等汇总指标。
+
+## 数据质量规则
+
+### 开始前预检
+
+Grip 松开时单击 B 后，采集节点检查：
+
+- 输出目录存在或可以创建且可写；
+- 可用空间不少于 4 GiB，约为 60 秒原始图像估算值的 1.2 倍；
+- 两台指定相机均在线、已经连续预热 5 秒且当前帧率合格；
+- 最近 `q_actual` 合法，反馈年龄不超过 50 ms，RM75 无掉使能或控制故障；
+- 右臂夹爪初始化打开命令已经成功；
+- 左右 PICO 话题均在现有手柄超时范围内保持新鲜；
+- 没有第二个采集进程持有任务目录锁或相机设备；
+- 启动组合是 `arm:=right use_mock:=false record_act:=true`。
+
+任一预检失败时输出明确原因并停留在 `IDLE`，不生成空文件，也不改变机器人状态。
+
+### 硬拒绝条件
+
+以下任一情况使当前 episode 进入 `REJECTED`：
+
+- 样本少于 60 或达到 60 秒上限；
+- 控制周期序列缺失、有效平均采样率低于 27 Hz 或相邻样本间隔超过 100 ms；
+- `qpos/action` 不是 `(T,8)`、包含 NaN/Inf、违反配置关节限制或夹爪值不是
+  `0/1`；
+- `q_actual` 年龄超过 50 ms，反馈超时、掉使能或出现控制故障；
+- 最终关节动作发送失败，或消息表示的反馈和动作不属于同一控制周期；
+- 夹爪命令失败、超时，或最终裁剪数据没有包含已确认的打开状态；
+- 任一路相机平均帧率低于 27 FPS；
+- 任一路相机硬件帧号丢失率超过 1%，或采样后的重复/跳帧比例超过 1%；
+- 任一采样图像年龄超过 50 ms，或两路图像主机时间差超过 50 ms；
+- 图像形状、数据类型或 RGB 通道约定错误；
+- 录制中按 A；
+- HDF5 写入失败、磁盘空间不足或有界写入队列持续积压；
+- Ctrl+C、采集节点异常退出或启动时恢复崩溃残留文件。
+
+采集节点的拒绝只处理数据，不额外发送停止或运动命令。若原因来自控制故障，仍由
+现有遥操安全链路执行原有安全停止。
+
+### 允许但记录告警的情况
+
+QP 求解偶发失败时，现有逻辑保留上次有效关节目标。只要该保持目标最终成功发送、
+反馈和其他质量规则正常，就不自动拒绝 episode，而是保存：
+
+- QP 失败样本数；
+- 失败占比；
+- 最长连续失败样本数；
+- 每个样本的 `qp_success`。
+
+工作空间限位、TCP 步长限制或关节速度/加速度限制生效同样只记录，不自动拒绝。
+这些限制是正常安全控制的一部分。
+
+## 文件编号、保存、拒绝与恢复
+
+正式编号只扫描任务目录根部的 `episode_<数字>.hdf5`，取最大编号加一：
+
+```text
+已有 episode_0.hdf5 ... episode_9.hdf5
+重启后下一个正式文件仍为 episode_10.hdf5
+```
+
+不填补编号空洞，绝不覆盖已有正式文件。任务目录使用标准库文件锁保证同一时刻只有
+一个采集进程分配编号和写入；临时文件与目标文件位于同一文件系统，检查通过后使用
+不覆盖已有目标的原子发布方式。
+
+文件生命周期：
+
+```text
+录制中：
+/home/robot/ACT_Data/tomato_pick/episode_10.partial.hdf5
+
+检查通过：
+/home/robot/ACT_Data/tomato_pick/episode_10.hdf5
+
+检查失败：
+/home/robot/ACT_Data/tomato_pick/rejected/
+  episode_10_<reason>_<timestamp>.hdf5
+```
+
+- 只有正式保存成功才消耗编号；
+- 手动长按 Y 丢弃时关闭并删除当前临时文件，不生成拒绝文件；
+- 普通质量拒绝转入 `rejected/`，不消耗正式编号；
+- Ctrl+C 时尽力关闭可读 HDF5，根属性写入 `interrupted=true`，文件名原因使用
+  `interrupted`；
+- 下次启动先处理遗留临时文件：可读文件转入 `rejected/` 并标记
+  `crash_recovered`，不可读文件改成带时间戳的 `.partial.hdf5` 保留；
+- 拒绝原因同时写入文件名和根属性；
+- 任一步出现目标文件冲突时停止保存并报警，不能覆盖或自动删除已有 episode。
+
+写入采用单独工作线程和有界队列，ROS 回调只完成取样、对齐和入队。队列容量只需
+覆盖短暂磁盘抖动，不能无限增长掩盖磁盘吞吐不足；持续积压时拒绝数据。
+
+## 启动、配置与依赖
+
+继续使用唯一入口 `xr_rm_bringup/launch/arm_debug.launch.py`，新增参数：
+
+```text
+record_act:=false
+```
+
+默认 `false`，现有 mock、单臂、双臂和 MuJoCo 启动行为不变。第一阶段唯一允许的
+采集组合为：
+
+```bash
+ros2 launch xr_rm_bringup arm_debug.launch.py \
+  arm:=right use_mock:=false record_act:=true
+```
+
+`record_act:=true` 配合 `arm:=left|both` 或 `use_mock:=true` 时，在 launch 参数校验
+阶段明确拒绝。ACT 采集节点退出不触发整个 launch 的 `Shutdown`，保证数据进程故障
+不会终止遥操；终端必须清晰显示采集已经不可用。
+
+新增一份专用 YAML，集中保存：
+
+- 数据根目录和任务名；
+- 两个相机序列号、分辨率和帧率；
+- 30 Hz 采样率、2 秒最短时长和 60 秒最长时长；
+- 相机、反馈、磁盘和时间对齐质量阈值；
+- PICO 左右话题、原子采样话题和状态话题。
+
+硬件相关阈值保留为配置项，核心 HDF5 字段顺序和 8 维语义固定，不为未来可能的
+变体增加插件或通用框架。
+
+采集节点继续由 `/home/robot/miniconda3/envs/xr/bin/python` 启动。复用该环境已有的
+`pyrealsense2` 和 NumPy，只在该环境增加 HDF5 必需依赖 `h5py`；不修改系统 Python，
+不新增 Conda 环境，也不增加 OpenCV 依赖。依赖缺失时节点应在打开相机或创建文件前
+给出明确错误。
+
+## 最小代码范围
+
+预计只修改或新增以下位置：
+
+- `xr_rm_interfaces/msg/ActControlSample.msg`：原子消息；
+- `xr_rm_interfaces/CMakeLists.txt`、`package.xml`：生成并导出消息；
+- `xr_rm_teleop/xr_rm_teleop/single_arm_velocity_teleop.py`：发布原子样本、跟踪夹爪
+  请求/成功状态和 A 键事件；
+- `xr_rm_teleop/xr_rm_teleop/fun_peripheral.py`：把请求的初始工具状态明确改为完全
+  打开；
+- `xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py`：独立采集节点；
+- `xr_rm_teleop/setup.py`、`package.xml`：安装入口和 ROS 运行依赖声明；
+- `xr_rm_bringup/config/act_tomato_pick.yaml`：采集与硬件参数；
+- `xr_rm_bringup/config/peripherals_rm75.yaml`：只为右臂启用初始化打开；
+- `xr_rm_bringup/launch/arm_debug.launch.py`：默认关闭的 `record_act` 启动分支；
+- 现有测试目录中的最小相关测试。
+
+不改左臂/双臂运动参数，不改变 `left_arm_teleop`、`right_arm_teleop` 节点名，不创建
+第二个相机包、训练包或数据工具包。
+
+## 测试与验收
+
+### 自动化验证
+
+测试全部使用 mock、假适配器、合成相机帧和临时目录，不连接真机、不移动机械臂、
+不操作真实夹爪：
+
+- 原子消息中的 `q_actual`、QP 输出和最终 `q_target` 来自同一控制周期；
+- QP 失败时记录失败并保持上次目标，不自动拒绝；
+- 发送失败、夹爪失败和 A 键误触触发拒绝；
+- Trigger 请求立即改变 `action[7]`，成功返回后才改变 `qpos[7]`；
+- B/Y/Grip 的边沿、长按、忽略条件和所有状态转换正确；
+- 从首次有效样本开始按控制序号每 3 个周期取 1 个；
+- 相机只选择不晚于控制时间的最新帧，并能发现过期、偏斜和帧号异常；
+- Grip 中途暂停保留，最终松开到 B 的等待段正确裁剪；
+- HDF5 核心路径、形状、dtype、8 维顺序、根属性和 debug 字段正确；
+- 变量长度、最短/最长限制、质量拒绝、手动丢弃和 Ctrl+C 正确；
+- 编号从最大正式编号加一，拒绝不占号，已有文件不被覆盖；
+- 可读和不可读崩溃残留分别按设计恢复；
+- `record_act` 默认关闭，非法 arm/mock 组合被 launch 拒绝；
+- mock 模式不会导入或调用 RealMan SDK、RealSense 或 HDF5 采集链路。
+
+按照仓库要求，构建和测试从工作空间根目录执行：
+
+```bash
+cd /home/robot/WS_xr
+source /opt/ros/humble/setup.bash
+colcon build --symlink-install
+pytest src/xr_rm_teleop/test/test_orientation_control.py
+```
+
+实施时还应运行新增测试及受影响的现有关节控制、初始位姿和外设配置测试。未看到
+实际通过输出前不得声称验证通过。
+
+### 真机手工验收
+
+真机验收必须由用户明确授权并在现有安全检查完成后进行，至少验证：
+
+1. 启动后右臂夹爪完全打开，状态未在命令成功前提前标记；
+2. 两台相机序列号和画面角色正确，持续 30 FPS 左右；
+3. B 开始、Grip 激活、B 结束、Y 丢弃和 A 误触拒绝符合状态机；
+4. 正常采摘文件包含完整抓取、搬运和释放，不包含 A 键回位；
+5. `qpos/action` 是有限的 `(T,8)` `float32`，图像是两路
+   `(T,480,640,3)` `uint8`；
+6. QP 短暂失败只增加 debug 计数，成功调整后仍可完成 episode；
+7. 重启后编号继续递增，丢弃和拒绝不会覆盖或占用正式编号；
+8. Ctrl+C、相机断流和磁盘不足产生带明确原因的拒绝文件；
+9. ACT 采集节点退出后，遥操安全链路仍按现有行为运行。
+
+## 后续训练与推理影响
+
+本设计生成 ALOHA/ACT 风格的核心数据，但原始 ACT 代码通常把状态维度硬编码为
+双臂 14 维，并可能假设固定 episode 长度。训练阶段需要单独适配：
+
+- `state_dim=8`；
+- 两个相机名 `cam_high`、`cam_right_wrist`；
+- 变量长度 episode 的 padding 和 mask；
+- `chunk_size≈60`；
+- 不使用 `action[t-1]` 旧补丁；
+- 忽略 `/debug`，除非用于筛选或诊断。
+
+实时推理只负责从初始位姿执行一次采摘到释放。回初始位姿继续调用当前确定性的
+`rm_movej`，由未来的上层任务状态机协调，避免让一个低层策略混合两种动作接口和
+任务阶段。

docs/superpowers/specs/2026-08-13-act-camera-preview-alignment-design.md

@@ -0,0 +1,218 @@
+# ACT 双相机预览与采样质量判定修正设计
+
+## 背景
+
+右臂番茄采摘 ACT 采集当前以 `90 Hz` 接收原子控制消息，每三个控制周期生成一个
+`30 Hz` 样本，并为该样本选择不晚于控制时刻的最新全局 D455 和右腕 D405 RGB
+帧。现阶段测试暴露出两个相机相关问题：
+
+1. ACT 采样帧号偶尔出现 `986 → 986 → 988` 一类重复和跨帧，episode 因
+   `camera_sample_drop_ratio` 被拒绝；
+2. ACT 数采启动后没有现场预览，操作者不能直观看到两路画面、相机质量和录制
+   状态。
+
+已保存 HDF5 的调查结果表明，被 `camera_sample_drop_ratio` 拒绝的 episode 中，
+相机采集线程统计的 `camera_high_drop_ratio` 和
+`camera_right_wrist_drop_ratio` 均为 `0.0`。异常主要出现在独立运行的两个
+`30 Hz` 时钟之间：控制采样早于下一张相机帧时会再次选择上一帧，下一个采样点
+则可能选择更新两号的帧。相机采集线程实际收到过中间帧，因此这不是 RealSense
+传输丢帧。
+
+## 目标
+
+- 保持现有因果时间对齐，不选择控制时刻之后的图像；
+- 只用相机采集线程观察到的真实帧号缺失率判定相机丢帧；
+- 将 ACT 样本中的重复帧和跨帧改为可观测指标，不再据此拒绝 episode；
+- `record_act:=true` 启动录制器时默认显示全局 D455 和右腕 D405 实时画面；
+- 在预览中显示相机质量和 ACT 录制状态；
+- 预览关闭或显示故障不得影响相机采集、HDF5 写入和机器人控制。
+
+## 非目标
+
+本次不实现：
+
+- 原始视频流保存和离线重采样；
+- D455 与 D405 硬件同步；
+- ROS 图像话题、Web 界面或新的相机进程；
+- 深度图、点云、图像压缩或 HDF5 核心训练字段变更；
+- 关节曲线、机器人控制按钮或预览截图；
+- 夹爪实际开度反馈或 episode 终点裁剪逻辑修改；
+- 修改 `record_act` 的全局默认值；
+- 修改工作空间/圆柱限位、速度限制、指令超时、安全停止或真机连接行为。
+
+夹爪录制继续使用现有操作顺序：保持 Grip，按 Trigger 打开并等待打开命令完成，
+然后松开 Grip，最后按 B 保存。
+
+## 方案选择
+
+### 采用：保持当前因果对齐
+
+数据流保持为：
+
+```text
+90 Hz ActControlSample
+        ↓ 每三个连续控制周期选择一次
+30 Hz ACT 目标时刻
+        ↓ 分别选择 host_monotonic_ns 不晚于目标时刻的最新帧
+D455 图像 + D405 图像 + qpos + action
+        ↓
+现有 HDF5
+```
+
+该方案维持现有训练数据语义，图像不会包含控制时刻之后的未来信息。少量重复帧和
+跨帧作为异步时钟相位漂移保留在数据中，并用明确指标量化。
+
+### 未采用：以 D455 为软件主时钟
+
+该方案可以避免 D455 重复帧，但会使控制序号间隔不再固定，并需要重新定义状态、
+动作和 D405 图像的对齐语义，当前收益不足以覆盖兼容性成本。
+
+### 未采用：保存原始流并离线重采样
+
+该方案最灵活，但需要新的原始存储结构和转换工具，无压缩双路 RGB 也会显著增加
+存储开销。只有后续训练表明快速接触或释放动作受到当前单帧级时间抖动影响时，才
+考虑升级。
+
+## 相机质量指标
+
+### 真实采集质量
+
+`CameraBuffer` 在每次收到 RealSense 帧时比较相邻原始帧号。原始帧号向前跳过的
+数量计入真实丢帧数；帧号不递增单独计为回退/重启异常。episode 期间的统计写入
+现有或新增 HDF5 属性：
+
+- `camera_high_fps`；
+- `camera_right_wrist_fps`；
+- `camera_high_drop_ratio`；
+- `camera_right_wrist_drop_ratio`；
+- `camera_high_frame_number_regression_count`；
+- `camera_right_wrist_frame_number_regression_count`。
+
+以下条件继续拒绝 episode：
+
+- 任一路实际采集 FPS 小于配置的 `min_camera_fps`，当前为 `27 Hz`；
+- 任一路真实丢帧率大于配置的 `max_drop_ratio`，当前为 `1%`；
+- 任一路图像帧龄超过 `max_camera_age_ms`，当前为 `50 ms`；
+- 两路所选图像的主机单调时间差超过 `max_camera_skew_ms`，当前为 `50 ms`；
+- 任一路原始帧号发生回退或重启；
+- 相机启动、取帧或图像格式发生错误。
+
+### ACT 采样相位指标
+
+对每路写入 HDF5 的 ACT 样本帧号计算相邻差值：
+
+```text
+diff == 0：重复使用同一相机帧
+diff == 1：理想连续取样
+diff > 1：相邻 ACT 样本跨过相机帧
+diff < 0：帧号回退，仍按异常拒绝
+```
+
+对 `N` 个 ACT 样本，分母为 `max(1, N - 1)`：
+
+```text
+sample_repeat_ratio = count(diff == 0) / max(1, N - 1)
+sample_skip_ratio   = count(diff > 1)  / max(1, N - 1)
+```
+
+分别写入：
+
+- `cam_high_sample_repeat_ratio`；
+- `cam_high_sample_skip_ratio`；
+- `cam_wrist_sample_repeat_ratio`；
+- `cam_wrist_sample_skip_ratio`。
+
+这些指标写入保存/拒绝文件属性，并在保存日志中摘要输出，但不参与 episode 接受
+判定。原有 `camera_sample_drop_ratio` 拒绝路径移除，避免把软件采样相位漂移误报
+为相机传输丢帧。
+
+## 双路实时预览
+
+### 生命周期
+
+`ActEpisodeRecorder` 成功启动两台相机后，默认启动一个独立的 OpenCV 预览线程。
+该线程只读取两个现有 `CameraBuffer` 的最新帧和统计，不打开新的 RealSense
+pipeline，也不发布 ROS 图像话题。
+
+预览约以 `10 Hz` 刷新，降低显示开销；相机采集和 HDF5 录制仍保持 `30 Hz`。
+节点退出时先通知并回收预览线程，再停止两台相机。关闭预览不会重新启动。
+
+`arm_debug.launch.py` 继续保持 `record_act:=false` 的安全默认值。tools 中现有 ACT
+数采入口已经显式传入 `arm:=right use_mock:=false record_act:=true`，因此无需修改
+launch 参数或增加新的预览开关；只要录制器节点启动，预览就默认启动。
+
+### 布局与信息
+
+窗口使用左右并排的两块画面：
+
+```text
+┌──────────────────────┬──────────────────────┐
+│ 全局 D455            │ 右腕 D405            │
+│ 实时画面             │ 实时画面             │
+│ FPS / 当前帧号       │ FPS / 当前帧号       │
+│ 接收数 / 真实丢帧率  │ 接收数 / 真实丢帧率  │
+├──────────────────────┴──────────────────────┤
+│ 两路帧龄 / 两相机时间差                     │
+│ ACT 状态 / episode 编号 / 已写入样本数      │
+└─────────────────────────────────────────────┘
+```
+
+实时 FPS 使用相机采集线程最近约两秒的到帧时间计算，而不是预览刷新率。未开始
+episode 时编号和样本数显示为空或 `-`；录制过程中读取当前录制器状态。
+
+### 关闭和异常处理
+
+- 按 `Q`、`Esc` 或点击窗口关闭按钮，只停止预览线程；
+- 没有 `DISPLAY` 和 `WAYLAND_DISPLAY` 时不创建窗口，只记录一次警告；
+- `cv2` 导入失败、窗口创建失败或显示过程中抛出异常时，记录一次警告并停止
+  预览；
+- 预览异常不改变 ACT 状态，不关闭相机，不丢弃或拒绝 episode；
+- RealSense 相机本身启动或采集失败仍沿用现有预检/拒绝行为；
+- 预览线程不得调用机器人适配器、发布夹爪命令或阻塞 ROS 控制样本回调。
+
+本次复用 `xr` 运行环境中现有的 OpenCV，不新增 Python 或 ROS 依赖。
+
+## 代码范围
+
+预计只修改：
+
+- `xr_rm_teleop/xr_rm_teleop/act_episode_recorder.py`：真实丢帧与采样相位指标、
+  双路预览及生命周期；
+- `xr_rm_teleop/test/test_act_episode_recorder.py`：质量判定和预览失败隔离测试；
+- `README.md`：补充 ACT 默认双路预览及关闭方式。
+
+无需修改 `arm_debug.launch.py`、`launcher_ui.py`、ROS 消息、相机配置或机器人控制
+节点。实现继续保留在现有录制器文件中，只提取必要的纯计算/渲染辅助函数，不创建
+通用相机框架。
+
+## 测试与验证
+
+自动化测试不连接 RealSense、RM75 或真实夹爪：
+
+1. 构造 `986 → 986 → 988`，验证重复率和跨帧率均被记录，episode 不再因
+   `camera_sample_drop_ratio` 被拒绝；
+2. 在 `CameraBuffer` 原始输入中跳过帧号，验证真实丢帧数和丢帧率仍触发拒绝；
+3. 构造原始帧号回退，验证 episode 被拒绝；
+4. 验证两路采样指标分别计算，且分母在单样本时安全；
+5. 使用替代显示函数验证按键关闭、窗口关闭、无显示环境和显示异常只停用预览，
+   不改变录制状态；
+6. 运行 `xr_rm_teleop/test/test_act_episode_recorder.py`；
+7. 从 `/home/robot/WS_xr` 执行：
+
+   ```bash
+   source /opt/ros/humble/setup.bash
+   colcon build --symlink-install
+   ```
+
+现场再通过现有 ACT 数采入口验证窗口布局、画面刷新和关闭行为。该验证会连接右臂
+真机，必须由用户明确执行；自动化过程不得启动真机 launch 或移动机器人。
+
+## 完成标准
+
+- 真实相机丢帧、帧龄超限、双相机偏差和相机错误仍能拒绝不合格 episode；
+- 正常异步相位漂移造成的样本重复/跨帧不再拒绝 episode；
+- HDF5 和日志能够区分真实丢帧与 ACT 采样相位指标；
+- ACT 数采启动时默认出现全局 D455 与右腕 D405 双路预览；
+- 关闭或损坏预览不影响 ACT 采集；
+- 现有 HDF5 核心结构、机器人控制和安全行为保持不变；
+- 相关测试与工作空间构建通过。

xr_rm_bringup/config/act_tomato_pick.yaml

@@ -0,0 +1,33 @@
+act_episode_recorder:
+  ros__parameters:
+    output_root: /home/robot/ACT_Data
+    task_name: tomato_pick
+    control_sample_topic: /xr_rm/right_rm75/act_control_sample
+    right_controller_topic: /xr/right_controller
+    left_controller_topic: /xr/left_controller
+    status_topic: /act/recording_status
+
+    cam_high_serial: "234222303366"
+    cam_high_model: D455
+    cam_right_wrist_serial: "412622272532"
+    cam_right_wrist_model: D405
+    image_width: 640
+    image_height: 480
+    camera_fps: 30
+    camera_warmup_sec: 5.0
+
+    control_rate_hz: 90.0
+    sample_rate_hz: 30.0
+    min_samples: 60
+    max_samples: 1800
+    min_control_hz: 27.0
+    max_control_gap_ms: 100.0
+    min_camera_fps: 27.0
+    max_drop_ratio: 0.01
+    max_feedback_age_ms: 50.0
+    max_camera_age_ms: 50.0
+    max_camera_skew_ms: 50.0
+    min_free_space_gib: 4.0
+    y_hold_sec: 1.0
+    gripper_completion_timeout_sec: 3.0
+    writer_queue_size: 8

xr_rm_bringup/config/dual_arm_rm75.yaml

@@ -45,7 +45,7 @@ left_arm_teleop:
     realtime_push_host_ip: 192.168.192.148
     realtime_push_port: 8089
     realtime_push_cycle_ms: 5
-    avoid_singularity: 1
+    avoid_singularity: 0
     follow: false
     canfd_trajectory_mode: 2
     canfd_radio: 0
@@ -102,7 +102,7 @@ right_arm_teleop:
     realtime_push_host_ip: 192.168.192.148
     realtime_push_port: 8090
     realtime_push_cycle_ms: 5
-    avoid_singularity: 1
+    avoid_singularity: 0
     follow: false
     canfd_trajectory_mode: 2
     canfd_radio: 0

xr_rm_bringup/config/left_arm_rm75.yaml

@@ -38,7 +38,7 @@ single_arm_velocity_teleop:
     realtime_push_host_ip: 192.168.192.148
     realtime_push_port: 8089
     realtime_push_cycle_ms: 5
-    avoid_singularity: 1
+    avoid_singularity: 0
     follow: false
     canfd_trajectory_mode: 2
     canfd_radio: 0

xr_rm_bringup/config/peripherals_rm75.yaml

@@ -27,3 +27,4 @@ arms:
     scissorgripper: 0
   right:
     scissorgripper: 1
+    set_initial_tool_state: true

xr_rm_bringup/config/right_arm_rm75.yaml

@@ -37,7 +37,7 @@ single_arm_velocity_teleop:
     realtime_push_host_ip: 192.168.192.148
     realtime_push_port: 8090
     realtime_push_cycle_ms: 5
-    avoid_singularity: 1
+    avoid_singularity: 0
     # 厂商 MovejCANFD 示例默认低跟随；高跟随仅在验证规划轨迹后单独开启。
     follow: false
     canfd_trajectory_mode: 2

xr_rm_bringup/launch/arm_debug.launch.py

@@ -80,6 +80,29 @@ def _validate_mujoco_mode(arm: str, use_mujoco: bool) -> None:
         raise ValueError("use_mujoco:=true requires arm:=both")
 
 
+def _validate_act_mode(
+    arm: str,
+    use_mock: bool,
+    record_act: bool,
+) -> None:
+    if record_act and (arm != "right" or use_mock):
+        raise ValueError(
+            "record_act:=true requires arm:=right use_mock:=false"
+        )
+
+
+def _act_recorder_node() -> Node:
+    """创建独立 ACT 数据采集节点；退出时不终止遥操作。"""
+    return Node(
+        package="xr_rm_teleop",
+        executable="act_episode_recorder",
+        name="act_episode_recorder",
+        output="screen",
+        prefix=[XR_PYTHON],
+        parameters=[_config_file("act_tomato_pick.yaml")],
+    )
+
+
 def _single_arm_node(
     arm: str,
     use_mock: bool,
@@ -164,10 +187,14 @@ def _launch_setup(context, *args, **kwargs):
     use_mujoco = _as_bool(
         LaunchConfiguration("use_mujoco").perform(context)
     )
+    record_act = _as_bool(
+        LaunchConfiguration("record_act").perform(context)
+    )
 
     if arm not in ("left", "right", "both"):
         raise ValueError("arm must be one of: left, right, both")
     _validate_mujoco_mode(arm, use_mujoco)
+    _validate_act_mode(arm, use_mock, record_act)
 
     nodes = [_udp_receiver_node()]
     if arm == "both":
@@ -176,6 +203,8 @@ def _launch_setup(context, *args, **kwargs):
         nodes.append(_single_arm_node(arm, use_mock))
     if use_mujoco:
         nodes.append(_mujoco_node())
+    if record_act:
+        nodes.append(_act_recorder_node())
     return nodes
 
 
@@ -187,6 +216,8 @@ def generate_launch_description() -> LaunchDescription:
         DeclareLaunchArgument("use_mock", default_value="true"),
         # true 时额外启动只读 MuJoCo 双臂显示，默认不改变现有启动行为。
         DeclareLaunchArgument("use_mujoco", default_value="false"),
+        # true 时只允许右臂真机，并启动独立 ACT 数据采集节点。
+        DeclareLaunchArgument("record_act", default_value="false"),
         # UDP 监听参数，需要与 PICO 端或 sample_udp_sender 保持一致。
         DeclareLaunchArgument("udp_host", default_value="0.0.0.0"),
         DeclareLaunchArgument("udp_port", default_value="15000"),

xr_rm_bringup/test/test_arm_debug_launch.py

@@ -41,3 +41,37 @@ def test_udp_receiver_exit_shuts_down_launch() -> None:
     receiver = arm_debug_launch._udp_receiver_node()
 
     assert isinstance(receiver._ExecuteLocal__on_exit, Shutdown)
+
+
+def test_act_recording_is_disabled_by_default() -> None:
+    description = arm_debug_launch.generate_launch_description()
+    arguments = {
+        entity.name: entity
+        for entity in description.entities
+        if isinstance(entity, DeclareLaunchArgument)
+    }
+
+    assert perform_substitutions(
+        LaunchContext(),
+        arguments["record_act"].default_value,
+    ) == "false"
+
+
+@pytest.mark.parametrize(
+    ("arm", "use_mock"),
+    [("left", False), ("both", False), ("right", True)],
+)
+def test_act_recording_rejects_unsupported_modes(arm, use_mock) -> None:
+    with pytest.raises(ValueError, match="arm:=right use_mock:=false"):
+        arm_debug_launch._validate_act_mode(arm, use_mock, True)
+
+
+def test_act_recording_accepts_right_real_mode() -> None:
+    arm_debug_launch._validate_act_mode("right", False, True)
+    arm_debug_launch._validate_act_mode("both", True, False)
+
+
+def test_act_recorder_exit_does_not_shutdown_teleoperation() -> None:
+    recorder = arm_debug_launch._act_recorder_node()
+
+    assert recorder._ExecuteLocal__on_exit is None

xr_rm_bringup/test/test_launcher_ui_cleanup.py

@@ -46,6 +46,14 @@ class LauncherCommandsTest(unittest.TestCase):
                 "Open ROS Topic/Node List Monitor",
                 "Open Controller Topic Monitor",
             ],
+            "ACT Data Collection": [
+                "Right Arm ACT Data Collection Launch",
+                "XRobotoolkit UDP Bridge (90 Hz)",
+                "Open ACT Recording Status",
+                "Open Right Arm ACT Control Sample Hz",
+                "Open ROS Topic/Node List Monitor",
+                "Open Controller Topic Monitor",
+            ],
             "Diagnostics": [
                 "ROS Doctor Report",
                 "XR-RM Bringup Prefix",
@@ -79,6 +87,22 @@ class LauncherCommandsTest(unittest.TestCase):
             commands["2. Dual Arm MuJoCo Real Hardware Launch"],
         )
 
+    def test_act_mode_uses_confirmed_right_hardware_topics(self) -> None:
+        commands = dict(launcher_ui.build_commands_by_mode("ACT Data Collection"))
+
+        self.assertIn(
+            "arm:=right use_mock:=false record_act:=true",
+            commands["1. Right Arm ACT Data Collection Launch"],
+        )
+        self.assertEqual(
+            commands["3. Open ACT Recording Status"],
+            "ros2 topic echo /act/recording_status",
+        )
+        self.assertEqual(
+            commands["4. Open Right Arm ACT Control Sample Hz"],
+            "ros2 topic hz /xr_rm/right_rm75/act_control_sample",
+        )
+
     def test_cmd_vel_monitor_is_completely_removed(self) -> None:
         self.assertFalse(hasattr(launcher_ui, "CMD_VEL_MONITOR_ACTION"))
         for mode in launcher_ui.MODES:

xr_rm_bringup/test/test_realsense_multi_camera.py

@@ -0,0 +1,76 @@
+from __future__ import annotations
+
+import importlib.util
+from pathlib import Path
+import sys
+
+import pytest
+
+
+MODULE_PATH = (
+    Path(__file__).resolve().parents[1]
+    / "tools"
+    / "realsense_multi_camera_test.py"
+)
+SPEC = importlib.util.spec_from_file_location("realsense_multi_camera_test", MODULE_PATH)
+assert SPEC is not None and SPEC.loader is not None
+camera_test = importlib.util.module_from_spec(SPEC)
+sys.modules[SPEC.name] = camera_test
+SPEC.loader.exec_module(camera_test)
+
+
+def devices() -> list[camera_test.DeviceInfo]:
+    return [
+        camera_test.DeviceInfo("Intel RealSense D405", "D405", "412622272532", "3.2"),
+        camera_test.DeviceInfo("Intel RealSense D455", "D455", "234222303366", "3.2"),
+        camera_test.DeviceInfo("Intel RealSense D405", "D405", "260322272273", "3.2"),
+    ]
+
+
+def test_assigns_camera_roles_with_and_without_left_serial() -> None:
+    unidentified = camera_test.assign_camera_roles(devices(), None)
+    assert [camera.role for camera in unidentified] == ["GLOBAL", "D405-A", "D405-B"]
+    assert [camera.serial for camera in unidentified[1:]] == ["260322272273", "412622272532"]
+
+    identified = camera_test.assign_camera_roles(devices(), "412622272532")
+    assert {camera.role: camera.serial for camera in identified} == {
+        "GLOBAL": "234222303366",
+        "LEFT": "412622272532",
+        "RIGHT": "260322272273",
+    }
+
+
+def test_rejects_invalid_camera_selection() -> None:
+    with pytest.raises(ValueError, match="左臂序列号"):
+        camera_test.assign_camera_roles(devices(), "missing")
+
+    with pytest.raises(ValueError, match="2 台 D405 和 1 台 D455"):
+        camera_test.assign_camera_roles(devices()[:-1], None)
+
+
+def test_counts_frame_number_gaps() -> None:
+    stats = camera_test.FrameStats(target_fps=30, start_time=0.0)
+    stats.update(10, 0.0)
+    stats.update(11, 1.0 / 30.0)
+    stats.update(14, 2.0 / 30.0)
+
+    assert stats.received == 3
+    assert stats.dropped == 2
+    assert stats.drop_rate == pytest.approx(0.4)
+    assert stats.average_fps(2.0 / 30.0) == pytest.approx(30.0)
+
+
+def test_snapshot_names_follow_camera_roles() -> None:
+    identified = camera_test.assign_camera_roles(devices(), "412622272532")
+    assert camera_test.snapshot_filenames(identified) == {
+        "234222303366": "global.png",
+        "412622272532": "left.png",
+        "260322272273": "right.png",
+    }
+
+    unidentified = camera_test.assign_camera_roles(devices(), None)
+    assert camera_test.snapshot_filenames(unidentified) == {
+        "234222303366": "global.png",
+        "260322272273": "d405_260322272273.png",
+        "412622272532": "d405_412622272532.png",
+    }

xr_rm_bringup/tools/launcher_ui.py

@@ -1,7 +1,7 @@
 #!/usr/bin/env python3
 """XR-RM 桌面调试启动器。
 
-提供 Tkinter 图形界面，按“仿真/MuJoCo/真机/诊断”组织常用 ROS2 launch、
+提供 Tkinter 图形界面，按“仿真/MuJoCo/真机/ACT采集/诊断”组织常用 ROS2 launch、
 sample_udp_sender、topic 监控和环境检查命令，降低现场调试时的命令输入成本。
 """
 
@@ -76,6 +76,7 @@ MODES = [
     "Simulation",
     "MuJoCo",
     "Real Hardware",
+    "ACT Data Collection",
     "Diagnostics",
 ]
 
@@ -275,6 +276,23 @@ def build_commands_by_mode(mode: str) -> list[tuple[str, str]]:
             ("Right Gripper Open", _tool_command("right", True)),
             ("Right Gripper Close", _tool_command("right", False)),
         ]
+    elif mode == "ACT Data Collection":
+        items = [
+            (
+                "Right Arm ACT Data Collection Launch",
+                "ros2 launch xr_rm_bringup arm_debug.launch.py "
+                "arm:=right use_mock:=false record_act:=true",
+            ),
+            ("XRobotoolkit UDP Bridge (90 Hz)", _xrobotoolkit_bridge_command()),
+            (
+                "Open ACT Recording Status",
+                "ros2 topic echo /act/recording_status",
+            ),
+            (
+                "Open Right Arm ACT Control Sample Hz",
+                "ros2 topic hz /xr_rm/right_rm75/act_control_sample",
+            ),
+        ]
     else:
         items = [
             ("ROS Doctor Report", "ros2 doctor --report"),
@@ -329,7 +347,7 @@ class LauncherApp:
             mode_frame,
             textvariable=self.mode_var,
             values=MODES,
-            width=16,
+            width=20,
             state="readonly",
         )
         self.mode_combo.grid(row=0, column=1, sticky="ew")

xr_rm_bringup/tools/realsense_multi_camera_test.py

@@ -0,0 +1,494 @@
+#!/usr/bin/env python3
+"""同时预览并检查两台 D405 和一台 D455 的彩色画面。"""
+
+from __future__ import annotations
+
+import argparse
+from collections import deque
+from dataclasses import dataclass, field
+from datetime import datetime
+from pathlib import Path
+import threading
+import time
+from typing import Any
+
+
+DEFAULT_WIDTH = 640
+DEFAULT_HEIGHT = 480
+DEFAULT_FPS = 30
+DEFAULT_LEFT_SERIAL = "260322272273"
+FPS_WINDOW_SECONDS = 2.0
+WARMUP_SECONDS = 5.0
+MAX_DROP_RATE = 0.01
+MIN_FPS_RATIO = 0.9
+PREVIEW_TILE_WIDTH = 640
+WINDOW_NAME = "XR RM - Three RealSense Camera Test"
+OUTPUT_DIR = Path(__file__).resolve().parents[1] / "test" / "camera_test_output"
+
+
+@dataclass(frozen=True)
+class DeviceInfo:
+    name: str
+    model: str
+    serial: str
+    usb_type: str
+
+
+@dataclass(frozen=True)
+class CameraAssignment:
+    role: str
+    name: str
+    model: str
+    serial: str
+    usb_type: str
+
+
+def assign_camera_roles(
+    devices: list[DeviceInfo], left_serial: str | None
+) -> list[CameraAssignment]:
+    d405 = sorted(
+        (device for device in devices if device.model == "D405"),
+        key=lambda device: device.serial,
+    )
+    d455 = [device for device in devices if device.model == "D455"]
+    if len(d405) != 2 or len(d455) != 1 or len(devices) != 3:
+        raise ValueError(
+            f"需要连接 2 台 D405 和 1 台 D455，当前识别到 "
+            f"{len(d405)} 台 D405、{len(d455)} 台 D455、共 {len(devices)} 台 RealSense"
+        )
+
+    for device in devices:
+        if not device.usb_type.startswith("3"):
+            raise ValueError(
+                f"{device.model} ({device.serial}) 当前为 USB {device.usb_type}，"
+                "请检查扩展坞和数据线"
+            )
+
+    global_camera = CameraAssignment("GLOBAL", **d455[0].__dict__)
+    if left_serial is None:
+        arms = [
+            CameraAssignment(f"D405-{suffix}", **device.__dict__)
+            for suffix, device in zip(("A", "B"), d405)
+        ]
+    else:
+        matches = [device for device in d405 if device.serial == left_serial]
+        if not matches:
+            raise ValueError(f"左臂序列号 {left_serial} 不属于当前连接的 D405")
+        left = matches[0]
+        right = next(device for device in d405 if device.serial != left_serial)
+        arms = [
+            CameraAssignment("LEFT", **left.__dict__),
+            CameraAssignment("RIGHT", **right.__dict__),
+        ]
+    return [global_camera, *arms]
+
+
+def snapshot_filenames(assignments: list[CameraAssignment]) -> dict[str, str]:
+    role_names = {
+        "GLOBAL": "global.png",
+        "LEFT": "left.png",
+        "RIGHT": "right.png",
+    }
+    return {
+        camera.serial: role_names.get(camera.role, f"d405_{camera.serial}.png")
+        for camera in assignments
+    }
+
+
+@dataclass
+class FrameStats:
+    target_fps: int
+    start_time: float
+    received: int = 0
+    dropped: int = 0
+    last_frame_number: int | None = None
+    first_frame_time: float | None = None
+    recent_times: deque[float] = field(default_factory=deque)
+
+    def update(self, frame_number: int, now: float) -> None:
+        if self.last_frame_number is not None and frame_number > self.last_frame_number:
+            self.dropped += max(0, frame_number - self.last_frame_number - 1)
+        self.last_frame_number = frame_number
+        self.received += 1
+        if self.first_frame_time is None:
+            self.first_frame_time = now
+        self.recent_times.append(now)
+        cutoff = now - FPS_WINDOW_SECONDS
+        while self.recent_times and self.recent_times[0] < cutoff:
+            self.recent_times.popleft()
+
+    @property
+    def drop_rate(self) -> float:
+        expected = self.received + self.dropped
+        return self.dropped / expected if expected else 0.0
+
+    @property
+    def rolling_fps(self) -> float:
+        if len(self.recent_times) < 2:
+            return 0.0
+        elapsed = self.recent_times[-1] - self.recent_times[0]
+        return (len(self.recent_times) - 1) / elapsed if elapsed > 0 else 0.0
+
+    def average_fps(self, now: float) -> float:
+        if self.received < 2 or self.first_frame_time is None:
+            return 0.0
+        last_frame_time = self.recent_times[-1] if self.recent_times else now
+        elapsed = last_frame_time - self.first_frame_time
+        return (self.received - 1) / elapsed if elapsed > 0 else 0.0
+
+
+@dataclass(frozen=True)
+class CameraState:
+    frame: Any | None
+    actual_size: tuple[int, int]
+    received: int
+    dropped: int
+    drop_rate: float
+    rolling_fps: float
+    average_fps: float
+    elapsed: float
+    error: str
+
+
+class CameraWorker:
+    def __init__(
+        self,
+        assignment: CameraAssignment,
+        width: int,
+        height: int,
+        fps: int,
+        rs: Any,
+        np: Any,
+    ) -> None:
+        self.assignment = assignment
+        self.width = width
+        self.height = height
+        self.fps = fps
+        self._rs = rs
+        self._np = np
+        self._pipeline = rs.pipeline()
+        self._stop_event = threading.Event()
+        self._lock = threading.Lock()
+        self._thread: threading.Thread | None = None
+        self._frame: Any | None = None
+        self._actual_size = (width, height)
+        self._stats = FrameStats(fps, time.monotonic())
+        self._error = ""
+
+    def start(self) -> None:
+        config = self._rs.config()
+        config.enable_device(self.assignment.serial)
+        config.enable_stream(
+            self._rs.stream.color,
+            self.width,
+            self.height,
+            self._rs.format.bgr8,
+            self.fps,
+        )
+        profile = self._pipeline.start(config)
+        video_profile = profile.get_stream(self._rs.stream.color).as_video_stream_profile()
+        with self._lock:
+            self._actual_size = (video_profile.width(), video_profile.height())
+            self._stats = FrameStats(self.fps, time.monotonic())
+        self._thread = threading.Thread(
+            target=self._capture_loop,
+            name=f"camera-{self.assignment.serial}",
+            daemon=True,
+        )
+        self._thread.start()
+
+    def _capture_loop(self) -> None:
+        while not self._stop_event.is_set():
+            try:
+                frames = self._pipeline.wait_for_frames(timeout_ms=1000)
+            except RuntimeError as exc:
+                if self._stop_event.is_set():
+                    return
+                with self._lock:
+                    self._error = str(exc)
+                return
+
+            color_frame = frames.get_color_frame()
+            if not color_frame:
+                continue
+            frame = self._np.asanyarray(color_frame.get_data()).copy()
+            now = time.monotonic()
+            with self._lock:
+                self._frame = frame
+                self._stats.update(color_frame.get_frame_number(), now)
+
+    def state(self, now: float) -> CameraState:
+        with self._lock:
+            return CameraState(
+                frame=self._frame,
+                actual_size=self._actual_size,
+                received=self._stats.received,
+                dropped=self._stats.dropped,
+                drop_rate=self._stats.drop_rate,
+                rolling_fps=self._stats.rolling_fps,
+                average_fps=self._stats.average_fps(now),
+                elapsed=now - self._stats.start_time,
+                error=self._error,
+            )
+
+    def stop(self) -> None:
+        self._stop_event.set()
+        if self._thread is not None:
+            self._thread.join(timeout=1.2)
+        try:
+            self._pipeline.stop()
+        except RuntimeError:
+            pass
+        if self._thread is not None and self._thread.is_alive():
+            self._thread.join(timeout=1.0)
+
+
+def load_runtime_dependencies() -> tuple[Any, Any, Any]:
+    try:
+        import cv2
+        import numpy as np
+        import pyrealsense2 as rs
+    except ImportError as exc:
+        raise RuntimeError(
+            "缺少相机测试依赖。请使用 /home/robot/miniconda3/envs/xr/bin/python "
+            "运行，并确认 xr 环境已安装 pyrealsense2、numpy 和 opencv-python。"
+        ) from exc
+    return cv2, np, rs
+
+
+def enumerate_devices(rs: Any) -> list[DeviceInfo]:
+    devices = []
+    for device in rs.context().query_devices():
+        name = device.get_info(rs.camera_info.name)
+        if "D405" in name:
+            model = "D405"
+        elif "D455" in name:
+            model = "D455"
+        else:
+            model = name
+        usb_type = (
+            device.get_info(rs.camera_info.usb_type_descriptor)
+            if device.supports(rs.camera_info.usb_type_descriptor)
+            else "unknown"
+        )
+        devices.append(
+            DeviceInfo(
+                name=name,
+                model=model,
+                serial=device.get_info(rs.camera_info.serial_number),
+                usb_type=usb_type,
+            )
+        )
+    return devices
+
+
+def camera_status(state: CameraState, target_fps: int) -> tuple[str, tuple[int, int, int]]:
+    if state.error:
+        return "ERROR", (0, 0, 255)
+    if state.received == 0:
+        return "WAITING", (0, 215, 255)
+    if state.elapsed < WARMUP_SECONDS:
+        return "WARMUP", (0, 215, 255)
+    if state.rolling_fps >= target_fps * MIN_FPS_RATIO and state.drop_rate <= MAX_DROP_RATE:
+        return "PASS", (0, 200, 0)
+    return "FAIL", (0, 0, 255)
+
+
+def render_tile(
+    worker: CameraWorker,
+    state: CameraState,
+    tile_width: int,
+    tile_height: int,
+    cv2: Any,
+    np: Any,
+) -> Any:
+    if state.frame is None:
+        tile = np.zeros((tile_height, tile_width, 3), dtype=np.uint8)
+    else:
+        tile = cv2.resize(state.frame, (tile_width, tile_height))
+
+    status, color = camera_status(state, worker.fps)
+    cv2.rectangle(tile, (0, 0), (tile_width, 100), (0, 0, 0), -1)
+    width, height = state.actual_size
+    lines = [
+        f"{worker.assignment.role}  {worker.assignment.model}  {worker.assignment.serial}",
+        f"USB {worker.assignment.usb_type}  {width}x{height}@{worker.fps}",
+        f"FPS {state.rolling_fps:.1f}  Frames {state.received}  "
+        f"Dropped {state.dropped} ({state.drop_rate:.2%})",
+        status if not state.error else f"ERROR: {state.error[:70]}",
+    ]
+    for index, line in enumerate(lines):
+        cv2.putText(
+            tile,
+            line,
+            (10, 22 + index * 24),
+            cv2.FONT_HERSHEY_SIMPLEX,
+            0.55,
+            color if index == len(lines) - 1 else (255, 255, 255),
+            1,
+            cv2.LINE_AA,
+        )
+    return tile
+
+
+def compose_preview(
+    workers: list[CameraWorker],
+    states: dict[str, CameraState],
+    capture_width: int,
+    capture_height: int,
+    cv2: Any,
+    np: Any,
+) -> Any:
+    tile_width = min(capture_width, PREVIEW_TILE_WIDTH)
+    tile_height = round(tile_width * capture_height / capture_width)
+    tiles = {
+        worker.assignment.serial: render_tile(
+            worker,
+            states[worker.assignment.serial],
+            tile_width,
+            tile_height,
+            cv2,
+            np,
+        )
+        for worker in workers
+    }
+    global_worker = next(worker for worker in workers if worker.assignment.role == "GLOBAL")
+    arm_workers = [worker for worker in workers if worker.assignment.role != "GLOBAL"]
+
+    top = np.zeros((tile_height, tile_width * 2, 3), dtype=np.uint8)
+    offset = tile_width // 2
+    top[:, offset : offset + tile_width] = tiles[global_worker.assignment.serial]
+    bottom = np.hstack([tiles[worker.assignment.serial] for worker in arm_workers])
+    return np.vstack((top, bottom))
+
+
+def save_snapshots(
+    assignments: list[CameraAssignment],
+    states: dict[str, CameraState],
+    cv2: Any,
+) -> Path:
+    missing = [camera.role for camera in assignments if states[camera.serial].frame is None]
+    if missing:
+        raise RuntimeError(f"以下相机尚无有效画面，不能保存快照: {', '.join(missing)}")
+
+    timestamp = datetime.now().strftime("%Y%m%d_%H%M%S_%f")[:-3]
+    snapshot_dir = OUTPUT_DIR / timestamp
+    snapshot_dir.mkdir(parents=True, exist_ok=False)
+    filenames = snapshot_filenames(assignments)
+    for camera in assignments:
+        path = snapshot_dir / filenames[camera.serial]
+        if not cv2.imwrite(str(path), states[camera.serial].frame):
+            raise RuntimeError(f"保存快照失败: {path}")
+    return snapshot_dir
+
+
+def print_summary(workers: list[CameraWorker]) -> bool:
+    now = time.monotonic()
+    print("\n相机测试汇总:")
+    passed = True
+    for worker in workers:
+        state = worker.state(now)
+        status, _color = camera_status(state, worker.fps)
+        passed = passed and status == "PASS"
+        print(
+            f"  {worker.assignment.role:<7} {worker.assignment.serial}: "
+            f"平均 {state.average_fps:.1f} FPS, 接收 {state.received}, "
+            f"掉帧 {state.dropped} ({state.drop_rate:.2%}), {status}"
+        )
+    print("结论: " + ("三路链路满足当前阈值" if passed else "至少一路未满足当前阈值"))
+    return passed
+
+
+def parse_args() -> argparse.Namespace:
+    parser = argparse.ArgumentParser(description=__doc__)
+    parser.add_argument("--width", type=int, default=DEFAULT_WIDTH, help="采集宽度")
+    parser.add_argument("--height", type=int, default=DEFAULT_HEIGHT, help="采集高度")
+    parser.add_argument("--fps", type=int, default=DEFAULT_FPS, help="目标帧率")
+    parser.add_argument(
+        "--left-serial",
+        default=DEFAULT_LEFT_SERIAL,
+        help=f"左臂 D405 的 RealSense 序列号（默认: {DEFAULT_LEFT_SERIAL}）",
+    )
+    args = parser.parse_args()
+    if args.width <= 0 or args.height <= 0 or args.fps <= 0:
+        parser.error("width、height 和 fps 必须为正数")
+    return args
+
+
+def main() -> int:
+    args = parse_args()
+    try:
+        cv2, np, rs = load_runtime_dependencies()
+        assignments = assign_camera_roles(enumerate_devices(rs), args.left_serial)
+    except RuntimeError as exc:
+        print(f"错误: {exc}")
+        return 2
+    except ValueError as exc:
+        print(f"设备检查失败: {exc}")
+        return 2
+
+    print("相机分配:")
+    for camera in assignments:
+        print(
+            f"  {camera.role:<7} {camera.model}  serial={camera.serial}  "
+            f"USB={camera.usb_type}"
+        )
+
+    workers: list[CameraWorker] = []
+    passed = False
+    try:
+        for assignment in assignments:
+            worker = CameraWorker(
+                assignment,
+                args.width,
+                args.height,
+                args.fps,
+                rs,
+                np,
+            )
+            workers.append(worker)
+            worker.start()
+
+        cv2.namedWindow(WINDOW_NAME, cv2.WINDOW_NORMAL)
+        print("按 S 保存三路快照，按 Q 或 Esc 退出。")
+        while True:
+            now = time.monotonic()
+            states = {worker.assignment.serial: worker.state(now) for worker in workers}
+            preview = compose_preview(
+                workers,
+                states,
+                args.width,
+                args.height,
+                cv2,
+                np,
+            )
+            cv2.imshow(WINDOW_NAME, preview)
+            key = cv2.waitKey(1) & 0xFF
+            if key in (ord("q"), ord("Q"), 27):
+                break
+            if key in (ord("s"), ord("S")):
+                try:
+                    output = save_snapshots(assignments, states, cv2)
+                    print(f"快照已保存: {output}")
+                except RuntimeError as exc:
+                    print(f"快照失败: {exc}")
+            if cv2.getWindowProperty(WINDOW_NAME, cv2.WND_PROP_VISIBLE) < 1:
+                break
+    except KeyboardInterrupt:
+        print("\n收到 Ctrl+C，正在停止相机。")
+    except Exception as exc:
+        print(f"相机启动或显示失败: {exc}")
+    finally:
+        for worker in reversed(workers):
+            worker.stop()
+        try:
+            cv2.destroyAllWindows()
+        except Exception:
+            pass
+        if workers:
+            passed = print_summary(workers)
+    return 0 if passed else 1
+
+
+if __name__ == "__main__":
+    raise SystemExit(main())

xr_rm_interfaces/CMakeLists.txt

@@ -11,6 +11,7 @@ find_package(rosidl_default_generators REQUIRED)
 find_package(std_msgs REQUIRED)
 
 rosidl_generate_interfaces(${PROJECT_NAME}
+  "msg/ActControlSample.msg"
   "msg/XrController.msg"
   DEPENDENCIES geometry_msgs std_msgs
 )

xr_rm_interfaces/msg/ActControlSample.msg

@@ -0,0 +1,41 @@
+std_msgs/Header header
+uint64 control_seq
+int64 control_monotonic_ns
+int64 feedback_monotonic_ns
+int64 action_monotonic_ns
+
+float32 feedback_age_ms
+float32 qp_duration_ms
+
+float64[7] q_actual
+float64[7] q_qp_raw
+float64[7] q_target
+float64[7] joint_lower_limits
+float64[7] joint_upper_limits
+
+geometry_msgs/Pose tcp_current
+geometry_msgs/Pose tcp_raw_target
+geometry_msgs/Pose tcp_target
+geometry_msgs/Twist tcp_command_velocity
+geometry_msgs/Pose pico_pose
+
+bool pico_grip
+float32 pico_trigger
+bool pico_primary
+bool pico_secondary
+float32[2] pico_axis
+
+bool gripper_target_open
+bool gripper_state_open
+bool gripper_state_known
+bool gripper_command_pending
+bool gripper_command_failed
+
+bool teleop_active
+bool feedback_valid
+bool action_valid
+bool command_sent
+bool qp_attempted
+bool qp_success
+bool target_clamped
+bool control_fault

xr_rm_teleop/setup.py

@@ -55,7 +55,9 @@ setup(
     tests_require=["pytest"],
     entry_points={
         "console_scripts": [
-            "single_arm_velocity_teleop = xr_rm_teleop.single_arm_velocity_teleop:main",
+            "act_episode_recorder = xr_rm_teleop.act_episode_recorder:main",
+            "single_arm_velocity_teleop = "
+            "xr_rm_teleop.single_arm_velocity_teleop:main",
         ],
     },
 )

xr_rm_teleop/test/test_act_control_sample.py

@@ -0,0 +1,194 @@
+from types import SimpleNamespace
+
+import numpy as np
+import pytest
+from builtin_interfaces.msg import Time as TimeMsg
+
+from xr_rm_interfaces.msg import XrController
+from xr_rm_teleop.single_arm_velocity_teleop import (
+    SingleArmVelocityTeleop,
+    _ActCycleContext,
+)
+
+
+class FakePublisher:
+    def __init__(self, error=None) -> None:
+        self.error = error
+        self.messages = []
+
+    def publish(self, message) -> None:
+        if self.error is not None:
+            raise self.error
+        self.messages.append(message)
+
+
+class FakeLogger:
+    def __init__(self) -> None:
+        self.warnings = []
+
+    def warn(self, message, **kwargs) -> None:
+        del kwargs
+        self.warnings.append(message)
+
+
+def _controller(*, grip=True) -> XrController:
+    message = XrController()
+    message.hand = "right"
+    message.grip = grip
+    message.trigger = 0.25
+    message.primary = False
+    message.secondary = False
+    message.axis = [0.1, -0.2]
+    message.pose.orientation.w = 1.0
+    return message
+
+
+def _teleop(*, last_target=None, tool_state=True):
+    teleop = object.__new__(SingleArmVelocityTeleop)
+    teleop._arm_name = "right_rm75"
+    teleop._last_msg = _controller()
+    teleop._active = True
+    teleop._control_fault_latched = False
+    teleop._last_current_pose = np.eye(4)
+    teleop._robot_start_transform = None
+    teleop._last_sent_target = None
+    teleop._last_sent_orientation = None
+    teleop._last_successful_action_target = last_target
+    teleop._ik_solver = SimpleNamespace(
+        joint_position_limits=np.asarray([[-1.0, 1.0]] * 7)
+    )
+    teleop._tool_state_snapshot = lambda: (
+        True,
+        tool_state,
+        False,
+        False,
+    )
+    teleop.get_clock = lambda: SimpleNamespace(
+        now=lambda: SimpleNamespace(to_msg=lambda: TimeMsg())
+    )
+    teleop.get_logger = lambda: FakeLogger()
+    return teleop
+
+
+def _cycle(**overrides) -> _ActCycleContext:
+    values = {
+        "control_seq": 100,
+        "control_monotonic_ns": 1_000_000_000,
+        "feedback_monotonic_ns": 990_000_000,
+        "action_monotonic_ns": 1_005_000_000,
+        "feedback_age_ms": 10.0,
+        "q_actual": [0.1] * 7,
+        "q_qp_raw": [0.3] * 7,
+        "q_target": [0.2] * 7,
+        "current_pose": np.eye(4),
+        "raw_target_pose": np.eye(4),
+        "target_pose": np.eye(4),
+        "command_velocity": [0.0] * 6,
+        "feedback_valid": True,
+        "command_sent": True,
+        "qp_attempted": True,
+        "qp_success": True,
+    }
+    values.update(overrides)
+    return _ActCycleContext(**values)
+
+
+def test_act_sample_uses_feedback_and_limited_target_from_one_cycle() -> None:
+    teleop = _teleop(last_target=[0.2] * 7)
+
+    message = teleop._build_act_control_sample(_cycle())
+
+    assert message.control_seq == 100
+    assert message.q_actual == pytest.approx([0.1] * 7)
+    assert message.q_qp_raw == pytest.approx([0.3] * 7)
+    assert message.q_target == pytest.approx([0.2] * 7)
+    assert message.joint_lower_limits == pytest.approx([-1.0] * 7)
+    assert message.joint_upper_limits == pytest.approx([1.0] * 7)
+    assert message.command_sent
+    assert message.action_valid
+    assert message.qp_attempted
+    assert message.qp_success
+
+
+def test_act_sample_marks_qp_fallback_as_valid_held_action() -> None:
+    teleop = _teleop(last_target=[0.2] * 7)
+    cycle = _cycle(
+        q_qp_raw=[0.2] * 7,
+        q_target=[0.2] * 7,
+        qp_success=False,
+    )
+
+    message = teleop._build_act_control_sample(cycle)
+
+    assert message.q_target == pytest.approx([0.2] * 7)
+    assert message.action_valid
+    assert message.qp_attempted
+    assert not message.qp_success
+
+
+def test_act_sample_holds_last_action_while_grip_is_released() -> None:
+    teleop = _teleop(last_target=[0.4] * 7)
+    teleop._last_msg = _controller(grip=False)
+    teleop._active = False
+    cycle = _cycle(
+        q_qp_raw=None,
+        q_target=None,
+        command_sent=False,
+        qp_attempted=False,
+        qp_success=False,
+        action_monotonic_ns=-1,
+    )
+
+    message = teleop._build_act_control_sample(cycle)
+
+    assert message.q_target == pytest.approx([0.4] * 7)
+    assert message.action_valid
+    assert not message.command_sent
+    assert not message.teleop_active
+
+
+def test_act_sample_marks_send_failure_invalid() -> None:
+    teleop = _teleop(last_target=[0.4] * 7)
+
+    message = teleop._build_act_control_sample(
+        _cycle(send_failed=True, command_sent=False)
+    )
+
+    assert not message.action_valid
+
+
+def test_act_sample_marks_unknown_gripper_state() -> None:
+    teleop = _teleop(last_target=[0.2] * 7, tool_state=None)
+
+    message = teleop._build_act_control_sample(_cycle())
+
+    assert not message.gripper_state_known
+
+
+def test_act_sample_publish_failure_does_not_escape_control_path() -> None:
+    teleop = _teleop(last_target=[0.2] * 7)
+    logger = FakeLogger()
+    teleop._act_sample_pub = FakePublisher(RuntimeError("dds failed"))
+    teleop.get_logger = lambda: logger
+
+    teleop._publish_act_control_sample(_cycle())
+
+    assert logger.warnings == [
+        "right_rm75 ACT原子样本发布失败：dds failed"
+    ]
+
+
+def test_control_tick_wraps_one_impl_call_in_one_atomic_sample() -> None:
+    teleop = object.__new__(SingleArmVelocityTeleop)
+    cycles = []
+    published = []
+    teleop._act_control_seq = 7
+    teleop._control_tick_impl = lambda cycle: cycles.append(cycle)
+    teleop._publish_act_control_sample = lambda cycle: published.append(cycle)
+
+    teleop._control_tick()
+
+    assert len(cycles) == 1
+    assert published == cycles
+    assert cycles[0].control_seq == 7
+    assert teleop._act_control_seq == 8

xr_rm_teleop/test/test_initial_joint_pose.py

@@ -6,13 +6,14 @@ from types import ModuleType, SimpleNamespace
 import pytest
 import yaml
 
-from xr_rm_teleop import realman_adapter
+from xr_rm_teleop import fun_peripheral, realman_adapter
 from xr_rm_teleop.realman_adapter import RealManAdapter
 from xr_rm_teleop.realman_adapter import MockRealManAdapter
 from xr_rm_teleop.fun_peripheral import (
     PeripheralConfig,
     _configure_tool_frame,
     load_peripheral_config,
+    peripheral_cfg,
 )
 
 
@@ -82,6 +83,78 @@ def test_deployed_peripheral_config_selects_left_and_right_tools() -> None:
     assert right.tool_pose == [0.0, 0.0, 0.14, 0.0, 0.0, 0.0, 1.0]
 
 
+def test_right_tool_initializes_open_only_for_right_arm() -> None:
+    config_file = CONFIG_DIR / "peripherals_rm75.yaml"
+    left = load_peripheral_config(str(config_file), "left")
+    right = load_peripheral_config(str(config_file), "right")
+
+    assert not left.set_initial_tool_state
+    assert right.set_initial_tool_state
+
+
+def test_omnipic_initial_state_opens_fully(monkeypatch) -> None:
+    calls = []
+
+    class FakeArm:
+        def rm_set_voltage(self, *args):
+            del args
+
+        def rm_set_io_mode(self, *args):
+            del args
+
+        def rm_algo_quaternion2euler(self, quaternion):
+            del quaternion
+            return [0.0, 0.0, 0.0]
+
+        def rm_get_total_tool_frame(self):
+            return {"return_code": 0, "tool_names": []}
+
+        def rm_set_manual_tool_frame(self, *, frame):
+            del frame
+            return 0
+
+        def rm_change_tool_frame(self, tool_name):
+            del tool_name
+            return 0
+
+        def rm_set_modbus_mode(self, **kwargs):
+            del kwargs
+            return 0
+
+        def rm_write_single_register(self, params, value):
+            del params, value
+            return 0
+
+    sdk = ModuleType("Robotic_Arm.rm_robot_interface")
+    sdk.rm_frame_t = lambda *args: object()
+    sdk.rm_peripheral_read_write_params_t = lambda *args: object()
+    package = ModuleType("Robotic_Arm")
+    package.rm_robot_interface = sdk
+    monkeypatch.setitem(sys.modules, "Robotic_Arm", package)
+    monkeypatch.setitem(sys.modules, "Robotic_Arm.rm_robot_interface", sdk)
+    monkeypatch.setattr(fun_peripheral.time, "sleep", lambda seconds: None)
+    monkeypatch.setattr(
+        fun_peripheral,
+        "set_tool_position",
+        lambda robot, percent, device, scissorgripper: calls.append(
+            (percent, device, scissorgripper)
+        ),
+    )
+    tools = {
+        "scissor": [[0.0] * 7, [0.0] * 7],
+        "omnipic": [[0.0] * 7, [0.0] * 7],
+    }
+
+    peripheral_cfg(
+        FakeArm(),
+        1,
+        tools,
+        set_initial_tool_state=True,
+    )
+
+    assert calls == [(1.0, 1, 1)]
+
+
 @pytest.mark.parametrize(
     ("config_name", "node_names"),
     [

xr_rm_teleop/test/test_joint_control.py

@@ -1,4 +1,5 @@
 import math
+import threading
 import time
 from types import SimpleNamespace
 
@@ -42,6 +43,69 @@ class FakePublisher:
         self.messages.append(message)
 
 
+def _tool_state_teleop(*, command_error=None):
+    started = threading.Event()
+    release = threading.Event()
+
+    class Adapter:
+        def set_tool_enabled(self, open_tool):
+            del open_tool
+            started.set()
+            assert release.wait(timeout=1.0)
+            if command_error is not None:
+                raise command_error
+
+    teleop = object.__new__(SingleArmVelocityTeleop)
+    teleop._arm_name = "right_rm75"
+    teleop._adapter = Adapter()
+    teleop._tool_command_queue = None
+    teleop._tool_worker_stop = threading.Event()
+    teleop._tool_worker_thread = None
+    teleop._tool_state_lock = threading.Lock()
+    teleop._tool_target_open = True
+    teleop._tool_state_open = True
+    teleop._tool_command_pending = False
+    teleop._tool_command_failed = False
+    teleop.get_logger = lambda: FakeLogger()
+    teleop._start_tool_worker()
+    return teleop, started, release
+
+
+def test_tool_state_changes_only_after_command_succeeds() -> None:
+    teleop, started, release = _tool_state_teleop()
+    try:
+        teleop._enqueue_tool_command(False, "test")
+        assert started.wait(timeout=1.0)
+
+        assert teleop._tool_state_snapshot() == (False, True, True, False)
+
+        release.set()
+        assert teleop._tool_command_queue is not None
+        teleop._tool_command_queue.join()
+
+        assert teleop._tool_state_snapshot() == (False, False, False, False)
+    finally:
+        release.set()
+        teleop._shutdown_tool_worker()
+
+
+def test_tool_failure_keeps_previous_state_and_is_reported() -> None:
+    teleop, started, release = _tool_state_teleop(
+        command_error=RuntimeError("modbus failed")
+    )
+    try:
+        teleop._enqueue_tool_command(False, "test")
+        assert started.wait(timeout=1.0)
+        release.set()
+        assert teleop._tool_command_queue is not None
+        teleop._tool_command_queue.join()
+
+        assert teleop._tool_state_snapshot() == (False, True, False, True)
+    finally:
+        release.set()
+        teleop._shutdown_tool_worker()
+
+
 def _joint_publishing_teleop() -> SingleArmVelocityTeleop:
     names = [f"omnipic_joint_{index}" for index in range(1, 8)]
     teleop = object.__new__(SingleArmVelocityTeleop)
@@ -622,9 +686,10 @@ def test_qp_failure_returns_last_known_good_target() -> None:
     teleop._arm_name = "right_rm75"
     teleop.get_logger = lambda: FakeLogger()
 
-    target = teleop._solve_joint_target(np.eye(4))
+    target, qp_success = teleop._solve_joint_target(np.eye(4))
 
     assert target == pytest.approx([0.1] * 7)
+    assert not qp_success
     assert teleop._last_valid_joint_target == pytest.approx([0.1] * 7)
 
 
@@ -640,9 +705,10 @@ def test_qp_success_updates_last_known_good_target() -> None:
     teleop._arm_name = "left_rm75"
     teleop.get_logger = lambda: FakeLogger()
 
-    target = teleop._solve_joint_target(np.eye(4))
+    target, qp_success = teleop._solve_joint_target(np.eye(4))
 
     assert target == pytest.approx([0.2] * 7)
+    assert qp_success
     assert teleop._last_valid_joint_target == pytest.approx([0.2] * 7)
 
 

xr_rm_teleop/test/test_placo_transforms.py

@@ -272,6 +272,20 @@ def test_validated_transform_rejects_invalid_se3(transform: np.ndarray) -> None:
         _validated_transform(transform)
 
 
+def test_joint_position_limits_returns_a_copy() -> None:
+    solver = object.__new__(PlacoIkSolver)
+    solver._joint_limits = np.asarray([[-1.0, 1.0]] * 7)
+
+    first = solver.joint_position_limits
+    second = solver.joint_position_limits
+
+    assert first.shape == (7, 2)
+    assert np.isfinite(first).all()
+    assert np.all(first[:, 0] < first[:, 1])
+    first[0, 0] = 999.0
+    assert second[0, 0] != 999.0
+
+
 def test_qp_result_rejects_nan_position_and_velocity_violations() -> None:
     solver = object.__new__(PlacoIkSolver)
     solver._joint_limits = np.asarray([[-1.0, 1.0]] * 7)

xr_rm_teleop/xr_rm_teleop/fun_peripheral.py

@@ -218,16 +218,19 @@ def peripheral_cfg(
 
         addr = 1
         # 依次设置目标速度、目标力矩、目标加速度和目标减速度。
-        reg_value = [255, 60, 255, 255]
+        reg_value = [255, 150, 255, 255]
         for i, reg_addr in enumerate([11, 12, 13, 14]):
             write_params = rm_peripheral_read_write_params_t(1, reg_addr, addr, 1)
             robot.rm_write_single_register(write_params, reg_value[i])
             time.sleep(0.5)
 
         if set_initial_tool_state:
-            set_tool_position(robot, percent=0.75, device=1, scissorgripper=scissorgripper)
+            set_tool_position(
-            time.sleep(1.5)
+                robot,
-            set_tool_position(robot, percent=0.15, device=1, scissorgripper=scissorgripper)
+                percent=1.0,
+                device=1,
+                scissorgripper=scissorgripper,
+            )
 
     elif scissorgripper == 2:
         # 小型剪刀夹爪通过控制器 DO3/DO4 控制。

xr_rm_teleop/xr_rm_teleop/placo_ik_solver.py

@@ -157,6 +157,10 @@ class PlacoIkSolver:
     def base_configuration(self) -> list[float]:
         return self._robot.state.q[:7].tolist()
 
+    @property
+    def joint_position_limits(self) -> np.ndarray:
+        return self._joint_limits.copy()
+
     def update_joint_state(self, joints: list[float]) -> np.ndarray:
         values = np.asarray(joints, dtype=float)
         if values.shape != (7,) or not np.isfinite(values).all():

xr_rm_teleop/xr_rm_teleop/realman_adapter.py

@@ -237,9 +237,9 @@ class RealManAdapter:
             )
 
     def read_joint_state(self) -> JointStateSnapshot:
-        self._require_arm()
+        arm = self._require_arm()
         started_at = time.monotonic()
-        result = self._arm.rm_get_joint_degree()
+        result = arm.rm_get_joint_degree()
         finished_at = time.monotonic()
         if not isinstance(result, tuple) or len(result) != 2:
             raise RuntimeError(
@@ -256,10 +256,10 @@ class RealManAdapter:
         )
 
     def send_joint_target(self, joints: list[float], follow: bool) -> None:
-        self._require_arm()
+        arm = self._require_arm()
         if len(joints) != 7 or not all(math.isfinite(value) for value in joints):
             raise ValueError("joint target must contain 7 finite values")
-        ret = self._arm.rm_movej_canfd(
+        ret = arm.rm_movej_canfd(
             [math.degrees(value) for value in joints],
             follow,
             0,
@@ -315,9 +315,10 @@ class RealManAdapter:
             self._arm = None
             self._realtime_callback = None
 
-    def _require_arm(self) -> None:
+    def _require_arm(self) -> Any:
         if self._arm is None:
             raise RuntimeError("睿尔曼机械臂尚未连接")
+        return self._arm
 
     def _on_realtime_arm_state(self, data: Any) -> None:
         if not self._accept_realtime_feedback:
@@ -457,11 +458,11 @@ class RealManAdapter:
             self._try_call("rm_set_joint_max_acc", joint_index, self._joint_max_acc)
 
     def move_to_initial_pose(self) -> None:
-        self._require_arm()
+        arm = self._require_arm()
         if self._initial_joint_pose is None:
             raise RuntimeError("启用初始位姿移动时必须配置 initial_joint_pose")
 
-        ret = self._arm.rm_movej(
+        ret = arm.rm_movej(
             self._initial_joint_pose,
             self._init_move_speed,
             0,

xr_rm_teleop/xr_rm_teleop/single_arm_velocity_teleop.py

@@ -10,17 +10,19 @@ import math
 import queue
 import threading
 import time
+from dataclasses import dataclass
 from typing import Iterable
 
 import numpy as np
 import rclpy
 from geometry_msgs.msg import PoseStamped, TwistStamped
 from rclpy.node import Node
+from rclpy.qos import HistoryPolicy, QoSProfile, ReliabilityPolicy
 from rclpy.time import Time
 from sensor_msgs.msg import JointState
 from std_msgs.msg import Bool
 
-from xr_rm_interfaces.msg import XrController
+from xr_rm_interfaces.msg import ActControlSample, XrController
 
 from .fun_peripheral import load_peripheral_config
 from .placo_ik_solver import PlacoIkSolver
@@ -31,6 +33,30 @@ from .realman_adapter import (
 )
 
 
+@dataclass
+class _ActCycleContext:
+    control_seq: int
+    control_monotonic_ns: int
+    feedback_monotonic_ns: int = -1
+    action_monotonic_ns: int = -1
+    feedback_age_ms: float = math.inf
+    qp_duration_ms: float = 0.0
+    q_actual: list[float] | None = None
+    q_qp_raw: list[float] | None = None
+    q_target: list[float] | None = None
+    current_pose: np.ndarray | None = None
+    raw_target_pose: np.ndarray | None = None
+    target_pose: np.ndarray | None = None
+    command_velocity: list[float] | None = None
+    feedback_valid: bool = False
+    command_sent: bool = False
+    send_failed: bool = False
+    qp_attempted: bool = False
+    qp_success: bool = False
+    target_clamped: bool = False
+    control_fault: bool = False
+
+
 def _norm(values: Iterable[float]) -> float:
     return math.sqrt(sum(value * value for value in values))
 
@@ -291,12 +317,19 @@ class SingleArmVelocityTeleop(Node):
         self._latest_joint_positions: list[float] | None = None
         self._last_joint_command_target: list[float] | None = None
         self._last_joint_command_velocity: list[float] | None = None
+        self._last_successful_action_target: list[float] | None = None
+        self._act_control_seq = 0
         self._joint_feedback_ready = False
         self._grip_rearm_required = False
         self._feedback_resync_attempted = False
         self._control_fault_latched = False
         self._stop_sent = True
         self._trigger_tool_open = True
+        self._tool_state_lock = threading.Lock()
+        self._tool_target_open = True
+        self._tool_state_open: bool | None = None
+        self._tool_command_pending = False
+        self._tool_command_failed = False
         self._last_primary_pressed: bool | None = None
         self._last_trigger_pressed: bool | None = None
         self._tool_command_queue: queue.Queue[tuple[bool, str] | None] | None = None
@@ -340,6 +373,15 @@ class SingleArmVelocityTeleop(Node):
             f"{debug_ns}/joint_target",
             10,
         )
+        self._act_sample_pub = self.create_publisher(
+            ActControlSample,
+            f"{debug_ns}/act_control_sample",
+            QoSProfile(
+                history=HistoryPolicy.KEEP_LAST,
+                depth=10,
+                reliability=ReliabilityPolicy.BEST_EFFORT,
+            ),
+        )
         self._adapter = self._make_adapter()
         self._adapter.connect()
         self._initialize_joint_state()
@@ -430,11 +472,20 @@ class SingleArmVelocityTeleop(Node):
 
     def _setup_tool_control(self) -> None:
         peripheral_arm = self._peripheral_arm_name()
-        if self._bool_parameter("configure_peripheral_on_connect"):
+        configure_on_connect = self._bool_parameter(
+            "configure_peripheral_on_connect"
+        )
+        if configure_on_connect:
             self._adapter.configure_peripheral(
                 self._peripheral_config,
                 peripheral_arm,
             )
+            if self._peripheral_config.set_initial_tool_state:
+                with self._tool_state_lock:
+                    self._tool_target_open = True
+                    self._tool_state_open = True
+                    self._tool_command_pending = False
+                    self._tool_command_failed = False
 
         if not self._enable_tool_control:
             if self._enable_trigger_gripper_control:
@@ -484,6 +535,10 @@ class SingleArmVelocityTeleop(Node):
             )
             return
 
+        with self._tool_state_lock:
+            self._tool_target_open = open_tool
+            self._tool_command_pending = True
+
         item = (open_tool, source)
         while True:
             try:
@@ -512,15 +567,34 @@ class SingleArmVelocityTeleop(Node):
                 try:
                     self._adapter.set_tool_enabled(open_tool)
                 except Exception as exc:
+                    with self._tool_state_lock:
+                        self._tool_command_failed = True
                     self.get_logger().error(
                         f"{self._arm_name} tool {action} failed from {source}: {exc}"
                     )
                     continue
+                with self._tool_state_lock:
+                    self._tool_state_open = open_tool
+                    self._tool_command_failed = False
                 self.get_logger().info(
                     f"{self._arm_name} tool {action} command sent from {source}"
                 )
             finally:
                 self._tool_command_queue.task_done()
+                if self._tool_command_queue.empty():
+                    with self._tool_state_lock:
+                        self._tool_command_pending = False
+
+    def _tool_state_snapshot(
+        self,
+    ) -> tuple[bool, bool | None, bool, bool]:
+        with self._tool_state_lock:
+            return (
+                self._tool_target_open,
+                self._tool_state_open,
+                self._tool_command_pending,
+                self._tool_command_failed,
+            )
 
     def _peripheral_arm_name(self) -> str:
         configured = str(self.get_parameter("peripheral_arm").value).strip().lower()
@@ -582,6 +656,18 @@ class SingleArmVelocityTeleop(Node):
         self._enqueue_tool_command(self._trigger_tool_open, "trigger")
 
     def _control_tick(self) -> None:
+        control_seq = getattr(self, "_act_control_seq", 0)
+        self._act_control_seq = control_seq + 1
+        cycle = _ActCycleContext(
+            control_seq=control_seq,
+            control_monotonic_ns=time.monotonic_ns(),
+        )
+        try:
+            self._control_tick_impl(cycle)
+        finally:
+            self._publish_act_control_sample(cycle)
+
+    def _control_tick_impl(self, cycle: _ActCycleContext) -> None:
         tick_started_ns = time.perf_counter_ns()
         last_tick_started_ns = getattr(
             self,
@@ -596,10 +682,12 @@ class SingleArmVelocityTeleop(Node):
         )
         now = self.get_clock().now()
         if self._control_fault_latched:
+            cycle.control_fault = True
             return
 
         snapshot = self._adapter.get_latest_joint_state()
         if not self._joint_snapshot_is_motion_ready(snapshot):
+            cycle.control_fault = True
             self._grip_rearm_required = True
             if self._joint_feedback_ready:
                 self.get_logger().warn(
@@ -610,13 +698,18 @@ class SingleArmVelocityTeleop(Node):
             self._safe_stop(reset_active=True)
             return
         assert snapshot is not None
+        cycle.q_actual = list(snapshot.positions)
+        cycle.feedback_monotonic_ns = int(snapshot.received_at * 1e9)
         feedback_age = time.monotonic() - snapshot.received_at
+        cycle.feedback_age_ms = feedback_age * 1000.0
         if feedback_age < 0.0:
+            cycle.control_fault = True
             self._grip_rearm_required = True
             self._joint_feedback_ready = False
             self._safe_stop(reset_active=True)
             return
         if feedback_age > self._command_timeout_sec:
+            cycle.control_fault = True
             self._handle_stale_joint_feedback(feedback_age)
             return
 
@@ -624,6 +717,7 @@ class SingleArmVelocityTeleop(Node):
         try:
             current_pose = self._sync_joint_feedback(snapshot)
         except Exception as exc:
+            cycle.control_fault = True
             self.get_logger().error(
                 f"{self._arm_name} 关节反馈同步到 Placo 失败：{exc}",
                 throttle_duration_sec=1.0,
@@ -632,6 +726,8 @@ class SingleArmVelocityTeleop(Node):
             self._grip_rearm_required = True
             self._safe_stop(reset_active=True)
             return
+        cycle.current_pose = current_pose
+        cycle.feedback_valid = True
         if not self._joint_feedback_ready:
             if self._grip_rearm_required:
                 message = (
@@ -680,6 +776,7 @@ class SingleArmVelocityTeleop(Node):
         try:
             controller_quat = self._controller_quaternion(self._last_msg)
         except ValueError as exc:
+            cycle.control_fault = True
             self.get_logger().warn(
                 f"{self._arm_name} XR 手柄姿态无效，停止输出：{exc}",
                 throttle_duration_sec=1.0,
@@ -724,19 +821,35 @@ class SingleArmVelocityTeleop(Node):
             sent_target,
             sent_orientation,
         )
+        cycle.raw_target_pose = raw_target_pose
+        cycle.target_pose = target_pose
+        cycle.command_velocity = list(velocity)
+        cycle.target_clamped = target_clamped
 
         self._publish_debug(raw_target_pose, target_pose, velocity, target_clamped)
+        cycle.qp_attempted = True
         qp_started_ns = time.perf_counter_ns()
-        joint_target = self._solve_joint_target(target_pose)
+        joint_target, qp_success = self._solve_joint_target(target_pose)
         qp_ms = (time.perf_counter_ns() - qp_started_ns) * 1e-6
+        cycle.qp_duration_ms = qp_ms
+        cycle.q_qp_raw = list(joint_target)
+        cycle.qp_success = qp_success
         send_started_ns = time.perf_counter_ns()
         sent = self._send_joint_target(joint_target)
         send_ms = (time.perf_counter_ns() - send_started_ns) * 1e-6
         if sent:
+            assert self._last_joint_command_target is not None
+            final_target = list(self._last_joint_command_target)
+            self._last_successful_action_target = final_target
+            cycle.q_target = final_target
+            cycle.action_monotonic_ns = time.monotonic_ns()
+            cycle.command_sent = True
             self._last_sent_target = sent_target
             self._last_sent_orientation = sent_orientation.copy()
             self._last_command_time = now
             self._stop_sent = False
+        else:
+            cycle.send_failed = True
         total_ms = (time.perf_counter_ns() - tick_started_ns) * 1e-6
         try:
             self._record_timing_sample(
@@ -1196,7 +1309,10 @@ class SingleArmVelocityTeleop(Node):
             self._last_valid_joint_target = list(snapshot.positions)
         return current_pose
 
-    def _solve_joint_target(self, target_pose: np.ndarray) -> list[float]:
+    def _solve_joint_target(
+        self,
+        target_pose: np.ndarray,
+    ) -> tuple[list[float], bool]:
         if self._last_valid_joint_target is None:
             raise RuntimeError("valid joint feedback has not been initialized")
         try:
@@ -1206,9 +1322,9 @@ class SingleArmVelocityTeleop(Node):
                 f"{self._arm_name} QP 求解失败，保持上一组关节目标：{exc}",
                 throttle_duration_sec=1.0,
             )
-            return list(self._last_valid_joint_target)
+            return list(self._last_valid_joint_target), False
         self._last_valid_joint_target = list(result)
-        return list(result)
+        return list(result), True
 
     def _safe_stop(self, reset_active: bool) -> None:
         if not self._stop_sent:
@@ -1380,6 +1496,122 @@ class SingleArmVelocityTeleop(Node):
         self._cmd_vel_pub.publish(velocity_msg)
         self._target_clamped_pub.publish(clamped_msg)
 
+    def _build_act_control_sample(
+        self,
+        cycle: _ActCycleContext,
+    ) -> ActControlSample:
+        message = ActControlSample()
+        message.header.stamp = self.get_clock().now().to_msg()
+        message.header.frame_id = "rm_base"
+        message.control_seq = cycle.control_seq
+        message.control_monotonic_ns = cycle.control_monotonic_ns
+        message.feedback_monotonic_ns = cycle.feedback_monotonic_ns
+        message.action_monotonic_ns = cycle.action_monotonic_ns
+        message.feedback_age_ms = float(cycle.feedback_age_ms)
+        message.qp_duration_ms = float(cycle.qp_duration_ms)
+
+        q_actual = cycle.q_actual or [0.0] * 7
+        held_target = (
+            cycle.q_target
+            or self._last_successful_action_target
+            or q_actual
+        )
+        qp_target = cycle.q_qp_raw or held_target
+        limits = np.asarray(
+            self._ik_solver.joint_position_limits,
+            dtype=float,
+        )
+        if limits.shape != (7, 2) or not np.isfinite(limits).all():
+            raise ValueError("joint limits must have finite shape (7, 2)")
+        message.q_actual = [float(value) for value in q_actual]
+        message.q_qp_raw = [float(value) for value in qp_target]
+        message.q_target = [float(value) for value in held_target]
+        message.joint_lower_limits = limits[:, 0].tolist()
+        message.joint_upper_limits = limits[:, 1].tolist()
+
+        current_pose = cycle.current_pose
+        if current_pose is None:
+            current_pose = self._debug_pose_fallback()
+        if current_pose is None:
+            current_pose = np.eye(4)
+        raw_target_pose = cycle.raw_target_pose
+        if raw_target_pose is None:
+            raw_target_pose = current_pose
+        target_pose = cycle.target_pose
+        if target_pose is None:
+            target_pose = current_pose
+        message.tcp_current = self._pose_msg(
+            message.header.stamp,
+            current_pose,
+        ).pose
+        message.tcp_raw_target = self._pose_msg(
+            message.header.stamp,
+            raw_target_pose,
+        ).pose
+        message.tcp_target = self._pose_msg(
+            message.header.stamp,
+            target_pose,
+        ).pose
+        velocity = cycle.command_velocity or [0.0] * 6
+        if len(velocity) != 6:
+            raise ValueError("ACT command velocity must contain 6 values")
+        message.tcp_command_velocity.linear.x = float(velocity[0])
+        message.tcp_command_velocity.linear.y = float(velocity[1])
+        message.tcp_command_velocity.linear.z = float(velocity[2])
+        message.tcp_command_velocity.angular.x = float(velocity[3])
+        message.tcp_command_velocity.angular.y = float(velocity[4])
+        message.tcp_command_velocity.angular.z = float(velocity[5])
+
+        controller = self._last_msg
+        if controller is not None:
+            message.pico_pose = controller.pose
+            message.pico_grip = bool(controller.grip)
+            message.pico_trigger = float(controller.trigger)
+            message.pico_primary = bool(controller.primary)
+            message.pico_secondary = bool(controller.secondary)
+            message.pico_axis = [float(value) for value in controller.axis]
+
+        tool_target, tool_state, tool_pending, tool_failed = (
+            self._tool_state_snapshot()
+        )
+        message.gripper_target_open = tool_target
+        message.gripper_state_known = tool_state is not None
+        message.gripper_state_open = bool(tool_state)
+        message.gripper_command_pending = tool_pending
+        message.gripper_command_failed = tool_failed
+
+        message.teleop_active = bool(self._active)
+        message.feedback_valid = cycle.feedback_valid
+        message.action_valid = bool(
+            self._last_successful_action_target is not None
+            and cycle.feedback_valid
+            and not cycle.send_failed
+            and not cycle.control_fault
+        )
+        message.command_sent = cycle.command_sent
+        message.qp_attempted = cycle.qp_attempted
+        message.qp_success = cycle.qp_success
+        message.target_clamped = cycle.target_clamped
+        message.control_fault = bool(
+            cycle.control_fault or self._control_fault_latched
+        )
+        return message
+
+    def _publish_act_control_sample(
+        self,
+        cycle: _ActCycleContext,
+    ) -> None:
+        publisher = getattr(self, "_act_sample_pub", None)
+        if publisher is None:
+            return
+        try:
+            publisher.publish(self._build_act_control_sample(cycle))
+        except Exception as exc:
+            self.get_logger().warn(
+                f"{self._arm_name} ACT原子样本发布失败：{exc}",
+                throttle_duration_sec=1.0,
+            )
+
     @staticmethod
     def _pose_msg(stamp, pose: np.ndarray) -> PoseStamped:
         transform = _make_transform(pose[:3, 3], pose[:3, :3])