跳至主要内容

Real to Real:實機到實機

使用實體 Leader、Follower 與相機錄製示範,從示範資料訓練模型,再於實際設備上驗證模型能否完成任務。

本教學中的 Real to Real,指 Robotic Suite/Physical AI 從實體示範到實機推論的流程。錄製時由操作人員透過 Leader 提供動作;推論時則由訓練完成的模型控制 Follower。

完成後能得到什麼​

完成本教學後,你將取得經過檢查的 LeRobot 資料集、訓練完成的模型檢查點,以及實體設備上的任務測試紀錄。如果使用另一台主機執行任務,也會完成模型傳輸與目標主機驗證。

各階段的硬體需求​

階段實體 Leader實體 Follower實體相機
實體示範錄製需要需要需要
模型訓練不使用不使用不使用,訓練讀取已保存的資料集
推論與實機驗證不使用需要需要

請依安裝教學完成平台設定。本實體錄製流程可以略過其中選用的模擬環境建置。

依序完成教學​

步驟教學入口完成時應確認
1系統需求與安裝主機能執行平台與預定使用的策略
2設備準備Leader 與 Follower 已辨識並完成設定,所需相機已連接且啟用
3策略選擇ACT 或 GR00T N1.5 符合任務與目標裝置
4實體示範錄製完整任務示範已保存,並包含所需相機視角
5資料集管理已逐段檢查示範,並選定本次訓練的資料集
6模型訓練已保存可用檢查點,並檢查訓練狀態
7實機驗證已記錄多次任務測試結果與失敗情況
8模型部署選定模型在實際執行主機上通過驗證

先從可以重複執行的任務開始​

選擇具有明確完成條件的任務,例如將物件從起始區移到目標區。固定相機位置、確認完整動作都在畫面中,並先決定示範需要涵蓋哪些物件位置變化。

每段示範都應先檢查,再納入訓練資料。錄製畫面的預設 Episode 數量只是初始設定,實際資料量需依任務與策略決定。相關判斷請參考示範品質。

如何選擇兩條路線​

路線示範資料來源教學入口
Sim to RealIsaac Sim 中的示範與 SDG 生成資料模擬到實機
Real to Real實體 Leader、Follower 與相機實體示範錄製

兩條路線共用訓練與推論工具。後續若加入模擬資料,需先檢查內容,再合併相容的資料集。將模型移至另一台電腦時,也需確認執行裝置與實體設備設定;完成主機傳輸並不代表模型可以直接用於不同的機械手臂。

操作示範影片​

下方共用的產品示範影片涵蓋錄製、訓練與推論。操作時請依本教學的實體錄製步驟進行。

產品整體流程可參考平台工作流程總覽,操作問題則可查閱常見問題。