Real to Real:實機到實機
使用實體 Leader、Follower 與相機錄製示範,從示範資料訓練模型,再於實際設備上驗證模型能否完成任務。
本教學中的 Real to Real,指 Robotic Suite/Physical AI 從實體示範到實機推論的流程。錄製時由操作人員透過 Leader 提供動作;推論時則由訓練完成的模型控制 Follower。
完成後能得到什麼
完成本教學後,你將取得經過檢查的 LeRobot 資料集、訓練完成的模型檢查點,以及實體設備上的任務測試紀錄。如果使用另一台主機執行任務,也會完成模型傳輸與目標主機驗證。
各階段的硬體需求
| 階段 | 實體 Leader | 實體 Follower | 實體相機 |
|---|---|---|---|
| 實體示範錄製 | 需要 | 需要 | 需要 |
| 模型訓練 | 不使用 | 不使用 | 不使用,訓練讀取已保存的資料集 |
| 推論與實機驗證 | 不使用 | 需要 | 需要 |
請依安裝教學完成平台設定。本實體錄製流程可以略過其中選用的模擬環境建置。
依序完成教學
| 步驟 | 教學入口 | 完成時應確認 |
|---|---|---|
| 1 | 系統需求與安裝 | 主機能執行平台與預定使用的策略 |
| 2 | 設備準備 | Leader 與 Follower 已辨識並完成設定,所需相機已連接且啟用 |
| 3 | 策略選擇 | ACT 或 GR00T N1.5 符合任務與目標裝置 |
| 4 | 實體示範錄製 | 完整任務示範已保存,並包含所需相機視角 |
| 5 | 資料集管理 | 已逐段檢查示範,並選定本次訓練的資料集 |
| 6 | 模型訓練 | 已保存可用檢查點,並檢查訓練狀態 |
| 7 | 實機驗證 | 已記錄多次任務測試結果與失敗情況 |
| 8 | 模型部署 | 選定模型在實際執行主機上通過驗證 |
先從可以重複執行的任務開始
選擇具有明確完成條件的任務,例如將物件從起始區移到目標區。固定相機位置、確認完整動作都在畫面中,並先決定示範需要涵蓋哪些物件位置變化。
每段示範都應先檢查,再納入訓練資料。錄製畫面的預設 Episode 數量只是初始設定,實際資料量需依任務與策略決定。相關判斷請參考示範品質。
如何選擇兩條路線
| 路線 | 示範資料來源 | 教學入口 |
|---|---|---|
| Sim to Real | Isaac Sim 中的示範與 SDG 生成資料 | 模擬到實機 |
| Real to Real | 實體 Leader、Follower 與相機 | 實體示範錄製 |
兩條路線共用訓練與推論工具。後續若加入模擬資料,需先檢查內容,再合併相容的資料集。將模型移至另一台電腦時,也需確認執行裝置與實體設備設定;完成主機傳輸並不代表模型可以直接用於不同的機械手臂。
操作示範影片
下方共用的產品示範影片涵蓋錄製、訓練與推論。操作時請依本教學的實體錄製步驟進行。