Sim to Real:模擬到實機
在 Isaac Sim 中錄製機器手臂示範,透過合成資料生成(SDG)建立更多範例,再訓練模型並部署到實體機器人執行。
本教學使用 Robotic Suite/Physical AI 的示範學習流程。ACT 與 GR00T N1.5 都可在這條流程中使用,請依任務需求與部署平台選擇策略。
完成後能得到什麼
完成本教學後,你將取得經過檢查的 LeRobot 資料集、訓練完成的模型檢查點,以及在實體 Follower 手臂上的驗證結果。如果使用另一台主機部署,也會完成模型傳輸與目標主機驗證。
各階段的硬體需求
| 階段 | 實體 Leader | 實體 Follower | 實體相機 |
|---|---|---|---|
| 模擬錄製與 SDG | 需要 | 錄製時不使用 | 不使用,影像由模擬器產生 |
| 模型訓練 | 不使用 | 不使用 | 不使用,訓練讀取資料集 |
| 實機推論 | 不使用 | 需要 | 需要 |
表格說明各階段執行時使用的設備;初次連接與辨識仍需依手臂設定精靈完成。主機支援情形請先確認系統需求,各階段設定請參考設備準備。
依序完成教學
| 步驟 | 教學入口 | 完成時應確認 |
|---|---|---|
| 1 | 系統需求與安裝 | Robotic Suite 已安裝,模擬映像檔與檢視器已就緒 |
| 2 | 設備準備 | Leader 已設定,完成偏移量對齊後虛擬手臂與實體動作對應 |
| 3 | 策略選擇 | 策略符合預定的部署平台 |
| 4 | 模擬錄製與 SDG | 已檢查示範與生成資料,並匯出 LeRobot 資料集 |
| 5 | 資料集管理 | 已完成資料檢查,並選定本次訓練的資料集 |
| 6 | 模型訓練 | 已保存可用的模型檢查點,並檢查訓練狀態 |
| 7 | 實機驗證 | 已測試實體手臂執行任務,並記錄失敗情況 |
| 8 | 模型部署 | 模型在實際執行主機上通過驗證 |
模擬資料與實機資料
模擬錄製可以建立帶有變化的示範資料。實際相機影像、物件接觸與手臂機構可能和模擬環境不同,因此仍需完成實機驗證。
需要時,可依補充實機資料錄製真實環境的示範,再於資料集管理中檢查並合併相容的資料。相關差異可參考 Sim-to-Real 落差。
操作示範影片
下方共用的產品示範影片涵蓋錄製、訓練與推論。進行本教學時,請依上方步驟表完成模擬到實機的路線。