跳至主要内容

Sim to Real:模擬到實機

在 Isaac Sim 中錄製機器手臂示範,透過合成資料生成(SDG)建立更多範例,再訓練模型並部署到實體機器人執行。

本教學使用 Robotic Suite/Physical AI 的示範學習流程。ACT 與 GR00T N1.5 都可在這條流程中使用,請依任務需求與部署平台選擇策略。

完成後能得到什麼​

完成本教學後,你將取得經過檢查的 LeRobot 資料集、訓練完成的模型檢查點,以及在實體 Follower 手臂上的驗證結果。如果使用另一台主機部署,也會完成模型傳輸與目標主機驗證。

各階段的硬體需求​

階段實體 Leader實體 Follower實體相機
模擬錄製與 SDG需要錄製時不使用不使用,影像由模擬器產生
模型訓練不使用不使用不使用,訓練讀取資料集
實機推論不使用需要需要

表格說明各階段執行時使用的設備;初次連接與辨識仍需依手臂設定精靈完成。主機支援情形請先確認系統需求,各階段設定請參考設備準備。

依序完成教學​

步驟教學入口完成時應確認
1系統需求與安裝Robotic Suite 已安裝,模擬映像檔與檢視器已就緒
2設備準備Leader 已設定,完成偏移量對齊後虛擬手臂與實體動作對應
3策略選擇策略符合預定的部署平台
4模擬錄製與 SDG已檢查示範與生成資料,並匯出 LeRobot 資料集
5資料集管理已完成資料檢查,並選定本次訓練的資料集
6模型訓練已保存可用的模型檢查點,並檢查訓練狀態
7實機驗證已測試實體手臂執行任務,並記錄失敗情況
8模型部署模型在實際執行主機上通過驗證

模擬資料與實機資料​

模擬錄製可以建立帶有變化的示範資料。實際相機影像、物件接觸與手臂機構可能和模擬環境不同,因此仍需完成實機驗證。

需要時,可依補充實機資料錄製真實環境的示範,再於資料集管理中檢查並合併相容的資料。相關差異可參考 Sim-to-Real 落差。

操作示範影片​

下方共用的產品示範影片涵蓋錄製、訓練與推論。進行本教學時,請依上方步驟表完成模擬到實機的路線。

兩條資料路線的關係可參考平台工作流程總覽,操作問題則可查閱常見問題。