logo Mr.Robota 具身智能学习手册 EN
第十六章:专题组队学习

MicroDuck 具身智能专题组队学习:领学员招募

和小鸭子一起,走进具身智能

走路、踩高跷、荡秋千、站在篮球上保持平衡,再一步步爬上梯子、翻上桌面,还能听懂“走到扶手椅旁边”,在房间里寻找目标——这些有趣的任务,都可以成为学习具身智能的起点。

这次,Datawhale 邀请大家围绕 MicroDuck 这只有趣的开源小鸭子,一起学习机器人模型、物理仿真、强化学习、运动控制、视觉语言导航和端侧部署。把抽象的概念放进具体任务里:为什么它能站稳?怎么知道下一步该迈哪只脚?换上高跷之后,原来的动作为什么需要重新适应?一句语言指令又怎样变成它在房间里的移动轨迹?

我们会从运行一个任务开始,跟着 Notebook 读模型、改参数、训练策略、观察结果,再把运动策略接到地瓜 RDK X5 的 BPU 上。导航任务则直接在工作站 GPU 上使用预训练 LightNav-0,体验图像与语言如何驱动小鸭子行动。沿着“观察环境与身体 → 策略决策 → 执行动作 → 获得反馈”的闭环,理解具身智能如何与物理世界交互。

如果你愿意带大家讲清一个任务、跑通一段代码,欢迎成为本专题的领学员;也欢迎希望边学边做、一起完善教程的学习伙伴。

任务演示

下方每个任务各有一段演示;更多版本见演示总览。环境搭建、策略训练和部署步骤见专题 README和Notebook 入口。

1. 行走与绕障 2. 篮球平衡 3. 高跷行走
行走
平地行走
篮球平衡
篮球上保持平衡
25 cm 高跷行走
25 cm 高跷行走
200 cm 高跷行走
200 cm 高跷行走
4. 摆动旋转 5. 球平衡 6. 梯面攀爬
摆动旋转
荡秋千与旋转
球平衡
球面平衡训练
梯面攀爬与登桌
逐级爬梯,登桌站稳
7. 浏览器物理扰动 8. RDK X5/BPU 推理 9. LightNav-0 视觉语言导航
浏览器物理扰动
拖拽与外力交互
RDK X5 BPU 行走
板端推理,仿真行走
LightNav-0 走廊导航
听指令,在走廊里寻找盆栽

听指令,在不同房间里导航

从运动控制再向前走一步:让小鸭子读取第一视角图像,按照语言指令寻找目标。第 8 本 LightNav-0 多场景导航 Notebook 已保存执行输出,包含三段独立的 GPU 导航演示。

官方住宅 自建客厅 自建走廊
官方住宅语言导航
住宅里寻找左侧桌子
自建客厅语言导航
客厅里接近扶手椅
自建走廊语言导航
走廊里寻找盆栽

一起学什么

学习方向 要弄明白的问题 动手练习
机器人模型 关节、执行器、质量和碰撞如何影响动作? 阅读 MJCF,理解小鸭子的身体结构与控制接口
物理仿真 为什么会滑、会晃、会摔倒,又怎样形成稳定支撑? 在 MuJoCo 中搭场景、观察接触、施加外力并录制视频
强化学习 策略如何通过奖励学会动作?Actor 和 Critic 各做什么? 理解 PPO、SAC/FastSAC,运行小规模训练,调整奖励与课程
运动控制 当前观测与历史状态怎样变成关节动作? 对比 MLP 与 LSTM,检查观测、归一化、动作滤波和控制频率
任务编排 爬梯后何时起身?不同技能如何接力? 理解任务状态机、切换条件和多策略调度
视觉语言导航 图像和一句指令怎样变成移动路线? 接入 LightNav-0,理解轨迹预测与 MPC 控制,修改房间布局并对照视频和轨迹
端侧部署与评测 训练好的模型怎样在开发板上运行,效果怎样检查? 导出 ONNX、编译 HBM、运行 RDK X5 BPU 推理,对比视频、稳定时间与延迟

怎么一起学

  1. 先认识小鸭子。 看任务演示,读懂机器人模型,运行一个已有策略,观察身体状态与动作的对应关系。
  2. 再动手改一个任务。 从篮球平衡、高跷、摆动或球平衡中选择方向,修改命令、奖励或环境设置,记录变化。
  3. 走通训练与评测。 训练类任务可以从零开始,也可以从预训练模型继续训练;先验证采样、更新和保存,再用任务指标检查动作效果。行走直接接入已有策略。
  4. 把运动模型接到开发板。 先生成 GPU 推理视频,再完成模型编译和 BPU 推理,让仿真与板端连成同一条控制闭环。
  5. 让小鸭子听指令导航。 直接接入预训练 LightNav-0,在 GPU 上体验三个场景,修改语言指令或家具布局,观察模型预测、运动轨迹与停止位置。

8 本 Notebook 按任务组织,保存了单元输出,方便跟着讲解、对照结果和重复实验。爬梯任务拆解“攀爬 → 登桌 → 起身”的双策略切换过程;导航任务展示“图像与语言 → 路线预测 → 行走控制”的分层流程,不需要训练导航模型或连接开发板。

8 天学习安排

每天一本 Notebook,围绕一个有趣的任务学习和实践。完整安排见 8 天学习计划。

天数 主题 当天学到与做出的内容
第 1 天 篮球平衡 认识机器人模型、观测与动作,理解 PPO 和 Actor-Critic
第 2 天 浏览器物理扰动 观察接触与外力,完成一次物理交互实验
第 3 天 高跷行走 理解形态课程与动作平滑,记录一组参数对照
第 4 天 摆动旋转 学习任务奖励与动作节奏,观察改动后的效果
第 5 天 球平衡与 FastSAC 运行小规模训练、模型导出与仿真评测
第 6 天 梯面攀爬 运行攀爬与起身双策略,分析技能切换
第 7 天 RDK X5 与多策略 接入已有运动策略,完成 BPU 推理实践与任务切换
第 8 天 LightNav-0 视觉语言导航 GPU 接入预训练模型,体验住宅、客厅与走廊,观察语言指令、预测轨迹和导航视频

训练类任务从小规模训练或续训开始,行走/导航直接接入已有策略,跟着任务逐步理解和实践。

学完能做什么

  • 解释小鸭子的观测、策略网络和关节动作如何连接,读懂一个机器人运动任务的代码。
  • 完成一次训练或续训、模型导出与仿真评测,留下自己的 Notebook、任务视频和实验记录。
  • 根据接触、姿态与动作变化分析失败原因,有依据地调整奖励、课程或控制参数。
  • 在具备开发板的条件下,跑通 RDK X5 BPU 推理,比较 GPU 与 BPU 的任务表现。
  • 接入一个视觉语言导航模型,把语言指令、相机图像、轨迹预测和行走控制串起来,搭建自己的导航场景。

领学员一起做什么

可以选择一个感兴趣的任务或方向,不必一个人负责全部内容:

  • 任务领学: 带大家运行 Notebook,结合视频讲清原理、代码和实验步骤。
  • 训练与评测: 整理奖励、课程、模型选择和任务指标,带大家分析一次改动的效果。
  • 部署实践: 跑通 ONNX 导出、HBM 编译与 RDK X5 推理,整理环境与常见问题。
  • 导航实践: 带大家接入 LightNav-0,设计语言指令与房间布局,结合视频讲解导航和运动控制如何协作。
  • 教程共创: 补充图解、实验记录和讲解材料,让后续学习者更容易跟上。

RDK X5 实践

本专题把地瓜 RDK X5 作为端侧实践平台:工作站运行物理仿真和渲染,BPU 在控制循环中计算并返回动作。训练在工作站/GPU 上进行,模型经 ONNX 导出和 HBM 编译后部署到开发板。大家可以亲手串起“训练 → 导出 → 编译 → 推理 → 评测”的流程。

适合谁

  • 想通过一个具体、有趣的机器人项目,入门具身智能与强化学习。
  • 会基础 Python,愿意运行代码、记录结果,逐步理解机器人模型与控制。
  • 已有机器学习、机器人或嵌入式经验,希望参与领学、训练、部署或教程共创。

没有 MicroDuck 实物或 RDK X5 也可以先参加代码和仿真学习。正式训练需要 Linux/Ubuntu 和合适的 GPU;没有 GPU 时可以从阅读、模型检查、已有模型推理和小型 smoke 验证开始。

参与方式

  • 学习形式:专题组队学习,围绕仓库 Notebook、代码和实验记录协作推进。

欢迎带着好奇心、一个想实现的动作,或者一段还没跑通的代码加入。让小鸭子多学会一个动作,也让我们多理解一点具身智能。