第一人称视角多模态空间感知与建模方法研究
省部级纵向科研项目 · 学生骨干 · 2025.11 — 2026.02
项目介绍:面向机器人巡检与移动感知场景,开发拟物体场景感知模块,对运动轨迹中的环境进行实时感知,实现物体识别、3D BoundingBox 估计及物体功能关系建模,构建具备语义理解能力的场景表示。
负责内容:负责基于 ORB_SLAM3 构建环境轨迹采集系统,实现 RGB-D 数据与相机位姿同步获取;基于多视角 3D 目标检测与框融合算法完成场景物体建模,采用 Qwen3-VL-Plus 构建 SceneGraph 实现场景关系建模。
项目成果:系统成功部署于四足机器人平台,能够随机器人运动实时感知环境,完成三维场景重建与开放词汇的 3D 物体检测;基于 SceneGraph 构建物体之间的语义与功能关系,实现如“键盘用于电脑输入”等使用关系的表达。



