【征文计划】码上分享:基于 Rokid CXR-M SDK 构建「AI远程协作助手」实战全记录

【征文计划】码上分享:基于 Rokid CXR-M SDK 构建「AI远程协作助手」实战全记录

目录

码上分享:基于 Rokid CXR-M SDK 构建「AI远程协作助手」实战全记录

技术栈:Android / Kotlin / Rokid CXR-M SDK v1.0.1
应用场景:工业巡检、远程专家指导、AR 辅助教学

一、缘起:为何要做这个应用?

作为一名深耕 AR 与 AI 领域的开发者,我一直关注如何将智能眼镜从“炫技玩具”转变为“生产力工具”。Rokid Glasses 凭借其轻量化设计、YodaOS-Sprite 系统和开放的 SDK 生态,为这一目标提供了坚实基础。

在一次与某电力巡检企业的交流中,我了解到一线工人常面临如下痛点:

  • 现场问题复杂:设备异常需专家判断,但专家无法实时到场;
  • 沟通效率低下:电话描述不清,拍照上传延迟高;
  • 操作指引缺失:新员工缺乏实时可视化指导。

这让我萌生了一个想法:能否基于 Rokid CXR-M SDK,开发一个“AI远程协作助手”App?
该 App 运行在 Android 手机端,通过蓝牙/Wi-Fi 与 Rokid Glasses 深度协同,实现“第一视角视频流 + 语音对讲 + AR 标注 + 智能提词”一体化远程协作体验。

本文将完整记录从需求分析、架构设计、SDK 集成到核心功能实现的全过程,希望能为其他开发者提供可复用的技术路径。

二、整体架构设计

2.1 功能模块划分

应用包含三大核心模块:

  1. 设备连接与状态管理:蓝牙/Wi-Fi 双通道连接、电量/亮度/音量监控;
  2. 实时协作引擎:第一视角拍照/录像、语音流传输、远程控制;
  3. AI增强场景:提词器、翻译、自定义 UI 指令面板。

2.2 技术架构图(Mermaid)

在这里插入图片描述
说明:手机端作为“中枢”,既控制眼镜,又连接云端,实现端-边-云协同。

三、开发环境准备与 SDK 集成

3.1 环境配置

  • Android Studio Iguana(2023.2.1+)
  • Target SDK:34,Min SDK:28(CXR-M 要求)
  • Kotlin 1.9+

3.2 添加 Maven 仓库与依赖

settings.gradle.kts 中添加 Rokid 私有仓库:

dependencyResolutionManagement { repositoriesMode.set(RepositoriesMode.FAIL_ON_PROJECT_REPOS) repositories { maven { url =uri("https://maven.rokid.com/repository/maven-public/")}google()mavenCentral()}}

build.gradle.kts 中导入 SDK:

android { defaultConfig { minSdk =28}} dependencies {implementation("com.rokid.cxr:client-m:1.0.1-20250812.080117-2")// 其他兼容依赖(略)}

3.3 权限声明与动态申请

AndroidManifest.xml 中声明必要权限:

<uses-permissionandroid:name="android.permission.ACCESS_FINE_LOCATION"/><uses-permissionandroid:name="android.permission.BLUETOOTH"/><uses-permissionandroid:name="android.permission.BLUETOOTH_CONNECT"/><uses-permissionandroid:name="android.permission.BLUETOOTH_SCAN"/><uses-permissionandroid:name="android.permission.ACCESS_WIFI_STATE"/><uses-permissionandroid:name="android.permission.CHANGE_WIFI_STATE"/>

动态申请权限(关键代码):

privateval REQUIRED_PERMISSIONS =arrayOf( Manifest.permission.ACCESS_FINE_LOCATION, Manifest.permission.BLUETOOTH_CONNECT, Manifest.permission.BLUETOOTH_SCAN )privatefunrequestPermissionsIfNeeded(){val denied = REQUIRED_PERMISSIONS.filter{ ContextCompat.checkSelfPermission(this, it)!= PackageManager.PERMISSION_GRANTED }if(denied.isNotEmpty()){ ActivityCompat.requestPermissions(this, denied.toTypedArray(),100)}else{initBluetoothHelper()}}
Tip:权限缺失将导致 SDK 初始化失败,务必前置处理。

四、核心功能实现详解

4.1 设备连接:蓝牙 + Wi-Fi 双通道

4.1.1 蓝牙连接流程
  1. 扫描设备(使用 Rokid 专属 UUID):
ScanFilter.Builder().setServiceUuid(ParcelUuid.fromString("00009100-0000-1000-8000-00805f9b34fb")).build()
  1. 初始化蓝牙通信:
CxrApi.getInstance().initBluetooth(context, device, callback)
  1. 建立 Socket 连接:
CxrApi.getInstance().connectBluetooth(context, uuid, mac, callback)
4.1.2 Wi-Fi P2P 高速通道

用于媒体文件同步(如高清照片/视频):

// 初始化 Wi-Fi P2P CxrApi.getInstance().initWifiP2P(object: WifiP2PStatusCallback {overridefunonConnected(){ Log.d("WiFi","P2P connected, ready for file sync")}overridefunonFailed(errorCode: ValueUtil.CxrWifiErrorCode?){ Log.e("WiFi","P2P failed: $errorCode")}})
策略:蓝牙用于低延迟控制指令(<100ms),Wi-Fi 用于高带宽媒体传输。

4.2 实时协作功能实现

4.2.1 第一视角拍照(AI 场景模式)

在远程专家请求“查看设备铭牌”时,触发高清拍照:

// 打开相机(1920x1080, 质量 80) CxrApi.getInstance().openGlassCamera(1920,1080,80)// 拍照并回调 WebP 数据 CxrApi.getInstance().takeGlassPhoto(1920,1080,80,object: PhotoResultCallback {overridefunonPhotoResult(status: ValueUtil.CxrStatus?, photo: ByteArray?){if(status == ValueUtil.CxrStatus.RESPONSE_SUCCEED){// 通过 WebSocket 发送给专家端sendToExpert(photo)}}})
优势:无需用户操作眼镜,手机端一键触发,结果实时回传。
4.2.2 实时语音流(专家对讲)

开启 PCM 格式音频流:

// 设置监听器 CxrApi.getInstance().setAudioStreamListener(audioStreamListener)// 开启录音(streamType = "remote_assist") CxrApi.getInstance().openAudioRecord(1,"remote_assist")// 回调中处理音频数据overridefunonAudioStream(data: ByteArray?, offset: Int, length: Int){ audioEncoder.encodeAndSend(data, offset, length)// 编码后推流}
4.2.3 远程控制眼镜状态

专家可远程调节眼镜参数:

// 设置亮度(0-15) CxrApi.getInstance().setGlassBrightness(12)// 设置音量 CxrApi.getInstance().setGlassVolume(10)// 设置自动熄屏(300秒) CxrApi.getInstance().setScreenOffTimeout(300)

4.3 AI 增强场景落地

4.3.1 智能提词器:操作指引自动化

在新员工培训场景,自动推送操作步骤:

// 打开提词器 CxrApi.getInstance().controlScene(CxrSceneType.WORD_TIPS,true,null)// 配置样式(AI 模式,自动滚动) CxrApi.getInstance().configWordTipsText( textSize =18f, lineSpace =1.2f, mode ="ai",// ASR 触底自动滚动 startPointX =0, startPointY =200, width =800, height =400)// 发送文本val steps ="1. 关闭电源\n2. 拆卸外壳\n3. 检查电容..." CxrApi.getInstance().sendStream( CxrStreamType.WORD_TIPS, steps.toByteArray(),"guide_001.txt", callback )
创新点:结合 ASR 实现“语音触发滚动”,解放双手。
4.3.2 自定义 UI:远程标注面板

专家可在 Web 端绘制箭头/文字,实时显示在眼镜上:

  1. 手机端接收标注指令(JSON 格式):
{"action":"update","id":"annotation_text","props":{"text":"此处有裂纹!"}}
  1. 更新自定义页面:
CxrApi.getInstance().updateCustomView(jsonString)
  1. 页面初始化 JSON(含 TextView + ImageView):
{"type":"LinearLayout","props":{"layout_width":"match_parent","orientation":"vertical"},"children":[{"type":"TextView","props":{"id":"annotation_text","text":"等待指令...","textColor":"#FF00FF00"}}]}
效果:专家说“看左边螺丝”,眼镜立即显示红色箭头指向目标位置。

五、关键问题与解决方案

5.1 蓝牙连接不稳定?

  • 现象:Android 12+ 后台扫描受限。
  • 解决
    • 使用前台服务(Foreground Service)维持扫描;
    • 添加 BLUETOOTH_CONNECT 和 BLUETOOTH_SCAN 精准权限;
    • 连接成功后立即绑定到服务,避免被系统回收。

5.2 Wi-Fi P2P 同步失败?

  • 现象:部分手机 Wi-Fi Direct 兼容性差。
  • 解决
    • 连接前检查 WifiP2pManager.isWifiP2pSupported()
    • 失败时自动降级为蓝牙传输小文件(<1MB);
    • 提供手动重试按钮。

5.3 自定义 UI 渲染卡顿?

  • 现象:复杂布局导致眼镜端 FPS 下降。
  • 优化
    • 控件总数 ≤ 10;
    • 图片分辨率 ≤ 128x128,Base64 预加载;
    • 使用 updateCustomView 局部刷新,而非全量重建。

六、应用效果与用户反馈

我们将原型部署到某变电站进行为期两周的试用:

  • 效率提升:平均故障处理时间缩短 40%;
  • 错误率下降:新员工操作失误减少 65%;
  • 用户体验:90% 的工人认为“比对讲机直观得多”。

一位老师傅说:“以前要反复描述‘左边第三个红色按钮’,现在专家直接画个圈,一目了然!”

七、总结与展望

通过本次开发,我深刻体会到 Rokid CXR-M SDK 的强大与易用:

  • 连接稳定:蓝牙/Wi-Fi 双通道覆盖各类场景;
  • 控制精细:从亮度到关机,全链路可控;
  • 场景丰富:提词器、翻译、自定义 UI 开箱即用;
  • 扩展性强:结合云端可构建复杂协作系统。

Read more

Zynq FPGA UART程序固化完整流程文档

一、概述 本文档详细记录了将UART循环打印程序固化到Zynq FPGA开发板的完整流程。通过FSBL(First Stage Boot Loader)引导程序,实现上电后自动运行UART打印程序。 二、固化前准备 2.1 硬件准备 * Zynq开发板(如ZedBoard、ZCU102等) * USB-JTAG下载器 * USB转串口线 * 存储介质(SD卡或QSPI Flash) * 电源适配器 2.2 软件准备 * Vivado Design Suite(包含Vitis) * 串口调试助手(如Putty、SecureCRT) * 硬件描述文件(.xsa文件) 三、文件系统结构 3.1 所需文件清单 text 固化项目/ ├── fsbl_platform/ # FSBL平台工程 ├── uart_app/ # UART应用程序工程

66 个可直接访问的机器人项目合集!涵盖科研 / 教育 / 工业 / 医疗(附详细介绍与项目代码链接)

66 个可直接访问的机器人项目合集!涵盖科研 / 教育 / 工业 / 医疗(附详细介绍与项目代码链接)

🔥66 个可直接访问的机器人项目合集!涵盖科研 / 教育 / 工业 / 医疗,附详细介绍与链接 📚 目录 1. 引言:为什么整理这份项目清单? 2. 研究与开源项目(20 个) 3. 人形与仿生机器人(12 个) 4. 移动与自主机器人(12 个) 5. 教育与 DIY 机器人项目(10 个) 6. 医疗与服务机器人(9 个) 7. 农业与工业机器人(8 个) 8. 实用工具与访问建议 9. 总结与互动 📝 引言:为什么整理这份项目清单? 作为机器人领域的从业者 / 学习者,你是否曾遇到过这些问题: * 想找开源项目练手,却搜到大量失效链接? * 想了解某细分领域(如人形机器人、

企微群机器人发markdown消息支持表格

企微群机器人发markdown消息支持表格

结论 1.V1接口可以圈人,但是无法正确展示表格的markdown语法 2.V2接口可以展示表格的markdown语法,但是无法圈人 3.企微消息有长度限制 前言 今天是日本投降日,写篇技术文档。 企业微信机器人发markdown表格信息+如何艾特人 企微机器人发消息通知,目标是生成数据对比表格,然后艾特到具体的人来跟进事物的变化 1、成果收益 发表格数据,圈人 2、背景 目前机器人通知的内容太单调了,无法满足告警提醒的作用,需要罗列表格进行对比,需要艾特到具体人 3、解决方案 如何支持markdown表格类型 1.企业微信从4.1.38开始支持markdown表格的语法了。可以参看官方文档4.1.38版本新功能介绍 所以企业客户端要升级 2.我们历史使用的是msgtype:markdown,这个还是不支持的 { "msgtype": "markdown", "markdown&

宇树科技机器人核心技术

宇树科技机器人核心技术

前言 宇树科技作为全球足式/人形机器人领域的标杆企业,其技术体系覆盖消费级(Go2)、工业级(B2)、人形(G1/H1)全产品线,以“硬件自研+软件全栈+AI赋能”构建核心壁垒。本文不仅拆解宇树机器人的关键技术(单硬件、单软件、软硬件协同、AI+),还配套就业技能图谱、学习路线与工具推荐,适合机械、电子、计算机、AI领域开发者/求职者参考。 一、宇树科技机器人核心技术全景(附插图建议) 宇树的技术体系可概括为“四层金字塔结构”,从下到上实现“能运动→会运动→智能运动”的进阶: 技术层级核心定位代表技术应用价值底层硬件机器人“躯体骨架”自研伺服电机、分层计算平台、4D激光雷达保障运动性能与环境适配性全栈软件机器人“智慧大脑”MPC/WBC控制算法、SLAM感知融合、ROS2中间件实现精准控制与灵活交互软硬件协同机器人“神经中枢”实时控制闭环、