这个项目能做什么
XiaoZhi ESP32 是一个开源固件项目,可在 ESP32 硬件上构建语音交互 AI 聊天机器人。它使用 Qwen 和 DeepSeek 等大语言模型作为对话后端,并采用 MCP 协议实现多端控制。
README 中描述的关键功能:
- 网络选项:Wi-Fi、有线以太网、USB RNDIS,以及 ML307/EC801E 或 NT26 Cat.1 4G;支持的开发板可在 Wi-Fi 和 4G 之间切换。
- 通过 ESP-SR 实现离线语音唤醒,支持自定义唤醒词。
- 两种通信传输方式:WebSocket 和 MQTT + UDP。
- Opus 音频流式传输,支持流式 ASR + LLM + TTS 管道,以及实时端到端语音模型;支持 AEC 的硬件可实现实时全双工交互。
- 使用 3D Speaker 进行说话人识别。
- OLED/LCD 显示屏支持表情符号和表情展示,部分开发板支持摄像头视觉输入。
- 电池显示与电源管理。
- 39 种界面语言,提供本地化语音提示(英语兜底)。
- 芯片支持:ESP32、ESP32-C3、ESP32-C5、ESP32-C6、ESP32-S3、ESP32-P4。
- 通过热点或 BluFi 进行 Wi-Fi 配网。
- 设备侧 MCP 控制扬声器、LED、舵机、GPIO 等。
- 云端 MCP 扩展模型能力(智能家居控制、PC 桌面操作、知识搜索、邮件等)。
- 通过在线网页编辑器可自定义唤醒词、字体、表情符号和聊天背景。
项目报告支持 138 个开发板目录和 171 个发布版本,部分硬件列表包括:LiChuang ESP32-S3、乐鑫 ESP32-S3-BOX-3、M5Stack CoreS3、AtomS3R + Echo Base、Magic Button 2.4、Waveshare ESP32-S3-Touch-AMOLED-1.8、LILYGO T-Circle-S3、小歌 Mini C3、翠禅 AI 挂坠、WMnologo 星智 1.54TFT、SenseCAP Watcher,以及 ESP-HI 低成本机器狗。
开发需要 ESP-IDF v6.0.1 或更高版本(推荐 v6.1);ESP-IDF 5.x 已不再支持。项目采用 Google C++ 代码风格。文档涵盖自定义开发板、MCP 协议用法与交互流程、MQTT+UDP 以及 WebSocket 协议。固件无需开发环境即可烧录,默认连接官方 xiaozhi.me 服务器,个人用户可免费注册使用 Qwen 实时模型。
该项目还有相关的开源服务端和客户端项目,涵盖 Python、Java、Go、Android、Linux 等平台。项目采用 MIT 许可证发布,允许免费使用,包括商业用途。
评论
0 评分人数达到10人后显示
登录后参与讨论。