Toggle navigation
首页
问答
文章
积分商城
专家
专区
更多专区...
文档中心
返回主站
搜索
提问
会员
中心
登录
注册
嵌入式AI
物联网
单片机也能聊天?RT-Thread上跑通大语言模型
发布于 2025-02-03 14:06:27 浏览:568
订阅该版
[tocm] > 在 RT-Thread 上进行 LLM 大语言模型对话 开源仓库地址:https://github.com/Rbb666/llm_chat ## LLM平台 - [x] Deepseek - [x] 通义千问 - [x] 豆包大模型 ## 平台支持 - [x] qemu-a9 - [x] [Vision-Board 开发板](https://item.taobao.com/item.htm?_u=t2dmg8j26111&id=765743204571&spm=a1z0k.7628869.0.0.2a6f37deoF87gM "Vision-Board 开发板") > 理论上支持网络的BSP都支持 体验 qemu-a9 需要先使能网络支持:使能 `Hardware Drivers Config → Onboard Peripheral Drivers → Enable EMAC driver` ## 使用方式 **首先确保您的设备可以使用正常使用网络功能** ### MSH终端交互 #### 通义千问 注册[阿里云](https://www.aliyun.com/product/bailian?spm=5176.28103460.0.0.5abc5d27J2SWgK)账号,并进入阿里云百炼平台:选择模型广场→API调用示例  新建API-KEY:  填写描述后即可创建API-KEY(SK-XXXXXXXX):   1. 打开 menuconfig,进入 `RT-Thread online packages → AI packages → Large Language Models(LLM) for RT-Thread` 目录下;按照下图进行配置: * llm qwen user api key:`API KEY` 需要在通义千问控制台获取; * llm qwen model name:选择模型的名称默认是 `qwen-plus`;  2. 进入 `RT-Thread online packages → IoT - internet of things → WebClient: A HTTP/HTTPS Client for RT-Thread` 选择`MbedTLS support`  3. 退出保存配置,输入 `pkgs --update` 拉取软件包; 4. 编译,运行; 5. 运行效果: > 输入llm即可进入聊天终端,CTRL+D可以退出聊天窗口返回MSH终端;  #### DeekSeek 官方 DeekSeek-API 文档:https://api-docs.deepseek.com/zh-cn/ 创建 DeekSeek API-KEY:  1. 修改模型非常简单,选择DeepSeek配置,我们修改请求URL、API KEY和模型名称即可实现:  2. 保存配置,编译; 3. 运行效果:  #### 豆包大模型 1. 如需创建/查看API Key,请参见 [1.获取并配置 API Key ](https://www.volcengine.com/docs/82379/1399008#b00dee71); 2. 如选创建/查看推理接入点ID,请参见 [2.创建在线推理接入点(Endpoint)](https://www.volcengine.com/docs/82379/1399008#93d221a3) 3. 打开 menuconfig,进入 `RT-Thread online packages → AI packages → Large Language Models(LLM) for RT-Thread` 目录下; 4. 选择 `doubao llm ai` 模型:  5. 输入 1、2 步骤获取到的 `API KEY` 和 `推理接入点ID`;  6. 进入 `RT-Thread online packages → security packages → mbedtls` 菜单,修改 `Maxium fragment length in bytes` 字段为 6144(否则TLS会握手失败)  7. 进入 ` RT-Thread online packages → IoT - internet of things → WebClient: A HTTP/HTTPS Client for RT-Thread` 选择`MbedTLS support`  8. 退出保存配置,输入 `pkgs --update` 拉取软件包; 9. 编译,运行; 10. 运行效果: > 输入 llm 即可进入聊天终端,CTRL+D可以退出聊天窗口返回 MSH 终端; 
5
条评论
默认排序
按发布时间排序
登录
注册新账号
关于作者
Rb君
这家伙很懒,什么也没写!
文章
24
回答
109
被采纳
11
关注TA
发私信
相关文章
1
用N58 4G模组连接阿里云在解析域名指令不对
2
使用正点原子的探索者,可以ping通,提示getaddrinfo error。
3
AT_DEVICE中BC26各项BUG反馈
4
为什么HAL_TCP_Read中select总会返回0的一个结果
5
有没有人想要移植Blynk库
6
stm32 上如何实现rtmp,该如何入手
7
物联网刚入坑,想了解下lwip和at连接物联网平台的区别?
8
想问个问题,通过ESP8266接入网络后,如何上传数据和接入物联网平台??
9
除了BC26,还有其他比较好用的NB模块吗?
10
ESp8266的几个socket API函数
推荐文章
1
RT-Thread应用项目汇总
2
玩转RT-Thread系列教程
3
国产MCU移植系列教程汇总,欢迎查看!
4
机器人操作系统 (ROS2) 和 RT-Thread 通信
5
五分钟玩转RT-Thread新社区
6
【技术三千问】之《玩转ART-Pi》,看这篇就够了!干货汇总
7
关于STM32H7开发板上使用SDIO接口驱动SD卡挂载文件系统的问题总结
8
STM32的“GPU”——DMA2D实例详解
9
RT-Thread隐藏的宝藏之completion
10
【ART-PI】RT-Thread 开启RTC 与 Alarm组件
热门标签
RT-Thread Studio
串口
Env
LWIP
SPI
AT
Bootloader
Hardfault
CAN总线
FinSH
ART-Pi
DMA
USB
文件系统
RT-Thread
SCons
RT-Thread Nano
线程
MQTT
STM32
RTC
FAL
rt-smart
I2C_IIC
ESP8266
UART
WIZnet_W5500
ota在线升级
cubemx
PWM
flash
freemodbus
BSP
packages_软件包
潘多拉开发板_Pandora
定时器
ADC
flashDB
GD32
socket
编译报错
中断
Debug
rt_mq_消息队列_msg_queue
keil_MDK
SFUD
msh
ulog
C++_cpp
MicroPython
本月问答贡献
出出啊
1518
个答案
343
次被采纳
小小李sunny
1444
个答案
290
次被采纳
张世争
813
个答案
177
次被采纳
crystal266
549
个答案
161
次被采纳
whj467467222
1222
个答案
149
次被采纳
本月文章贡献
出出啊
1
篇文章
3
次点赞
小小李sunny
1
篇文章
1
次点赞
张世争
1
篇文章
3
次点赞
crystal266
2
篇文章
2
次点赞
whj467467222
2
篇文章
2
次点赞
回到
顶部
发布
问题
投诉
建议
回到
底部