谁说玩 AI 一定要买 4090?
几百块的树莓派也能跑大模型
把 AI 塞进火柴盒大小的开发板里。
打造一个无需联网、绝对隐私、24小时待命的家庭智能中枢。
这才是极客该玩的“边缘计算”。
入门 AI 硬件的 3 大神器
树莓派 5 (Raspberry Pi 5)
特点: 生态最强,社区教程无数。虽然没有 NPU,但 5 代的 CPU 性能强悍,配合 8G 内存,跑量化版 Llama3 7B 勉强能用,做 CV(机器视觉)识别很稳。
NVIDIA Jetson Orin Nano
特点: 哪怕是入门款,也带着 NVIDIA 的 GPU 基因。天生适合跑 CUDA 加速。如果你想做“能够识别猫狗并自动喂食”的机器人,这是首选。
香橙派 / 瑞芯微 3588
特点: 国产之光,性价比极高。RK3588 芯片自带 6TOPS 算力的 NPU,在跑 YOLO(目标检测)和一些轻量级 LLM 时,推理速度甚至吊打树莓派。
周末就能做完的酷炫项目
项目一:AI 智能猫眼/监控
原理: 树莓派 + 摄像头 + YOLOv8 模型。功能: 只有当画面中出现“人”或“快递员”时才录像推送。自动过滤掉风吹草动和猫狗。
项目二:离线语音助手(贾维斯雏形)
原理: Whisper (语音转文字) + Ollama (大模型思考) + Piper (文字转语音)。功能: 放在桌面上,不用联网,完全隐私。
项目三:家庭 NAS 影音中心整理
原理: 使用多模态模型 (LLaVA) 扫描你的硬盘。功能: 自动给张几千照片打标签(“海边”、“生日”、“发票”)。
硬件玩家的 8 个避坑指南
Q:树莓派 4B 二手的还能买吗?
不推荐跑大模型。4B 性能从现在看已经比较弱了。想玩 AI,建议直接上 5 代 8G 版本,或者香橙派 5 Plus(16G版)。
Q:跑大模型为什么一定要看内存?
大模型像大胖子,内存像门。门太小,胖子进不去。一个 7B 的模型,4-bit 量化后至少需要 4-5G 显存/内存。
Q:小白不会 Linux 命令行能玩吗?
有点难。虽然由图形化工具,但 SSH 连接终端敲命令依然是基本功。
Q:散热重要吗?
非常重要!AI 推理会让 CPU/NPU 满载。如果没有好的散热片和风扇,性能会暴跌甚至死机。
Q:有什么好用的 AI 操作系统推荐?
Home Assistant (智能家居首选)、CasaOS (轻量级家庭云)、Ubuntu Server (最通用)。
Q:除了板子,还需要买什么配件?
高质量的 TF 卡(A2级别)、稳定的电源(非常重要)、微型 HDMI 线。
Q:玩这个能赚钱吗?
直接赚钱难。但你可以把方案打包卖给小商家。比如一个成本 300 的 AI 识别口罩装置。
Q:哪里有现成的镜像下载?
GitHub 上有很多大神打包好的镜像,或者看看 Seeed Studio 和 Waveshare 的 Wiki。