本月 [AI 全栈就业班] 仅剩 5 个优惠名额!点击抢占 >
硬核玩家的浪漫

谁说玩 AI 一定要买 4090?
几百块的树莓派也能跑大模型

把 AI 塞进火柴盒大小的开发板里。
打造一个无需联网、绝对隐私、24小时待命的家庭智能中枢。
这才是极客该玩的“边缘计算”。

入门 AI 硬件的 3 大神器

树莓派 5 (Raspberry Pi 5)

特点: 生态最强,社区教程无数。虽然没有 NPU,但 5 代的 CPU 性能强悍,配合 8G 内存,跑量化版 Llama3 7B 勉强能用,做 CV(机器视觉)识别很稳。

NVIDIA Jetson Orin Nano

特点: 哪怕是入门款,也带着 NVIDIA 的 GPU 基因。天生适合跑 CUDA 加速。如果你想做“能够识别猫狗并自动喂食”的机器人,这是首选。

香橙派 / 瑞芯微 3588

特点: 国产之光,性价比极高。RK3588 芯片自带 6TOPS 算力的 NPU,在跑 YOLO(目标检测)和一些轻量级 LLM 时,推理速度甚至吊打树莓派。

周末就能做完的酷炫项目

项目一:AI 智能猫眼/监控

原理: 树莓派 + 摄像头 + YOLOv8 模型。功能: 只有当画面中出现“人”或“快递员”时才录像推送。自动过滤掉风吹草动和猫狗。

项目二:离线语音助手(贾维斯雏形)

原理: Whisper (语音转文字) + Ollama (大模型思考) + Piper (文字转语音)。功能: 放在桌面上,不用联网,完全隐私。

项目三:家庭 NAS 影音中心整理

原理: 使用多模态模型 (LLaVA) 扫描你的硬盘。功能: 自动给张几千照片打标签(“海边”、“生日”、“发票”)。

硬件玩家的 8 个避坑指南

Q:树莓派 4B 二手的还能买吗?

不推荐跑大模型。4B 性能从现在看已经比较弱了。想玩 AI,建议直接上 5 代 8G 版本,或者香橙派 5 Plus(16G版)。

Q:跑大模型为什么一定要看内存?

大模型像大胖子,内存像门。门太小,胖子进不去。一个 7B 的模型,4-bit 量化后至少需要 4-5G 显存/内存。

Q:小白不会 Linux 命令行能玩吗?

有点难。虽然由图形化工具,但 SSH 连接终端敲命令依然是基本功。

Q:散热重要吗?

非常重要!AI 推理会让 CPU/NPU 满载。如果没有好的散热片和风扇,性能会暴跌甚至死机。

Q:有什么好用的 AI 操作系统推荐?

Home Assistant (智能家居首选)、CasaOS (轻量级家庭云)、Ubuntu Server (最通用)。

Q:除了板子,还需要买什么配件?

高质量的 TF 卡(A2级别)、稳定的电源(非常重要)、微型 HDMI 线。

Q:玩这个能赚钱吗?

直接赚钱难。但你可以把方案打包卖给小商家。比如一个成本 300 的 AI 识别口罩装置。

Q:哪里有现成的镜像下载?

GitHub 上有很多大神打包好的镜像,或者看看 Seeed Studio 和 Waveshare 的 Wiki。

没有硬件基础不敢买?

免费领取《小白 AI 硬件选购清单 & 刷机避坑手册》,避免买到翻新货,手把手教你点亮第一盏灯。