本月 [AI 全栈就业班] 仅剩 5 个优惠名额!点击抢占 >
硬核玩家的浪漫

谁说玩 AI 一定要买 4090?
几百块的树莓派也能跑大模型

把 AI 塞进火柴盒大小的开发板里。
打造一个无需联网、绝对隐私、24小时待命的家庭智能中枢。
这才是极客该玩的“边缘计算”。

入门 AI 硬件的 3 大神器

树莓派 5 (Raspberry Pi 5)

特点: 生态最强,社区教程无数。虽然没有 NPU,但 5 代的 CPU 性能强悍,配合 8G 内存,跑量化版 Llama3 7B 勉强能用,做 CV(机器视觉)识别很稳。

NVIDIA Jetson Orin Nano

特点: 哪怕是入门款,也带着 NVIDIA 的 GPU 基因。天生适合跑 CUDA 加速。如果你想做“能够识别猫狗并自动喂食”的机器人,这是首选。

香橙派 / 瑞芯微 3588

特点: 国产之光,性价比极高。RK3588 芯片自带 6TOPS 算力的 NPU,在跑 YOLO(目标检测)和一些轻量级 LLM 时,推理速度甚至吊打树莓派。

周末就能做完的酷炫项目

项目一:AI 智能猫眼/监控

原理: 树莓派 + 摄像头 + YOLOv8 模型。
功能: 只有当画面中出现“人”或“快递员”时才录像推送。自动过滤掉风吹草动和猫狗。不仅省存储空间,还更精准。

项目二:离线语音助手(贾维斯雏形)

原理: Whisper (语音转文字) + Ollama (大模型思考) + Piper (文字转语音)。
功能: 放在桌面上,不用联网,完全隐私。你可以随时问它天气、让它控制家里的灯光,或者只是陪聊。

项目三:家庭 NAS 影音中心整理

原理: 使用多模态模型 (LLaVA) 扫描你的硬盘。
功能: 自动给几千张乱七八糟的照片打标签(“海边”、“生日”、“发票”)。以后找照片,直接搜“去年去海边穿红裙子的照片”,一秒定位。

硬件玩家的 8 个避坑指南

Q:树莓派 4B 二手的还能买吗?

不推荐跑大模型。4B 性能从现在看已经比较弱了,做简单的 Python 控制还行。想玩 AI,建议直接上 5 代 8G 版本,或者香橙派 5 Plus(16G版)。

Q:跑大模型为什么一定要看内存?

大模型就像大胖子,内存就像门。门太小,胖子进不去。一个 7B(70亿参数)的模型,4-bit 量化后至少需要 4-5G 显存/内存。所以 4G 内存的板子基本告别大模型了。

Q:小白不会 Linux 命令行能玩吗?

有点难。虽然现在有很多图形化工具,但通过 SSH 连接终端敲命令依然是基本功。把这个当成一个学习 Linux 的好机会吧,这项技能在职场也很值钱。

Q:散热重要吗?

非常重要! AI 推理会让 CPU/NPU 满载。如果没有好的散热片和风扇,芯片会瞬间过热降频,性能暴跌,甚至死机。

Q:有什么好用的 AI 操作系统推荐?

Home Assistant (做智能家居首选)、CasaOS (轻量级家庭云)、Ubuntu Server (最通用)。新手推荐先装个 CasaOS,界面像手机一样简单。

Q:除了板子,还需要买什么配件?

高质量的 TF 卡(A2级别的,读写速度影响体验)、稳定的电源(很重要,很多莫名其妙重启都是电源供电不足)、微型 HDMI 线。

Q:玩这个能赚钱吗?

直接赚钱难。但你可以把你的硬件方案打包卖给小商家。比如给奶茶店做一个“AI 识别是否戴口罩/帽子”的提醒装置,成本 300,卖 1000。

Q:哪里有现成的镜像下载?

GitHub 上有很多大神打包好的镜像(如 Jetson Inference),或者看看 Seeed Studio 和 Waveshare 的 Wiki,他们有非常详细的一键安装脚本。

没有硬件基础不敢买?

免费领取《小白 AI 硬件选购清单 & 刷机避坑手册》,避免买到翻新货,手把手教你点亮第一盏灯。