在人工智能逐渐从云端向终端设备转移的趋势下,2026年1月15日问世的树莓派AI HAT+ 2无疑是这一进程中的一座重要里程碑。这款专为树莓派5设计的扩展板,定价130美元,配备强大的硬件资源,填补了树莓派生态系统在生成式AI领域的空白,让每一位开发者都能在边缘设备上轻松享受本地运行大语言模型的便利。
AI HAT+ 2的核心竞争力在于其强大的硬件组合。它搭载了Hailo-10H神经网络加速器,提供高达40 TOPS(INT4)的推理性能,这意味着它拥有处理复杂AI任务的“大脑”。而与前代产品最大的不同,也是其最关键的升级,在于配备了8GB板载专用内存。这一设计突破了以往在边缘设备上运行生成式AI模型的主要瓶颈——内存限制。有了这8GB的“工作台”,加速器能够高效处理远超以往规模的大型模型,无论是文本生成还是多模态任务,都能游刃有余。

这款扩展板的诞生,旨在让用户摆脱对昂贵云端服务的依赖,实现高效且私密的本地AI计算。通过将AI相关的工作负载从树莓派5的主CPU上“卸载”到扩展板独立处理,不仅释放了主机的计算资源用于其他任务,也确保了数据无需上传至云端,保障了用户隐私。
在软件生态上,AI HAT+ 2同样表现出色。它首发即支持多款热门开源模型,包括DeepSeek-R1-Distill (1.5B)、Llama 3.2 (1B)以及Qwen2.5系列。通过Hailo-ollama后端与Open WebUI前端的配合,用户可以在浏览器中获得类似ChatGPT的流畅聊天交互体验。官方演示展示了其在完全断网环境下,流畅执行代码编写、法英翻译以及实时描述摄像头画面等任务的能力,展现了其在文本和视觉语言模型(VLM)应用上的巨大潜力。

然而,任何新技术的诞生都伴随着探索与挑战。第三方测试数据显示,AI HAT+ 2在功耗上被限制在3瓦,这在一定程度上影响了其性能的完全发挥,导致在某些场景下,一台配备8GB内存的独立树莓派5整体表现可能优于接入扩展板的组合。此外,对于需要更大内存支持的复杂任务,直接购买16GB内存版本的树莓派5或许是更灵活的选择。