Door Redaktie
Complete Gids met Bronnen
Sinds de release van de Raspberry Pi 5 in oktober 2023 is het draaien van AI op dit compacte apparaat een serieuze optie geworden. Dankzij nieuwe hardware-uitbreidingen en verbeterde prestaties kun je nu lokaal AI-modellen draaien voor diverse toepassingen.
Drie Manieren om AI te Draaien op Raspberry Pi
1. Via de CPU (Zonder Extra Hardware)
Je kunt lichte AI-modellen direct op de ARM-processor van de Raspberry Pi draaien zonder aanvullende hardware. Met tools zoals Ollama kun je kleine Large Language Models (LLM’s) lokaal uitvoeren.
Geschikte modellen:
- TinyLlama (1.1B parameters)
- Qwen 2.5 (1.5B parameters)
- Phi-2 (2.7B parameters)
Prestaties:
Het werkt, maar verwacht beperkte snelheid: vaak slechts 1-3 tokens (woorden) per seconde. Voor acceptabele prestaties heb je minimaal een Raspberry Pi 5 met 8GB RAM nodig.
Bron: Ollama officiële documentatie en Raspberry Pi Foundation – AI Kit announcement
2. Met Officiële AI-Uitbreidingen (Hardware Versnelling)
Raspberry Pi heeft speciale AI-hardware ontwikkeld die via de PCIe-aansluiting (exclusief op Pi 5) aangesloten wordt. Deze modules bevatten Neural Processing Units (NPU’s) die AI-berekeningen drastisch versnellen.
Overzicht AI-Modules
ModulePrestatiesToepassingenReleaseAI Kit / AI HAT+ (13T) 13 TOPS Beeldherkenning, objectdetectie, camera-analyse Juni 2024 AI HAT+ (26T) 26 TOPS Geavanceerde Computer Vision projecten Oktober 2024 AI HAT+ 2 40 TOPS + 8GB LPDDR4X Generatieve AI, LLM’s, spraakherkenning Januari 2025
TOPS = Trillion Operations Per Second, een maat voor AI-rekenkracht
Belangrijke details:
- De AI HAT+ 2 heeft 8GB eigen geheugen, waardoor het complexere modellen aankan zonder het RAM-geheugen van de Pi te belasten
- Alle modules gebruiken de Hailo AI-processor (Hailo-8L of Hailo-10)
- Software-ondersteuning via Raspberry Pi OS en Hailo Dataflow Compiler
Bronnen:
3. Populaire AI-Toepassingen
Slimme Beveiliging
- Real-time persoon- en voertuigdetectie via camerafeed
- Gezichtsherkenning voor toegangscontrole
- Nummerplaatherkenning (ANPR)
Lokale Chatbot
- Privacyvriendelijke AI-assistent zonder internetverbinding
- Modellen zoals Llama 3.2 (3B) draaien lokaal op AI HAT+ 2
- Geschikt voor offline documentverwerking
Spraakherkenning
- Wake word detection (“Hey Pi”)
- Spraak-naar-tekst met Whisper-modellen
- Lokale voice assistants zonder cloud-afhankelijkheid
Robotica
- Autonoom navigeren met obstakeldetectie
- Object tracking en volgen
- Gezichtsherkenning voor interactieve robots
Bronnen:
Belangrijke Aandachtspunten
Hardware Vereisten
✅ Vereist: Raspberry Pi 5
- De AI HAT+ modules gebruiken de PCIe-aansluiting
- Deze is alleen aanwezig op de Raspberry Pi 5
- Oudere modellen (Pi 4 en eerder) ondersteunen deze hardware niet
✅ Koeling is Essentieel
- AI-taken genereren aanzienlijke warmte
- De officiële Active Cooler is sterk aanbevolen
- Zonder adequate koeling treedt thermal throttling op (prestaties dalen)
✅ Stroomvoorziening
- Minimaal 27W USB-C voeding (officiële Raspberry Pi adapter)
- AI-modules verhogen stroomverbruik aanzienlijk
Bronnen:
Software en Aan de Slag
Installatie Ollama (CPU-methode)
# Update systeem sudo apt update && sudo apt upgrade -y # Installeer Ollama curl -fsSL https://ollama.com/install.sh | sh # Download een klein model ollama pull tinyllama # Start chat ollama run tinyllama
AI HAT+ Setup
# Installeer Hailo software sudo apt install hailo-all # Test installatie hailortcli fw-control identify
Bronnen:
Conclusie
De Raspberry Pi 5 met AI-uitbreidingen maakt serieuze lokale AI-toepassingen mogelijk. De AI HAT+ 2 (40 TOPS, 8GB RAM) is momenteel de meest capabele optie voor generatieve AI en LLM’s, terwijl de goedkopere 13T/26T varianten uitstekend geschikt zijn voor Computer Vision projecten.
Kosten indicatie:
- Raspberry Pi 5 (8GB): ~€80-90
- AI Kit (13 TOPS): ~€70
- AI HAT+ 2 (40 TOPS): ~€110-130
Nuttige Links:
Laatste update: Januari 2025