Google AI Edge verwijst naar de strategie en de tools van Google die gericht zijn op het uitvoeren van AI-modellen direct op “edge” apparaten. Dit zijn apparaten die zich aan de “rand” van het netwerk bevinden, zoals smartphones, smartwatches, IoT-apparaten en andere embedded systemen, in plaats van in de cloud (datacenters).
Recentelijk heeft Google de Google AI Edge Gallery gelanceerd, een experimentele Android-app (iOS volgt nog) die gebruikers in staat stelt om generatieve AI-modellen lokaal op hun apparaat te draaien.
Hier zijn de belangrijkste aspecten van Google AI Edge en de AI Edge Gallery:
Wat is het principe van “Edge AI”?
- Verwerking op het apparaat: In plaats van data naar de cloud te sturen voor AI-verwerking en de resultaten terug te ontvangen, vindt de AI-verwerking direct op het apparaat zelf plaats.
- Minder afhankelijkheid van internet: Zodra een model is gedownload, is er geen constante internetverbinding meer nodig voor de functionaliteit.
- Verbeterde privacy: Omdat de data lokaal op het apparaat blijft, hoeven gevoelige gegevens niet naar externe servers te worden gestuurd, wat de privacy ten goede komt.
- Snellere reactietijden (lagere latentie): Er is geen netwerkvertraging, wat essentieel is voor toepassingen waar elke milliseconde telt, zoals in autonome voertuigen of realtime objectdetectie.
- Efficiënter energieverbruik: Hoewel AI-modellen nog steeds rekenkracht vereisen, kan lokale verwerking in sommige gevallen energiezuiniger zijn dan constante communicatie met de cloud.
Google AI Edge Gallery:
Deze app is een demonstratie van wat “on-device” generatieve AI kan betekenen. Belangrijke kenmerken zijn: - Lokale uitvoering: AI-modellen draaien volledig lokaal op je smartphone, zonder dat er dataverkeer met de cloud nodig is (eenmaal gedownload).
- Open-source modellen: De app maakt het mogelijk om open-source modellen van platforms zoals Hugging Face te zoeken, downloaden en uit te voeren.
- Diverse toepassingen: Je kunt de app gebruiken voor taken zoals:
- Beeldgeneratie
- Vragen beantwoorden
- Code schrijven/herschrijven/samenvatten
- Teksten samenvatten of herschrijven
- Multi-turn conversaties (chatbots)
- Vragen stellen over afbeeldingen
- “Prompt Lab”: Een functie waar je met één invoer verschillende opdrachten kunt uitvoeren.
- Experimenteel: De app bevindt zich nog in een experimentele fase (alpha) en is momenteel beschikbaar via GitHub, niet via de Google Play Store.
Waarom is dit belangrijk?
De trend naar “Edge AI” is belangrijk omdat AI dichter bij de gebruiker komt. Dit sluit aan bij groeiende privacyprincipes, vooral in Europa, en opent deuren voor nieuwe toepassingen die afhankelijk zijn van snelle, lokale verwerking en minder afhankelijkheid van de cloud. Het stelt ontwikkelaars ook in staat om AI te integreren in producten en services zonder de noodzaak van zware cloud-infrastructuur.