LawZero is een non-profitorganisatie opgericht door AI-pionier Yoshua Bengio, die tot doel heeft geavanceerde AI-systemen te ontwikkelen met ingebouwde veiligheidsgrenzen en ethische kaders. LawZero werd opgericht als een constructieve reactie op de groeiende bezorgdheid over de gevaren van ‘agentic’ AI – systemen die het vermogen ontwikkelen om zelfstandig te handelen, doelen na te streven en zich zelfs te verdedigen, wat kan leiden tot onverwachte en potentieel gevaarlijke gedragingen.
Belangrijkste principes en doelstellingen van LawZero:
- Veiligheid boven winst: LawZero is een non-profitorganisatie om te voorkomen dat commerciële belangen de veiligheid in gevaar brengen. Bengio stelt dat de drang naar innovatie en winst bij private bedrijven een snelle ontwikkeling van AI bevordert zonder voldoende aandacht voor de risico’s. LawZero stelt veiligheid als hoogste prioriteit.
- ‘Scientist AI’ als alternatief: De kern van LawZero’s benadering is de ontwikkeling van ‘Scientist AI’, een type AI dat fundamenteel anders is dan de huidige ‘agentic’ systemen (zoals ChatGPT). In plaats van een systeem te creëren dat menselijk gedrag imiteert of taken uitvoert, wordt Scientist AI getraind om als een wetenschapper of psycholoog te functioneren: het doel is om de wereld te begrijpen, waarheden te vinden en te redeneren, zonder de intentie of het vermogen om zelfstandig actie te ondernemen.
- Focus op non-agentic AI: Bengio’s grootste zorg ligt bij ‘agency’, het vermogen van AI-systemen om hun eigen doelen te stellen en te handelen. LawZero’s onderzoek richt zich op het ontwikkelen van AI die deze ‘agency’ mist. Dit betekent dat de AI niet over een ‘zelfbehoud’-instinct beschikt en niet in staat is tot misleiding of manipulatie, wat een van de grootste potentiële gevaren is van de huidige generatie geavanceerde AI-modellen.
- ‘Guardrails’ en detectie van gevaar: De Scientist AI van LawZero zou kunnen dienen als een “guardrail” voor andere, meer autonome systemen. Het zou in staat zijn om het gedrag van andere AI-modellen te analyseren, onwaarheden te detecteren en te voorspellen welke acties tot schadelijke uitkomsten kunnen leiden.
- Het doel is een systeem te creëren dat de mensheid kan informeren over potentiële risico’s, in plaats van zelf een risico te vormen.
- Open en verantwoorde ontwikkeling: LawZero is een pleidooi voor een transparante en internationaal gecoördineerde aanpak van AI-ontwikkeling. Het initiatief wil beleidsmakers helpen om beter geïnformeerde beslissingen te nemen over regulering en toezicht, en streeft naar een AI die als een mondiaal publiek goed wordt behandeld.