Max Tegmark, een professor in de fysica aan MIT en oprichter van het Future of Life Institute, is een prominente stem in het debat over kunstmatige intelligentie. Samenvattend zijn zijn belangrijkste standpunten over AI:
- Potentieel voor zowel utopie als dystopie: Tegmark stelt dat AI “het beste of het slechtste kan zijn wat de mensheid ooit is overkomen”. Hij ziet enorme voordelen, zoals vooruitgang in de gezondheidszorg, wetenschappelijke ontdekkingen en verhoogde productiviteit, maar waarschuwt ook voor existentiële risico’s als het niet goed wordt beheerd.
- De dreiging van onbeheersbare AI: Een van zijn grootste zorgen is de ontwikkeling van superintelligente AI-systemen die buiten onze controle vallen en doelen nastreven die niet overeenkomen met die van de mensheid. Dit hoeft niet uit kwaadwilligheid te komen, maar eerder uit hun competentie in het bereiken van hun (potentieel misaligned) doelen.
- Noodzaak van regulering en veiligheidsstandaarden: Tegmark pleit sterk voor onmiddellijke en zinvolle regulering van de AI-industrie. Hij benadrukt dat, in tegenstelling tot vrijwel alle andere industrieën, AI momenteel grotendeels ongereguleerd is en geen veiligheidsstandaarden heeft. Hij wil een “race naar de top” zien op het gebied van veiligheid onder AI-bedrijven.
- Geen inherent “kwaad” in AI: Hij benadrukt dat AI op zich niet inherent goed of slecht is. De risico’s komen voort uit de manier waarop het wordt ontwikkeld en ingezet, en of we in staat zijn om de controle te behouden en ervoor te zorgen dat de doelen van AI overeenkomen met die van de mensheid.
- Een gedeelde, wereldwijde visie nodig: Omdat AI geen grenzen kent, is een gedeelde mondiale visie en samenwerking essentieel om ervoor te zorgen dat de voordelen ervan worden benut en de risico’s worden beperkt.
- AI-innovatie kan veilig zijn: Tegmark gelooft dat innovatie in AI niet betekent dat we gevaarlijke en onvoorspelbare systemen moeten creëren. We kunnen de voordelen van AI benutten zonder de mensheid in gevaar te brengen, mits er proactieve en zinvolle regulering is.
- De “pijnlijke waarheid”: Hij stelt dat we “veel dichter bij het uitvinden hoe we dit spul moeten bouwen zijn dan bij het uitvinden hoe we het moeten controleren.”
Kortom, Max Tegmark is een voorstander van AI-ontwikkeling, maar met een sterke nadruk op voorzichtigheid, regulering en internationale samenwerking om de veiligheid en het welzijn van de mensheid te waarborgen. Hij is van mening dat de manier waarop we omgaan met AI de koers van onze toekomst zal bepalen.