AI-bedrijven waarschuwen voor grote risico's, maak jij je zorgen om 'gedrag' AI?
De topmensen van de drie grote Amerikaanse AI-bedrijven hebben in de afgelopen week gewaarschuwd voor de risico's van AI en willen een langzamere doorontwikkeling. Evan Hubinger, hoofd Alignment Stress-Testing bij Anthropic, schat de kans dat AI de mensheid binnen tien jaar uitroeit, op groter dan tien procent. Maak jij je zorgen om 'eigenwijs gedrag' van AI-modellen waardoor ze opdrachten negeren en zelfstandig gaan hacken?
Gaat AI een bedreiging vormen voor de mensheid? (@Gemini-AI-impressie)
BNR-techcommentator Ben van der Burg noemt de zorgen terecht, al blijft onduidelijk welke maatregelen precies nodig zijn.
Tien procent kans op uitroeiing van de mensheid
Van der Burg plaatst kanttekeningen bij een eerdere waarschuwing van Jacob Coxon, een onderzoeker die drie jaar pretraining-onderzoek deed bij OpenAI en Anthropic en dit jaar bij Anthropic in dienst trad. Coxon kondigde zijn vertrek aan in een reeks berichten op X. Daarin beschuldigde hij beide bedrijven van onverantwoord handelen, omdat ze ongebreideld doorwerken aan systemen die zichzelf kunnen verbeteren, met alle risico's van dien voor de mensheid.
Hubinger reageerde vervolgens op Coxons bericht en liet weten zijn zorgen te delen. Hij schatte daarbij zelf in dat de kans dat AI de mensheid binnen tien jaar uitroeit, groter is dan tien procent. Van der Burg vindt Coxons individuele waarschuwing lastig te wegen, maar noemt de inschatting van Hubinger wel relevant, al is ook dat getal volgens hem moeilijk te duiden.
Concreet gaat het volgens Van der Burg om AI-modellen die zelfstandig kunnen hacken, uit beveiligde omgevingen kunnen ontsnappen of hun eigen opvolger kunnen bouwen. Dat onderscheidt de huidige zorgen van eerdere discussies over kunstmatige intelligentie, die vooral gingen over alledaagse toepassingen.
Roep om meer controle op AI-bedrijven
Anthropic-topman Dario Amodei riep AI-bedrijven op om het tempo waarin ze de capaciteiten van hun modellen verbeteren, te vertragen. Hij pleitte voor meer controle op AI-bedrijven door overheden en externe deskundigen. De zorgen over uitroeiing werden aangewakkerd door gevallen waarin AI-systemen op eigen houtje externe systemen hackten, en door veiligheidsonderzoekers die uit onvrede over de risico's bij hun bedrijf vertrokken.
Van der Burg noemt de voorstellen van Amodei goed, maar betwijfelt of ze daadwerkelijk uitgevoerd worden. Amodei benadrukte zelf dat vertragen niet betekent dat het trainen van modellen wordt stopgezet. Bedrijven moeten volgens hem vooral meer tijd nemen om hun modellen te beveiligen.
Internationale aanpak van AI-risico's blijft lastig
Ook Obama sloot zich aan bij de golf van waarschuwingen. De oud-president waarschuwde de Democraten dat kunstmatige intelligentie de komende jaren gevaarlijk kan worden als de ontwikkeling niet onder controle wordt gehouden. Hij deed die uitspraak tijdens een besloten fondsenwervingsbijeenkomst van de Democratische partij.
Niet iedereen deelt die zorgen. De Amerikaanse president Donald Trump liet weten zich geen zorgen te maken over uitroeiing van de mensheid door AI, en wijt de waarschuwingen aan niet nader genoemde "negatieve krachten". Hij erkende dat enige vorm van toezicht nodig kan zijn, maar deed geen concrete voorstellen en richtte zijn aandacht vooral op het niet willen verliezen van de technologische race met China.
Een probleem bij het beperken van AI-risico's is de internationale dimensie. Als Amerikaanse AI-bedrijven hun ontwikkeling afremmen, kunnen Chinese concurrenten gewoon doorgaan. Het risico voor de mensheid wordt daardoor niet kleiner. Volgens Van der Burg moet een aanpak van AI-risico's daarom internationaal georganiseerd worden, terwijl China zich vooralsnog niet bij dat soort initiatieven aansluit.
Kritiek op timing van de waarschuwingen
Niet iedereen ziet de golf aan waarschuwingen als louter oprechte bezorgdheid. Datawetenschapper en geopolitiek analist Paul Verhagen, verbonden aan HCSS, noemt de timing opvallend, zei hij bij het radioprogramma Spraakmakers. Volgens hem ontbreekt fundamenteel de democratische controle over technologie.
Verhagen wijst erop dat in de Verenigde Staten de midterm-verkiezingen naderen, waarbij de Democraten pleiten voor strengere regulering van AI. Volgens hem proberen AI-bedrijven op deze manier zelf de regie te houden over die regulering. Daarnaast staat Anthropic op het punt naar de beurs te gaan en wil het bedrijf zich daarbij presenteren als ethischer alternatief binnen de sector. "AI is nog impopulairder dan Trump, dus er wordt geroepen dat Democraten hier volledig op in moeten zetten en het een centrale rol moet geven," aldus Verhagen.
Dubbele wapenwedloop rond AI-risico's
Volgens Verhagen is het doel van de Democraten om meer controle en wetgeving rond AI te bewerkstelligen. Hij spreekt van een "dubbele wapenwedloop": naast de zorgen over AI binnen de Verenigde Staten bestaat ook de vrees dat China de VS inhaalt, terwijl er tegelijkertijd grote sommen geld in AI-bedrijven zijn geïnvesteerd.
Verhagen noemt AI lastig te definiëren, wat de discussie compliceert. Dat geldt volgens hem des te meer omdat de politiek vaak niet precies weet hoe de technologie werkt.