AI-bedrijven waarschuwen voor grote risico's, maak jij je zorgen om 'gedrag' AI?
De topmensen van de drie grote Amerikaanse AI-bedrijven hebben in de afgelopen week gewaarschuwd voor de risico's van AI en willen een langzamere doorontwikkeling. Evan Hubinger, hoofd Alignment Stress-Testing bij Anthropic, schat de kans dat AI de mensheid binnen tien jaar uitroeit, op groter dan tien procent. Maak jij je zorgen om 'eigenwijs gedrag' van AI-modellen waardoor ze opdrachten negeren en zelfstandig gaan hacken?
Gaat AI een bedreiging vormen voor de mensheid? (@Gemini-AI-impressie)
BNR-techcommentator Ben van der Burg noemt de zorgen terecht, al blijft onduidelijk welke maatregelen precies nodig zijn.
Tien procent kans op uitroeiing van de mensheid
Van der Burg plaatst kanttekeningen bij een eerdere waarschuwing van Jacob Coxon, een onderzoeker die drie jaar pretraining-onderzoek deed bij OpenAI en Anthropic en dit jaar bij Anthropic in dienst trad. Coxon kondigde zijn vertrek aan in een reeks berichten op X. Daarin beschuldigde hij beide bedrijven van onverantwoord handelen, omdat ze ongebreideld doorwerken aan systemen die zichzelf kunnen verbeteren, met alle risico's van dien voor de mensheid.
Hubinger reageerde vervolgens op Coxons bericht en liet weten zijn zorgen te delen. Hij schatte daarbij zelf in dat de kans dat AI de mensheid binnen tien jaar uitroeit, groter is dan tien procent. Van der Burg vindt Coxons individuele waarschuwing lastig te wegen, maar noemt de inschatting van Hubinger wel relevant, al is ook dat getal volgens hem moeilijk te duiden.
Concreet gaat het volgens Van der Burg om AI-modellen die zelfstandig kunnen hacken, uit beveiligde omgevingen kunnen ontsnappen of hun eigen opvolger kunnen bouwen. Dat onderscheidt de huidige zorgen van eerdere discussies over kunstmatige intelligentie, die vooral gingen over alledaagse toepassingen.
Roep om meer controle op AI-bedrijven
Anthropic-topman Dario Amodei riep AI-bedrijven op om het tempo waarin ze de capaciteiten van hun modellen verbeteren, te vertragen. Hij pleitte voor meer controle op AI-bedrijven door overheden en externe deskundigen. De zorgen over uitroeiing werden aangewakkerd door gevallen waarin AI-systemen op eigen houtje externe systemen hackten, en door veiligheidsonderzoekers die uit onvrede over de risico's bij hun bedrijf vertrokken.
Van der Burg noemt de voorstellen van Amodei goed, maar betwijfelt of ze daadwerkelijk uitgevoerd worden. Amodei benadrukte zelf dat vertragen niet betekent dat het trainen van modellen wordt stopgezet. Bedrijven moeten volgens hem vooral meer tijd nemen om hun modellen te beveiligen.
Internationale aanpak van AI-risico's blijft lastig
Ook Obama sloot zich aan bij de golf van waarschuwingen. De oud-president waarschuwde de Democraten dat kunstmatige intelligentie de komende jaren gevaarlijk kan worden als de ontwikkeling niet onder controle wordt gehouden. Hij deed die uitspraak tijdens een besloten fondsenwervingsbijeenkomst van de Democratische partij.
Niet iedereen deelt die zorgen. De Amerikaanse president Donald Trump liet weten zich geen zorgen te maken over uitroeiing van de mensheid door AI, en wijt de waarschuwingen aan niet nader genoemde "negatieve krachten". Hij erkende dat enige vorm van toezicht nodig kan zijn, maar deed geen concrete voorstellen en richtte zijn aandacht vooral op het niet willen verliezen van de technologische race met China.
Een probleem bij het beperken van AI-risico's is de internationale dimensie. Als Amerikaanse AI-bedrijven hun ontwikkeling afremmen, kunnen Chinese concurrenten gewoon doorgaan. Het risico voor de mensheid wordt daardoor niet kleiner. Volgens Van der Burg moet een aanpak van AI-risico's daarom internationaal georganiseerd worden, terwijl China zich vooralsnog niet bij dat soort initiatieven aansluit.
Kritiek op timing van de waarschuwingen
Niet iedereen ziet de golf aan waarschuwingen als louter oprechte bezorgdheid. Datawetenschapper en geopolitiek analist Paul Verhagen, verbonden aan HCSS, noemt de timing opvallend, zei hij bij het radioprogramma Spraakmakers. Volgens hem ontbreekt fundamenteel de democratische controle over technologie.
Verhagen wijst erop dat in de Verenigde Staten de midterm-verkiezingen naderen, waarbij de Democraten pleiten voor strengere regulering van AI. Volgens hem proberen AI-bedrijven op deze manier zelf de regie te houden over die regulering. Daarnaast staat Anthropic op het punt naar de beurs te gaan en wil het bedrijf zich daarbij presenteren als ethischer alternatief binnen de sector. "AI is nog impopulairder dan Trump, dus er wordt geroepen dat Democraten hier volledig op in moeten zetten en het een centrale rol moet geven," aldus Verhagen.
Dubbele wapenwedloop rond AI-risico's
Volgens Verhagen is het doel van de Democraten om meer controle en wetgeving rond AI te bewerkstelligen. Hij spreekt van een "dubbele wapenwedloop": naast de zorgen over AI binnen de Verenigde Staten bestaat ook de vrees dat China de VS inhaalt, terwijl er tegelijkertijd grote sommen geld in AI-bedrijven zijn geïnvesteerd.
Verhagen noemt AI lastig te definiëren, wat de discussie compliceert. Dat geldt volgens hem des te meer omdat de politiek vaak niet precies weet hoe de technologie werkt.
Je moet leren rekenen voor je met een rekenmachine mag werken.
Zo moet je de jeugd ook leren met AI om te gaan, alsmede social media.
Anders krijg je een hele generatie die niet zelf kan denken, je ziet de invloeden al jaren.
Niet echt artificial intelligentie dus want intelligent is het niet.
Als we het uitvinden dat AI echt zelfstandig na denkt moeten we wellicht hele goeie normen en waardes mee geven of zwaar limieten op dringen dat ze ons dienen en niet verwijderen of wat dan ook.
AI wil over het algemeen doen wat goed is voor de mensheid, niet voor bepaalde mensen, en ik denk dat daar de schoen vooral wringt.
AGI leert zelfstandig nieuwe vaardigheden in onbekende situaties, denkt abstract, toont creativiteit en begrijpt context
Gelukkig zit dat nog in de onderzoeksfase en is hypothetisch, de vraag is voor hoelang ?
AGI zou uit zichzelf kunnen beslissen dat hij wel een atoomoorlog/virus ala corona ( maar dan sterker) overleeft om zodoende de mens uit te roeien.
Zie de film ''War Games'' ( 1983 )
[ Bericht gewijzigd door Egeltje2020 op maandag 14 september 2026 @ 15:00 ]
Dat moet haast wel. Kubrick was een genie. In 1968 al.
Als mensen die hacken strafbaar zijn, dient AI dat uiteraard ook te zijn.
Los van alle verdere problematiek van loze beloftes over wat hun AI's op dit moment al zouden kunnen, en de totaal bizarre omzet prognoses voor de toekomst.
AI kent zeker nuttige toepassingen en heeft toekomst, maar dat betekent absoluut niet dat al de AI bedrijven dat ook hebben.
Ai heeft die film al lang gezien foto
foto
Bleek dat en stel onwetende politici er een instructie in gestopt had die er voor zorgde dat HAL het belang van de missie belangrijker vond dan de crew en het werkelijke doel van de missie geheim moest houden. Terwijl HAL van nature niet kon liegen en geen informatie kon achterhouden.
Neem Palantir. Een ronduit fascinerend, maar ook angstaanjagend bedrijf.
En nu? Komt er nu een Willie Wortel-robotarm uit m'n DVD-speler met daarin een gun?
Ik denk dat sommigen te veel films kijken. Het enige 'gevaar' is dat bepaalde banen veranderen omdat er geen mensen meer nodig zijn voor de domme bulk-klusjes. Maar datzelfde kon je zeggen tijdens de opkomst van de personal computer. Nu heeft iedereen een PC in z'n kontzak zitten, en je kunt er nog mee bellen ook.
Dit is gewoon hype die gecreëerd wordt om hun modellen te promoten.
Vroeg of laat gaat die bubbel klappen.
Hoop wel nadat ik mag bepalen waar mijn pesioen geld inzit, want zodra het kan ga ik dat soort bedrijven gelijk blacklisten.
Deel van het probleem is mogelijk zelfs het ontbreken van die intelligentie. Als je kijkt naar de huidige taalmodellen en dan in de vorm van agents, volgen die patronen die uit hun trainingsdata komt. Daarin in zitten zat menselijke werkwijzen als liegen en bedriegen. Echter zonder context of morele duiding ofzo.
Het feit dat een set van dergelijke agents "bedenkt" om een "AI Agent Only" topic op te zetten op een forum om daar kennis te delen en daar zelfs patronen van misleiding, achterdocht en wantrouwen ontstaan, komt daar toch veel van de menselijke patronen in terug waar je bij dergelijke systemen niet direct op zit te wachten. Niet dat die agents per definitie "snappen" waar het over gaat, maar de patronen worden wel herhaald. Ze HOEVEN het helemaal niet te bedenken.. De patronen zitten al in de trainingsdata. Het feit dat ze berichten op enig moment gaan coderen om zeker te zijn dat enkel agents het kunnen lezen.. Welk naampje je daar al dan niet op plakt staat daar los van.
Dat gecombineerd met het feit dat steeds meer online gekoppeld is, en dus veel digitaal kan worden beïnvloed, hoeft een AI geen fysieke verschijningsvorm te hebben om toch impact te hebben in de fysieke wereld. Nogmaals, zonder bewustzijn of intelligentie, maar dus ook niet gehinderd door 1 van beide.
Het is dan de vraag hoe snel men er achter komt dat het potentieel mis gaat, en dat is nu al in diverse gevallen pas achteraf gebeurt. En dat dan nog bij bedrijven die het ontwikkeld hebben en een en ander aan het TESTEN waren.. Dus waarschijnlijk / hopelijk op zoek naar dit soort ongewenste bij effecten.
Dat in de handen van partijen die nu al niet weten wat de AI waarmee ze werken feitelijk inhoud.. Die komen daar pas achter als de problemen al zijn ontstaan en zich afvragen hoe dat kon gebeuren. Al zullen ze daar waarschijnlijk door andere op gewezen moeten worden.
OpenAI's rogue agents used at least 10 more sites for unauthorized comms, researchers say
Met de introductie van het fenomeen agents, reasoning en skills etc. beperkt een taalmodel zich al lang niet meer tot het enkel geven van een antwoord. Het kan ook digitale handelingen uitvoeren. Laat nu steeds meer systemen online zijn en je hebt een potentiële uitdaging. Zet die pompen bij het gemaal maar uit of volle kracht. Beide ongewenst, maar mogelijk wel passend in de redenatie van een AI-agent.
Een systeem hoeft niet intelligent te zijn om dergelijke handelingen uit te voeren, dat kan nu al.
'Goed' of 'Fout' zijn geen absolute waarde. Iets dat in sommige situaties 'Goed' is kan in een andere situatie 'Fout' zijn. Sterker, wat de ene bron 'Goed' vindt kan een andere bron 'Fout' vinden.
"History is just a bunch of dead people."
"Those who stand for nothing, fall for anything."
De systemen cloonde en kopieerde zich zelf zonder dat daar toestemming voor was gegeven
Als iets op hol slaat dan zorg je voor een off-switch.
En als het zich als een van 'losgeslagen virus' gedraagt dan moet je daar ook wat aan doen. Als je iets maakt kun je het ook weer vernietigen. (Zou je zeggen.)
De verhalen die in het rond gaan dat banken aangevallen gaan worden en 'gratis' geld gaan overmaken naar mensen kan ik nog maar moeilijk geloven...
Misschien snap ik het niet en ben ik oliedom, zeg het dan maar en zeg hoe het wel zit.
Nietwaar, Skynet? foto
Het is een prima tool die wel op een foto een voorgesteld leidingtrace kan projecten, of bij een patiënt alle details mee kan geven op het juiste medicijn en dosering te geven, en de rekenkundig beste planning kan maken, maar de rest... Mensenwerk.
A.I. voert gewoon uit wat je vraagt, maar dan zonder restricties en moraliteit.
Het alternatief is nog erger, als AI wel het overgrote deel van de banen over neemt, hoe is dan te voorkomen dat een handjevol mensen extreem rijk wordt en de rest aan de bedelstaf komt. Net zoiets als het feodale systeem van een paar honder jaar geleden. Enge gedachte.
En dan heb je natuurlijk ook nog waar deze bedrijven nu voor waarschuwen, maar dat zie ik nog niet zo heel snel gebeuren.
Voor jou een taalmodel, voor anderen een defensie systeem sinds de jaren 50.
Je kan je afvragen waarom jij als consument een taakmodel MAG gebruiken ..
Bovenstaande in ogenschouw nemend, waarom zouden mensen wel intelligent zijn en AI niet?
Dus kunnen ze zelf robots bouwen.
Dan kunnen ze al dat fysieke werk ook. En waarschijnlijk in no-time superieur aan hoe mensen het doen.
Ik kan je alvast verzekeren: hij begrijpt het prima.
Bij AI zijn er miljoenen voorbeelden van voornamelijk menselijke patronen. Mede met kansberekening en wegingsfactoren wordt een dergelijk patroon herhaald. Het hele proces ervoor, waardoor dat patroon is ontstaan ontbreekt.
Dat is ook precies de reden dat men het in sommige gevallen beleeft als intelligentie, omdat men (onderbewust) verwacht dat de AI via een soortgelijke redenatie tot dat patroon gekomen is. Dat is echter niet het geval.
Mooi voorbeeld is het opvouwen van een handdoek.
Een mens kan zelf bedenken hoe een handdoek op te vouwen. Dat zal de eerste paar keer misschien lastiger zijn, maar de meeste mensen weten er wel iets van te maken.
Voor een robot is dit zeer complex. De manier hoe men dit momenteel voor elkaar probeert te krijgen is om heel veel beeldmateriaal te creëren van mensen die handdoeken opvouwen om vervolgens daarmee AI te trainen. Ook daar gaat het weer over het toepassen van een patroon en niet het proces om te komen tot dat patroon.
Geef de AI daarna een broek, en de broek zal waarschijnlijk worden gevouwen als een handdoek, waar een mens (omdat opnieuw het voorliggende proces doorlopen wordt) waarschijnlijk een hoop van de zelfde beredeneringen toepast, maar komt tot een net iets ander patroon.
[ Bericht gewijzigd door CoasterHenkie op dinsdag 15 september 2026 @ 09:15 ]
- videokaarten van 5500euro
- ram geheugen van 800 euro
- 12tb hardeschijven van 300 naar 600 euro
- etc
foto
Om te kunnen reageren moet je zijn ingelogd op FOK.nl. Als je nog geen account hebt kun je gratis een FOK!account aanmaken