OpenAI sluit Iraanse accounts die verkiezingen probeerden te beïnvloeden via ChatGPT

OpenAI heeft op vrijdag bekendgemaakt dat het accounts van een Iraanse groep heeft verwijderd die ChatGPT gebruikte om inhoud te genereren met als doel de Amerikaanse presidentsverkiezingen en andere politieke kwesties te beïnvloeden. Deze operatie, bekend als Storm-2035, maakte gebruik van ChatGPT om berichten te creëren over onderwerpen zoals de Amerikaanse verkiezingskandidaten, het conflict in Gaza en de aanwezigheid van Israël op de Olympische Spelen. Deze inhoud werd vervolgens verspreid via sociale media en websites, aldus OpenAI.

Uit het onderzoek van het door Microsoft gesteunde AI-bedrijf bleek dat ChatGPT was ingezet voor het genereren van zowel lange artikelen als korte sociale mediaberichten. Ondanks deze inspanningen heeft de operatie echter weinig tot geen publiek bereikt. De meeste berichten kregen weinig tot geen likes, shares of reacties, en er was ook geen significant bewijs dat webartikelen werden gedeeld via sociale netwerken.

OpenAI heeft de betrokken accounts geblokkeerd en houdt de situatie nauwlettend in de gaten om verdere pogingen tot het overtreden van hun beleid te voorkomen. Eerder, in augustus, bracht een rapport van Microsoft’s dreigingsintelligentie naar buiten dat het Iraanse netwerk Storm-2035, bestaande uit vier nepnieuwssites, actief was in het beïnvloeden van Amerikaanse kiezers met polariserende boodschappen over onder andere presidentskandidaten, LGBTQ-rechten en het Israël-Hamas conflict.

In mei kondigde OpenAI al aan dat het vijf geheime beïnvloedingsoperaties had verstoord waarbij geprobeerd werd hun modellen in te zetten voor misleidende activiteiten op het internet.