ChatGPT schrijft 'bedrieglijk echt ogende' wetenschappelijke samenvattingen

De tekstgenerator ChatGPT schrijft bedrieglijk echte wetenschappelijke samenvattingen. Dat blijkt uit een studie uit de VS. Een arts en haar team gaven de software de opdracht om abstracts te schrijven voor in totaal 50 wetenschappelijke onderzoeken.

De onderzoeken zijn gepubliceerd in verschillende vaktijdschriften. De software kreeg de opdracht om de samenvatting te schrijven in de stijl van het betreffende tijdschrift. De gegenereerde samenvattingen werden vervolgens gecontroleerd door experts, populaire plagiaatsoftware en een kunstmatige-intelligentiedetector. Het resultaat: de experts herkenden niet dat een derde van de teksten computergegenereerde samenvattingen waren. De plagiaatsoftware herkende niet dat een van de teksten niet door mensen was geschreven. Dit is anders met de detector voor kunstmatige intelligentie: de software herkende dat de meeste teksten 'met een waarschijnlijkheid van 99,9 procent' kunstmatig gegenereerde teksten waren.

De conclusie van de auteurs van de studie: De onderzoeksmechanismen van vaktijdschriften en wetenschappelijke conferenties moeten worden aangepast. Hoewel het mogelijk is om kunstmatig gegenereerde teksten als zodanig te ontmaskeren, vereist dit uiterst grondig onderzoek door experts of het gebruik van speciale herkenningssoftware.

Het schrijven door kunstmatige intelligentie baart zorgen
De AI-software ChatGPT is ontwikkeld door het Amerikaanse bedrijf OpenAI en in november uitgebracht. GPT staat voor 'Generative Pre-training Transformer'. De software is openbaar beschikbaar en kan op commando elke tekst schrijven, zoals essays, zakelijke brieven, gedichten en nieuwsartikelen - en kan desgewenst ook de stijl van bepaalde auteurs nabootsen.

Zo werkt het: de software is 'getraind' met gigantische hoeveelheden tekst en imiteert wat het weet door de plausibele volgende woorden te voorspellen. Het resultaat is grammaticaal en taalkundig correct. Op de vraag om wetenschappelijke teksten te maken, worden echter de opgegeven datasets samengesteld, die het onderzoeksteam uit de VS ook tijdens hun onderzoek heeft waargenomen. Het zijn dus verzonnen gegevens die taalkundig correct en in de stijl van het gewenste teksttype worden weergegeven.

Met andere woorden, kunstmatige intelligentie zou het schrijven van standaardteksten kunnen overnemen en daarmee tijd besparen. Het zou echter ook kunnen betekenen dat scripties, essays en teksten die informatie bevatten binnen enkele seconden kunnen worden gegenereerd en verspreid. De computerwetenschapper Sridhar Ramaswamy waarschuwde op de innovatieconferentie DLD in München: "Als je in je werk e-mails schrijft, documenten maakt, artikelen of reclameteksten schrijft, juridische documenten uitwisselt: je moet ervan uitgaan dat dit een grote invloed zal hebben. En niet per se een goede.”

Hulpmiddelen voor auteurs van gerichte desinformatie?
Voorspellingen dat software met kunstmatige intelligentie het kantoorpersoneel zal vervangen, bestaan al een hele tijd. Computerwetenschapper Phil Libin verwacht echter ook dat tekstgeneratoren zoals ChatGPT de auteurs van gerichte desinformatie een krachtig hulpmiddel zullen bieden. De technologie creëert 'eindeloze mogelijkheden om heel snel relatief plausibele leugens te formuleren'. Dit jaar rolt er een 'golf van onzin' op ons af. Kunstmatige intelligentie zal op termijn beter verankerd zijn in de realiteit, maar tot die tijd moet je de verleiding weerstaan om het werk makkelijker te maken met programma's als ChatGPT, benadrukte Lubin.

Microsoft investeert zwaar in de ontwikkeling van ChatGPT
Bovenal wordt ChatGPT steeds populairder. De softwaregigant Microsoft wil de chatbot verspreiden via zijn eigen diensten. De groep maakte onlangs bekend dat de software 'binnenkort' beschikbaar zal zijn voor klanten van een Microsoft-clouddienst. Microsoft benadrukte dat zij innovaties op het gebied van kunstmatige intelligentie verantwoord zullen aanpakken. Zo moesten ontwikkelaars de doeleinden voor gebruik omschrijven voordat ze toegang kregen en waren er ook contentfilters.

Microsoft is een OpenAI-investeerder en droeg in 2019 zo'n $ 1 miljard bij aan de ontwikkeling. Daarna investeerde de Windows-groep nog eens twee miljard, zoals onlangs gemeld door de Silicon Valley-website 'The Information en de 'New York Times'. OpenAI betaalde onder meer voor de benodigde rekeninfrastructuur. De Semafor-website meldt dat er nu wordt gesproken over een deal ter waarde van tien miljard dollar, waarmee Microsoft ongeveer een derde van OpenAI in handen zou kunnen krijgen.