Tech & zo

Van de fictie van Orwell tot brexit-nepnieuws, tekstrobot GPT-2 kan alles

“Het herkennen van fake videos en tekst die door computers zijn gemaakt wordt steeds moeilijker,” ziet ook Maarten de Rijke. Hij is hoogleraar AI and Information Retrieval aan de Universiteit van Amsterdam. “De algoritmes worden steeds complexer, de teksten zijn vaak niet meer van echt te onderscheiden. Voor de financiële markt worden al automatische nieuwsberichten gegenereerd. Als je mensen niet vertelt dat die door een machine zijn geschreven, weten ze dat niet. En als je hen vraagt te kiezen, geven ze vaak de voorkeur aan door een machine geschreven tekst boven een door mensen geschreven tekst.”

Persbureau AP is al heel ver met dat soort automatische berichten. Journalisten ervaren het verwerken van kwartaalcijfers ’s ochtends vroeg toch al als een vervelende klus, althans volgens techjournalist Alex Wilhelm van TechCrunch. Ook sportuitslagen laat AP al sinds een paar jaar automatisch verwerken tot nieuwsartikelen.

Maar dezelfde kunstmatige intelligentie kan dus ook gebruikt worden om nepnieuws op te tuigen. Volgens De Rijke is dat wel een punt om waakzaam op te zijn. “Vroeger kon je op de krant vertrouwen, maar in de digitale wereld hebben we nieuwe handvatten nodig. Hoe kunnen we straks nog herkennen wat nep is en wat niet?”

Digitale wapenwedloop

Paradoxaal genoeg is de kans groot dat bij het herkennen van robotteksten juist steeds vaker kunstmatige intelligentie moet worden ingezet, verwacht de hoogleraar. “AI kan ook een rol spelen bij het herkennen van nepnieuws, bij video’s gebeurt dat al. En zo zie je dus een digitale wapenwedloop ontstaan. Net zoals dat al gebeurt tussen spam en spamfilters.”

Intussen moeten we het persbericht waarin OpenAI bekendmaakte niet de volledige versie van GPT-2 vrij te geven vooral zien als waarschuwing, zegt De Rijke. “Ik denk dat ze de discussie willen aanjagen. In die zin is het een geslaagde zet. Iedereen is wakker geschud. En dat is goed, bedrijven moeten zich bewust zijn van hun verantwoordelijkheid.”

Maar alle berichten en nieuwskoppen die waarschuwen voor de gevaren van hun GPT-2 komen de ontwikkelaars natuurlijk ook niet slecht uit. “Ze hadden ook een persbericht de wereld in kunnen sturen met het nieuws dat er een volgende mutatie van hun tekstgenerator is die weer 2,5 procent beter is dan de vorige. Maar dan was het effect natuurlijk minder geweest.”

powered by Nos.nl

Related posts

Telsoftware verkiezingen nog steeds niet veilig: ‘Systeem moet op de schop’

OnrOzy NL

Duitsland sluit Huawei niet uit bij bouw 5G, regels worden wel strenger

OnrOzy NL

YouTube probeert weer kijkers en luisteraars te laten betalen

OnrOzy NL
Aan het laden....