Onderzoeksgroep brengt ‘te gevaarlijk’ algoritme toch uit

Te gevaarlijk om los te laten in de echte wereld. Zo beschreef onderzoeksgroep OpenAI begin dit jaar haar nieuwste algoritme. Het systeem kan vrijwel vanuit het niets complete teksten van a tot z aan elkaar verzinnen, in goed lopende zinnen. Ondanks het gevaar is het algoritme tóch uitgebracht.

Techredactie 11-11-19, 17:38 Laatste update: 14:28

Het algoritme kan worden ingezet bij de productie van spammails, phishing, nepnieuws en propaganda. OpenAI besloot daarom de software, die GPT-2 heet, niet uit te brengen. Dat is nu alsnog gebeurd, eerst in kleine brokjes en daarna helemaal.

Volgens OpenAI is het mogelijk om racistische, marxistische, jihadistische en anarchistische propaganda te maken met het systeem. Voer een titel in en GPT-2 schrijft er een heel artikel over. Schrijf een dichtregel en GPT-2 maakt zelf het gedicht af. Eerdere systemen verloren halverwege een zin de draad of maakten vreemde grammaticale fouten. Volgens OpenAI is het moeilijk te ontdekken dat het om nepberichten gaat. Na de gedeeltelijke releases zouden er nog geen aanwijzingen zijn dat de technologie is misbruikt.

Het uitbrengen van GPT-2 heeft niet enkel (mogelijke) negatieve gevolgen. Zo kan de techniek worden ingezet voor het verbeteren van vertaalmachines, het ontwikkelen van slimme schrijfhulpjes en om spraakassistenten zoals Siri (Apple) en Google Assistant beter te laten functioneren.

OpenAI is in 2015 met veel tamtam in het leven geroepen. Onder de initiatiefnemers zijn belangrijke mensen uit Silicon Valley, zoals Elon Musk (Tesla, SpaceX, PayPal) en Peter Thiel. De groep wil kunstmatige intelligentie ontwikkelen waar de mensheid baat bij heeft. Microsoft heeft 1 miljard dollar in het onderzoek gestoken.