Bart Custers in Trouw over ChatGPT en cybercrime
Het EU-wetsvoorstel over kunstmatige intelligentie zal het gevaar voor cybercriminaliteit of het verspreiden van nepnieuws met hulp van ChatGPT niet voorkomen. Cybercriminelen kunnen de nieuwe technologie gebruiken voor het schrijven van kwaadaardige software, phishing mails en nepnieuws.
Gelukkig zijn er wel ander oplossingen, stelt Bart Custers, hoogleraar Law & Data Science bij eLaw, het Centrum voor Recht en Digitale Technologie, in een interview met Trouw (4 juli 2023).
De AI Act moet ervoor zorgen dat op verantwoorde wijze wordt omgegaan met kunstmatige intelligentie in Europa. Zo zullen AI-systemen worden getoetst op mogelijke mensenrechtenschendingen en mogen algoritmes niet discrimineren. Ook verbiedt de voorgestelde wet een aantal vormen van kunstmatige intelligentie, zoals AI die het onderbewustzijn manipuleert en gezichtsherkenning door de politie. De AI Act biedt echter geen oplossing tegen een van de grootste gevaren van AI: criminelen die er misbruik van maken.
ChatGPT beheerst verschillende programmeertalen. Dit kan door criminelen zonder technische kennis worden ingezet om software te maken, waarmee bijvoorbeeld computersystemen met virussen kunnen worden geïnfecteerd. Momenteel vertoont de software die ChatGPT schrijft nog fouten, maar dat zal niet lang meer duren. Met de AI Act kan dit niet worden aangepakt, zegt Custers, maar de cybercrimewetgeving biedt die mogelijkheid gelukkig. Het aanpakken van nepnieuws kan via een andere nieuwe EU-wet, de Digital Services Act, die sinds dit jaar van kracht is.