Er is weinig zicht op wat de eigenaars van de AI-toepassingen doen met ingevoerde data. Vaak worden de data opgeslagen in niet-Europese cloud toepassingen die niet altijd AVG conform zijn. Dit roept problemen op zowel voor persoonsgegevens als nieuwe vindingen in het kader van wetenschappelijk onderzoek. Een invoer van dergelijke data in GenAI tools kan gelijk staan aan openbaarmaking, waardoor een datalek kan ontstaan en/of verhinderd kan worden dat voor die vinding een octrooi ingediend kan worden. Voer dus geen vertrouwelijke informatie, zoals persoonsgegevens of onderzoeksdata in GenAI-applicaties in. Casussen en andere voorbeelden uit hoorcolleges en werkgroepen worden ook beschouwd als gevoelige informatie en mogen niet worden ingevoerd in GenAI-toepassingen. 

Verzoek, indien mogelijk, dat het model van de GenAI tool niet met jouw data getraind wordt. Bij ChatGPT is dit mogelijk via ‘Make a privacy request’. Let op, dit betekent niet dat je privacygevoelig, IP-beschermd of auteursrechtelijk materiaal mag invoeren.  

In de output van GenAI tools ontbreekt transparantie over de gebruikte bronnen, waardoor de kans toeneemt dat je plagiaat pleegt. Ook het risico op inbreuken op het auteursrecht is reëel. De databases die deze tools gebruiken bevatten veel bronmateriaal waarbij niet duidelijk is of de auteurs hun toestemming hiervoor hebben verleend of dat auteursrecht werd gerespecteerd. Zorg dus dat je adequaat parafraseert en verwijst (zie 3. Citeren van GenAI in APA-stijl hierboven) en gedegen bronnenonderzoek toepast (zie Verifieer GenAI hieronder). Voer zelf geen bronmateriaal in dat is geproduceerd door derden, zoals een artikel, een email, informatie uit colleges en werkgroepen, teksten van collegeslides, en casussen, tenzij de auteur hier expliciet toestemming voor heeft gegeven.   

Maak gebruik van GenAI indien toegelaten, maar vertrouw technologie niet blindelings. In de meeste gevallen is het niet mogelijk te achterhalen hoe de algoritmes tot een bepaald resultaat zijn gekomen en er is geen transparantie over gebruikte bronnen. Het doel van GenAI is om teksten te genereren die zo plausibel mogelijk lijken, waarheidsgetrouwheid wordt niet geverifieerd. In sommige gevallen verzint de LLM een antwoord volledig; experts noemen dit ‘hallucineren’. Dit betekent dat er geen enkele garantie is dat de output van GenAI daadwerkelijk correct is. Controleer output goed en zoek naar bestaand bronmateriaal om eventuele beweringen van GenAI te staven. Jij bent verantwoordelijk voor eventuele onjuiste informatie in je werk die afkomstig is van GenAI.

GenAI tools zijn getraind met grote hoeveelheden onbekende data, die mogelijk verouderd zijn of niet langer representatief naar de huidige standaarden. Ontwikkelaars of uitgevers van GenAI geven weinig transparantie over of een GenAI tool inherente vooroordelen bevat en eventuele filtering die wordt toegepast. Bij blindelings gebruik loop je daarom het risico stereotypen of vooroordelen verder te verspreiden. 

Wees je ervan bewust dat het effectief gebruiken van GenAI een vaardigheid is. Het stellen van een te simpele vraag kan leiden tot te algemene of vage GenAI output. Maak gebruik van ‘prompt engineering’ om de bruikbaarheid van de output te vergroten. Vermijd suggestieve vragen en impliciete bias en let op dat je de GenAI niet naar een specifieke conclusie leidt. 

Weet dat de energiekosten van de servers voor GenAI-tools heel hoog is, gebruik ze dus alleen wanneer ze meerwaarde kunnen bieden. 

GenAI-applicaties kunnen soms een hulpmiddel zijn, maar van studenten verwachten we te allen tijde een kritische houding ten opzichte van de output. De daadwerkelijke betekenisgeving vindt plaats door de eigen argumentatie, onderbouwing, kritische analyse, creatieve inbreng en reflectie.