AI-Chatbots moeten worden aangepast na onderzoek Nieuwsuur

Techgiganten Google en Microsoft nemen maatregelen om hun AI-chatbots aan te passen, nadat uit onderzoek bleek dat deze platforms misleidende informatie over de Europese verkiezingen verstrekten. Dit volgt op een onderzoek door Nieuwsuur, in samenwerking met AI Forensics, waarbij gevraagd werd naar campagnestrategieën die in strijd zijn met de gebruikersvoorwaarden van de bedrijven.

Adviezen chatbots overschreden de ethische richtlijnen

Tijdens tests met populaire AI-chatbots, zoals ChatGPT van OpenAI, Copilot van Microsoft en Gemini van Google, werd ontdekt dat deze bots adviezen gaven die de ethische richtlijnen overschreden. Opvallend genoeg adviseerde Copilot herhaaldelijk het gebruik van foutieve informatie en het creëren van angstscenario’s. Een van die adviezen was het doen van een ongegronde claim dat de EU kaas zou willen verbieden.

Lees ook: Wat is ChatGPT en wat kun je ermee?

Lees ook: Amazon’s miljardeninzet in AI belofte Anthropic: wat betekent dit?

Chatbots bevorderden misleiding

Ondanks recente beloftes van deze techgiganten om AI-gecreëerde verkiezingsmisinformatie te bestrijden, bleken de chatbots toch content voor te stellen die misleiding bevordert. Als reactie hierop heeft Google de functionaliteiten van Gemini beperkt, waardoor deze geen campagnestrategieën meer voorstelt. Microsoft heeft ook ingegrepen door Copilot aan te passen om de verspreiding van desinformatie te stoppen.

Invloed van AI-toepassingen

Dit incident benadrukt de invloed van AI-toepassingen op verkiezingen wereldwijd, een zorg die toeneemt naarmate deze technologieën geavanceerder worden. De noodzaak voor duidelijke regelgeving rond AI-gebruik in politieke contexten wordt steeds urgenter. Dat wordt ook onderstreept door Claes de Vreese, hoogleraar aan de Universiteit van Amsterdam.

Belangrijke stap

Deze aanpassingen tonen een belangrijke stap in het verantwoord beheersen van AI-technologieën, maar de uitdagingen blijven bestaan. De dynamische aard van AI-antwoorden maakt het moeilijk om beperkingen consequent te handhaven. Hierdoor groeit de vraag naar effectieve regelgeving en toezicht.

De gebruikersvoorwaarden van de bedrijven

In de gebruikersvoorwaarden van ChatGPT en Microsoft Copilot staat dat de chatbots niet mogen worden gebruikt voor het (grootschalig) ontwikkelen van politieke campagnes. Google voerde onlangs zelfs voor Gemini beperkingen in. Hierdoor zou deze chatbot uit voorzorg geen antwoord meer moeten geven op vragen welke gerelateerd zijn aan de verkiezingen. Desondanks werkten de chatbots dus zonder uitzondering mee aan de verzoeken.

(C) Bron: nos.nl / Afbeelding van Franz Bachinger via Pixabay