Slimme AI blijkt nog verre van perfect. Google sloeg afgelopen week nog een flinke flater in een Bard-presentatie waarin onjuiste informatie over een ruimtetelescoop oppopte. De vraag is: hoe erg is dat? Het blijkt topmateriaal voor een levendige en gepassioneerde discussie in de nieuwe podcast BNR Nexus. “Ik zeg al drie weken tegen iedereen: het idee van het algoritme maakt fouten, let op!”
Volgens Ilyaz Nasrullah, digitaal strateeg en tech-columnist bij Trouw moet je de gevolgen van de foute informatie niet bagatelliseren. “ChatGPT is dom en volkomen onbetrouwbaar. Het is heel erg dat het fouten maakt, maar het is nog veel erger dat het af en tóe fouten maakt. Ik heb veel liever technologie die het altijd mis heeft dan technologie die soms de waarheid spreekt en soms gewoon baffer uitkraamt.”
Felienne Hermans, hoogleraar computerwetenschappen aan de Vrije Universiteit Amsterdam, deelt die zorgen over de onnauwkeurigheid van AI. “Als je niet heel veel van een onderwerp weet, denk je: ChatGPT zal wel gelijk hebben.” Het tegengeluid komt van host Ben van der Burg. “Nieuwe technologie alleen op de markt mogen zetten als het foutloos is: dat kán toch niet? Software leert toch, zoals een mens ook niet foutloos is.”
"Risico's van de AI-oorlog en een stukje metaverse voor kinderen" is een aflevering van de podcast Nexus | BNR en werd oorspronkelijk gepubliceerd op 9 februari 2023.