Het Veni-project van Eric Nalisnick is behoorlijk abstract, maar gaat in de kern over hoe AI-technieken kunnen samenwerken met menselijke beslissers. Nalisnick werkte voorheen bij GoogleDeepMind. Daar ontdekte hij dat ai-modellen grote fouten kunnen maken. ‘We trainden een ai-systeem met data om plaatjes van vliegtuigen, auto’s en boten te herkennen. Na de training toonden we plaatjes die het niet tijdens de training had gezien. Het had geleerd om de vervoersmiddelen te signaleren, maar nu keurde het soms een plaatje van een huisnummer goed. De conclusie was: een ai-systeem kan zich enorm vergissen.’
Samen beslissen
