Nieuwe trainingsmethode voor AI maakt het hackers moeilijker

Een groot risico bij zelflerende AI is dat hackers manieren vinden om deze AI bewust fouten te laten maken. Denk daarbij aan een sticker op een stopbord die er voor zorgt dat een zelfrijdende auto het stopbord niet herkent. Onderzoekers aan de universiteit van Illinois hebben een nieuwe manier ontwikkeld om AI te trainen die ze beter bestand maakt tegen dit soort fouten.

Algoritmes die zelfstandig afbeeldingen herkennen en categoriseren zijn allemaal gevoelig voor dit soort fouten. Hierdoor kunnen zelfrijdende auto’s verkeersborden negeren of plotseling de verkeerde rijbaan inslaan. Maar ook in de gezondheidszorg kunnen fouten (al dan niet door hackers aangebracht) ervoor zorgen dat een algoritme tumoren onjuist signaleert - of ze juist over het hoofd ziet.

De onderzoekers hebben een manier gevonden om het risico op dit soort fouten te verkleinen door de algoritmen niet alleen te trainen met goede afbeeldingen, maar ze tegenover een algoritme te zetten dat ze expres met gecorrumpeerde afbeeldingen confronteert. Het zelflerende algoritme ontwikkelt hierdoor steeds meer vaardigheden om dit soort fouten te herkennen en ontwijken.