AI-legende Geoffrey Hinton: Deep learning kan straks alles

Volgens AI-pionier Geoffrey Hinton zal deep learning uiteindelijk alle menselijke intelligentie kunnen nabootsen. Dat zegt hij in een interview met MIT Technology Review. Wel denkt Hinton dat deep learning nog een paar belangrijke doorbraken nodig heeft voor het zover is.

Hinton is een Engels-Canadese psycholoog en computerwetenschapper, die vooral bekend is geworden met zijn werk over kunstmatige neurale netwerken. Dit zijn computersystemen die (grofweg) zijn gebaseerd op de biologische werking van dierlijke (of menselijke) hersenen. Deze netwerken zijn in staat om te leren van hun omgeving en de informatie die ze voorgeschoteld krijgen - ook wel bekend als deep learning.

"Ik denk dat deep learning uiteindelijk alles zal kunnen, maar daar hebben we nog wel een paar conceptuele doorbraken voor nodig", zegt Hinton. Als voorbeeld noemt hij de onderzoeker Ashish Vaswani, die met collega’s transformers introduceerde die veel beter in staat zijn de betekenis van woorden te begrijpen. "Die worden nu in bijna al de goede taalprocessors gebruikt. We hebben nog behoorlijk wat van dat soort innovaties nodig."

Een la opentrekken

Er zijn volgens Hinton vooral doorbraken nodig die iets bijdragen op het gebied neurale activiteiten die menselijke redenering kunnen implementeren. Maar daarnaast denkt Hinton dat er vooral ook veel schaalvergroting moet plaatsvinden. Het menselijke brein heeft ongeveer 100 biljoen synapsen, waar een echt groot model zoals GPT-3 er nu zo’n 175 miljard heeft - dat model is ongeveer 1000 keer kleiner dan het brein. Voor die schaalvergroting zijn niet alleen grotere neurale netwerken nodig, maar ook meer data.

Een van de grote uitdagingen van dit moment is het bereiken van ‘gezond verstand’ voor AI. Op dit moment kunnen automatische taalprogramma’s al behoorlijk natuurlijke teksten produceren, maar is het niet altijd duidelijk of het programma ook precies weet wat het doet. Volgens Hinton laat Google met experimenten waarbij taal gecombineerd wordt met fijne motoriek zien dat dat besef er wel degelijk is. "Als iets een la opentrekt en daar een voorwerp uithaalt, terwijl het zegt: ‘ik heb net een la geopend en er dit blokje uitgehaald’, dan kun je moeilijk beweren dat het niet weet wat het doet."