Getty
Machines worden vaak beschreven als zwarte dozen, hun beslissing -processen zo goed als ondoorgrondelijk maken. Maar in het geval van machine-intelligentie kraken onderzoekers die zwarte doos open en gluren naar binnen. Wat ze ontdekken is dat mensen en machines niet op dezelfde dingen letten als ze naar foto's kijken – helemaal niet.
Onderzoekers van Facebook en Virginia Tech in Blacksburg lieten mensen en machines naar afbeeldingen kijken en eenvoudige vragen beantwoorden – een taak die op neurale netwerken gebaseerde kunstmatige intelligentie aankan. Maar de onderzoekers waren niet geïnteresseerd in de antwoorden. Ze wilden de aandacht van mens en AI in kaart brengen, om een beetje licht te werpen op de verschillen tussen ons en hen.
“Deze aandachtskaarten kunnen we meten bij zowel mensen als machines, wat vrij zeldzaam is,” zegt Lawrence Zitnick van Facebook AI Research. Het vergelijken van de twee zou inzicht kunnen geven “of computers op de juiste plaats zoeken”.
Eerst vroegen Zitnick en zijn collega's menselijke arbeiders op Amazon Mechanical Turk om eenvoudige vragen te beantwoorden over een reeks afbeeldingen, zoals “Wat is de man aan het doen?” of “Hoeveel katten liggen er op het bed?” Elke foto was wazig en de werknemer zou moeten rondklikken om hem te verscherpen. Een kaart van die klikken diende als richtlijn voor welk deel van de afbeelding ze aandacht besteedden.
Vervolgens stelden de onderzoekers dezelfde vragen aan twee neurale netwerken die waren getraind om afbeeldingen te interpreteren. Ze brachten in kaart welke delen van de afbeelding elk netwerk koos om te verscherpen en te verkennen.
Het team ontdekte dat de aandachtskaarten van twee mensen 0,63 scoorden op een schaal waarbij 1 totale overlap is en 0 geen. AI en menselijke aandachtskaarten hadden een overlapscore van 0,26 (zie onderstaande afbeelding). Desondanks zijn neurale netwerken redelijk goed in het bepalen wat een afbeelding laat zien, dus hun vaardigheden hebben een mysterieus element.
's 8220;Machines lijken niet naar dezelfde regio's te kijken als mensen, wat suggereert dat we niet begrijpen waar ze hun beslissingen op baseren,” zegt Dhruv Batra van Virginia Tech.
Deze kloof tussen mens en machine kan een nuttige inspiratiebron zijn voor onderzoekers die hun neurale netwerken willen aanpassen. “Kunnen we ze menselijker maken, en zal dat zich vertalen in een hogere nauwkeurigheid?” vraagt Batra.
De resultaten intrigeren Jürgen Schmidhuber van het Dalle Molle Institute for Artificial Intelligence Research in Manno, Zwitserland, hoewel hij waarschuwt dat onderzoekers zich niet per se moeten haasten om systemen te bouwen die precies de mens nabootsen.
“Selectieve aandacht heeft alles te maken met het actief opvullen van hiaten in de kennis van de oplettende waarnemer,” zegt Schmidhuber. Mensen hebben meer ervaring en kennis dan neurale netwerken en kunnen zich dus beter concentreren op wat belangrijk is. “Wat interessant is voor het ene systeem, kan saai zijn voor een ander systeem dat het al weet.”
Referentie: arxiv.org/abs/1606.03556
Correctie, 1 juli 2016: bij de eerste publicatie bevatte dit verhaal een fout in de beschrijving van het overlapscoresysteem. Dit is nu aangepast.
