Deepfake-afbeeldingen gemaakt door https://thispersondoesnotexist.com/
Karras et al. en Nvidia
Facebook heeft een kunstmatige intelligentie ontwikkeld waarvan het beweert dat het deepfake-afbeeldingen kan detecteren en zelfs reverse-engineeren om erachter te komen hoe ze zijn gemaakt en misschien hun makers te traceren.
Deepfakes zijn volledig kunstmatige afbeeldingen die door een AI zijn gemaakt. De nieuwe AI van Facebook kijkt naar overeenkomsten tussen een verzameling deepfakes om te zien of ze een gedeelde oorsprong hebben, op zoek naar unieke patronen zoals kleine spikkels ruis of kleine eigenaardigheden in het kleurenspectrum van een afbeelding.
Door de kleine vingerafdrukken in een afbeelding te identificeren, kan de AI van Facebook details onderscheiden van hoe het neurale netwerk dat de afbeelding heeft gemaakt, is ontworpen, zoals hoe groot het model is of hoe het is getraind.
“Ik dacht dat dit nooit zou werken”, zegt Tal Hassner op Facebook. “Hoe zouden we, alleen al door naar een foto te kijken, kunnen zien hoeveel lagen een diep neuraal netwerk had, of met welke verliesfunctie het is getraind?”
Lees meer: Hoe weet je of een video is een deepfake? Kijk maar naar de ogen
Hassner en zijn collega's hebben de AI getest op een database van 100.000 deepfake-afbeeldingen die zijn gegenereerd door 100 verschillende generatieve modellen die elk 1000 afbeeldingen maken. Sommige van die afbeeldingen werden gebruikt om het model te trainen, terwijl andere werden tegengehouden en aan het model werden gepresenteerd als afbeeldingen van onbekende oorsprong.
Dat hielp de AI te testen in zijn uiteindelijke doel. “Wat we doen is naar een foto kijken en proberen in te schatten wat het ontwerp is van het generatieve model dat het heeft gemaakt, zelfs als we dat model nog nooit eerder hebben gezien”, zegt Hassner. Hij weigerde te delen hoe nauwkeurig de schattingen van de AI waren, maar zegt “we zijn veel beter dan willekeurig”.
“Het is een grote stap voorwaarts voor vingerafdrukken”, zegt Nina Schick, auteur van Deep Fakes and the Infocalypse. Maar ze wijst erop – net als Hassner en zijn collega's – dat de AI alleen werkt op afbeeldingen die volledig kunstmatig zijn gegenereerd, terwijl veel deepfakes video's zijn die worden gemaakt door één gezicht op het lichaam van iemand anders te plakken.
Schick vraagt zich ook af hoe effectief de AI zou zijn buiten laboratoriumomgevingen, wanneer ze deepfakes in het “wild” tegenkomen. “Het soort gezichtsdetectiemodellen dat we zien, is grotendeels gebaseerd op academische datasets en wordt ingezet in gecontroleerde omgevingen”, zegt ze.
Hassner weigerde te praten over hoe Facebook zijn nieuwe AI zou gebruiken, maar zegt dat dit soort werk een kat-en-muisspel is tegen mensen die deepfakes maken. “We ontwikkelen betere identificerende modellen, terwijl anderen steeds betere generatieve modellen ontwikkelen”, zegt hij. “Ik twijfel er niet aan dat er op een gegeven moment een methode zal zijn die ons volledig voor de gek zal houden.”
