Forscher der University of Toronto haben einen Algorithmus entwickelt, um Gesichtserkennungssysteme dynamisch zu unterbrechen. In Form eines Filters können Nutzer von Instagram, Facebook und Co ihre Fotos künftig vor Gesichtsanalyse schützen. Der neue Ansatz bedient sich einer Lernmethode namens „Adversarial Training“, bei der zwei künstliche Intelligenzalgorithmen gegeneinander antreten.
„Die Privatsphäre ist ein echtes Problem geworden, da Gesichtserkennung immer besser wird“, erklärt Forscher Parham Aarabi. „Dies ist ein Weg, auf dem vorteilhafte Anti-Gesichtserkennungssysteme diese Fähigkeit bekämpfen können.“
Filter verändert Pixel
Aarabi und Kollege Avishek Bose haben deshalb zwei neuronale Netze entworfen: eines, das Gesichter identifizieren kann und ein zweites, das die Gesichtserkennungsaufgabe des ersten stören will. Die beiden kämpfen und lernen ständig voneinander und veranstalten ein andauerndes KI-Wettrüsten. Das Ergebnis aus den dabei gewonnen Daten ist eine Art Filter, der sich auf Fotos anwenden lässt, um die Privatsphäre des abgebildeten Nutzers zu schützen. Der Algorithmus verändert sehr spezifische Pixel im Bild und verursacht derart geringe Änderungen, sodass sie für das menschliche Auge fast nicht wahrnehmbar sind.
„Wir erzeugen sehr feine Störungen im Foto, die jedoch für den Detektor signifikant genug sind, um das ganze System zu täuschen“, so Bose.
Technologie nutzbar machen
Zusätzlich zur Deaktivierung der Gesichtserkennung werden durch den Filter auch die bildbasierte Suche, die Merkmalserkennung, die Einschätzung von Emotionen und Ethnizität sowie alle anderen Gesichtsattribute, die automatisch extrahiert werden können, unterbrochen.
Im nächsten Schritt wollen die Forscher den Filter für Nutzer zugänglich machen. Das soll entweder durch eine Smartphone-App oder durch eine Website geschehen. Besonders für soziale Netzwerke wie Facebook oder Instagram würde sich eine private Anwendung lohnen. Da die winzigen Abweichungen kaum auffallen, sind Fotos in ihrer Optik nicht gestört.
