Facebook: Foto- und Videomatching-Tools nun Open Source – für ein besseres Internet

Die automatiche Erkennung von Inhalten wird seit vielen Jahren von großen Anbietern praktiziert, gerade im Bereich von Kindesmissbrauch kam das immer mal wieder in die Medien. Solche Erkennungssysteme sind nicht einfach zu gestalten, noch schwieriger wird es, wenn es sich um Videos anstatt Bilder handelt, das hat Facebook neulich schon einmal erklärt.

Facebook selbst setzt eine Mischung aus technischer Untersuchung und menschlichen Personen ein, um Inhalte, die zum Beispiel Kindesmissbrauch, Terrorismus oder andere unerwünschte Dinge darstellen, nicht im Umlauf zu haben. Bei Bildern ist es noch relativ einfach, Duplikate zu entdecken, schwieriger wird es aber dann eben, wenn die Bilder verändert werden oder beispielsweise Videos abgeändert werden.

Jedenfalls macht Facebook zwei seiner Erkenungstechnologien nun Open Source, Foto- und Video-Matching nämlich. Davon sollen andere profitieren, ihre Plattformen sicherer machen. Nebst wenn man bereits eigene Matching-Tools hat, kann das von Facebook als weitere Schicht eingesetzt werden. Dass sich das durchaus positiv auswirken kann, erklärt auch John Clark, Vorsitzender und CEO des National Center for Missing and Exploited Children (NCMEC):

“In just one year, we witnessed a 541% increase in the number of child sexual abuse videos reported by the tech industry to the CyberTipline. We’re confident that Facebook’s generous contribution of this open-source technology will ultimately lead to the identification and rescue of more child sexual abuse victims.”

Facebook sieht das auch als Teil des Plans, das Netz zu einem besseren Ort zu machen. Dazu zählt Microsofts PhotoDNA ebenso wie Googles Content Safety API. Details zu den beiden Technologien, die nun Open Source sind, gibt es in der Ankündigung von Facebook. Durchaus eine gute Sache, wenn sich die Tech-Firmen da selbst einmischen. Wobei man natürlich auch immer abwägen muss, ob sich solche Tools dann nicht auch für ganz andere Sachen missbrauchen lassen. Das muss ja nicht heute oder morgen sein.