Metas Dirty Money: 10% Umsatz mit Betrug — und Anzeigen fuer Kindesmissbrauch
Es gibt Recherchen, bei denen ich beim Lesen kurz innehalten muss. Nicht, weil sie mich ueberraschen. Sondern weil sie mich eben nicht mehr ueberraschen. Und genau das ist das Problem. Meta traue ich inzwischen alles zu... sowohl die 10% Umsatz mit Scam-Anzeigen, wie auch die, ueber die CSAM-Material vertriebem wurde. Eine frustrierte Bestandsaufnahme!
Wenn ihr MeTacheles direkt unterstuetzen wollt, dann "chippt" doch einfach den Gegenwert einer Currywurst (gerne auch vegan) in meine Paypal:
oder meine Wero-Kasse:
Oder schaut direkt bei meinem neuen Sponsor vorbei... IONOS! Denn da bekommt ihr die Alternativen, die ich immer wieder bei MeTacheles anspreche:
MeTacheles funktioniert nicht ohne euch und wenn ihr glaubt, dass dieses Format auch in eurem Netzwerk ankommt, dann teilt es doch genau mit diesem.
Ganz wichtig: Den Podcast koennt ihr hier direkt oben im Browser, aber auch auf diversen Plattformen wie u.a.
Apple - Spotify - Youtube - Amazon oder als RSS-Feed
anhoeren und abonnieren. Gerade Apple & Spotify-Abrufe helfen dem Format, denn dort gibt es entsprechende Rankings!
Am 3. Juli hat die BBC eine Investigation veroeffentlicht, die eigentlich das Ende jeder Diskussion ueber Metas Selbstregulierung sein muesste: Instagram hat in Indien bezahlte Werbeanzeigen ausgespielt, die Material ueber sexuellen Kindesmissbrauch verkauft haben. Keine versteckten Accounts in dunklen Ecken der Plattform. Keine Privatnachrichten... BEZAHLTE WERBUNG. Durch Metas Anzeigensystem geprueft, freigegeben und ausgeliefert. Meta hat an jeder einzelnen dieser Anzeigen Geld verdient!
Und bevor jetzt jemand sagt "Einzelfall, kann bei 3,5 Milliarden Nutzern passieren"... lasst uns kurz durchgehen, was da wirklich passiert ist. Denn die Geschichte wird mit jedem Detail schlimmer.
Was die BBC gefunden hat
Die BBC-Journalistin Divya Arya und ihr Team von BBC Eye haben fuer die Dokumentation "The Careless Machine: Exposing Instagram's Darkest Secret" ein Testkonto in Indien angelegt. Der Ausloeser: Hinweise, dass Instagram auch ohne aktive Suche sexuell suggestive Inhalte in die Feeds von Nutzern drueckt. Das Testkonto folgte zehn Frauen, die voellig harmlose Lifestyle-Inhalte posteten... Essen, Wetter, Alltag... allerdings in aufreizender Kleidung.
"The Careless Machine: Exposing Instagram's Darkest Secret" Eine Doku, die unter die Haut geht!
Was dann passierte, ist ein Lehrstueck darueber, wie Empfehlungsalgorithmen eskalieren. Innerhalb einer Woche bekam das Konto Werbung fuer Videoanrufe und explizite Erwachseneninhalte. Wenige Tage spaeter: Anzeigen, die Kinder in sexuell suggestiven Situationen mit Erwachsenen zeigten. Insgesamt zaehlte die BBC rund 30 verschiedene Anzeigen, die dieses Material bewarben, plus etwa 20 weitere fuer explizite Erwachseneninhalte. Die Anzeigen arbeiteten mit kodierten, aber fuer die Zielgruppe eindeutigen Begriffen wie "rape video" und "child video" und leiteten auf Telegram-Kanaele weiter (wo auch sonst!?), wo das Material fuer 99 Rupien verkauft wurde... das sind umgerechnet etwa ein US-Dollar!
Jetzt kommt der Teil, der mich wirklich fassungslos macht und den ich in der Form ueber Jahre, und das ist nicht uebertrieben, selbst so erlebt habe: Die BBC hat eine dieser Anzeigen ueber Instagrams eigenes Meldetool gemeldet. Ganz regulaer, so wie es jeder von uns tun wuerde. Die Antwort von Metas automatisiertem System kam etwa 24 Stunden spaeter: Der Inhalt verstosse nicht gegen die Community-Standards!
Lest den Satz noch einmal. Eine Anzeige, die Kindesmissbrauchsmaterial verkauft, verstoesst laut Metas Pruefsystem nicht gegen die Regeln. Erst als die BBC Meta direkt mit einer offiziellen Presseanfrage konfrontierte, wurden die Anzeigen deaktiviert und die Konten gesperrt. Das ist das Muster, das wir seit Jahren kennen: Das System funktioniert erst, wenn ein Journalist mit Reichweite anklopft. Fuer alle anderen... funktioniert es nicht.
Ich habe es wirklich immer und immer wieder versucht... Hass und Hetze an die entsprechenden Stellen weitergeleitet, sexistische Postings gemeldet, knallharten Porn reportet... ich weiss nicht wie oft ich genau diese Antwort erhielt: Es verstoesst nicht gegen unsere Regeln.
Mein kleiner Zuckerberg Rant aus dem Januar 2025
Meta nannte die Praxis gegenueber der BBC "a horrific crime" und erklaerte, kein System sei perfekt. Indiens IT-Ministerium hat Meta inzwischen vorgeladen und eine Sieben-Tage-Frist gesetzt, um saemtliche Anzeigen dieser Art zu entfernen. Der Konzern verweist darauf, 2025 ueber vier Millionen verdaechtige Konten automatisch deaktiviert und Verdachtsfaelle an die US-Kinderschutzorganisation NCMEC gemeldet zu haben.
Klingt nach viel. Ist es ja auch.... vor allen Dingen ist aber ebenso verdammter Whataboutism! Laut BBC-Bericht kamen allein aus Indien im vergangenen Jahr rund 1,9 Millionen Meldungen ueber Kindesausbeutung bei NCMEC an... damit ist Indien die zweitgroesste Quelle weltweit, direkt hinter den USA. Wichtige Einordnung, weil ich hier sauber bleiben will: Diese Zahl stammt aus der BBC-Berichterstattung, und NCMEC selbst warnt davor, Laenderzahlen als direktes Mass fuer das tatsaechliche Missbrauchsniveau zu lesen, weil Proxies und Anonymisierung die Statistik verzerren. Aber die Groessenordnung steht ausser Frage. Und sie fuehrt uns zur eigentlichen Frage dieses Artikels.
Warum passiert das? Folgt dem Geld!
Die bequeme Erklaerung lautet: Meta ist zu gross, das Problem zu komplex, boese Akteure sind zu kreativ. Die unbequeme Erklaerung steht in Metas eigenen internen Dokumenten. Und die haben wir, dank einer Reuters-Investigation von Jeff Horwitz, die dieses Jahr voellig verdient mit dem Pulitzer-Preis ausgezeichnet wurde.
Die geleakten Dokumente... erstellt zwischen 2021 und 2025, aus Metas Finanz-, Rechts- und Safety-Abteilungen... zeigen Folgendes: Meta hat Ende 2024 intern kalkuliert, dass rund 10 Prozent des gesamten Jahresumsatzes, etwa 16 Milliarden Dollar, aus Werbung fuer Betrug und verbotene Waren stammen. Nutzer bekommen laut einem internen Dokument vom Dezember 2024 geschaetzt 15 Milliarden risikoreiche Scam-Anzeigen ausgespielt. PRO TAG!
Und jetzt der Teil, der die ganze Mechanik offenlegt: Meta hat einen internen Abbauplan fuer diese Einnahmen. Von 10,1 Prozent des Umsatzes im Jahr 2024 auf 7,3 Prozent Ende 2025, auf 6 Prozent Ende 2026, auf 5,8 Prozent im Jahr 2027. Das ist kein Notfallplan. Das ist ein kontrollierter Sinkflug, praezise austariert, damit die Quartalszahlen nicht wackeln. Werbetreibende werden laut den Dokumenten uebrigens erst dann gesperrt, wenn Metas automatische Systeme mit mindestens 95-prozentiger Sicherheit Betrug vorhersagen. Darunter? Zahlt der mutmassliche Betrueger einfach einen Strafaufschlag auf seine Anzeigenpreise. Meta verdient am Verdacht mit.
Was hat das mit Kindesmissbrauchs-Anzeigen zu tun? Alles! Denn ein Anzeigenpruefsystem, das streng genug waere, um CSAM-Werbung zuverlaessig vor der Ausspielung zu stoppen, wuerde zwangslaeufig auch grosse Teile des Scam-Geschaefts erwischen. Die Systeme sind dieselben. Die Schwellenwerte sind dieselben. Wer die Maschine scharf stellt, verliert Milliarden. Also bleibt die Maschine... sorglos. Und so kann Meta weiter kassieren... ehrlich, es macht mich fix und fertig!
Zur Einordnung der Dimensionen: Meta hat 2025 laut dem eigenen 10-K-Bericht bei der SEC 200,97 Milliarden Dollar umgesetzt. Davon kamen laut Q4-Earnings-Release 196,2 Milliarden aus Werbung... das sind 97,6 Prozent. Meta ist kein Social-Media-Unternehmen mit angeschlossener Werbevermarktung. Meta ist eine Werbemaschine mit angeschlossenem sozialen Netzwerk. Jede Entscheidung, die Anzeigenvolumen kostet, ist eine Entscheidung gegen das Kerngeschaeft und wenn du im Jahr knappe 20 Mrd mit Betrugs-Anzeigen umsetzen kannst und dies offensichtlich keine Behoerde stoert... ja, dann bist du halt so abgezockt und ziehst es einfach durch!
Und wenn Sicherheitsprobleme oeffentlich wurden, sei die primaere Reaktion des Managements gewesen, den Pressezyklus zu managen... statt das Problem zu verstehen
Die Menschen, die pruefen sollten, sind nicht mehr da
Automatisierte Systeme versagen. Das ist erwartbar. Deshalb braucht es Menschen, die Meldungen pruefen, Muster erkennen, eskalieren. Genau diese Menschen hat Meta in den vergangenen Jahren systematisch abgebaut.
Anfang 2023 beendete Meta die Vertraege von rund 200 Content-Moderatoren. Mindestens 16 Mitglieder von Instagrams Well-Being-Team und ueber 100 Positionen in den Bereichen Trust, Integrity und Responsibility wurden gestrichen... das geht aus Dokumenten hervor, die beim US-Arbeitsministerium eingereicht wurden. Der wichtigste Moderations-Subunternehmer fuer Afrika baute weitere 200 Stellen ab. Als der US-Senat konkret nachfragte, wie viele Menschen bei Meta eigentlich noch an Trust & Safety arbeiten, blieb der Konzern eine vollstaendige Antwort schuldig. Zuckerberg wiederholt stattdessen gebetsmuehlenartig die Zahl von 40.000 Mitarbeitern, die an "safety and security" arbeiten wuerden... eine Zahl, die so breit definiert ist, dass sie praktisch nichts aussagt.
"Senator we run ads!" - Zuckerberg in seinem 2018er Testimony vor dem US-Senat!
Und im Januar 2025 kam dann die offizielle Kapitulation, verpackt als Freiheitsversprechen: Zuckerberg kuendigte an, die automatisierte Moderation ausser bei "illegal and high-severity violations" zurueckzufahren. Kindesausbeutung faellt offiziell weiterhin unter die harten Faelle. Nur: Die BBC-Recherche zeigt, was dieses Versprechen in der Praxis wert ist. Das System, das die schweren Faelle angeblich prioritaer erkennt, hat eine gemeldete CSAM-Anzeige geprueft und fuer unbedenklich erklaert.
Wie es intern wirklich aussieht, hat Brian Boland beschrieben... ehemaliger Vice President bei Meta, ueber elf Jahre im Unternehmen, einer der Architekten des Werbesystems. Im Februar sagte er unter Eid in einem kalifornischen Prozess aus. Seine Kernaussagen: Meta habe "dramatically underinvested in keeping people safe". Die Algorithmen seien "absolutely relentless" in der Verfolgung ihrer einprogrammierten Ziele, und dieses Ziel heisse fast immer Engagement. Und wenn Sicherheitsprobleme oeffentlich wurden, sei die primaere Reaktion des Managements gewesen, den Pressezyklus zu managen... statt das Problem zu verstehen. Von Boland stammt uebrigens auch das Bild der "careless machine", das der BBC-Doku ihren Titel gab.
Bemerkenswert an Bolands Aussage ist ihre Nuechternheit. Auf die Frage der Verteidigung, ob Meta Teenagern absichtlich schaden wollte, antwortete er: "No, I think it was negligence." Kein Boesewicht-Narrativ, sondern Fahrlaessigkeit soll es sein! Ich bin mir da nicht ganz so sicher bei einet Organisation, die weiss, was noetig waere, und sich dagegen entscheidet, weil es Geld kostet.
Niemand zwingt Meta, Anzeigen in einem Volumen und Tempo zu verkaufen, das eine seriosere Pruefung unmoeglich macht.
Was Meta zu seiner Verteidigung sagt
Fairness gehoert dazu, also nehmen wir Metas Gegenargumente ernst!
Erstens: die Skalierung. 3,5 Milliarden Nutzer, Milliarden Inhalte taeglich... eine hundertprozentige Erkennungsquote ist mathematisch unmoeglich, und Kriminelle passen ihre Codes staendig an. Das stimmt natuerlich.
Zweitens: Meta investiert tatsaechlich. Vier Millionen automatisch deaktivierte Verdachtskonten im Jahr 2025 sind keine Null-Leistung, und Meta ist einer der groessten Melder an NCMEC ueberhaupt.
Drittens bestreitet der Konzern die Reuters-Zahlen: Sprecher Andy Stone nannte die 10,1-Prozent-Schaetzung "rough and overly-inclusive"... die Dokumente wuerden auch legale, nur grenzwertige Werbung einschliessen.
Nur: Keines dieser Argumente traegt, wenn man es zu Ende denkt. Die Skalierung ist kein Naturgesetz, sondern eine Geschaeftsentscheidung... niemand zwingt Meta, Anzeigen in einem Volumen und Tempo zu verkaufen, das eine seriosere Pruefung unmoeglich macht! Die vier Millionen deaktivierten Konten beantworten nicht die Frage, warum eine explizit gemeldete CSAM-Anzeige die Pruefung uebersteht. Und selbst wenn Stones Einwand berechtigt waere und die wahre Scam-Quote nur halb so hoch laege... dann verdient Meta immer noch acht Milliarden Dollar jaehrlich an Betrugswerbung und hat dafuer einen mehrjaehrigen Abschmelzplan statt eines Abschaltknopfs.
Das Dementi bestaetigt die Logik, die es bestreiten soll!
Solange die Sanktion billiger ist als die Abschaltung der fraglichen Umsaetze, ist Regelbruch die rational richtige Geschaeftsentscheidung.
Die Rechnung kommt... langsam
Immerhin: Die Justiz beginnt zu liefern. Am 24. Maerz hat eine Geschworenenjury in Santa Fe, New Mexico, Meta fuer haftbar erklaert... wegen vorsaetzlicher Verstoesse gegen das Verbraucherschutzrecht des Bundesstaates. Die Jury befand, Meta habe die Oeffentlichkeit ueber die Sicherheit von Facebook und Instagram getaeuscht und Kinder nicht vor sexueller Ausbeutung geschuetzt. Die Strafe: das gesetzliche Maximum von 5.000 Dollar pro Verstoss, bei 37.500 festgestellten Verstoessen... macht 375 Millionen Dollar. Meta geht in Berufung, und eine zweite Prozessphase mit Forderungen um eine Milliarde Dollar laeuft bereits.
375 Millionen klingen gewaltig. Fuer einen Konzern mit rund 1,5 Billionen Dollar Boersenwert und 60 Milliarden Dollar Jahresgewinn sind sie... etwas mehr als zwei Tage Nettogewinn. Das ist keine Strafe. Das ist eine Gebuehr. Und genau deshalb aendert sich nichts: Solange die Sanktion billiger ist als die Abschaltung der fraglichen Umsaetze, ist Regelbruch die rational richtige Geschaeftsentscheidung.
Interessanter wird es in Europa. Die EU-Kommission hat Ende April vorlaeufig festgestellt, dass Meta gegen den Digital Services Act verstoesst, weil es Kinder unter 13 nicht wirksam von seinen Plattformen fernhaelt. Wird das bestaetigt, drohen bis zu 6 Prozent des weltweiten Jahresumsatzes... bei 201 Milliarden Dollar waeren das ueber 12 Milliarden. Das waere zum ersten Mal eine Zahl, die in Menlo Park jemand in ein Spreadsheet eintragen muesste, das Zuckerberg tatsaechlich liest und inzwischen wissen wir, dass diese Strafe richtig heftig an die Tuer des Konzerns klopft:
Yannick von Eisenhart Rothe and AFP and KNA Katholische Nachrichten-Agentur KNA
Aendern werden das nur Sanktionen, die groesser sind als der Profit aus dem Wegsehen... und Manager, die persoenlich haften, wenn ihre Systeme gemeldete Missbrauchsanzeigen durchwinken
Was bleibt
Stellt euch (wieder einmal)Ralf aus Recklinghausen vor, dessen 14-jaehrige Tochter ein Instagram-Konto hat. Ralf verlaesst sich darauf, dass ein Konzern dieser Groesse das Minimum leistet: keine Werbung fuer Kindesmissbrauch verkaufen. Die BBC-Recherche zeigt, dass genau dieses Minimum nicht garantiert ist... nicht, weil es technisch unmoeglich waere, sondern weil das Pruefsystem exakt so kalibriert ist, dass es den Umsatz nicht gefaehrdet... da erscheint es ja schon nahezu harmlos, dass man Instagram inzwischen pro-aktiv untersagen muss, dass die eigenen Fotos nicht fuer die Meta KI-Modelle genutzt werden duerfen:
Halyna Kubiv
Das ist der Kern der Geschichte, und deshalb haette auch eine "Skandal"-Ueberschrift zu kurz gegriffen. Ein Skandal ist eine Abweichung vom Normalzustand. Hier ist die Sorglosigkeit der Normalzustand... dokumentiert in internen Papieren, beziffert mit Prozentzielen, bestaetigt unter Eid. Die Maschine ist nicht kaputt. Sie tut, wofuer sie gebaut wurde!
Aendern werden das keine Presseanfragen und keine Entschuldigungen mit dem Wort "horrific" darin. Aendern werden das nur Sanktionen, die groesser sind als der Profit aus dem Wegsehen... und Manager, die persoenlich haften, wenn ihre Systeme gemeldete Missbrauchsanzeigen durchwinken.
Bis dahin gilt: Was Meta "Sicherheit" nennt, ist eine PR-Kennzahl. Was Meta wirklich optimiert, steht in den Quartals-Bilanzen!
Dir hat diese Ausgabe gefallen? Dann teile diese doch mit deinem Netzwerk. MeTacheles ist kostenlos, extrem zeitaufwendig & genau deshalb spiele ich jetzt auch ein wenig Staubsaugervertreter 😎
Zum Podcast: Apple - Spotify - Amazon oder RSS-Feed
Bleibt gesund!
Sascha
MeTacheles supporten & damit Baeume pflanzen
Ja, es gibt ein Abomodell fuer MeTacheles und ja, 30% der Umsaetze helfen dabei verschieden Baumpflanzprojekte zu unterstuetzen… und verschafft mir mehr Luft, um solche Artikel zu bauen:
Sascha Pallenberg
Sascha Pallenberg
Sascha Pallenberg
Sascha Pallenberg
Wenn ihr meint, dass euch dies den Gegenwert eines Kaffees, Kaesekuchens oder ner Currywurst im Monat wert ist, dann koennt ihr entweder » HIER « oder auf den unteren Button klicken und aus den verschiedenen Abo-Modellen waehlen bzw. ihr koenntet ja auch ein Abo verschenken:
