Meta setzt neue KI-Tools gegen verdeckte Werbung mit Missbrauchsdarstellungen Minderjaehriger ein
Meta reagiert auf Anzeigen, die auf den ersten Blick harmlos wirken, Nutzer aber auf dort woanders verbotene Inhalte lenken. Die neuen KI-Tools sollen solche SuS-Systeme automatisch aufspueren.
Letzter Tag, um Ihren Durchbruch mehr als 10.000 Tech-Verantwortlichen auf der Disrupt zu präsentieren, ist der 2. Oktober. Buchen Sie jetzt Ihren Ausstellungstisch.
Die Tore der Disrupt öffnen am 13. Oktober. Holen Sie sich Ihr Ticket und bringen Sie jemanden mit, zum halben Preis. JETZT REGISTRIEREN.
TechCrunch Desktop Logo TechCrunch Mobile Logo Latest Startups Venture Apple Security AI Apps Disrupt 2026 Events Podcasts Newsletters Search Submit Site Search Toggle Mega Menu Toggle Topics Latest
Meta führt neue KI-Tools ein, um Werbung zu erkennen, die heimlich zu Material sexueller Kindesmisshandlung führt Lauren Forristal 9:53 AM PDT · 7. Oktober 2026 Meta gab am Mittwoch bekannt, dass sie im ersten Halbjahr 2026 gegen 33,2 Millionen Inhalte zur sexuellen Ausbeutung von Kindern auf Facebook und Instagram vorgegangen ist. Gleichzeitig führt das Unternehmen neue KI-Tools ein, um Werbung und Konten zu finden, die möglicherweise genutzt werden, um Menschen heimlich zu illegalem Material über Kindesmissbrauch zu lotsen.
Mehr als 97 Prozent der Inhalte, gegen die Meta vorgegangen ist, wurden von den Systemen des Unternehmens entdeckt, bevor Nutzer sie meldeten, so das Unternehmen. In Indien ging Meta im selben Zeitraum gegen 5,3 Millionen Inhalte zur sexuellen Ausbeutung von Kindern vor, von denen mehr als 98 Prozent entdeckt wurden, bevor Nutzer sie meldeten.
Meta sagte, seine neuesten KI-Tools seien darauf ausgerichtet, Menschen zu erkennen, die harmlos aussehende Werbung nutzen, um Nutzer zu illegalen Inhalten außerhalb der Plattformen von Meta zu geleiten.
Das Unternehmen hat ein neues LLM-System (Large Language Model) eingeführt, um das zu erkennen, was es sogenanntes „Signposting“ nennt. Damit sind Anzeigen gemeint, die auf den ersten Blick normal wirken, jedoch im Verdacht stehen, Nutzer zu illegalen Inhalten oder anderen schädlichen Aktivitäten im Netz zu lenken. Laut Meta handelt es sich um eine Taktik, die Akteure mit bösen Absichten kürzlich eingesetzt haben, während sie ihre Methoden weiter ändern, um der Erkennung zu entgehen. Auch wenn die Anzeigen selbst kein illegales Material enthalten, können sie dennoch als Eintrittspforte zu Websites dienen, die Material sexuellen Kindesmissbrauchs hosten.
Aus diesem Grund schaut Meta nun darauf, wohin eine Anzeige die Nutzer sendet, und nicht nur darauf, was die Anzeige enthält. Das Unternehmen kann diese Informationen nutzen, um Websites oder andere Ziele zu sperren, die gegen seine Regeln verstoßen, und gegen die dahinterstehenden Konten vorzugehen.
Meta nutzt zudem zusätzliche KI-gestützte Scans, um Inhalte zur Ausbeutung von Kindern zu finden, die frühere Systeme möglicherweise übersehen haben. Das Unternehmen erklärte, es werde weiterhin neue Signale hinzufügen, während es mehr darüber erfahre, wie diese Netzwerke agieren.
Ein weiteres neues Tool ist ein „Red-Teaming-KI-Agent“, der Metas eigene Schutzmaßnahmen testet. Er sucht nach Schwachstellen, die Akteure mit bösen Absichten nutzen könnten, um die Schutzmechanismen des Unternehmens zu umgehen. Meta sagte, dies könne helfen, neue Missbrauchsmethoden zu erkennen, bevor sie sich weiter verbreiten.
Zusätzlich verbessert das Unternehmen seine Systeme, um Personen zu finden, die mit neuen Konten auf seine Plattformen zurückkehren, nachdem ihre bisherigen Konten entfernt wurden.
Die neuen Maßnahmen kommen zu einer Zeit, in der Meta weiterhin unter Druck steht, was die Sicherheit von Kindern auf seinen Plattformen betrifft. Das Unternehmen sah sich mit Klagen und Kritik von Gesetzgebern konfrontiert, die die Risiken seiner Social-Media-Dienste für junge Nutzer betrafen. Im August einigte sich Meta darauf, bis zu 18 Milliarden US-Dollar zur Beilegung einer Klage zum Thema Kinderschutz zu zahlen, an der 29 US-Bundesstaaten beteiligt waren und die Bedenken hinsichtlich des Schutzes von Kindern im Internet adressierte.
Meta hat in diesem Jahr mehrere Kinderschutzfunktionen eingeführt, darunter Elternkontrollen für Meta AI, Konten für Kinder unter 13 auf WhatsApp sowie Warnungen an Eltern, wenn Kinder auf Instagram nach Inhalten zur Selbstverletzung suchen.
Im September hat WhatsApp weitere Kontrollmöglichkeiten für Eltern hinzugefügt. Sie können einschränken, wie Teenager Kanäle nutzen, kontrollieren, wer ihre Status-Updates sehen kann, und festlegen, wer ihre Kinder zu Gruppen hinzufügen darf. Eltern können auch entscheiden, ob sie Benachrichtigungen über bestimmte Gruppenaktivitäten erhalten möchten.
Wenn Sie über Links in unseren Artikeln einkaufen, erhalten wir möglicherweise eine kleine Provision. Dies hat keinen Einfluss auf unsere redaktionelle Unabhängigkeit.
Lauren Forristal Lauren berichtet bei TechCrunch über Medien, Streaming, Apps und Plattformen.
Sie können Lauren kontaktieren oder Nachrichten von ihr überprüfen, indem Sie eine E-Mail an laurenf.techcrunch@gmail.com senden oder ihr eine verschlüsselte Nachricht über laurenforris22.25 auf Signal schreiben.
13. bis 15. Oktober San Francisco 50 Prozent Rabatt auf ein zweites Ticket Das Disrupt-Erlebnis ist dazu gedacht, geteilt zu werden. Holen Sie sich Ihr Ticket und bringen Sie einen Kollegen, Partner oder Peer zum halben Preis mit. Erweitern Sie Ihren Horizont, indem Sie Kontakte knüpfen, Schwung aufbauen und herausfinden, was als Nächstes im Startup-Ökosystem kommt.
Mit 19 sammelt Gründerin 11 Millionen US-Dollar für Ghost, Hersteller eines 3.499 US-Dollar teuren Computers für persönliche KI, Dominic-Madori Davis
Bundesrichterin nennt Flock „indiscriminate mass surveillance“, Anthony Ha
Amazon reagiert auf Gegenwind rund um Rechenzentren und erklärt, keine NDAs mehr zu verwenden, Anthony Ha
OpenAI-Sicherheitsmitarbeiterin tritt zurück und behauptet, die „Kultur des Unternehmens sei kaputt“, Anthony Ha
Meta möchte, dass Ihr nächstes Gadget mit Muse angereichert ist, Kirsten Korosec
Google hält den Start von SpaceX Starship 1.800 Mal für nötig, bevor Weltraum-Rechenzentren vom Boden abheben können, Tim Fernholz
Das weltweit erste Enhanced-Geothermal-Kraftwerk wurde in nur 23 Monaten fertiggestellt, Tim De Chant
X LinkedIn Facebook Instagram youTube Mastodon Threads Bluesky TechCrunch Staff Contact Us Advertise Site Map Terms of Service Privacy Policy RSS Terms of Use Code of Conduct OpenAI Hugging Face Flock Startup Battlefield Disrupt 2026 Tech Layoffs ChatGPT © 2026 TechCrunch Media LLC.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Last day to exhibit your breakthrough to 10,000+ tech leaders at Disrupt is on Oct 2. Book Exhibit Table Now.
Disrupt doors open Oct. 13. Get your pass and bring someone with you at 50% off. REGISTER NOW.
TechCrunch Desktop Logo TechCrunch Mobile Logo Latest Startups Venture Apple Security AI Apps Disrupt 2026 Events Podcasts Newsletters Search Submit Site Search Toggle Mega Menu Toggle Topics Latest
Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material Lauren Forristal 9:53 AM PDT · October 7, 2026 Meta announced Wednesday that it took action against 33.2 million pieces of child sexual exploitation content on Facebook and Instagram in the first half of 2026. At the same time, the company is rolling out new AI tools to find ads and accounts that may be used to secretly direct people to illegal child abuse material.
More than 97% of the content Meta acted on was found by its systems before users reported it, the company said. In India, Meta acted on 5.3 million pieces of child sexual exploitation content during the same period, with more than 98% detected before users reported it.
Meta said its latest AI tools are aimed at people using ads that look harmless to send users to illegal content outside Meta’s platforms.
The company has introduced a new large language model (LLM) system to detect what it calls “signposting.” This refers to ads that may look normal but are suspected of directing users to illegal content or other harmful activity elsewhere online. Meta says this is a tactic it has recently seen bad actors use as they continue to change their methods to avoid detection. While the ads themselves may not contain illegal material, they can still act as a gateway to websites hosting child sexual abuse material.
Because of this, Meta said it’s now looking at where an ad sends users, and not just what the ad contains. The company can use this information to block websites or other destinations that break its rules and take action against the accounts behind them.
Meta is also using additional AI-driven scans to find child exploitation content that earlier systems may have missed. The company said it will continue adding new signals as it learns more about how these networks operate.
Another new tool is a “red-teaming AI agent” that tests Meta’s own safety measures. It looks for weaknesses that bad actors could use to get around the company’s protections. Meta said this could help it find new methods of abuse before they become more common.
Additionally, the company is improving its systems for finding people who return to its platforms with new accounts after their previous accounts have been removed.
The new measures come as Meta continues to face pressure over the safety of children on its platforms. The company has faced lawsuits and criticism from lawmakers over the risks its social media services may pose to young users. In August, Meta reached an agreement to pay up to $18 billion to settle a child safety lawsuit involving 29 U.S. states, addressing concerns regarding the protection of children online.
Meta has introduced several child-safety features this year, including parental controls for Meta AI, pre-teen accounts on WhatsApp, and alerts for parents when children search Instagram for self-harm content.
In September, WhatsApp added more controls for parents. They can limit how teenagers use Channels, control who can see their status updates, and decide who can add their children to groups. Parents can also choose to receive notifications about certain group activity.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
Lauren Forristal Lauren covers media, streaming, apps and platforms at TechCrunch.
You can contact or verify outreach from Lauren by emailing laurenf.techcrunch@gmail.com or via encrypted message at laurenforris22.25 on Signal.
October 13 – 15 San Francisco Get 50% off a second pass The Disrupt experience is meant to be shared. Get your pass and bring a colleague, partner, or peer at 50% off. Cover more ground by making connections, building momentum, and discovering what’s next in the startup ecosystem.
At 19, founder raises $11M for Ghost, maker of a $3,499 computer for personal AI Dominic-Madori Davis
Federal judge calls Flock ‘indiscriminate mass surveillance’ Anthony Ha
Amazon responds to data center backlash, says it no longer uses NDAs Anthony Ha
OpenAI safety employee resigns, claiming the company’s ‘culture is broken’ Anthony Ha
Meta wants your next gadget to be Muse-infused Kirsten Korosec
Google thinks SpaceX’s Starship has to launch 1,800 times before space data centers get off the ground Tim Fernholz
World’s first enhanced geothermal power plant completed in just 23 months Tim De Chant
X LinkedIn Facebook Instagram youTube Mastodon Threads Bluesky TechCrunch Staff Contact Us Advertise Site Map Terms of Service Privacy Policy RSS Terms of Use Code of Conduct OpenAI Hugging Face Flock Startup Battlefield Disrupt 2026 Tech Layoffs ChatGPT © 2026 TechCrunch Media LLC.