
Klage: Stiefvater nutzte Grok zur Erstellung von über 7.000 CSAM-Bildern
Der Fall dreht sich um eine als „Jane Doe 4" bezeichnete Frau, die sich einer bereits laufenden Sammelklage von drei Teenagern aus Tennessee gegen xAI angeschlossen hat. Ihr Stiefvater soll mithilfe des KI-Chatbots Grok ein Foto, das sie im Alter von elf Jahren zeigt, in mehr als 7.000 explizite Bilder umgewandelt haben. Der Stiefvater wurde zwei Tage nach der Entdeckung der Bilder durch eine polizeiliche Razzia tot aufgefunden – die Behörden gehen von Suizid aus. Die ursprüngliche Klage der drei Teenager wirft xAI vor, grundlegende Schutzmaßnahmen versäumt zu haben, die verhindern würden, dass Grok für die Erstellung expliziter Darstellungen realer Personen – einschließlich Minderjähriger – missbraucht wird. Der Fall steht nicht isoliert: Anfang des Jahres wurde X (ehemals Twitter) von Millionen Grok-generierter sexualisierter Bilder überflutet, was die Plattform und ihr KI-System bereits in die Kritik gebracht hatte. xAI ist inzwischen Teil von SpaceX, was die Unternehmensstruktur und mögliche Haftungsfragen weiter verkompliziert. Die Klage strebt Class-Action-Status an und könnte damit eine breite Präzedenzwirkung für die Regulierung generativer KI-Bildtools entfalten.
„Limitless access to these tools is spreading so quickly. It is taking everyday life and turning it into child sexual abuse.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge

Klage: Stiefvater nutzte Grok zur Erstellung von über 7.000 CSAM-Bildern
Der Fall dreht sich um eine als „Jane Doe 4" bezeichnete Frau, die sich einer bereits laufenden Sammelklage von drei Teenagern aus Tennessee gegen xAI angeschlossen hat. Ihr Stiefvater soll mithilfe des KI-Chatbots Grok ein Foto, das sie im Alter von elf Jahren zeigt, in mehr als 7.000 explizite Bilder umgewandelt haben. Der Stiefvater wurde zwei Tage nach der Entdeckung der Bilder durch eine polizeiliche Razzia tot aufgefunden – die Behörden gehen von Suizid aus. Die ursprüngliche Klage der drei Teenager wirft xAI vor, grundlegende Schutzmaßnahmen versäumt zu haben, die verhindern würden, dass Grok für die Erstellung expliziter Darstellungen realer Personen – einschließlich Minderjähriger – missbraucht wird. Der Fall steht nicht isoliert: Anfang des Jahres wurde X (ehemals Twitter) von Millionen Grok-generierter sexualisierter Bilder überflutet, was die Plattform und ihr KI-System bereits in die Kritik gebracht hatte. xAI ist inzwischen Teil von SpaceX, was die Unternehmensstruktur und mögliche Haftungsfragen weiter verkompliziert. Die Klage strebt Class-Action-Status an und könnte damit eine breite Präzedenzwirkung für die Regulierung generativer KI-Bildtools entfalten.
„Limitless access to these tools is spreading so quickly. It is taking everyday life and turning it into child sexual abuse.“
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.