Musks X blockiert KI – Erstellung von Nacktbildern nicht mehr möglich

Laut einer Mitteilung von X kann Elon Musks KI-Modell Grok künftig keine Fotos von „echten Personen in freizügiger Kleidung“ mehr bearbeiten – zumindest in Ländern, in denen dies illegal ist. Die Ankündigung erfolgte, nachdem das KI-Modell weltweit wegen der Erstellung sexualisierter Bilder von Frauen und Kindern in die Kritik geraten war – einschließlich Verboten und Warnungen einiger Regierungen. Das Sicherheitsteam der Social-Media-Plattform erklärte, es werde die Möglichkeit für alle Grok- und X-Nutzer, Bilder von Personen in „Bikinis, Unterwäsche und ähnlicher Kleidung“ zu erstellen, per Geoblocking einschränken. „Wir haben technologische Maßnahmen implementiert, um zu verhindern, dass das Grok-Konto die Bearbeitung von Bildern realer Personen in freizügiger Kleidung wie Bikinis zulässt“, so das Sicherheitsteam von X. Das Team fügte hinzu, dass „diese Einschränkung für alle Nutzer, einschließlich zahlender Abonnenten“, in Ländern gilt, in denen solche Handlungen als illegal gelten. Die Plattform hat die Erstellung und Bearbeitung von Bildern zudem auf zahlende Abonnenten beschränkt und erklärt, dies trage dazu bei, den Missbrauch von Grok gemäß der Gesetze und Unternehmensrichtlinien zu ahnden. Der kalifornische Generalstaatsanwalt Rob Bonta leitete eine Untersuchung gegen Musks xAI, den Entwickler von Grok, wegen der Erstellung von „nicht einvernehmlichem, sexuell explizitem Material“ ein. Bonta bezeichnete die Erstellung der Bilder als „schockierend“ und drängte xAI dazu, „sofortige Maßnahmen zu ergreifen, um sicherzustellen, dass dies nicht weitergeht“. Malaysia und Indonesien waren die ersten Länder, die das KI-Tool Grok verboten, nachdem Nutzer berichtet hatten, dass Fotos ohne ihre Zustimmung verändert worden waren, um explizite Bilder zu erstellen.

Melden