Deutschland News Agency

Die am Montag gestartete offizielle Untersuchung erweitert zudem die laufende Prüfung der Empfehlungssysteme von X – jener Algorithmen, die Internetnutzern helfen, neue Inhalte zu entdecken.

Der Chatbot Grok, der international Empörung ausgelöst hat, ermöglichte es Nutzern, Frauen und Kinder digital „auszuziehen“ und sie in provokante Posen zu versetzen. Nach Angaben von Forschern des Center for Countering Digital Hate erzeugte die KI Grok in weniger als zwei Wochen rund 3 Millionen sexuelle Bilder, von denen etwa 23.000 offenbar Kinder darstellten.

X erlaubt es Nutzern weiterhin, sexualisierte Bilder zu teilen, die vom KI-Tool Grok erstellt wurden.

Die Kommission erklärte, die neue Untersuchung werde „bewerten, ob das Unternehmen die mit den Funktionen von Grok in der EU verbundenen Risiken – einschließlich der Risiken der Verbreitung illegaler Inhalte wie manipulierter obszöner Bilder und Inhalte, die als Material zum sexuellen Missbrauch von Kindern gelten könnten – angemessen bewertet und gemindert hat“.