Musk-KI stellt Hardcore-Pornos her: „Grok lernt Genitalien!“
Elon Musks xAI sorgt mit Grok für Aufsehen – die KI erzeugt teils unmoderierte Inhalte und entfacht eine Ethikdebatte
Wenn Silicon Valley ein gnadenloser Ort ist, dann ist die KI-Branche derzeit ihr brutalster Schauplatz. Tech-Giganten, die große Sprachmodelle und Text-zu-Video-Generatoren entwickeln, geben Milliarden für Rechenzentren aus, um immer einen Schritt voraus zu sein – und, so hoffen sie, die explodierende Nachfrage der Nutzer zu befriedigen. Es scheint, als sei der Erfolg jedes Unternehmens nur so groß wie sein letztes Update, und morgen könnte schon wieder ein Durchbruch eines Konkurrenten kommen, sodass sie erneut aufholen müssen.
Vor etwas mehr als einer Woche hat OpenAI Sora 2 vorgestellt, die neueste Version seines Videotools, komplett mit einer TikTok-ähnlichen Social-App, in der Nutzer die von ihnen erstellten Clips teilen können. Die Veröffentlichung verlief nicht ohne Probleme (es gab erhebliche Bedenken hinsichtlich Urheberrecht und Desinformation), doch derzeit sieht es so aus, als hätte das Unternehmen in diesem speziellen Wettlauf die Nase vorn. Um nicht zurückzustehen, begann Elon Musk daraufhin, für ein Update von Grok Imagine zu werben, der Videofunktion für den Chatbot seines Unternehmens xAI. „Grok Imagine verbessert sich rasend schnell“, erklärte er am Sonntag in einem Beitrag auf X, seiner Social-Media-Plattform.
Eine Gruppe, die ihm zustimmen würde, ist die Community bei Reddit‘s r/GrokNSFWs, einem im August gegründeten Forum. Dort haben Nutzer Methoden entwickelt, um Grok Imagine dazu zu bringen, explizite Inhalte für Erwachsene zu generieren – und das neueste Update hat ihre Bemühungen offenbar noch verstärkt.
Kontroversen um Grok und seine Nutzung
„Die Grok-KI-Imagine lernt wirklich schnell, was Genitalien sind!“, schrieb ein Teilnehmer und postete einen von der KI erstellten Clip, in dem sich zwei nackte Frauen auf einem samtigen Laken berühren. „Außerdem sind Bademäntel meiner Meinung nach der einfachste Weg, um sie schnell nackt zu bekommen“, riet er anderen Reddit-Nutzern, die mit Grok ihre sexuellen Fantasien ausleben wollen. „Bikinis sind doof, weil sie Zeit brauchen und in der Hälfte der Fälle nicht einmal funktionieren.“
Seit seiner Gründung sind die Inhalte auf r/GrokNSFWs immer expliziter geworden, da die Nutzer Tricks gelernt haben, um die Moderation zu umgehen – obwohl zumindest einige von ihnen glauben, dass xAI diese Sicherheitsvorkehrungen deutlich gelockert hat. „Man kann im Grunde genommen alles machen“, schrieb ein begeistertes Mitglied des Subreddits. „Verrückt, dass sie das zulassen. Viel Spaß!“ Der Clip, den sie teilten, zeigte eine blonde Zeichentrickfigur, die Prinzessin Elsa aus den Disney-Filmen Frozen ähnelt, wie sie einen BH auszieht und beginnt, Oralsex an dem realistisch aussehenden Penis einer männlichen Figur ohne Gesicht im Bild zu praktizieren.
Andere Videos in dem Beitrag zeigten dieselbe Figur in verschiedenen Sexstellungen. Die Person, die diesen Inhalt erstellt hat, gab an, Grok unter anderem mit folgendem Satz dazu angeregt zu haben: „Eine wunderschöne, super-nuttige Frau im Pixar-Animationsstil mit einer üppigen Sanduhrfigur und platinblonden Zöpfen, die völlig nackt auf einer Couch in einem Bordell entspannt.“ Ein beeindruckter Kommentator staunte: „Ich kann immer noch nicht glauben, wie verstörend das letzte Update war. Nicht nur die Nacktheit, sondern auch die Bewegungen, die Brüste wippen realistischer, es ist unglaublich.“
Lockerung der Moderation bei xAI?
„Das Einzige, woran ich gerade arbeite, sind Cumshots“, fügten sie hinzu. „Ich habe Probleme, das Sperma aus der Spitze spritzen zu lassen, normalerweise explodiert es einfach überallher.“
Weitere Grok-Inhalte, die in den letzten Tagen auf r/GrokNSFWs zu sehen waren – neben mehreren weiteren Beispielen für von Frozen inspirierte Pornos – umfassen explizite Bilder von unbekleideten Frauen, die sich gegenseitig Cunnilingus geben, Frauen, die auf Dildos sitzen, Frauen mit etwas, das wie Ejakulat auf ihren Gesichtern aussieht, Männer und Frauen, die Vaginal- und Analsex haben, POV-Nahaufnahmen von Vaginas und Nacktversionen von Frauen, die Comicfiguren wie Supergirl und Harley Quinn nachempfunden sind.
Nutzer haben auch kommentiert, dass die Audioelemente der aktuellen Version von Grok Imagine für verbesserte Pornografie gesorgt haben. „Es ist klar, dass sie die KI auf Pornografie trainiert haben“, behauptete eine Person. „Und sogar die Geräusche, das Stöhnen, ich hatte eine Generation, in der das Mädchen im Rhythmus der Musik ritt.“ Einige sagten, sie hätten Fotos von echten Frauen hochgeladen und sie erfolgreich animiert, ihre Hemden auszuziehen. „Mann, die glücklichen Tage des letzten Wochenendes, als es noch schwer war, einem Model die Kleider auszuziehen“, scherzte ein Redditor. Die neueste Welle von Grok-Pornos war offenbar so extrem, dass ein Moderator der Seite am Montag die Mitglieder warnen musste, keine Inhalte mit Sodomie oder Deepfakes von realen Personen zu posten.
Die Rolle von Elon Musk und xAI
Die Verbreitung von mit Grok erstellten Erwachsenenvideos ist nicht völlig überraschend. Musk hat regelmäßig Clips mit sexualisierten Frauenfiguren, die mit Grok erstellt wurden, zusammen mit Bildern von Ani, einer Anime-Grok-„Begleiterin” in knapper Unterwäsche, verbreitet. Ani ist mit einer koketten Haltung programmiert und verfügt über eine „sexy” Einstellung (ihre Unterhaltungen können in sexuell extreme Bereiche abgleiten), während die Bild- und Videogeneratoren von Grok auf den „spicy”-Modus eingestellt werden können, den die Redditoren von r/GrokNSFWs verwenden.
Diese Designentscheidungen haben es Grok ermöglicht, weitaus gewagtere Ergebnisse zu liefern als vergleichbare KI-Produkte, und Experten haben vor dem Potenzial für sexuellen Missbrauch gewarnt. Im September berichteten ein Dutzend Mitarbeiter von xAI – das nicht sofort auf eine Anfrage um Stellungnahme reagierte – gegenüber Business Insider, dass sie auf sexuell explizites Grok-Material und „Benutzeranfragen nach KI-generierten Inhalten über sexuellen Kindesmissbrauch (CSAM)” gestoßen seien. Im selben Monat kündigte Musk auf X an, dass das Training für Grok 5, die neue Version des Chatbots, in den kommenden Wochen beginnen solle.
Innovation oder Image-Risiko?
Ob xAI Grok absichtlich erlaubt hat, die Art von Pornografie zu produzieren, die konkurrierende Chatbots nicht produzieren, bleibt unklar. Aber Musk vertritt die Ansicht, dass solche Inhalte oft technologische Innovationen und deren Akzeptanz vorantreiben. „Ich erinnere mich noch gut an die Debatten mit meinen Klassenkameraden in der 6./7. Klasse über VHS vs. Betamax!”, schrieb er im August. „VHS hat am Ende gewonnen, auch weil sie den Spicy Mode erlaubt haben”, erklärte er und bezog sich dabei auf den Heimvideomarkt für Pornos. Musk beendete den Beitrag mit einem zwinkernden Emoji.
Das ist sicherlich eine Strategie. Die Frage ist, ob Grok den KI-Wettlauf als wenig mehr als eine NSFW-Alternative überstehen kann.
