Elon Musks KI-Unternehmen hat eine neue Version seines Chatbots vorgestellt. Grok generiert nun auch Bilder. Nach dem Release gab es viel Kritik, weil ohne Sicherheitsprüfung fragwürdiges und schockierendes Bildmaterial erzeugt werden konnten. Damit ist es jetzt vorbei – zumindest vorerst.
Dall-E, Midjourney oder Stable Diffusion – so heißen gängige KI-Generatoren im Netz, die Fotos auf Textbefehl erstellen. Das Prinzip: Wir sagen der KI, welches Bild wir sehen wollen und die KI erstellt uns Beispiele. Irreführende oder manipulative Anfragen lehnen diese KI-Systeme jedoch in der Regel ab – zum Beispiel Bilder von Gewalt und auch Fakes bekannter Personen – von Donald Trump im Gefängnis beispielsweise oder Joe Biden im Krankenhaus.
Elon Musks Start-up Xai schien es beim Start der Version 2.0 des Chatbots Grok mit Sicherheitsvorkehrungen nicht ganz so genau genommen. Das führte zur Erstellung und Verbreitung von Fakebildern – Bilder von Donald Trump in Nazi-Uniform oder mit Waffen machten im Netz die Runde.
Schutzmaßnahmen – Grok rüstet nach
Für Elon Musk und Xai gab es dafür reichlich Kritik und es wurde nachgebessert. Mittlerweile gibt es auch bei Xai Sicherheitsbarrieren in der KI. Bestimmte Bilder lassen sich damit nicht mehr generieren, erklärt Deutschlandfunk-Nova-Netzreporter Andreas Noll.
"Xai hat nachgebessert. So ist es jetzt nicht mehr möglich, Menschen zu generieren, die mit Waffen hantieren - oder Drogen konsumieren."
Elon Musk hat nach der Veröffentlichung von Grok 2.0 in der vergangenen Woche auf seinem X-Account zwar mehrfach für das Programm geworben, sich zur Debatte um Begrenzungen der KI bislang aber nicht geäußert.
Elon Musk selbst Fake-Opfer
Dabei sind fehlende Sicherheitsvorkehrungen der KI-Generatoren auch für Musk ein Problem. So erstellte die KI ein Bild von Elon Musk mit einer IS-Bombenweste, oder von Musk und Trump, die sich küssen, aber auch Anleitungen zum Bombenbau wurden generiert.
Das dürfte auch dem Tech-Milliardär nicht gefallen, zudem Fakes im US-Wahlkampf ein großes Thema sind und andere KI-Anbieter bereits für mangelhafte Sicherheitsvorkehrungen kritisiert wurden.
Grok kann bei der Bildqualität mithalten
Für die Bilderzeugung nutzt Grok das Flux.1-Modell der deutschen Black Forest Labs. Damit erzielt der Generator sehr gute Ergebnisse, die locker mit der Konkurrenz mithalten können und ziemlich realistisch aussehen, findet Andreas Noll. "Wobei ich nie gedacht hätte, dass das Foto von Donald Trump in Nazi-Uniform oder mit zwei Revolvern schießend wirklich echt sein könnte", sagt der Deutschlandfunk-Nova-Netzreporter.
"Grok verwendet zur Bilderzeugung das Flux.1-Modell der deutschen Black Forest Labs. Damit erzielt der Generator sehr gute Ergebnisse."
Zahlende Premium-Nutzer der Plattform X können Grok schon nutzen. Mit der KI möchte Elon Musk sein Angebot aufwerten und Nutzerinnen und Nutzern die Abo-Variante von X schmackhaft machen. Im Vergleich zur Konkurrenz kann Grok in Echtzeit auf die Daten der Plattform zugreifen – das ist natürlich ein gewisser Vorteil für die KI.