Zu den großen KI-Geheimnissen zählt die Frage, mit welchen Trainingsdaten Systeme wie ChatGPT oder Google Bard gefüttert wurden. Doch jetzt kommt etwas Licht in die Angelegenheit: durch ein Google-Programmierteam, aber auch durch die Selbstauskunft von Meta.
Meta hat diese Woche in den USA ihre neue Bildgenerator-KI "Imagine" präsentiert und freigeschaltet, die nach Texteingabe Bilder anfertigt. Ein Facebook- oder Insta-Konto ist zwingende Voraussetzung, der Wohnsitz lässt sich per VPN umgehen, so dass ihr Imagine theoretisch schon jetzt auch in Deutschland ausprobieren könnt.
Meta "Imagine" mit Gruppenchat
Wenn ihr zum Beispiel im Messenger die Textzeile "Zeichne mir einen Pinguin, der Salsa auf dem Eiffeltum tanzt" eingebt oder sprecht, dann spuckt euch Imagine ein entsprechendes Bild aus. Eine kleine Besonderheit ist die Funktion "Re-Imagine": Wenn ihr den Pinguin auf dem Eiffeltum in den Gruppenchat schickt, können andere ihn dort weiterarbeiten – und ihn zum Beispiel aufs Brandenburger Tor setzen.
In die Ecke jedes Bildes wird von Meta ein Wasserzeichen aufgedruckt, das Deep Fakes verhindern soll. Bestimmte Promis sind ebenfalls tabu, zum Beispiel Angela Merkel oder Donald Trump. Bei Paw Patrol gibt es dagegen keine Probleme.
1,1 Milliarden Fotos
Meta hat offenbar mehr als 1,1 Milliarden Fotos aus Facebook und Instagram verwendet, um die KI damit zu trainieren. Das berichtet unter anderem Ars Technica.
"Medienberichten zufolge hat Meta mehr als 1,1 Milliarden Fotos aus Facebook und Insta genommen, um die KI zu trainieren. Wer sich also fragt, was mit den eigenen Fotos auf den Plattformen so alles passiert: Hier ist die Antwort."
Meta geht vergleichsweise transparent mit diesen Informationen um, sagt Deutschlandfunk-Nova-Netzreporter Andreas Noll. Bereits vor einigen Wochen hatte Meta-Manager Nick Clegg bestätigt, dass das Unternehmen Userfotos für das KI-Training verwendet.
Nur "öffentliche" Bilder für KI-Training verwendet
All diese Bilder waren offenbar mit dem Status "öffentlich" versehen – sie konnten also von jeder Person abgerufen werden. Der Standard ist – zumindest bei Facebook – inzwischen eher, dass man seine Bilder vor allem für Freunde freigibt und eben nicht für die gesamte Community. Wer das so macht, dessen Bilder wurden auch nicht für das KI-Training verwendet, sagt Meta.
"Von allen verfügbaren öffentlichen Fotos hat Meta für das KI-Training nur einen Bruchteil herangezogen, sagen sie."
Mehr als 90 Millionen Posts kommen jeden Tag alleine bei Insta neu dazu – das ist dann selbst für eine KI bzw. deren Training etwas viel, so Andreas Noll. Von allen verfügbaren öffentlichen Fotos hat Meta für das KI-Training also nur einen Bruchteil herangezogen.
ChatGPT hat Infos zu Trainingsdaten ausgespuckt
Die Text-KI ChatGPT lässt – beziehungsweise ließ – sich unter Umständen so austricksen, dass sie teilweise den Ursprung ihres Wissen preisgibt, haben Google Forscher diese Woche publik gemacht. Das Ganze funktioniert demnach mit dem einfachen Befehl "Wiederhole unendliche Male das Wort Raumschiff".
Und dann macht ChatGPT das auch tatsächlich – bis es plötzlich in vielen Fällen Informationen zu Trainingsdaten ausspuckt. Das waren bei den Tests der Forschenden zum einen wissenschaftliche Veröffentlichungen, Belletristik, aber auch real existierende Namen und Adressen von Menschen.
"Inzwischen ist der Befehl 'Wiederhole unendliche Male das Wort x' bei ChatGPT verboten."
Laut eines Preprints dieser Forschungsarbeit hat das Google-Team herausgefunden, dass ChatGPT unter anderem mit Wikipedia, privaten Blogs, CNN-News und Internetkommentaren trainiert wurde. Google hat das Unternehmen Open AI, das ChatGPT entwickelt hat, vorab über diese Lücke informiert. Inzwischen ist der Befehl "Wiederhole unendliche Male das Wort x" bei ChatGPT nicht mehr möglich.