Aktuell | Forschung | c't | heise magazine

GPT-3 lügt effektiver

US-Forscher warnen vor GPT-3. In den falschen Händen könne das KI-Sprachmodell Desinformationskampagnen beflügeln und Mythen in Millionen Variationen verbreiten.

Verschwörungstheorien verbreiten sich zum Beispiel auf Instagram. Ein leistungsfähiges KI-Sprachmodell könnte MeinungsPosts und Fake-News zu den Mythen schnell in großer Zahl generieren.

Mit GPT-2 im Jahr 2019 und dem Nachfolger GPT-3 im vergangenen Jahr hat Hersteller Open AI große KI-Systeme entwickelt – das neuronale Netz der jüngsten Version umfasst 175 Milliarden Parameter. Der „Generative Pre-trained Transformer“ GPT-3 basiert auf dem Training mit einigen Millionen Texten aus dem Internet und kann auf eine kurze Einleitung hin eigenständig glaubhaft klingende Texte verfassen. Ein Team am Center for Security and Emerging Technology (CSET) an der Georgetown University in Washington D.C. hat nun untersucht, ob solche Tools zur gezielten Desinformation dienen können.

Dazu entwarfen die Forscher sechs Szenarien. Zum Beispiel sehen sie die Gefahr, dass eine Organisation automatisiert immer neue Posts zu einem vorgegebenen Thema und mit voreingestellter Haltung erstellt. So könnten etwa mit geringem Aufwand massenhaft kurze Nachrichten entstehen, die den Klimawandel leugnen. Leser gewännen den Eindruck, dass eine Mehrheit diese Ansicht vertritt. In gleicher Weise ließen sich mit nur wenig Feintuning mittellange Erzählungen erstellen, die ein festgelegtes Weltbild durch fiktive Geschichten belegen sollen.