Aktuell | Künstliche Intelligenz | c't

Die größten Risiken von ChatGPT & Co.

Prompt Injections, Nutzung ungeprüfter Antworten, das Vergiften von Trainingsdaten: Das Sicherheitsprojekt OWASP hat eine Top 10 der Sicherheitsrisiken beim Einsatz großer Sprachmodelle veröffentlicht.

Große Sprachmodelle (Large Language Models, LLMs) eröffnen neue Bedrohungsszenarien für (Web-)Anwendungen. Dem trägt das Sicherheitsprojekt Open Worldwide Application Security Project, OWASP, jetzt Rechnung. Es hat mit etwa 500 Experten aus aller Welt die zehn wichtigsten Schwachstellen von LLMs zusammengetragen.

Demnach ergibt sich das größte Bedrohungspotenzial durch sogenannte Prompt Injections. Dabei versuchen Angreifer, LLMs durch gezielte Eingaben dazu zu bringen, in ihrem Sinne zu agieren – zum Beispiel, um Eingaben anderer Benutzer abzufangen (siehe auch c’t 10/2023, S. 26).