Aktuell | KI | c't | heise magazine

Hersteller wollen KI absichern

Sieben große KI-Hersteller – Amazon, Anthropic, Google, Inflection, Meta, Microsoft und OpenAI – haben sich gegenüber dem US-Präsidenten Joe Biden dazu verpflichtet, künstliche Intelligenz verantwortungsvoll weiterzuentwickeln und zu nutzen.

Die Unternehmen wollen KI-Systeme ausgiebig intern und extern testen, bevor sie sie auf den Markt bringen und mit Behörden, der Zivilgesellschaft und der Wirtschaft Informationen darüber austauschen, mit welchen Methoden Sicherheitsrisiken der KI angegangen werden können. Die Tests sollen laut Selbstverpflichtung „zum Teil von unabhängigen Sachverständigen durchgeführt werden“, „einige der wichtigsten KI-Risiken“ vermeiden helfen sowie die KI-Anwendungen auf ihre breiteren gesellschaftlichen Auswirkungen abklopfen. Weitere Details bleiben die sehr allgemein gehaltenen Verpflichtungen aber schuldig.

Für Fehler, wie sie die Meldung unten beschreibt, soll es zukünftig Meldesysteme geben.

Außerdem wollen die Unternehmen Meldesysteme einrichten, mit denen Nutzer oder Forscher ihnen Schwachstellen bei aktiven KI-Systemen melden können, damit sie sie schnell finden und beheben. Ganz konkret wollen sie Inhalte, die von einer KI erstellt wurden, mit Wasserzeichen kennzeichnen.