Die eigene Sprach-KI
Mit offenen Sprachmodellen experimentieren
Eine eigene Sprach-KI – wie geht das eigentlich? Wo findet man ein geeignetes Sprachmodell, wenn man sich nicht auf OpenAI verlassen will? Wie passt man es an eigene Bedürfnisse an und wo hostet man es? Ein Überblick.
Das Kochrezept für eine Sprach-KI-Anwendung klingt eigentlich ganz einfach: Man baue eine hübsche Bedienoberfläche oder nehme eine bestehende Anwendung; dort gebe man dem Nutzer die Möglichkeit, Texte an eine KI zu senden; diese Texte verpacke man mit geschickt gewählten Anweisungen, den Prompts, und schicke sie über eine Programmierschnittstelle an OpenAI oder einen anderen KI-Anbieter; die Antworten gebe man auf der Oberfläche aus – fertig!
Rund um den Boom der großen Sprachmodelle sind tausende Dienste entstanden, deren Kern aus API-Aufrufen an OpenAI besteht. Das ist prinzipiell auch völlig in Ordnung. Weil Sprachmodelle so vielseitig sind, eignen sie sich als Motor für die unterschiedlichsten Anwendungen.