By Christoph
Der VÖBB-Chatbot ist mit großen Ankündigungen[1] vor knapp einem halben Jahr gestartet. Die ZLB spricht in ihrer Pressemeldung[2] vom weltweit ersten Katalog-Chatbot für Bibliotheken. Grund genug ihn einmal genauer unter die Lupe zu nehmen. Wie funktioniert er? Was kann er?
Auffällig ist zunächst einmal, dass die ZLB in der Pressemeldung nebulös von „zwei KI-Systemen“spricht. Auch auf der Seite des Anbieters werden hierzu keine weiteren Auskünfte gegeben[3]. Es wird lediglich deutlich, dass es sich offenbar um ein Produkt handelt, welches unter dem Namen ASK auch an andere „Bibliotheken, Archiven und öffentlichen Institutionen“[4] vermarktet werden soll. Fragt man den Chatbot direkt, gibt er ausweichende Antworten.
Einen Namen hatte ich ihm zwar nicht genannt, aber gut „Dave“ erhält leider keine Antwort. Auch beim Thema Datenschutz sind die Antworten unbefriedigend. (Immerhin hat er mir meine Schreibweise des Wortes „Chatbot“ nicht übel genommen).
Keine Auskunft über den Serverstandort, aber immerhin ein Verweis (wenn auch kein Link) auf die Datenschutzverordnung des VÖBBs. Dort findet sich ein eigener Punkt mit dem Namen „KI-Chatbot“[5]:
„Der KI-Chatbot des VÖBB nutzt einen Service der Firma reelport GmbH. Dieser Service setzt keine Cookies auf Ihrem Gerät. Die Fragen, die Sie an den Chatbot stellen, werden über eine Schnittstelle an die Firma OpenAI übertragen. Zweck der Übertragung ist die Nutzung eines KI-Systems zur Erstellung von Medien-Empfehlungen für Sie. Eine Übertragung personenbezogener Daten an OpenAI findet dabei nicht statt. Die lokal gespeicherten Verlaufsdaten Ihres Chats werden mit Beendigung der OPAC-Session auf Ihrem Gerät gelöscht.“
Hier wird nur ein KI-Anbieter genannt, nämlich OpenAI. Forscht man weiter, gelangt man auf eine GitHub-Seite[6], auf der der dazugehörige Prime-Prompt einsehbar ist. Auch Änderungen sind hier sichtbar und endlich wird auch die ChatGPT-Version offenbart. Seit dem 29. Oktober handelt es sich um 4o-mini, zuvor 3.5. Warum daraus ein derartiges Geheimnis gemacht werden muss, erschließt sich mir nicht.
Ich befrage den Bot erneut zum Thema LLM und erhalte folgende Antwort:
Insgesamt gibt es zu grundsätzlichen technischen Fragen nur spärliche Informationen. Eine konkretere Erwähnung hierzu konnte ich in einem Mastodon-Beitrag[7] finden:
„Der Dienst entsteht in Kooperation mit den Firmen aStec (Bereitstellung des OPAC-Abzugs, Integration in die VÖBB Seiten) sowie reelport, die die OpenAI API durchleiten sowie das Embedding und Backend für den Prompt verwalten.“
Man setzt also auf ein „zurechtgestutztes“ ChatGPT in Kombination mit einem (aktuelleren) Datenbankabzug. Eine „Live“-Suche im Katalog per API ist also nicht gegeben, somit können auch keine Verfügbarkeiten augegeben werden. Warum man nicht wenigstens den Standort (und wenn auch nur auf spezielle Nachfrage) eines Mediums nennen kann, erschließt sich allerdings nur bedingt. Möglicherweise wird der Datenbankabzug zu unregelmäßig erstellt. Es wäre allerdings ein großer Mehrwert, wenn man als Nutzender des Chatbots die nächste Bibliothek genannt bekommen würde, in der das Medium vorhanden ist. Verbunden mit einem Direktlink zum Datensatz dieser Bibliothek, um die Verfügbarkeit zu prüfen. Dies müsste technisch ohne weiteres möglich sein.
Im Moment stellt sich beim Nutzen des Chatbots sehr oft die Frage, was der Bot eigentlich besser kann als ChatGPT oder ein Katalog. Was genau soll er also leisten? Soll er Auskunftstheken ersetzen? Wem könnte er in welcher Situation nützlich sein?
Diesen Fragen wird in den nächsten beiden Teilen (Teil 2) weiter nachgegangen.
[1] Tilman Scheel (CEO von AboutSometinK , Anbieter des Chartbots) sprach vollmundig von einem „Elon-Musk-Ansatz“: https://www.faz.net/pro/digitalwirtschaft/kuenstliche-intelligenz/deutsche-bibliotheken-preschen-mit-ki-chatbot-voran-19827898.html
[2] https://www.zlb.de/presse/chatbot-auf-den-katalogseiten-des-voebb/
[3] https://aboutsomethink.org
[4] https://aboutsomethink.org/de/ueber-ask/
[5] https://www.voebb.de/aDISWeb_vob/datenschutz.html
[6] https://github.com/voebb-dev/voebb-chatbot/blame/main/prime-prompt.md
[7] https://openbiblio.social/@rstockm/112553747341925038
Grafik: DALL-E 3 (Promt: „Ein Bild mit einem Computer und einem Menschen. Auf dem Computer ist ein Chatbot zusehen, der sich den Mund zuhält.“) vom 21.12.2024.