ChatGPT sicher und rechtskonform: Die Otto Group baut ihre unternehmenseigene KI-Lösung auf Azure OpenAI auf

Die Herausforderung: effizientes Wissensmanagement für 41.000 Mitarbeitende

28 Paar Schuhe auf 14 handgebundenen Seiten, produziert in einer Auflage von 300 Exemplaren – das war der Beginn der Otto Group. 1950 erschien der erste OTTO-Katalog, erst ein Jahr zuvor hatte Werner Otto das Unternehmen in Hamburg gegründet. Unter dem Motto „Vertrauen gegen Vertrauen“ führte OTTO als erster Versandhandel in Deutschland die Bezahlung per Rechnung ein und sein Katalog wurde ein Renner. Im Laufe von mehr als 70 Jahren hat sich die Otto Group zum deutschen Handels- und Dienstleistungsunternehmen mit weltweit mehr als 41.000 Mitarbeitenden entwickelt und ist in den Unternehmensbereichen Einzelhandel, Finanzierung und Logistik sowie E-Commerce aktiv – eine Größenordnung, in der effizientes Wissensmanagement eine Herkulesaufgabe darstellt.

Je schwieriger Informationen und Know-how im Unternehmen zugänglich und praktisch nutzbar sind, umso langsamer und ineffizienter werden die Prozesse: Informationen eigenhändig aus endlos langen FAQ-Dokumenten herauszusuchen, ist nur eines der zeitintensiven Beispiele. Wäre es an dieser Stelle nicht viel effizienter, wenn es eine Person gäbe, die jederzeit schnell und einfach Fragen zu diesem Thema beantworten könnte?

„Mit ChatGPT war die technische Lösung plötzlich da. Wir mussten sie nur für uns nutzbar machen mit Blick auf die rechtlichen Rahmenbedingungen zu Datenschutz und Informationssicherheit“, sagt Florian Leuerer, Expert Machine Learning and AI bei der Otto Group IT. „Die Herausforderung war, alle Beteiligten an einen Tisch zu holen: die Rechtsabteilung, Cloud Compliance und den Betriebsrat. Gemeinsam mit Microsoft haben wir das Thema auf alle Belange abgeklopft und auf sichere und konforme Beine gestellt“, ergänzt Anja Körber, Head of Artificial Intelligence & Automation bei der Otto Group IT. Einer der aufwendigen Teile beim Aufsetzen von ogGPT war damit geschafft. Die Basis: Azure OpenAI Service, der auch das Large Language Model (LLM) zur Verfügung stellt.

Die Lösung: ogGPT antwortet schnell, datenschutzkonform und rechtssicher

ogGPT nutzt Azure OpenAI Service und bietet Nutzer*innen damit die Möglichkeit, Dokumente und Wissensdatenbanken hochzuladen. „Stellen Mitarbeiter*innen ogGPT eine Frage, läuft diese von ogGPT zum OpenAI Service von Microsoft und die KI greift gegebenenfalls auf diese Wissensdatenbank zu, um die Fragen zu beantworten", erklärt Florian Leuerer. Auch die Verwaltung der Nutzer*innen läuft dank Microsoft Entra ID in der Cloud. „Eine KI ist komplex, aber die Implementierung und Nutzung in Azure sind wirklich einfach. Zudem können wir ganz kurzfristig auf ein neueres Modell umsteigen. So verhindern wir, dass unsere Daten als Trainingsdaten in OpenAI Modelle wandern und sind mit dem Standort Europa hinsichtlich der DSGVO auch auf der sicheren Seite“, so Florian Leuerer weiter.

Aktuell können 26.000 Nutzer*innen auf ogGPT zugreifen. Das nächste Ziel ist, 10.000 weiteren den Zugang zu ermöglichen. Die KI macht Wissen und Informationen einfacher und schneller zugänglich, Einzelpersonen und dem gesamten Konzern. „Die Group IT stellt auf diesem Wege beispielsweise ihre FAQs zu den IT-Services bereit. Statt sich mühsam erst das richtige Stichwort zu überlegen und dann das Dokument durchzulesen, können die Anwender*innen sich jetzt quasi mit dem Dokument unterhalten und ihm Fragen stellen. Die KI antwortet direkt, alles geht schneller und einfacher“, berichtet Anja Körber.

Das Feedback ist positiv bis begeistert. Die KI ist kreativer Buddy für Konzepte, erzeugt Testdaten, generiert Bilder, sucht Informationen und fasst sie auf Wunsch zusammen, verknüpft sie mit anderen Inhalten und nennt sogar die Quellen, aus denen sie ihr Wissen bezieht. „Mir erleichtert ogGPT die Arbeit enorm. Eine PowerPoint Präsentation von mehr als 20 Seiten zusammenzufassen hat mich ohne KI bis zu drei Stunden gekostet. Jetzt geht das viel einfacher in einer guten halben Stunde inklusive Übersetzung ins Englische“, sagt Jessica de Lafuente Torres, Project Lead interne Kommunikation und IT Marketing bei der Otto Group IT. „An unzähligen Stellen im Unternehmen wird an Use Cases gearbeitet, das Potenzial ist riesig.“

Durch Workshops und mit Informationen zum Selbstlernen werden Angebote zum Einstieg für neue und bereits erfahrene Nutzer*innen bereitgestellt – mit Tipps und Hilfen, wie das Tool einfach und regelkonform zu nutzen ist. „Im Grunde ist die Anwendung intuitiv, aber etwas Übung braucht es schon“, sagt KI-Experte Florian Leuerer. „Dabei zeigen wir die Möglichkeiten und Use Cases auf, ganz gleich für welche Abteilung und welches Jobprofil. Inzwischen unterstützen sich die Nutzer*innen auch untereinander.“

Die Userzahlen steigen kontinuierlich. „Perspektivisch überlegen wir, Lösungen für umfangreiche Suchfunktionen, zum Beispiel mit Azure AI Search, und KI-gestützte Apps aufzusetzen“, blickt Florian Leuerer in die Zukunft. „Außerdem interessieren uns die multimodalen Fähigkeiten von GPT-4. Die KI verarbeitet als Input nicht nur Text, sondern auch Bilder. Sie kann beispielsweise Fragen zu Screenshots beantworten oder anhand einer Skizze die grafische Benutzeroberfläche eines Computersystems programmieren.“