Verantwortungsvoller Umgang mit Künstlicher Intelligenz
Künstliche Intelligenz (KI) ist von Menschen programmiert. Sie entspricht somit menschlichen Denk- und Verhaltensmustern, Annahmen und kulturellen Prägungen – bleibt aber eine Maschine. Um ein verantwortungsvolles Miteinander von Mensch und Maschine zu erreichen, sollten wir sowohl über das Warum als auch über das Wie einer Zusammenarbeit sprechen. Wir erzeugen Vertrauen, indem sich Algorithmen auch an ethischen Grundsätzen orientieren.
Daher sind uns bei der Entwicklung automatisierter Entscheidungen auf Basis künstlicher Intelligenz oder statistischer Verfahren folgende Leitlinien wichtig. Oberste Prämisse: Wir entwickeln KI-Anwendungen für den Menschen – nicht gegen ihn. Als Leitplanken dienen uns regulatorische Rahmenbedingungen, geltende Gesetze und ethische Prinzipien – primär der Code of Ethics der Otto Group sowie unsere one.O-Unternehmenswerte.
1. Vorrang Mensch vor KI
Menschliches Handeln hat Vorrang vor der KI – sie unterstützt die Entscheidungsfindung. Wir überwachen die Performance unserer Anwendungen und haben jederzeit die Möglichkeit, einzugreifen. KI-Modelle werden auch im Betrieb regelmäßig von uns validiert. Ergebnisse visualisieren wir, um Auffälligkeiten schnell zu erkennen. Dieses Vorgehen kommt vor allem in Anwendungsfällen zum Tragen, in denen weitreichende Konsequenzen und Vertrauensverluste möglich sind. Das betrifft insbesondere die Entwicklung von Bots und die Nutzung von Large Language Models. Eine Bewertung darüber, wie viel Autonomie wir der KI zugestehen, trifft der Fachbereich.
2. Vertrauen durch Transparenz
Transparenz gegenüber Fachbereichen
Eine KI-Anwendung, insbesondere im Bereich von generativer KI, wird nur dann erfolgreich, wenn Anwender*innen ihren Mehrwert erkennen und sie Vertrauen generiert. Wir kommunizieren gegenüber den einzelnen Fachbereichen offen über die Möglichkeiten und Grenzen unserer KI sowie generativer KI-Tools. Wichtig ist uns, die Funktionsweise von KI verständlich zu machen und, sofern möglich, auch die Ergebnisse der Anwendung zu erklären. Dies beginnt damit, dass wir die Fachbereiche, mit denen wir Anwendungen gemeinsam entwickeln, umfassend über die Funktionsweise generativer KI informieren. Dabei prüfen wir kritisch, ob sich ein Ziel ohne wesentliche Qualitätseinbußen auch mit einem klassischen Ansatz erreichen lässt, das weniger komplex und leichter nachvollziehbar ist.
Vertrauen von Kund*innen
Die Entwicklung einer KI-Anwendung wird durch den Mehrwert gegenüber unseren Kund*innen motiviert und anhand von beispielsweise dem Friendly User Test und dem Business User Test validiert und ständig verbessert. Die Implementierung als Nutzer*innenanwendung gelingt zunächst kleinschrittig und wird nach sorgfältigen Testprozessen ausgeweitet. Wir sind überzeugt, dass Transparenz der Schlüssel zum Aufbau von Vertrauen generativer KI ist. Deshalb kommunizieren wir, gemäß den gesetzlichen Vorgaben des EU AI Acts, offen über die Fähigkeiten und Grenzen unserer Tools. Kund*innen sollen genau wissen, was sie erwarten können. Wenn eine Anfrage außerhalb des aktuellen Funktionsumfangs liegt, wird dies kommuniziert. Darüber hinaus stärken wir das Vertrauen durch kontinuierliche Überwachung und Analyse der Performance unserer KI-Anwendungen. So können wir frühzeitig Verbesserungspotenziale erkennen und die Kundenerfahrung stets optimieren.
3. Nichtdiskriminierung, Vielfalt und Fairness
Kritische Ergebnisprüfung
Vielfalt ist uns wichtig. Unser Ziel ist es, Modelle zu entwickeln und zu nutzen, die faire Entscheidungen treffen und nicht diskriminieren. Daher sollten Annahmen und Daten, auf denen die KI basiert, möglichst repräsentativ sein. Es ist uns jedoch bewusst, dass auch automatisierte Entscheidungsführung zu Diskriminierung führen kann, da unterschiedliche Fairnesskriterien – diese gilt es beim Programmieren des Algorithmus zu definieren – zuweilen miteinander konkurrieren. Demnach lassen sich diskriminierende Verzerrungen auch mit KI-basierten Entscheidungssystemen, einschließlich solcher, die generative KI nutzen, nicht ausnahmslos vermeiden. Wir berücksichtigen dies bei der Entwicklung und Programmierung unserer Modelle und überprüfen die Ergebnisse dahingehend kritisch.
Prinzip der Umkehrbarkeit
Dabei gilt für uns das Prinzip der Umkehrbarkeit: Die Ergebnisse der KI sind grundsätzlich reversibel, sodass Entscheidungen durch menschliches Eingreifen rückgängig gemacht werden können. Der Einsatz generativer KI ermöglicht es uns, Teilhabe zu stärken und Diskriminierung im Sinne des Barrierefreiheitsstärkungsgesetzes aktiv abzubauen.
Prüfung externer KI-Lösungen
Bevor wir externe generative KI-Lösungen intern einsetzen, prüfen wir sie sorgfältig anhand verschiedener Kriterien wie Datenschutz, politische Neutralität, Diskriminierungsfreiheit und den EU-Richtlinien. Wir behalten unsere Prinzipien im Blick und passen externe Lösungen gegebenenfalls an, damit sie unseren Standards entsprechen.
4. Nachhaltigkeit
Wir entwickeln eine KI-Anwendung nur dann, wenn sowohl die Stakeholder als auch die technischen Expert*innen sie als sinnvoll erachten. Nicht alles technisch Mögliche setzen wir um. Funktioniert eine einfache Methode besser, verwenden wir diese und machen unsere Kund*innen darauf aufmerksam. Zudem gilt für uns das Prinzip des Datenminimalismus: Während der Entwicklung einer Anwendung wählen wir gezielt Daten für unsere Modelle aus, die wirklich notwendig sind, und verschlanken diese falls möglich. Dies dient dem Datenschutz, der Laufzeit und dem geringeren Ressourcenverbrauch. Dabei sind wir uns der potenziellen Umweltauswirkungen durch den erhöhten CO2-Austoß der KI bewusst und wägen sorgfältig zwischen Ressourcenverbrauch und Nutzen ab.
5. Sicherheit und Robustheit gegenüber Manipulation
Wir sind uns bewusst, dass Formen von KI-Anwendungen absichtlich getäuscht oder manipuliert werden können. Daher berücksichtigen wir für produktive Anwendungen die jeweils aktuellen Sicherheitsstandards und legen Augenmerk darauf, die Daten- und Entscheidungsbasis gegen gewollte und ungewollte Manipulation zu schützen. Hierfür investieren wir bewusst Zeit in die notwendige anwendungsspezifische Recherche – insbesondere in Fällen, in denen Daten von außen eingespielt werden. Unser Ziel: eine KI, die Menschen dient und ihnen nicht schadet. Gerade im Bereich generativer KI ist dieser Schutz von entscheidender Bedeutung, weshalb wir unter anderem an der Implementierung einer “Zweiten Instanz” arbeiten, um zusätzliche Sicherheitsebenen zu schaffen. In diesem Zusammenhang machen wir uns auch das Phänomen von ‚halluzinierender generativer KI‘ bewusst und steuern bei der Softwareentwicklung unserer Tools aktiv dagegen, indem wir diese anhand von verschiedenen Ansätzen testen.
6. Datenschutz und Datenmanagement
Verantwortungsvolles Datenmanagement und eine sichere Datenspeicherung sind für uns als Mitglied der Otto Group nicht nur Verpflichtung, sondern auch Vertrauensmerkmal. Daher ist uns der hohe Schutzbedarf von persönlichen und sensiblen Daten bewusst. Wir kommunizieren so transparent wie möglich, welche Daten von wem zu welchem Zweck verwendet werden.
7. Verantwortung, Haftung und Rechenschaftspflicht
Wir definieren für unsere automatisierten Anwendungen klar, wer für welches System und welche Funktion verantwortlich ist, und dokumentieren dies. Die fachliche Verantwortung liegt bei dem entsprechenden Fachbereich und wird abhängig von der Tragweite der Entscheidung nach den Prinzipien Human-in-command (HIC), Human-in-the-loop (HITL) und Human-on-the-loop (HOTL) wahrgenommen. So kommen HIC und HITL bei eher kritischen Anwendungen zum Einsatz, HOTL hingegen bei eher unkritischen wie Recommendations. Die damit verbundenen Aufgaben müssen den zuständigen Personen bewusst sein – dies gilt auch bei geteilter Verantwortung. Dabei kann die Verantwortung nicht an eine KI übergeben werden, ausgewählte Tätigkeiten schon. Haftungsfragen werden im Rahmen rechtlich geltender Vorgaben beantwortet.
8. Entwicklungskultur und Zukunftsorientierung
Die Möglichkeiten von KI begeistern uns. Wir haben keine Angst, Fehler zu machen – aus ihnen zu lernen, ist ein Schlüsselfaktor für unseren Fortschritt. Wir starten in unseren Entwicklungen klein mit viel Überwachung (HITL- und HIC-Ansätze). Erst wenn ein ausreichendes Maß an Vertrauen in die Zuverlässigkeit und Sicherheit einer entwickelten Anwendung erreicht ist, erwägen wir den Übergang zum Human-on-the-Loop (HOTL)-Prinzip. Dabei bleibt die Verantwortung entlang unserer acht Prinzipien im Vordergrund.
Wir sind neugierig auf die kommenden Entwicklungsstufen von KI – wir wollen Vorreiter sein, Chancen nutzen und uns kommenden Herausforderungen stellen.
Glossar
Dieser Ansatz beschreibt, dass die KI keinerlei Aktionen direkt ausführt, sondern immer erst ein Mensch eine Freigabe erteilen muss. Ein Beispiel dafür wäre ein Mitarbeiter, der sich eine von der KI generierten Antwortemail anschaut und diese erst nach Freigabe an Kunden geschickt wird.
Dieser Ansatz beschreibt, dass eine KI Anwendung in Teilen autonom agieren kann, aber der Mensch sich jederzeit einschalten kann. Ein Beispiel dafür ist der Voicebot, der Routine-Anfragen selbst beantwortet, aber das Gespräch bei komplizierteren Anliegen an einen Menschen weitergeleitet wird.
Dieser Ansatz beschreibt nun, dass die KI Anwendung noch mehr selbstständig agieren kann, ohne das Menschen einzelne Gespräche überwachen oder E-Mails erst freigeben müssen. Ein Beispiel dafür wäre einmal mehr der Voicebot, der nun selbst sehr viele Gespräche führen kann. Im Hintergrund werden Qualitätsmetriken von Menschen ausgewertet. Sollten Auffälligkeiten auftauchen, schaltet sich der Mensch ein.
Dieser Test beschreibt das Testen und Ausprobieren von einer KI Anwendung relativ am Anfang der Entwicklungsphase. Hier testen Testpersonen die Anwendung mit einem wohlwollenden Auge und geben eine erste Rückmeldung aus Kundensicht.
Dieser Test funktioniert ähnlich wie der Friendly User Test, nur das die Testpersonen dieses mal aus dem Betrieb selbst stammen. Der Business User Test kommt nach dem Friendly User Test zum Einsatz, also nachdem erste externe Rückmeldungen aufgegriffen und die Anwendung weiter verbessert wurde.
Entdecken Sie unser AI Hub
Unser AI Hub bietet Ihnen eine einheitliche Infrastruktur zur Nutzung verschiedenster KI-Anwendungen. Von Shopping Assistenten bis hin zu sprachbasierten Anwendungen ermöglichen wir Ihnen personalisierte Services und Shoppingerlebnisse für Ihre Kund*innen.
KI in Handel und Logistik
Künstliche Intelligenz ist für uns kein Selbstzweck, sondern ein wichtiges Werkzeug, um Handel und Logistik zu unterstützen. Der Mensch bleibt dabei immer in der Verantwortung. Das bedeutet für uns Responsible Commerce.
