Uso responsable de la inteligencia artificial
La inteligencia artificial (IA) es creada por humanos, por lo que refleja sus patrones de pensamiento, comportamientos, suposiciones y condicionamientos culturales, aunque sigue siendo una máquina. Para una convivencia responsable entre humanos y máquinas, es fundamental abordar tanto el por qué como el cómo de esta colaboración. Generamos confianza al guiar los algoritmos hacia principios éticos.
Al desarrollar decisiones automatizadas basadas en IA o métodos estadísticos, seguimos directrices claras. La premisa fundamental es: creamos aplicaciones de IA para el ser humano, no contra él. Nos basamos en las condiciones regulatorias, leyes vigentes y principios éticos, con el Código de Ética del Grupo Otto y los valores corporativos de one.O como marco esencial.
1. Prioridad del ser humano sobre la IA
La acción humana tiene prioridad sobre la IA; esta apoya la toma de decisiones. Supervisamos el rendimiento de nuestras aplicaciones y tenemos la posibilidad de intervenir en cualquier momento. Los modelos de IA también son validados regularmente por nosotros en operación. Visualizamos los resultados para detectar rápidamente anomalías. Este enfoque es especialmente relevante en casos de aplicación donde pueden surgir consecuencias significativas y pérdidas de confianza. La evaluación la realiza el departamento correspondiente.
2. Confianza a través de la transparencia
Una aplicación de IA solo tendrá éxito si los consumidores reconocen su valor añadido y genera confianza. Por lo tanto, informamos a los usuarios de que están interactuando con una IA y lo señalamos claramente. Comunicamos abiertamente las posibilidades y limitaciones de nuestra IA. Es importante para nosotros hacer comprensible el funcionamiento de la IA y, siempre que sea posible, también explicar los resultados de la aplicación. Evaluamos críticamente si un objetivo puede lograrse sin comprometer significativamente la calidad utilizando un sistema algorítmico que sea menos complejo y más fácil de entender.
3. No discriminación, diversidad y equidad
La diversidad es importante para nosotros. Nuestro objetivo es desarrollar modelos de IA que tomen decisiones justas y no discriminen. Por lo tanto, las suposiciones y los datos en los que se basa la IA deben ser lo más representativos posible. Sin embargo, somos conscientes de que la toma de decisiones automatizada también puede llevar a la discriminación, ya que diferentes criterios de equidad – que deben definirse al programar el algoritmo – pueden competir entre sí. Por lo tanto, no se pueden evitar por completo los sesgos discriminatorios incluso con sistemas de decisión basados en IA, ya que corregir una forma de injusticia puede, a su vez, resaltar otras formas de injusticia. Consideramos esto en el desarrollo y programación de la IA y revisamos nuestros resultados críticamente en este sentido. Para nosotros, el principio de reversibilidad es fundamental: los resultados de la IA son, en principio, reversibles, de modo que, con la debida justificación, las decisiones pueden ser revertidas mediante la intervención humana.
4. Sostenibilidad
Desarrollamos una aplicación de IA solo si tiene sentido. Si un método simple funciona mejor, lo utilizamos y lo comunicamos a nuestros clientes. Además, para nosotros, el principio del minimalismo de datos es fundamental: seleccionamos de manera específica los datos para nuestros modelos que son realmente necesarios y simplificamos nuestros modelos siempre que sea posible. Esto sirve para proteger la privacidad, reducir el tiempo de ejecución y disminuir el consumo de recursos.
5. Seguridad y robustez frente a la manipulación
Somos conscientes de que las aplicaciones de IA pueden ser engañadas o manipuladas intencionadamente. Por lo tanto, para las aplicaciones productivas, consideramos los estándares de seguridad más actuales y prestamos atención a proteger la base de datos y de decisiones contra manipulaciones intencionadas y no intencionadas. Para ello, invertimos tiempo de manera consciente en la investigación específica de la aplicación, especialmente en casos en los que se introducen datos desde el exterior. Nuestro objetivo es una IA que sirva a las personas y no les cause daño.
6. Protección y gestión de datos
La gestión responsable de datos y un almacenamiento seguro de datos son, para nosotros como miembros del Grupo Otto, no solo una obligación, sino también un rasgo de confianza. Por lo tanto, somos conscientes de la alta necesidad de protección de datos personales y sensibles. Comunicamos de manera tan transparente como sea posible qué datos son utilizados por quién y con qué propósito.
7. Responsabilidad, obligación y rendición de cuentas
Definimos de manera clara quién es responsable de cada sistema y función en nuestras aplicaciones automatizadas, y documentamos esto. La responsabilidad técnica recae en el departamento correspondiente y se ejerce según los principios de Human-in-command (HIC), Human-in-the-loop (HITL) y Human-on-the-loop (HOTL), dependiendo de la gravedad de la decisión. Así, HIC y HITL se utilizan en aplicaciones más críticas, mientras que HOTL se aplica en aquellas menos críticas, como las recomendaciones. Las tareas asociadas deben ser conocidas por las personas responsables, lo que también se aplica en caso de responsabilidad compartida. Las cuestiones de responsabilidad se abordan dentro del marco de las disposiciones legales vigentes.
IA en comercio y logística
La inteligencia artificial no es un fin en sí mismo para nosotros, sino una herramienta importante para apoyar el comercio y la logística. El ser humano siempre mantiene la responsabilidad en este proceso. Esto significa para nosotros comercio responsable.
IA en el comercio digital
En nuestro documento técnico gratuito, descubrirá qué potenciales de aplicación le ofrece la IA en el comercio digital y qué aspectos debe tener en cuenta al implementarla.
