Una sanción sin precedentes en la Unión Europea
La Autoridad de Protección de Datos de los Países Bajos (DPA) ha impuesto una multa récord de 825 millones de euros (aproximadamente 964 millones de dólares) a la plataforma de transporte Uber. La sanción responde a una violación directa del Reglamento General de Protección de Datos (RGPD) de la Unión Europea, específicamente en lo relativo al uso de algoritmos para la toma de decisiones críticas sin supervisión humana.
El conflicto: Decisiones automatizadas y falta de transparencia
Según la investigación de los reguladores neerlandeses, Uber utilizó software automatizado para suspender las cuentas de sus conductores, en ocasiones de forma permanente, sin que existiera un proceso de revisión por parte de una persona física que verificara la corrección de dichas medidas. Esta práctica se llevó a cabo entre los años 2018 y 2022.
Además de la falta de intervención humana, la autoridad señaló que Uber no informó adecuadamente a los conductores sobre el funcionamiento de estos sistemas de decisión automática, lo que supone un incumplimiento de los principios de transparencia y lealtad en el tratamiento de datos personales.
Contexto técnico: El Artículo 22 del RGPD
Desde una perspectiva de cumplimiento normativo, este caso pone el foco en el Artículo 22 del RGPD, el cual establece que todo interesado tiene derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar.
En el ámbito empresarial, esto implica que cualquier sistema de Inteligencia Artificial o algoritmo que pueda impactar la vida laboral o económica de un individuo debe contar con salvaguardas, siendo la más importante la intervención humana (el concepto de human-in-the-loop).
La postura de Uber y el impacto reputacional
Por su parte, Uber ha manifestado su desacuerdo con la resolución y ha anunciado que presentará un recurso de apelación. La compañía sostiene que la investigación se basó en políticas históricas que ya han sido modificadas y asegura que actualmente cuentan con procesos de revisión humana y mecanismos de apelación para los conductores.
Esta es la cuarta sanción que la DPA neerlandesa impone a Uber. Cabe recordar que en 2024 la empresa ya fue multada con 290 millones de euros por transferencias internacionales de datos a Estados Unidos sin las protecciones adecuadas, lo que subraya la vigilancia intensiva a la que están sometidas las grandes tecnológicas en territorio europeo.
Lecciones para el tejido empresarial
Este caso sirve como una advertencia crítica para las organizaciones que integran la automatización en sus procesos de gestión de recursos humanos o clientes:
- Auditoría de Algoritmos: Es imperativo revisar si los sistemas automatizados están tomando decisiones vinculantes sin supervisión.
- Transparencia: Los usuarios deben conocer cuándo y cómo se están utilizando sus datos para procesos automatizados.
- Derecho de Reclamación: Las empresas deben ofrecer canales claros para que las personas afectadas por una decisión automática puedan solicitar una revisión humana.
En Intedya, recordamos la importancia de alinear la innovación tecnológica con los marcos legales vigentes para evitar riesgos financieros y reputacionales que pueden comprometer la viabilidad de la organización.
Fuentes
- SecurityWeek — Uber Fined Nearly $1 Billion by Dutch Regulators Over Automated Suspensions of Driver Accounts
https://www.securityweek.com/uber-fined-nearly-1-billion-by-dutch-regulators-over-automated-suspensions-of-driver-accounts/