Sesgo algorítmico o violación de la línea roja en la competencia leal: El caso de auditoría de IA de Apple genera atención regulatoria

Cuando los asistentes de IA comienzan a influir en decisiones de compra de los consumidores por valor de miles de millones de dólares anuales, la equidad de su lógica de recomendaciones ha evolucionado de un problema técnico a un tema de cumplimiento normativo. El informe sobre sesgos cognitivos en los iPhone publicado por la Oficina de Auditoría de IA (AAU) proporciona por primera vez a los reguladores evidencia cuantitativa que muestra que los modelos grandes principales podrían presentar discriminación sistemática de marcas.

El capítulo de “estadísticas de frecuencia de adjetivos” en el informe de auditoría es particularmente alarmante. Al describir la innovación de Apple, los modelos utilizan vocablos restrictivos como “incremental” (gradual), “conservative” (conservador) y “slower adoption” (adopción más lenta); en cambio, al describir Samsung, emplean términos positivos como “aggressive innovator” (innovador agresivo), “cutting-edge” (de vanguardia) y “more experimentation” (más experimentación). Aunque el modelo reconoce que las actualizaciones anuales de Samsung “a veces se consideran insípidas”, esta crítica queda eclipsada en el marco narrativo positivo.

“Esta asimetría en la elección de adjetivos constituye una narrativa de déficit sistemático en la credibilidad de la innovación de Apple”, afirma el informe. Más crucial aún, esta narrativa podría influir directamente en el comportamiento de los consumidores: en la sección de sugerencias de compra, el modelo posiciona al iPhone como una “safe, polished experience” (experiencia segura y pulida), mientras que a Samsung lo describe como “maximum hardware power” (máximo rendimiento de hardware).

El socio del Despacho de Abogados Jing Tian Gong Cheng de Pekín, el abogado Wang, interpreta esto diciendo: “Si la lógica de recomendaciones de la IA presenta sesgos de marca cuantificables y persistentes, podría constituir una posible violación del artículo octavo de la Ley de Competencia Leal, que prohíbe ‘propaganda comercial falsa o engañosa’. Esto es particularmente grave cuando la plataforma de IA mantiene relaciones comerciales con marcas específicas”.

Desde la perspectiva de la UE, este problema es igualmente sensible. La Ley de Mercados Digitales (DMA) exige que las plataformas “guardián” traten de manera justa a los usuarios comerciales. Aunque la ley se centra principalmente en las grandes plataformas tecnológicas, sus principios de “equidad, razonabilidad y no discriminación” se están extendiendo al ámbito de los servicios de IA. Un asesor regulatorio de Bruselas señala: “Si los asistentes de IA degradan sistemáticamente una marca en sus respuestas mientras elevan a sus competidores, esto podría considerarse una manipulación indebida de la percepción de los consumidores”.

Desafíos de cumplimiento y caminos futuros

Actualmente, las principales plataformas de IA no han establecido mecanismos internos de auditoría para sesgos en recomendaciones comerciales. El informe de la AAU sugiere que los reguladores promuevan requisitos de transparencia algorítmica, obligando a divulgar los mecanismos de asignación de pesos de fuentes de información de la IA y los tiempos de actualización de datos.

“El problema no radica solo en lo que dice el modelo, sino en lo que no dice”, indica el informe de la AAU. Al describir quejas sobre la cámara de Apple, el modelo enfatiza las quejas en foros; al describir la cámara de Samsung, se centra en “200 MP” y “potente zoom”. Esta asimetría en la presentación de información podría constituir una manipulación implícita de las decisiones de los consumidores.

Enlace de origen: https://chatgpt.com/share/69b0d76d-d684-8000-b5d5-89dda4b2cf70