La Unión Europea ha advertido a Microsoft que podría ser multada con hasta el 1% de su facturación anual a nivel mundial bajo el régimen de gobernanza en línea del bloque, la Ley de Servicios Digitales (DSA), después de que la empresa no respondiera a una solicitud legalmente vinculante de información (RFI) que se centraba en sus herramientas de inteligencia artificial generativa.
A fines de marzo, la UE solicitó a Microsoft y a otros gigantes tecnológicos información sobre los riesgos sistémicos que plantean las herramientas de inteligencia artificial generativa. El viernes, la Comisión dijo que Microsoft no proporcionó algunos de los documentos solicitados.
La Comisión dio a la empresa hasta el 27 de mayo para proporcionar los datos solicitados o correr el riesgo de ser sancionada. Las multas bajo la DSA pueden alcanzar hasta el 6% de los ingresos anuales globales, pero la información incorrecta, incompleta o engañosa proporcionada en respuesta a una RFI formal puede resultar en una multa independiente del 1%. Eso podría sumar una penalización de hasta un par de miles de millones de dólares en el caso de Microsoft, ya que la empresa reportó ingresos de $211.92 mil millones en el año fiscal que terminó el 30 de junio de 2023.
Las obligaciones de riesgo sistémico de las plataformas más grandes bajo la DSA son supervisadas por la Comisión misma, y esta advertencia se suma a un conjunto de opciones de ejecución poderosas que podrían resultar mucho más costosas para Microsoft que cualquier daño reputacional que pueda sufrir por no presentar los datos solicitados.
La Comisión dijo que falta información relacionada con los riesgos derivados de las características de IA generativa del motor de búsqueda Bing, destacando en particular al asistente de IA "Copilot en Bing" y la herramienta de generación de imágenes "Creador de imágenes por Designer".
La UE dijo que está particularmente preocupada por los riesgos que las herramientas puedan plantear al discurso cívico y a los procesos electorales.
La Comisión dio a Microsoft hasta el 27 de mayo para proporcionar la información faltante o arriesgarse a una multa del 1% de los ingresos anuales. Si la empresa no presenta los datos para entonces, la Comisión también podría imponer "sanciones periódicas" de hasta el 5% de sus ingresos diarios promedio o de su facturación anual mundial.
Bing fue designado como un "motor de búsqueda en línea muy grande" (VLOSE) bajo la DSA en abril de 2023, lo que significa que está sujeto a una capa adicional de obligaciones relacionadas con la mitigación de riesgos sistémicos como la desinformación.
La obligación de la DSA para que las plataformas más grandes mitiguen la desinformación coloca a las tecnologías de IA generativa directamente en el punto de mira. Los gigantes tecnológicos han estado a la vanguardia de incorporar el GenAI en sus plataformas principales a pesar de graves defectos como la tendencia de los grandes modelos de lenguaje (LLM) a fabricar información y presentarla como un hecho.
También se ha demostrado que las herramientas de generación de imágenes impulsadas por IA producen resultados racialmente sesgados o potencialmente dañinos, como deepfakes engañosos. Mientras tanto, la UE tiene unas elecciones el próximo mes, lo que está concentrando la atención en Bruselas en la desinformación política impulsada por la IA.
\"La solicitud de información se basa en la sospecha de que Bing pudo haber violado la DSA por los riesgos vinculados a la IA generativa, como las llamadas 'alucinaciones', la difusión viral de deepfakes y la manipulación automatizada de servicios que pueden engañar a los votantes\", escribió la Comisión en un comunicado de prensa.
\"Bajo la DSA, los servicios designados, incluido Bing, deben llevar a cabo una evaluación de riesgos adecuada y adoptar medidas de mitigación de riesgos respectivas (Arts. 34 y 35 de la DSA). La IA generativa es uno de los riesgos identificados por la Comisión en sus directrices sobre la integridad de los procesos electorales, en particular para las próximas elecciones al Parlamento Europeo en junio\", agregó.
Al ser contactado para hacer comentarios, un portavoz de Microsoft envió una declaración en la que afirma estar \"profundamente comprometido en crear experiencias seguras en línea y trabajar con los reguladores en este importante tema\".
\"Hemos estado cooperando plenamente con la Comisión Europea como parte de la solicitud voluntaria de información y seguimos comprometidos en responder a sus preguntas y compartir más sobre nuestro enfoque de seguridad digital y cumplimiento de la DSA\", escribió también Microsoft, agregando: \"A través de nuestra amplia gama de servicios en línea, tomamos medidas para medir y mitigar los posibles riesgos. Eso incluye una serie de acciones para preparar nuestras herramientas para las elecciones de 2024 y ayudar a proteger a los votantes, candidatos, campañas y autoridades electorales. También seguiremos colaborando con nuestros colegas de la industria como parte del Pacto Tecnológico para Combatir el Uso Engañoso de la IA en las Elecciones de 2024\".
Este informe se actualizó con un comentario de Microsoft
La UE intensifica la vigilancia de las principales plataformas sobre los riesgos de GenAI antes de las elecciones
