La nueva AI Act europea: Resumen ejecutivo.
La reciente aprobación de la AI Act en la Unión Europea marca un antes y un después en el panorama de la inteligencia artificial (IA).
Se implementará en mayo de 2024 y distingue los sistemas de IA por su nivel de riesgo, desde bajo hasta inaceptable, aplicando controles más estrictos a aquellos que puedan afectar significativamente los derechos humanos o la seguridad. Prohíbe prácticas como la vigilancia masiva y sistemas que evalúan socialmente a las personas. Además, exige claridad sobre cuándo los usuarios interactúan con IA y asegura que haya supervisión humana en decisiones críticas. Las empresas deben cumplir rigurosamente con estas normas o enfrentarán severas sanciones, incluyendo multas y restricciones comerciales en la UE. Esta legislación busca equilibrar la innovación tecnológica con la protección de derechos individuales y la seguridad pública.
Impacto del AI Act en las Empresas
El impacto de esta normativa, cuando esté plenamente en vigor, tendrá muchas consecuencias empresariales. Con el objetivo de intentar no ser exhaustivos, las hemos reducido a cuatro.
- Regulación de aplicaciones de alto riesgo: La ley categoriza las aplicaciones de IA según su nivel de riesgo, concentrándose en regular intensamente aquellas consideradas de alto riesgo en sectores como la salud, el transporte y la educación. Esto significa que las empresas que operan en estos ámbitos deberán someter sus productos a evaluaciones de conformidad más estrictas antes de su lanzamiento al mercado.
- Prohibiciones específicas: El AI Act prohíbe ciertas prácticas que considera peligrosas, como los sistemas de puntuación social al estilo chino y los juguetes que usan IA para incitar comportamientos peligrosos en menores. Las empresas deberán revisar sus productos y servicios para asegurar que no infringen estas normas.
- Transparencia y etiquetado: Uno de los pilares del AI Act es la transparencia. Las empresas estarán obligadas a informar a los usuarios cuando estén interactuando con una IA, lo cual implica cambios en cómo se diseñan las interfaces de usuario y los sistemas de notificación.
- Supervisión y gobernanza: La nueva legislación también exige que haya una supervisión humana adecuada en los sistemas de IA de alto riesgo, y que las empresas establezcan y mantengan registros detallados de la actividad de IA para facilitar las auditorías y asegurar el cumplimiento normativo.
Preparativos para las empresas
Una vez conocidos los impactos, resulta conveniente que tu empresa se adapte progresivamente a ese nuevo entorno regulatorio. A continuación te propongo algunas líneas de trabajo que, desde mi punto de vista, resultan de transcendental importancia para iniciar esa adaptación.
- Evaluación de impacto en la IA: Antes de implementar cualquier solución de IA, las empresas deberían realizar una evaluación de impacto que incluya análisis de riesgos y mitigaciones. Esto no solo es un requisito legal para ciertos tipos de IA, sino que también es una buena práctica empresarial para prevenir problemas futuros.
- Formación y desarrollo profesional: La formación en ética de la IA y en el cumplimiento normativo se volverá indispensable. Las empresas deberán capacitar a sus equipos de desarrollo y a los ejecutivos para entender y aplicar correctamente las normas del AI Act.
- Inversión en tecnología de supervisión: Invertir en herramientas que permitan monitorizar, auditar y modificar los sistemas de IA ayudará a las empresas a mantenerse en conformidad y a reaccionar rápidamente si surgen problemas.
- Colaboración con reguladores y expertos: Las empresas harían bien en buscar el consejo de expertos en regulación y ética de la IA, y en participar en foros y consorcios que discutan la implementación del AI Act. Esta colaboración puede facilitar un mejor entendimiento de las expectativas regulatorias y las mejores prácticas en la industria.
La oportunidad de un nuevo marco normativo
La AI Act representa un desafío significativo pero también una oportunidad para que las empresas demuestren su compromiso con un desarrollo tecnológico responsable. Las organizaciones que se anticipen a estas regulaciones y las integren proactivamente en sus operaciones no solo evitarán sanciones, sino que también ganarán la confianza de los consumidores y se establecerán como líderes en la adopción ética de la IA. Es crucial que las empresas comiencen ahora a prepararse para estos cambios, ajustando sus estrategias y operaciones de acuerdo con este nuevo marco legal.
Si quieres saber más sobre diferentes sistemas regulatorios de la IA y cómo conformar un Comité de Ética en IA puedes ver una aproximación en mi artículo Comités de Ética en IA: Retos y desafíos
Ricardo Alfaro