Jordi Marín / La Revolución de la IA: Cómo las Empresas Pueden Adaptarse

Hoy tenemos con nosotros a Jordi Marin, experto en transformación digital e innovación. Jordi, bienvenido. Recientemente participaste en una trobada d’alumni de l’Escola de Consellers d’Iese en la sede de Aenor en Madrid. ¿Qué nos puedes contar sobre eso?

Jordi Marin: Gracias por invitarme. Sí, fue un placer estar allí. Durante mi intervención, profundicé en el impacto de la inteligencia artificial en el entorno empresarial, examinando tanto las estrategias generales como los retos y oportunidades que esta tecnología presenta para las organizaciones. Uno de los puntos centrales fue la nueva regulación europea sobre la IA, el IA Act.

Pregunta: Hablemos de ese IA Act. ¿Qué es exactamente y por qué es tan importante?

Jordi Marin: El IA Act de la Unión Europea es la primera regulación global integral sobre inteligencia artificial. Clasifica los sistemas de IA según sus niveles de riesgo y pone requisitos estrictos para los de alto riesgo. Sectores como la sanidad, el transporte, la banca, los recursos humanos o cualquier aplicación que pueda vulnerar derechos fundamentales serán los más afectados.

Pregunta: ¿Y cómo se clasifican esos niveles de riesgo según el IA Act?

Jordi Marin: Hay cuatro niveles. El riesgo inaceptable incluye sistemas completamente prohibidos por poner en peligro derechos fundamentales, como la manipulación subliminal o la vigilancia masiva. Luego está el alto riesgo, que afecta derechos fundamentales, como la IA en procesos de contratación, crédito bancario o gestión de servicios esenciales. El riesgo limitado exige transparencia, como en asistentes virtuals o reconocimiento facial. Y el riesgo mínimo cubre la mayoría de sistemas, como filtros de correo basura o recomendaciones en plataformas de streaming.

Pregunta: Parece un marco muy detallado. ¿Cuáles son los aspectos principales de esta regulación?

Jordi Marin: Destacaría tres: transparencia y explicabilidad, para que los sistemas sean comprensibles y fáciles de interpretar; supervisión humana, asegurando que haya control humano en decisiones críticas; y gestión de riesgos y seguridad, con medidas para mitigar riesgos y garantizar fiabilidad. Esto marca un antes y un después en cómo las empresas adoptan la IA, estableciendo un marco claro para una gestión responsable.

Pregunta: Hablas de prohibiciones también. ¿Qué aplicaciones están en la mira?

Jordi Marin: Sí, ciertas tecnologías como la vigilancia masiva o la manipulación subliminal están restringidas o directamente prohibidas por su capacidad de vulnerar derechos fundamentales. La idea es proteger a los ciudadanos.

Pregunta: Y si una empresa no cumple con esto, ¿qué pasa?

Jordi Marin: Las sanciones son severas. El incumplimiento puede acarrear multes de hasta el 6% del volumen de negocio global de la empresa. Es una cifra que deja claro lo en serio que va la UE con esto.

Pregunta: Hay quienes dicen que Europa regula demasiado pronto. ¿Qué opinas de ese debate?

Jordi Marin: Más allá de si es excesivo o si había que esperar, la realidad es que la regulación ya está aquí y las empresas deben adaptarse. Muchos de sus elementos son de sentido común en la gestión diaria: transparencia, seguridad, protección de derechos. Además, en un mercado cambiante, cumplir con esto puede ser un valor diferencial y mejorar la competitividad.

Pregunta: Durante la trobada, mencionaste a Aenor. ¿Qué papel juega en este contexto?

Jordi Marin: Aenor está desarrollando certificaciones específicas para garantizar que las empresas cumplan con los principios éticos y normativos del IA Act. Por ejemplo, ofrecen la certificación ISO/IEC 42001:2023, que da un marco para gestionar riesgos y oportunidades de la IA, y el curso S-39, ‘Fonaments per a una Intel·ligència Artificial responsable’, que enseña a adoptar una IA ética y cumplir con la normativa europea.

Pregunta: ¿Cómo ayudan estas certificaciones a las empresas?

Jordi Marin: Permiten demostrar un compromiso con una IA fiable y segura, reforzando la confianza de clientes y socios. En un mercado cada vez más regulado, esto también mejora la reputación.

Pregunta: Cerramos con una reflexión tuya que aparece en el artículo: «A mesura que la IA continua avançant, és fonamental que les empreses es preparin per garantir el seu ús ètic i transparent». ¿Por qué es tan clave este mensaje?

Jordi Marin: Porque el desarrollo y la implementación de la IA deben hacerse con responsabilidad. Cumplir con normativas como el IA Act y asegurar una gestión ética no solo evita sanciones, sino también impactos económicos y reputacionales negativos. Es fundamental preparar a las empresas para este nuevo escenario y mantener la confianza de los usuarios.

Jordi, muchas gracias por explicarnos cómo navegar los riesgos de la IA en las empresas. ¡Un placer tenerte aquí!

Jordi Marin: El placer es mío. Gracias.