Temas de la semana

El AI Act se aplica

Transparencia, deepfakes y el retraso europeo de los sistemas de alto riesgo

Descarga la aplicación para escuchar este podcast y muchos más.

Crea podcasts a la carta y lleva Five Cents contigo en iPhone y Android.

Descargar la aplicación ↗
Escuchar el podcast

Guion del podcast

Arrancamos con Five Cents. El AI Act se aplica. Vamos a entender qué cambia desde este agosto: los avisos al hablar con una IA, el etiquetado de contenidos sintéticos, las obligaciones de los grandes modelos y el retraso de las reglas más duras para sistemas de alto riesgo.

La mejor forma de leer este momento es separar lo que ya se puede exigir de lo que todavía queda en espera.

El AI Act no es una norma que trate toda la inteligencia artificial por igual. Europa la ordena según el riesgo.

Algunas prácticas especialmente invasivas están prohibidas desde febrero de dos mil veinticinco. También está en vigor la obligación de formar al personal que usa IA en organizaciones. Los proveedores de modelos de propósito general, la base de muchos asistentes generativos, tienen reglas desde agosto de dos mil veinticinco.

Ahora, desde el dos de agosto de dos mil veintiséis, entra en aplicación la mayor parte del reglamento. El cambio importante es que la regulación deja de ser solo una tarea de preparación. Empresas, administraciones y grandes proveedores tienen que poder demostrar cómo cumplen.

Para un ciudadano, el efecto más visible estará en la transparencia. Cuando una persona interactúe con determinados chatbots o asistentes, deberá saber que habla con una máquina. No se trata de prohibir estos servicios, sino de evitar que parezcan una persona sin avisarlo de forma clara.

También entran en juego las imágenes, audios y vídeos generados o manipulados con inteligencia artificial. Los llamados deepfakes son el caso más evidente. La norma exige mecanismos de identificación en los supuestos que cubre el reglamento, para que se pueda reconocer el origen artificial o la manipulación del contenido.

Eso no significa que cualquier imagen sin etiqueta sea ilegal desde hoy. Hay excepciones, requisitos concretos y un periodo de adaptación.

Los sistemas generativos que ya estaban en el mercado antes del dos de agosto disponen, en determinados casos, hasta el dos de diciembre de dos mil veintiséis para adaptar sus soluciones de marcado.

Durante unos meses convivirán avisos visibles, señales técnicas menos evidentes y contenidos que no están obligados a llevar etiqueta.

La otra gran pieza son los modelos de propósito general. Son los grandes modelos que otras empresas integran en sus propios productos.

Sus proveedores deben mantener documentación técnica, informar a quienes usan esos modelos para crear servicios, aplicar una política de respeto a los derechos de autor y publicar un resumen de los datos utilizados para entrenarlos.

Desde este agosto, la Comisión Europea y su Oficina de IA tienen más capacidad para supervisar ese cumplimiento y sancionar si procede.

Para las grandes tecnológicas, ya no basta con publicar principios generales. Tendrán que acreditar cómo documentan, informan y reducen riesgos.

Para una empresa española que usa IA en atención al cliente, marketing o análisis interno, la pregunta no es si le afecta todo el AI Act. Normalmente, no.

Lo primero es saber qué papel desempeña. No es igual desarrollar un sistema que utilizar una herramienta de un proveedor externo. Tampoco es igual generar textos internos que publicar contenido para clientes, o automatizar decisiones que afectan a empleados, consumidores o usuarios de un servicio.

La revisión práctica pasa por inventariar qué herramientas se usan, qué datos manejan, si interactúan con personas y qué contenidos pueden requerir identificación.

También conviene revisar los contratos con proveedores, formar a los equipos y establecer una revisión humana cuando la IA participa en comunicaciones públicas o decisiones sensibles.

Las administraciones afrontan un reto todavía mayor. La IA puede intervenir en empleo, educación, ayudas públicas, justicia o migración.

En esos ámbitos, la trazabilidad y la supervisión humana importan porque un fallo puede afectar directamente a derechos o al acceso a un servicio.

En España, AESIA tendrá un papel relevante, aunque la supervisión se repartirá con autoridades europeas, nacionales y sectoriales.

El matiz decisivo está en los sistemas de alto riesgo. El calendario original situaba buena parte de sus obligaciones en agosto de dos mil veintiséis.

Son las más exigentes: gestión de riesgos, calidad de datos, documentación, supervisión humana, precisión y ciberseguridad. Pero su aplicación se ha retrasado.

Los sistemas de alto riesgo independientes quedan previstos para el dos de diciembre de dos mil veintisiete.

Los integrados en productos regulados, como determinados dispositivos médicos o maquinaria, para el dos de agosto de dos mil veintiocho.

Las instituciones europeas y parte del sector sostienen que hace falta tiempo para completar estándares técnicos y evitar normas imposibles de aplicar con seguridad jurídica.

Los críticos responden que se aplazan precisamente las garantías para usos que pueden condicionar empleo, crédito, educación o servicios esenciales.

Por eso, el AI Act no supone que Europa haya prohibido la inteligencia artificial ni que todo contenido creado con IA deba llevar una gran etiqueta.

Sí abre una etapa más concreta: más transparencia para el público, más exigencias para los proveedores de modelos y más capacidad de supervisión.

Pero las reglas más estrictas para decisiones de alto impacto aún tardarán en llegar.

Para continuar, puedes generar un nuevo Five Cents sobre cómo identificar deepfakes y contenidos sintéticos, o sobre IA en recursos humanos: riesgos y obligaciones.

Son dos ángulos útiles para entender qué se verá en pantalla y qué decisiones deberán revisar las organizaciones.

Ya estás al día en cinco minutos.

Descarga la aplicación para escuchar este podcast y muchos más.

Crea podcasts a la carta y lleva Five Cents contigo en iPhone y Android.

Descargar la aplicación ↗