La UE impone marcas digitales para identificar el contenido generado con IA
Las nuevas reglas exigen marcas digitales detectables, avisos visibles para los «deepfakes» y etiquetas en determinados textos de interés público
Recurso de inteligencia artificial.
La Unión Europea ya exige identificar determinados contenidos generados o manipulados mediante inteligencia artificial. Las nuevas obligaciones de transparencia del Reglamento europeo de IA comenzaron a aplicarse este domingo y afectan a las empresas que desarrollan estas herramientas y a los profesionales, instituciones y plataformas que utilizan sus resultados.
La norma obliga a los proveedores de sistemas de inteligencia artificial generativa a incorporar marcas legibles por máquina que permitan detectar que una imagen, un audio, un vídeo o un texto ha sido producido o alterado artificialmente. Estas señales pueden integrarse mediante marcas de agua digitales, metadatos, credenciales de contenido u otros sistemas técnicos equivalentes.
No todos esos indicadores tendrán que aparecer necesariamente como una marca de agua visible sobre la imagen o el vídeo. El Reglamento exige que la procedencia artificial pueda ser reconocida técnicamente y, en algunos casos, que el público reciba además una advertencia clara y visible.
Esta última obligación afecta especialmente a los denominados deepfakes: imágenes, vídeos o grabaciones de audio generados o manipulados con IA que representan a personas, objetos, lugares o acontecimientos de forma que podrían parecer auténticos. Quienes publiquen este tipo de material deberán informar de su origen artificial.
También deberán etiquetarse los textos generados o manipulados con inteligencia artificial que se difundan para informar al público sobre asuntos de interés general cuando no hayan pasado por una revisión humana ni estén sometidos a control editorial.
La obligación no se aplicará de la misma manera cuando una persona haya revisado el contenido antes de publicarlo y exista un responsable editorial que asuma su difusión. Por tanto, la utilización de una herramienta de IA como apoyo para redactar o editar un texto no implica automáticamente que este tenga que aparecer etiquetado.
Las normas incluyen además a los sistemas conversacionales. Los usuarios deberán saber de forma clara que están interactuando con una máquina cuando utilicen un asistente virtual, un agente automatizado, un avatar o un chatbot, salvo que resulte evidente por las circunstancias.
Las empresas y organismos que empleen sistemas de reconocimiento de emociones o herramientas de categorización biométrica también tendrán que informar a las personas expuestas a estas tecnologías.
El Reglamento contempla un tratamiento específico para las obras artísticas, creativas, satíricas o de ficción. En estos casos, la advertencia deberá realizarse de una manera adecuada que no impida la exhibición o el disfrute de la obra.
La Comisión Europea ha preparado un código de buenas prácticas para facilitar el cumplimiento de estas exigencias. La adhesión al código es voluntaria, pero las obligaciones de etiquetado y marcado establecidas en el artículo 50 son vinculantes. Las compañías que opten por otros sistemas deberán demostrar que sus mecanismos ofrecen un nivel equivalente de transparencia.
La aplicación de las reglas corresponderá a las autoridades nacionales de vigilancia del mercado, a la Oficina Europea de Inteligencia Artificial en los sistemas bajo su supervisión y al Supervisor Europeo de Protección de Datos cuando estén implicadas instituciones comunitarias.
El incumplimiento puede ser sancionado con multas de hasta 15 millones de euros o, en el caso de las empresas, con hasta el 3% de su volumen de negocio mundial anual, teniendo en cuenta la gravedad de la infracción y el tamaño de la compañía.