Les noves normes afecten empreses, administracions, mitjans i creadors professionals, que hauran d’avisar quan publiquin ‘deepfakes’ o textos d’interès públic generats sense supervisió humana
La Unió Europea aplica des d’aquest diumenge, 2 d’agost, noves obligacions de transparència sobre l’ús de la intel·ligència artificial. Empreses, administracions i organitzacions hauran d’informar els ciutadans quan interactuïn amb una IA o quan difonguin determinats continguts creats o manipulats amb aquesta tecnologia.
La mesura forma part del desplegament progressiu del Reglament europeu d’intel·ligència artificial, aprovat definitivament el 2024. Brussel·les vol reduir els riscos d’engany, manipulació i desinformació, especialment davant la proliferació d’imatges, vídeos i àudios falsos cada vegada més difícils de distingir dels reals.
Quins continguts s’hauran d’identificar?
Les noves obligacions afecten, en primer lloc, els proveïdors de sistemes d’IA, com OpenAI amb ChatGPT, Anthropic amb Claude o Google amb Gemini. Aquestes empreses hauran de dissenyar les seves eines perquè els usuaris sàpiguen de manera explícita que estan interactuant amb una intel·ligència artificial.
La norma també inclou els generadors d’imatges, les eines de síntesi de veu i altres sistemes capaços de produir contingut artificial. A més d’avisar els usuaris, els proveïdors hauran d’incorporar marques llegibles per màquina perquè altres sistemes puguin detectar si una imatge, un vídeo, un àudio o un text han estat generats o modificats amb IA.
Les obligacions també recauen sobre les empreses, administracions i organitzacions que utilitzen aquestes eines. Hauran d’identificar els continguts coneguts com a deepfakes, és a dir, peces audiovisuals manipulades que poden fer creure que una persona ha dit o ha fet alguna cosa que no ha succeït.
També caldrà informar de l’ús de sistemes de reconeixement d’emocions o de categorització biomètrica. En el cas dels textos sobre assumptes d’interès públic, l’etiquetatge serà obligatori quan hagin estat generats amb IA i publicats sense revisió humana ni control editorial.
Les correccions ortogràfiques o gramaticals i altres modificacions que no alterin substancialment el contingut queden fora d’aquesta exigència.
Què passa amb WhatsApp i les xarxes socials?
Els usos estrictament personals no estaran afectats per les noves obligacions. Això significa que, per ara, una persona no haurà d’avisar els seus contactes de WhatsApp que els envia una imatge o un text creat amb intel·ligència artificial.
La situació canvia quan el contingut es publica amb una finalitat professional o comercial. En aquests casos, especialment si hi ha un benefici econòmic, sí que caldrà complir les normes de transparència.
A les xarxes socials, la responsabilitat recaurà sobre la persona, empresa o organització que crea i publica el contingut, i no directament sobre la plataforma que l’allotja. Instagram, Facebook i altres serveis ja han començat a incorporar voluntàriament avisos per identificar algunes publicacions generades amb IA.
La Comissió Europea també ha elaborat un codi de bones pràctiques i un conjunt d’icones que es poden utilitzar per assenyalar aquests continguts.
Multes de fins a 15 milions d’euros
El compliment de la normativa serà supervisat per les autoritats de vigilància dels estats membres, l’Oficina Europea d’Intel·ligència Artificial i, en el cas de les institucions comunitàries, el Supervisor Europeu de Protecció de Dades.
Les infraccions poden comportar sancions de fins a 15 milions d’euros o del 3% de la facturació anual mundial de l’empresa responsable.
La vicepresidenta de la Comissió Europea per a la Sobirania Tecnològica, Henna Virkkunen, defensa que les noves directrius han de facilitar una aplicació “fluida i eficaç” del reglament i aconseguir que els sistemes d’intel·ligència artificial siguin més transparents i fiables.
Prohibició dels continguts sexuals sense consentiment
La regulació europea també prohibirà els sistemes destinats a generar contingut sexual o íntim explícit sense consentiment, així com material d’abús sexual infantil. Aquesta prohibició començarà a aplicar-se el 2 de desembre, de manera que les empreses disposen fins aleshores per adaptar-hi els seus sistemes.
El veto inclourà les eines creades específicament per produir imatges, vídeos o àudios sexuals sense consentiment, però també els sistemes comercialitzats sense mesures de seguretat suficients per impedir-ne la generació.
L’enduriment de la normativa arriba després de diverses polèmiques per la difusió massiva a les xarxes de falsificacions sexualitzades de dones reals. Amb les noves regles, la Unió Europea vol reforçar la protecció de les víctimes i posar límits a uns usos de la intel·ligència artificial que poden vulnerar greument la intimitat i la dignitat de les persones.
