Les noves normes de la IA a la UE entren en vigor aquest diumenge amb l’objectiu de reforçar la transparència en l’ús de la intel·ligència artificial. I així, protegir els ciutadans davant possibles casos d’engany, manipulació o desinformació. A partir d’ara, tant els desenvolupadors de sistemes d’IA com les empreses i organitzacions que els utilitzen hauran d’informar clarament els usuaris quan interactuen amb una intel·ligència artificial. També quan un contingut ha estat generat o modificat amb aquesta tecnologia.
La mesura forma part del desplegament progressiu del Reglament Europeu d’Intel·ligència Artificial. La primera legislació integral del món destinada a regular aquesta tecnologia segons el nivell de risc que comporta.
ChatGPT, Gemini o Claude
Les noves obligacions afecten plataformes d’IA generativa com ChatGPT, Gemini o Claude. Així com eines capaces de crear imatges, àudios o vídeos sintètics. A més d’informar els usuaris, aquests sistemes hauran d’incorporar marques digitals llegibles per màquina perquè altres plataformes puguin identificar fàcilment que el contingut ha estat creat o manipulat amb intel·ligència artificial.
La normativa també s’adreça a empreses, administracions i entitats que facin servir aquests sistemes. Hauran d’avisar els usuaris quan utilitzin eines de reconeixement d’emocions o categorització biomètrica, quan publiquin deep fakes o quan difonguin textos generats íntegrament amb IA sobre qüestions d’interès públic sense supervisió humana ni control editorial.
En canvi, la Comissió Europea aclareix que les obligacions no s’aplicaran als usos exclusivament personals. Per exemple, un usuari no haurà d’indicar que una imatge creada amb IA s’ha compartit per WhatsApp en una conversa privada. Sí que serà obligatori quan el contingut tingui una finalitat professional, comercial o econòmica.
A les xarxes socials, la responsabilitat de complir la normativa recaurà sobre la persona o organització que publica el contingut, i no sobre la plataforma on s’allotja, tot i que serveis com Instagram o Facebook ja han començat a etiquetar voluntàriament aquest tipus de publicacions.
Multes de fins a 15 milions d’euros
El control del compliment correspondrà a les autoritats nacionals, a l’Oficina Europea d’IA i al Supervisor Europeu de Protecció de Dades. Les infraccions podran comportar multes de fins a 15 milions d’euros o el 3% de la facturació anual mundial de l’empresa responsable.
A més, el pròxim 2 de desembre entrarà en vigor una nova prohibició que impedirà comercialitzar o utilitzar sistemes d’IA destinats a generar contingut sexualment explícit sense consentiment o material d’abús sexual infantil, una mesura impulsada després de la proliferació de deep fakes sexuals difosos a les xarxes socials.
