La Comissió Europea defensa l’aplicació estricta de l’AI Act després que Anthropic hagi reclamat alentir el desenvolupament dels models més avançats
La cursa per crear sistemes d’intel·ligència artificial cada vegada més potents ha encès les alarmes dins la mateixa indústria tecnològica. Davant els advertiments sobre una evolució difícil de controlar, la Unió Europea reivindica la seva regulació i recorda a les grans companyies que han de demostrar que els seus models són segurs abans de desplegar-los.
La vicepresidenta executiva de la Comissió Europea Teresa Ribera ha qualificat d’“absolutament preocupants” els avisos procedents dels gegants de la intel·ligència artificial. Durant una intervenció al Fòrum Europa, a Madrid, Ribera ha defensat la necessitat de mantenir les normes europees que regulen les grans plataformes tecnològiques.
Les seves declaracions arriben després que Dario Amodei, conseller delegat d’Anthropic, demanés a les empreses del sector que alentissin el desenvolupament dels models més avançats. Amodei considera que les capacitats de la tecnologia progressen més de pressa que els mecanismes encarregats de supervisar-la i garantir-ne la seguretat.
La seva proposta no planteja aturar la investigació, sinó donar temps a desenvolupar mesures de control eficaces. També reclama més supervisió externa, coordinació entre companyies i cooperació internacional per evitar que la competència comercial converteixi la seguretat en una qüestió secundària.
Ribera alerta d’una concentració de poder excepcional
La vicepresidenta comunitària ha advertit especialment del risc que la intel·ligència artificial continuï creixent a partir d’informació generada per altres sistemes artificials i mitjançant algoritmes que no estan sotmesos a prou control.
Ribera ha instat les institucions i els governs a arribar a acords per impedir que aquesta tecnologia acabi “fora de control”. També ha assenyalat la concentració de poder en mans d’un grup molt reduït de corporacions digitals.
Per a la vicepresidenta de la Comissió Europea, és difícil trobar un altre moment de la història amb un nivell de concentració comparable. Les empreses que desenvolupen els models més avançats acumulen una enorme capacitat tecnològica, econòmica i informativa, però també una influència creixent sobre els serveis que utilitzen milions de persones.
El debat ja no gira només al voltant de les oportunitats econòmiques o creatives de la intel·ligència artificial. La capacitat dels nous sistemes per programar, actuar de manera autònoma, detectar vulnerabilitats informàtiques o coordinar diversos agents ha convertit la seguretat en una qüestió política de primer ordre.
Complir la legislació europea no és opcional
La Comissió Europea ha volgut deixar clar que el suport a la innovació no implica rebaixar les obligacions de les empreses. El portaveu comunitari de Sobirania Tecnològica, Thomas Regnier, ha recordat que complir la legislació europea sobre intel·ligència artificial “és una obligació”.
Regnier ha remarcat que la Unió Europea està a favor del desenvolupament de la IA, però que es pren molt seriosament les salvaguardes establertes per protegir la ciutadania. La responsabilitat de demostrar la seguretat dels serveis recau sobre les mateixes companyies que els desenvolupen i els comercialitzen.
Això significa que una empresa no pot traslladar tota la responsabilitat als usuaris ni esperar que siguin les institucions les que detectin els possibles problemes una vegada el producte ja sigui al mercat. Els desenvolupadors han d’avaluar els riscos, documentar les mesures de protecció i facilitar la supervisió externa.
Brussel·les ja ha començat a aplicar les eines previstes per l’AI Act. La Comissió ha enviat les primeres peticions formals d’informació a empreses del sector per examinar aspectes com la seguretat, les proves independents, el seguiment posterior dels models, la transparència i el respecte dels drets d’autor.
L’Agència de la Unió Europea per a la Ciberseguretat, l’ENISA, també està provant alguns dels models més recents. Aquestes anàlisis permeten comprovar de manera independent si els sistemes poden ser manipulats o utilitzats per atacar xarxes, serveis i infraestructures essencials.
L’ONU situa els drets humans al centre del debat
Els avisos europeus han coincidit amb una advertència de l’alt comissionat de les Nacions Unides per als Drets Humans, Volker Türk. El responsable de l’ONU considera que el ràpid desenvolupament de la intel·ligència artificial pot posar en risc drets tan bàsics com la vida, la salut, la privacitat, la seguretat o l’accés a l’alimentació.
Türk alerta que una fallada greu o l’ús maliciós d’aquests sistemes podria paralitzar serveis essencials, interrompre les comunicacions, desestabilitzar infraestructures crítiques o atacar les institucions democràtiques. En els escenaris més greus, poblacions senceres podrien quedar sense accés a l’aigua, la calefacció o els serveis financers.
Les Nacions Unides també assenyalen l’impacte de la IA en els conflictes armats. L’automatització pot accelerar la presa de decisions militars, ampliar l’abast de les operacions i reduir el control humà sobre sistemes d’armes amb una capacitat destructiva creixent.
La seguretat intenta atrapar una tecnologia que no espera
Els advertiments d’Anthropic, la Comissió Europea i les Nacions Unides mostren una paradoxa cada vegada més evident. Els mateixos actors que lideren la revolució tecnològica reconeixen que les mesures de seguretat no avancen al mateix ritme que les capacitats dels nous models.
Davant aquesta cursa, la Unió Europea presenta l’AI Act com la principal barrera legal per obligar els gegants digitals a retre comptes. Brussel·les sosté que la innovació no pot avançar a costa dels drets i la seguretat de la ciutadania, encara que això impliqui imposar límits a algunes de les empreses més poderoses del món.
