Unió Europea

L’1 d’agost de 2024 va marcar un punt d’inflexió en la regulació tecnològica europea amb l’entrada en vigor del Reglament Europeu d’Intel·ligència Artificial, conegut com a AI Act. Aquest marc normatiu, pioner a escala mundial, té com a objectiu fomentar el desenvolupament i la implementació responsables de la intel·ligència artificial (IA) a la Unió Europea (UE), abordant els possibles riscos per a la salut, la seguretat i els drets fonamentals dels ciutadans.

L’entrada en vigor del Reglament Europeu d’Intel·ligència Artificial representa un pas decisiu cap a una regulació integral de la IA a la UE. Aquest marc normatiu estableix les bases per a un desenvolupament i ús de la IA que siguin segurs, ètics i respectuosos amb els drets fonamentals, posicionant Europa com a líder en la governança responsable de les tecnologies emergents.

L’AI Act estableix una classificació dels sistemes d’IA basada en el nivell de risc que poden representar:

1. Risc Inacceptable: Sistemes d’IA prohibits per considerar-se una amenaça per als drets fonamentals, com la manipulació subliminal que pugui provocar danys o la puntuació social per part dels governs.
2. Risc Alt: Sistemes que afecten sectors crítics com l’educació, l’ocupació, les infraestructures essencials i l’administració de justícia. Aquests sistemes estan subjectes a estrictes obligacions de transparència, supervisió humana i avaluació de conformitat abans de la seva comercialització.
3. Risc Limitat: Sistemes que requereixen obligacions específiques de transparència, com informar els usuaris que estan interactuant amb una IA, garantint així una presa de decisions informada.
4. Risc Mínim o Nul: Sistemes que representen un risc mínim per als drets o la seguretat dels usuaris i que, per tant, no estan subjectes a obligacions addicionals.

El reglament imposa diverses obligacions tant als proveïdors com als usuaris de sistemes d’IA:

• Proveïdors: Han de garantir que els sistemes d’IA de risc alt compleixin els requisits de gestió de riscos, governança de dades, documentació tècnica, transparència, supervisió humana i robustesa. A més, estan obligats a registrar aquests sistemes en una base de dades de la UE abans de la seva comercialització.
• Usuaris: Han d’utilitzar els sistemes d’IA segons les instruccions proporcionades, assegurar-se que estiguin sota supervisió humana i monitorar-ne el funcionament per informar de qualsevol incident greu o mal funcionament.

L’AI Act busca equilibrar la promoció de la innovació amb la protecció dels drets fonamentals. Al imposar obligacions proporcionals al nivell de risc, es pretén mitigar possibles danys sense, en teoria, obstaculitzar el desenvolupament tecnològic. No obstant això, sorgeixen desafiaments en la interpretació i aplicació d’aquestes normes, especialment pel que fa a la definició de les categories de risc i la implementació de mesures de supervisió i transparència.