Pentru organizațiile care se întreabă ce este AI Act, regulamentul stabilește un cadru legal pentru dezvoltarea și utilizarea responsabilă a inteligenței artificiale în Uniunea Europeană.
AI Act reprezintă primul cadru legal cuprinzător din lume dedicat reglementării inteligenței artificiale.
Adoptat de Uniunea Europeană în 2024 sub denumirea oficială Regulamentul (UE) 2024/1689, acesta stabilește reguli armonizate pentru dezvoltarea, utilizarea și comercializarea sistemelor de inteligență artificială în spațiul european.
Obiectivul principal este promovarea unui ecosistem de AI sigur, etic și centrat pe respectarea drepturilor fundamentale ale persoanelor, printr-o abordare bazată pe niveluri de risc.
Regulamentul a intrat în vigoare la 1 august 2024, iar cerințele sale se aplică progresiv, cu termene care se extind până în 2030.
De ce a fost creat AI Act?
Uniunea Europeană a constatat că dezvoltarea accelerată a sistemelor de AI, combinată cu utilizarea tot mai extinsă a modelelor avansate, poate genera riscuri semnificative pentru siguranță, securitate și drepturi fundamentale. Printre provocările identificate se numără:
- lipsa transparenței în deciziile generate de AI
- posibilitatea de discriminare în sisteme automatizate
- utilizările abuzive sau periculoase ale tehnologiilor avansate
- vulnerabilități ce pot afecta servicii critice sau infrastructuri esențiale
De aceea, AI Act stabilește obligații clare pentru furnizorii și utilizatorii de AI, în funcție de nivelul de risc pe care îl prezintă aplicațiile respective. Această abordare unitară contribuie la încrederea publică și la adoptarea responsabilă a inteligenței artificiale în Europa.
Cui se aplică AI Act?
Regulamentul are o aplicare foarte largă, vizând atât organizațiile din UE, cât și pe cele din afara Uniunii, în măsura în care sistemele lor de AI influențează utilizatori sau persoane aflate pe teritoriul UE. Conform prevederilor:
- toate entitățile care dezvoltă, plasează pe piață sau utilizează sisteme de AI în UE intră sub incidență
- obligațiile diferă în funcție de rol: furnizor, implementator, importator, distribuitor sau utilizator
- regulile se aplică atât sectorului privat, cât și instituțiilor publice
- sistemele dezvoltate în afara Uniunii trebuie să respecte AI Act dacă sunt utilizate în UE
AI Act acoperă inclusiv modelele de AI cu utilizare generală (General Purpose AI), precum modelele mari de limbaj sau modelele generative, în special dacă sunt considerate cu „risc sistemic”.
Ce este AI Act și care sunt nivelurile de risc
Regulamentul clasifică modelele și aplicațiile AI în funcție de riscul pe care îl pot genera pentru persoane sau societate. Această clasificare determină cerințele și obligațiile aplicabile.
1. AI Act: risc inacceptabil – sisteme interzise
Sunt complet interzise sistemele de AI ce reprezintă o amenințare la adresa drepturilor fundamentale, precum:
- scoruri sociale de tip guvernamental
- sisteme care exploatează vulnerabilitățile copiilor
- forme de recunoaștere emoțională în școli sau la locul de muncă
- forme de supraveghere biometrică abuzivă
2. Ai Act: risc ridicat – reglementare strictă
Aceste sisteme au un potențial major de impact asupra vieții persoanelor (de ex. în sănătate, ocupare, justiție, educație, acces la servicii publice).
Obligațiile includ:
- documentație tehnică detaliată
- evaluări de conformitate
- transparență și acuratețe
- supraveghere umană adecvată
3. Ai Act: risc limitat – cerințe de transparență
Aici sunt incluse sistemele care interacționează direct cu utilizatorii, precum chatboturile sau sistemele generative ce pot produce conținut, caz în care trebuie anunțată natura “artificială” a sistemului.
4. Ai Act: risc minim – fără obligații suplimentare
Multe aplicații de AI intră în această categorie cum ar fi filtre anti-spam, jocuri video cu componentă AI, și pot fi utilizate liber, fără cerințe suplimentare.
Ce este AI Act și ce obligații impune organizațiilor
Pentru a înțelege mai bine ce este AI Act și cum influențează organizațiile, regulamentul stabilește obligații diferite în funcție de tipul sistemelor de inteligență artificială și de nivelul de risc.
În funcție de tipul sistemului de AI și rolul companiei, organizațiile trebuie să respecte cerințe variate, printre care:
- gestionarea riscurilor și implementarea măsurilor tehnice și organizaționale
- guvernanță internă a datelor, inclusiv calitatea datelor de antrenare
- documentație și înregistrări pentru audit
- transparență față de utilizatori și autorități
- supraveghere umană și posibilitatea intervenției umane
- monitorizarea continuă a performanței sistemelor
- raportarea incidentelor grave legate de utilizarea AI
Entitățile care dezvoltă sau implementează modele generative avansate pot avea obligații suplimentare privind securitatea, limitele utilizării și documentarea dataset-urilor.
Ce este AI Act și ce sancțiuni prevede
Regulamentul introduce unul dintre cele mai dure regimuri sancționatorii din legislația europeană. Amenzile pot ajunge până la:
- 7% din cifra de afaceri globală anuală, sau
- până la 35 milioane EUR,
în funcție de categoria încălcării.
Sancțiunile depind de gravitatea nerespectării – cele mai mari se aplică pentru utilizarea sistemelor de risc inacceptabil sau pentru nerespectarea cerințelor privind modelele cu risc sistemic.
Ce este AI Act și cum influențează organizațiile
Adoptarea AI Act are implicații majore pentru mediul public și privat:
- necesitatea evaluării tuturor sistemelor de AI utilizate
- adaptarea proceselor de achiziție și dezvoltare
- introducerea mecanismelor de guvernanță și control intern
- investiții în documentație, audit și managementul riscurilor
- responsabilizarea conducerii în utilizarea responsabilă a AI
Regulamentul poziționează Europa ca pionier în reglementarea AI și stabilește standarde internaționale ce pot influența legislațiile din alte regiuni.
AI Act reprezintă o etapă decisivă pentru integrarea responsabilă a inteligenței artificiale în societate. Directiva creează un echilibru între inovație și protejarea cetățenilor, stabilind un cadru clar pentru adoptarea tehnologiilor de AI în condiții de siguranță și transparență.
Organizațiile trebuie să își adapteze procesele, să identifice riscurile și să implementeze măsuri adecvate pentru a se conforma noilor cerințe.
Prin respectarea AI Act, acestea pot contribui la construirea unui ecosistem digital de încredere, capabil să valorifice potențialul inteligenței artificiale în mod etic și securizat.
Pentru companiile care analizează ce este AI Act și cum le afectează activitatea, regulamentul introduce obligații clare privind gestionarea riscurilor și transparența sistemelor AI.
Dacă organizația ta utilizează sisteme de inteligență artificială și trebuie să se conformeze noilor reglementări europene, vezi serviciile noastre de guvernanță AI și conformitate EU AI Act.
