AI Act, GDPR și agenții AI – regulile juridice ale noii economii digitale
ZF High-Tech Innovation Summit 2026
În data de 05.10.2026 a avut loc ZF High-Tech Innovation Summit 2026, o conferință care a pus o întrebare esențială pentru companiile care folosesc sau dezvoltă tehnologie: ce se întâmplă atunci când AI-ul nu mai este doar un experiment, ci începe să ia decizii, să execute sarcini și să producă efecte reale în business?
Discuțiile de la eveniment au avut un fir roșu foarte clar: România intră într-o etapă în care inteligența artificială trebuie privită nu doar ca instrument tehnologic, ci și ca problemă de guvernanță, responsabilitate și conformitate juridică.
Iar pentru companii, diferența dintre un proiect AI care funcționează și unul care poate fi pus în producție, în condiții de siguranță juridică, poate fi semnificativă.
De la „pilot” la „angajat digital”
Unul dintre subiectele care mi-au atras în mod special atenția a fost trecerea de la simple experimente cu AI la ceea ce începe să fie numit tot mai des „angajatul digital”.
Un agent AI poate să analizeze informații, să comunice cu clienții, să genereze documente, să opereze în sisteme informatice sau chiar să ia anumite decizii în limitele stabilite de companie.
Dar apare imediat dimensiunea juridică:
Cine răspunde atunci când agentul greșește?
Și, mai important:
AI Act: momentul în care conformitatea devine parte din produs
Un alt punct important al conferinței a fost relația dintre inovație și AI Act.
Pentru companii, provocarea nu este doar să afle „dacă li se aplică AI Act”, ci să înțeleagă ce obligații concrete apar în funcție de rolul pe care îl au în ecosistemul AI: furnizor, deployer/utilizator, importator, distribuitor etc.
Mai ales pentru sistemele utilizate în contexte cu risc ridicat, conformitatea nu poate fi adăugată la final, după ce produsul este construit.
Trebuie gândită din faza de design.
Asta înseamnă, între altele, procese interne, documentație, evaluarea riscurilor, responsabilități clar definite, monitorizare și, acolo unde este cazul, mecanisme de supraveghere umană.
Pentru un antreprenor sau un CTO, poate părea o frână.
Pentru un avocat care lucrează cu tehnologia, este mai degrabă o chestiune de a construi corect de la început.
AI + GDPR: două lumi care nu mai pot fi tratate separate
Una dintre cele mai mari greșeli pe care le poate face o companie este să trateze proiectul AI și protecția datelor personale ca două proiecte independente.
În realitate, ele se intersectează permanent.
Un proiect AI poate implica: date de la angajați → date despre clienți → date colectate online → baze de date interne → date furnizate unui model AI → transferuri către furnizori externi → rezultate generate de AI.
În fiecare dintre aceste etape pot apărea provocări juridice:
„Cine răspunde?” devine întrebarea esențială
Un alt subiect foarte relevant discutat la summit a fost limita autorității agenților AI.
Imaginați-vă un agent care poate: aproba anumite operațiuni; transmite mesaje clienților; negocia în anumite limite; genera documente; efectua operațiuni în sisteme interne; selecta sau prioritiza cazuri; face recomandări care influențează decizii comerciale.
Din punct de vedere juridic, nu este suficient să spunem că „AI-ul a făcut-o”.
Compania trebuie să poată răspunde la întrebări precum:
Ce i-am permis sistemului să facă?
În baza cărui proces?
Cine a aprobat această arhitectură?
Ce controale existau?
Cine intervine dacă sistemul produce un rezultat eronat?
Putem demonstra ulterior cum a fost luată decizia?
Aici apare nevoia unor politici interne de utilizare a AI, a unor matrice de responsabilitate și a unor reguli clare privind human oversight.
Companiile românești: cumpărători de tehnologie sau constructori?
O altă temă interesantă a fost dacă România va rămâne în principal o piață care cumpără tehnologie sau poate deveni un loc în care se construiesc produse și companii tehnologice proprii.
Pentru antreprenorii care dezvoltă produse AI, implicațiile juridice sunt și mai importante.
Un produs tehnologic înseamnă nu doar cod.
Înseamnă și: proprietate intelectuală + date + contracte + protecția consumatorilor + privacy + securitate + AI governance + responsabilitate + relația cu furnizorii.
Iar aceste elemente trebuie gândite împreună.
Un startup care își construiește produsul fără să își clarifice drepturile asupra datelor, proprietatea intelectuală asupra componentelor software, relația cu furnizorii de modele AI și responsabilitățile față de clienți poate ajunge să descopere prea târziu că problema nu era tehnologia, ci infrastructura juridică din jurul ei.
Întrebări juridice esențiale pentru un agent AI
· ce poate decide singur un sistem AI?
· ce decizii necesită aprobare umană?
· cine stabilește limitele de autoritate ale agentului?
· ce date poate accesa?
· ce trebuie documentat?
· cum demonstrăm că sistemul este utilizat în conformitate cu legislația aplicabilă?
AI + GDPR: întrebările care trebuie puse
· Care este temeiul juridic pentru prelucrare?
· Ce date pot fi introduse într-un model AI?
· Unde sunt stocate datele?
· Cine are acces la ele?
· Furnizorul AI folosește datele pentru antrenarea propriilor modele?
· Există transferuri internaționale?
· Ce informații trebuie comunicate persoanelor vizate?
· Cum sunt respectate principiile de minimizare și limitare a scopului?
· Ce se întâmplă cu datele sensibile sau cu informațiile confidențiale?
· Cum gestionăm drepturile persoanelor vizate atunci când AI-ul intervine în proces?
Cum pot ajuta, ca avocat, companiile care folosesc sau dezvoltă AI
În activitatea de asistență juridică și reprezentare în domeniul tehnologiei, abordăm proiectele AI din perspectiva întregului ecosistem juridic, nu doar a unei singure reglementări.
AI & AI Governance
· analiza obligațiilor aplicabile în temeiul AI Act;
· classificarea și evaluarea juridică a utilizărilor AI;
· politici interne privind utilizarea AI;
· reguli privind agenții AI și limitele de autoritate;
· documentație și procese de guvernanță;
· evaluarea riscurilor juridice ale soluțiilor AI;
· relația contractuală cu furnizorii de tehnologii și modele AI.
Data Privacy & GDPR
· audituri și evaluări GDPR pentru proiecte AI;
· baze legale pentru prelucrarea datelor;
· DPIA și analiza riscurilor;
· politici de privacy;
· transferuri internaționale de date;
· relația operator–persoană împuternicită;
· utilizarea datelor pentru training, testing și dezvoltarea soluțiilor AI;
· gestionarea drepturilor persoanelor vizate.
Technology & IT
· contracte software și SaaS;
· acorduri de dezvoltare și implementare;
· licențiere software;
· contracte cu furnizori de cloud și AI;
· termeni și condiții pentru produse digitale;
· proprietate intelectuală;
· NDA și protecția informațiilor confidențiale;
· negocierea contractelor tehnologice.
Litigii și reprezentare
· asistență și reprezentare în litigii și dispute privind tehnologia, software-ul, datele, proprietatea intelectuală, contractele IT și utilizarea sistemelor AI.
Concluzia după ZF High-Tech Innovation Summit 2026
„AI nu mai este doar o problemă de tehnologie. Este o problemă de business, iar business-ul are nevoie de reguli.”
Companiile care vor avea succes în următoarea etapă nu vor fi neapărat cele care folosesc cel mai mult AI, ci cele care știu unde îl pot folosi, cum îl pot controla și cum pot demonstra că îl folosesc responsabil și legal.
În acest context, avocatul nu ar trebui să apară la final, când produsul este deja construit și trebuie „verificat juridic”.
Rolul nostru este să intrăm cât mai devreme în proiect — acolo unde tehnologia, datele, business-ul și dreptul se întâlnesc — pentru ca soluția să poată fi construită și scalată cu riscuri juridice controlabile.
Dacă dezvoltați un produs AI, implementați agenți AI în companie, utilizați date personale în sisteme AI sau aveți nevoie de asistență într-o dispută privind tehnologia, vă invităm să ne contactați.
.S.C.P.A CUCULIS&Asociatii
Av. Dana Fireteanu