Flavius Florea este avocat în cadrul Wolf Theiss București, coordonator al echipei de TMT, IP & Data Protection și este pasionat de subiectul AI-ului și implicațiile lui juridice generate de evoluția tehnologică. Nu îl sperie gândul că inteligența artificială ar putea ajunge să înlocuiască oamenii pentru că Flavius vede lucrurile diferit: roboții sunt aici să ne ajute și să ne ușureze munca, nu să ne extermine. Indiferent dacă scenariul în care AI-ul va cuceri lumea este sau nu verosimil, cert e că el poate genera muzică și imagini care deschid conversația despre proprietatea intelectuală a tehnologiei.
Întrebarea care se pune este dacă nu ar fi mai facil să existe un sistem diferențiat de protecție, respectiv o categorie de drepturi sui generis, distincte de dreptul de autor, care să conțină reguli specifice, aplicabile doar în cazul creațiilor generate de sisteme AI. Principalul argument în acest sens este că un astfel de sistem diferențiat de protecție, eventual pe o durată mai scurtă, de 5-10 ani, ar putea să interfereze mai puțin cu sistemul actual de protecția al dreptului de autor, minimizând astfel impactul asupra creatorilor umani. Pe de altă parte, utilizatorul sistemului AI ar putea să fie motivat să nu dezvăluie implicarea sistemului AI să pretindă că o anumită creație aparține unui creator uman, așa încât această să beneficieze de sistemul de protecție al dreptului de autor.
Flavius crede că protecția creațiilor generate de AI trebuie să aibă o bază legală, asta pentru că, în lipsa ei, companiile ar fi interesate să investească doar în sistemele care ar putea să îmbunătățească zona de automatizare a proceselor de business, fără să acorde importanță zonei creative. Dacă drepturile de autor aparțin creatorului de AI sau AI-ului care generează creațiile, aflăm din interviul de mai jos.
Background-ul tău
Sunt avocat specializat în tehnologie, proprietate intelectuală și protecția datelor personale si coordonator al practicii de tehnologie, proprietate intelectuală și protecția datelor personale al Wolf Theiss București. Subiectul AI-ului este unul foarte interesant pentru mine, pentru că implicațiile juridice generate de evoluția tehnologică în domeniul AI sunt extrem de diverse, având efecte importante atât din perspectiva drepturilor de proprietate intelectuală, a datelor personale, cât și din perspectivă etică și de siguranță, cu relevanță în special atunci când inteligența artificială e utilizată în sectoare critice.
Ce simți față de ascensiunea AI-ului
Dintr-o perspectivă personală, nu mă sperie faptul că inteligența artificială ar putea să înlocuiască avocații, ci mai degrabă cred că ea ne va ajuta să oferim servicii de calitate clienților, cu un cost redus. Pe scurt, nu cred că inteligența artificială va lua locul avocaților, dar cred că avocații care vor ști să profite de avansul tehnologic vor reuși să se diferențieze în fața clienților de ceilalți.
Pe scară largă, cred că dezvoltarea AI-ului va avea un impact asupra pieței muncii, însă nu cred că oamenii vor fi înlocuiți de roboți, așa cum prevestesc unele voci. Cel mai probabil vom vedea o readaptare a pieței muncii, așa încât oamenii să utilizeze la maxim potențialul AI-ului și să își desfășoare munca asistați de sistemele AI. În orice caz, cred că avem nevoie de măsuri legislative, în principal al nivel european, dar și național, care să încurajeze investițiile și progresul în acest sector, care în același timp nu trebuie să aibă un impact negativ asupra drepturilor creatorilor umani, fiind necesar ca și acestea să fie protejate în continuare.
Are nevoie AI-ul de protecție legală?
Cred că o creație generată de un sistem AI ar trebui să beneficieze de o formă de protecție. A fost des vehiculată ideea că aceste creații generate de sisteme AI ar trebui să facă parte din domeniul public și să fie utilizate în mod liber, cu motivarea principală că nu există costuri directe asociate cu generarea operei, odată ce un sistem Ai este implementat, și că sistemul AI nu are nevoie de o motivație pentru a realiza creațiile, astfel că nu s-ar justifica același sistem de protecție ca în cazul creatorilor umani. Nu sunt de acord cu această viziune, în special pentru că lipsa oricărui tip de protecție
asupra creațiilor generate de sisteme AI ar descuraja substanțial investițiile în astfel de sisteme și nu ar facilita în niciun fel progresul, în special în ce privește zona creativă. Într-o astfel de situație, companiile ar fi interesate să investească doar în sistemele care ar putea să îmbunătățească zona de automatizare de procese de business, însă partea de creație nu ar fi în niciun fel impulsionată.
Îmi vine în minte un exemplu simplu – cel al unui sistem AI care ar putea să creeze în mod autonom site-uri web. În principiu acest tip de sistem există deja, însă funcționează la nivel experimental, iar procesul de scriere de cod nu este optimizat. În situația în care eventualele website-uri create de un astfel de sistem nu vor beneficia de protecție, orice persoană ar putea să le copieze în cel mai mic detaliu, astfel că nu va exista vreodată motivația de a investi suficient într-un sistem de acest tip pentru ca acesta să devină cu adevărat funcțional.
Drepturile de autor pentru un algoritm care e în continuă schimbare
Cred că la acest moment nu știm încă exact cum ar putea funcționa drepturile de autor cazul creațiilor realizate de sisteme AI. În realitate, aceasta este una dintre principalele teme de dezbatere în legătură de acest subiect. Astfel, dacă trecem de pasul inițial și admitem că aceste creații trebuie să beneficieze de o formă de protecție, problema care se pune este dacă protecția oferită de dreptul de autor este mecanismul potrivit în acest caz. Există voci care susțin că aceasta nu ar fi cea mai potrivită alegere, pentru că sistemul drepturilor de autor este conceput de așa natură încât să protejeze creatorii umani, conținând inclusiv o serie de drepturi morale de autor (de ex. dreptul de divulgare a operei sau dreptul de retractare) care sunt strâns legate de personalitatea autorului. De asemenea, durata de protecție dreptului de autor este, cel puțin la prima vedere, incompatibilă cu creațiile generate de sisteme AI (în România, drepturile de autor sunt protejate, ca regulă pe tot timpul vieții autorului și pe o perioadă de 70 de ani după moartea autorului).
Astfel, întrebarea care se pune este dacă nu ar fi mai facil să existe un sistem diferențiat de protecție, respectiv o categorie de drepturi sui generis, distincte de dreptul de autor, care să conțină reguli specifice, aplicabile doar în cazul creațiilor generate de sisteme AI. Principalul argument în acest sens este că un astfel de sistem diferențiat de protecție, eventual pe o durată mai scurtă, de 5-10 ani, ar putea să interfereze mai puțin cu sistemul actual de protecția al dreptului de autor, minimizând astfel impactul asupra creatorilor umani. Pe de altă parte, utilizatorul sistemului AI ar putea să fie motivat să nu dezvăluie implicarea sistemului AI să pretindă că o anumită creație aparține unui creator uman, așa încât această să beneficieze de sistemul de protecție al dreptului de autor.
Creatorul de AI sau AI-ul care generează creațiile – cine deține proprietatea intelectuală
Sigur că stadiul legislativ actual nu conține prevederi în acest sens, dar putem face o discuție despre interpretarea regulilor generale din domeniul proprietății intelectuale. În primul rând, trebuie să distingem, în funcției de gradul de implicare a creatorului uman, între creațiile generate autonom de sisteme AI și creațiile generate asistat de sistemele AI.
În cazul creațiilor generate autonom de sisteme AI, în principiu în Uniunea Europeană, dar și în Statele Unite, interpretarea prevalentă este că aceste categorii de opere nu pot beneficia de protecție, pentru că dreptul de autor poate în principiu să protejeze doar operele care au un creator uman. Curtea de Justiție a Uniunii Europene chiar a precizat că dreptul de autor se aplică doar operelor originale și că originalitatea trebuie să reflecte creația intelectuală proprie a autorului, astfel că această condiție a fost interpretată ca o necesitate a existenței unui creator uman. Aceasta este și situația din România, unde lege recunoaște capacitatea de autor doar unui creator uman.
Pe de altă parte, există unele jurisdicții precum Irlanda, Marea Britanie sau Noua Zeelandă care recunosc calitatea de autor în persoana celui care a creat produsul software capabil să genereze creația respectivă.
La momentul actual, nu există nicio jurisdicție, din câte știu eu, care să recunoască calitatea de autor unui sistem AI.
Pe de altă parte, în cazul creațiilor generate asistat de sistemele AI, legislația actuală ar putea permite recunoașterea calității de autor creatorului uman care a utilizat sistemul AI, cu condiția ca gradul de intervenție umană să fie suficient de important așa încât să reprezinte o activitate creativă în sine.
Evoluția reglementărilor în ceea ce privește AI-ului
În acest moment, există la nivelul Uniunii Europene o propunere de regulament pentru stabilirea unor norme armonizate privind inteligența artificială, aflat în procedura legislativă de aprobare, care nu atinge însă subiectul drepturilor de proprietate intelectuală, ci se concentrează pe chestiuni considerate a fi de interes public major, cum ar fi un nivel ridicat de protecție a sănătății, a siguranței și a drepturilor fundamentale, precum și necesitatea de a asigura libera circulație transfrontalieră a bunurilor și serviciilor bazate pe AI.
Principalul motiv pentru care subiectul drepturilor de proprietate intelectuală nu a fost atins pare să fie faptul că această tehnologie se află încă într-o fază incipientă, iar eventuale limitări excesive în materia drepturilor de proprietate intelectuală ar putea să îngrădească dezvoltarea acestor tehnologii. Deocamdată nu s-a ajuns la un consens asupra modalității în care ar trebui să fie protejate creațiile dezvoltate de sisteme AI, însă direcția la acest moment nu pare să fie înspre acordarea personalității juridice sistemelor AI. Parlamentul European s-a poziționat, în cadrul unei rezoluții adoptate cu privire la drepturile de proprietate intelectuală pentru dezvoltarea tehnologiilor din domeniul inteligenței artificiale, împotriva acestei soluții, considerând că nu ar fi oportun să se dorească dotarea tehnologiilor IA cu personalitate juridică și subliniind impactul negativ al unei astfel de posibilități asupra stimulentelor pentru creatorii umani.
Din punctul meu de vedere, soluția care se conturează este cea a implementării unui sistem distinct de protecție pentru creațiile realizate de sisteme AI, sistem în care titularul drepturilor ar putea fi fie creatorul sistemul Ai, fie utilizatorul acestuia, în funcție de anumite criterii.
Reglementări privind transparența algoritmilor
În propunerea de regulament privind inteligența artificială pe care am menționat-o anterior există prevederi în acest sens, în special în ce privește sistemele AI cu grad ridicat de risc, unde documentația tehnică a sistemului va trebui să cuprindă și informații cu privire la algoritmii utilizați, precum și informații cu privire la caracteristicile generale, capacitățile și limitările sistemului, datele, procesele de antrenare, testare și validare utilizate, precum și documentația privind sistemul relevant de gestionare a riscurilor. Rămâne să vedem care va fi forma finală a regulamentului și cum va fi acesta implementat în practică.
Vulnerabilitățile oferirii drepturilor de autor unui sistem AI
Sunt 2 aspecte importante pe care le-aș menționa aici, primul fiind dificultatea în exploatarea drepturilor. Este greu să ne imaginăm că sistemul AI poate gestiona sau licenția portofoliul de creații. Pe de altă parte, o chestiune importantă este cea legată de răspundere juridică. Dacă în sistemul clasic al protecției drepturilor de autor răspunderea pentru eventuale prejudicii cauzate de autor terților funcționează, în cazul unul sistem AI răspunderea pentru daune cauzate terților este dificil de conceput. De asemenea, s-ar putea întrebarea cine ar încasa veniturile aferente exploatării creațiilor în acest caz. Din toate aceste motive, cel mai probabil nu este fezabil să vorbim la acest moment de o personalitate juridică a sistemelor AI, așa încât acestea să dețină drepturile asupra acestor creații. Sigur, progresul tehnologic s-ar putea să ne contrazică la un moment dat, însă cred că asta s-ar putea întâmpla doar într-un viitor îndepărtat.
Cum își face AI-ul simțită prezența în domeniul juridic
Deși soluțiile AI sunt departe de a fi utilizate pe scara largă în domeniul juridic la acest moment, am observat că în ultimul timp au apărut o gamă largă de utilizări a sistemelor AI în activitatea juridică. Acestea pot fi folosite la redactarea contractelor, revizuirea contractelor, la activitățile de cercetare juridică sau chiar la prezicerea rezultatelor unor litigii. Probabil că va mai dura mult până când vom vedea îndeaproape aceste sisteme la lucru, deoarece ele sunt dependente atât de limba în care se desfășoară activitatea, cât și de sistemul juridic din țara respectivă. Cu alte cuvinte, deși un sistem AI ar putea să fie utilizat cu succes în Statele Unite, procesul de antrenare va fi unul distinct pentru limba română și legislația din România. Pe de altă parte, profesiile juridice sunt în mod tradițional caracterizate de un formalism excesiv, fapt ce le face să fie ușor reticente la schimbare și la progresul tehnologic. Trebuie să nu uităm că până nu demult, poate și din lipsa unor reguli clare, emailul era văzut ca o metodă exotică de a transmite un document către instanțele de judecată, fiind de multe ori preferate faxul sau poșta tradițională.
Ce e important să știe oamenii despre AI și implicațiile lui legale
Dacă propunerea de regulament la care am făcut referire anterior va fi adoptată în această formă, în cazul sistemelor AI cu grad ridicat de risc, utilizatorii vor avea dreptul de a fi informați în mod transparent așa încât să poată să interpreteze rezultatele sistemului și să le utilizeze în mod corespunzător. Aceste sisteme vor trebui să fie însoțite de instrucțiuni de utilizare într-un format digital adecvat sau în alte moduri, care includ informații concise, complete, corecte și clare care sunt relevante, accesibile și ușor de înțeles pentru utilizatori.
Legat de problema drepturilor de proprietate intelectuală, Organizația Mondială a Proprietății Intelectuale a organizat o serie de conversații și evenimente cu privire la acest subiect, intervențiile și documentele prezentate în cadrul acestor eveniment fiind disponibile publicului – cred că oamenii se pot informa cu succes de aici, dezbaterea fiind una foarte cuprinzătoare.
