Rubrica: accente | IA & tehnologii digitale în artele performative
Ce subiect imposibil de cuprins, cu care am senzația că nu pot fi nicicum la zi: intersecția teatru și inteligența artificială (IA) în 2025. Orice aș scrie, am impresia că în câteva secunde… c’est passé. O strategie posibilă: să (mă) folosesc de motoare de căutare precum Chat GPT, Gemini, Deepseek, Claude, Perplexity, GLM sau clasicul Google pentru a le cere sprijinul să își etaleze perspectivele, să le analizez, structurez, sintetizez. Aleg pentru moment (cine știe pentru cât timp însă?) documentarea clasică… observația, accesarea și interpretarea resurselor www şi interviul semi-structurat.
Știrile despre tehnologia IA şi evoluția sa fulminantă au acaparat spațiul media digital. De la involuntar comicul asistent virtual „Ion” al unui fost premier român1, până la propunerile europene de motoare IA, precum Mistral, care încearcă să contrabalanseze monopolul liderilor mondiali, China și SUA2, ne aflăm într-un moment în care o parte dintre noi testează cum ar putea crea, trăi cu, îmblânzi inteligența artificială. Atenția ne este furată de foarte multe scenarii utopice sau complet distopice. Se fac averi de câteva miliarde de dolari peste noapte de cei care se pricep să speculeze momentul3. Există o multitudine de ateliere online pe care le poți urma ca să înveți să creezi conținut digital cu ajutorul unor aplicații precum Midjourney, Gamma, Dall E, astfel încât să îți maximizezi șansele de a mai avea serviciu și în 2028. Poți asculta perplex previziunile sumbre conform cărora șomajul la nivel mondial va ajunge la 99% până în 2030, că aproape toate joburile vor fi automatizate, iar Omul nu va mai putea ține pasul cu ritmul progresului tehnologic care îl va copleși și care îi va aduce dincolo de orice dubiu rezonabil… extincția4. Toate reprezintă realități pe care ne este dificil să le ignorăm… și ne ia ceva timp să le internalizăm și să putem opera cu ele. Omenește, nu?
Uniunea Europeană (UE) se laudă ca fiind prima structură politică din lume care și-a propus să facă ordine în acest haos, prin crearea unui cadru de reglementare a sistemelor de IA. Această preocupare s-a tradus prin Regulamentul privind Inteligența Artificială (Artificial Intelligence Act sau, mai simplu, AI Act)5, adoptat în 2024, prevederile sale intrând în vigoare etapizat până în 2026. Documentul de aproape 150 de pagini, așază omul și grija pentru acesta, în centrul obiectivelor sale: „Regulamentul privind IA stabilește reguli pentru modele de IA mari și puternice, asigurând că acestea nu prezintă riscuri sistemice pentru Uniune și oferă garanții solide pentru cetățenii noștri și democrațiile noastre împotriva oricăror abuzuri ale tehnologiei, prin supravegherea de către autoritățile publice”6. Legea își propune ca sistemele IA şi procedurile să fie transparente, iar autoritățile să aibă acces la modul de funcționare al algoritmilor utilizați sau al tipurilor de date colectate de la indivizi. Deținerea acestor date de către companiile private Big Tech sau alți operatori, fără control juridic, se consideră că poate conduce la manipulare, discriminare, fenomene precum Fake sau Deepfake, încălcarea dreptului la viață privată, modelarea sau remodelarea comportamentelor umane, în ultimă instanță, la revolte sociale, crize sistemice, războaie, haos, disoluție.
Pentru a înțelege mai bine această inițiativă, dar și zonele de intersecție cu domeniul artistic, am cerut sprijinul unui specialist, avocata Raluca Lefticariu:
George Albert COSTEA:De ce a considerat UE că este nevoie de o asemenea intervenție legislativă, căror nevoi răspunde și pe ce principii se bazează?
Raluca LEFTICARIU:AI Act este foarte complex și m-aș limita la ce este relevant pentru zona artelor. Totuși, acesta este gândit ca o reglementare de protecția consumatorilor. Are abordarea bazată pe gradul de risc al sistemelor IA și definește niște (i) practici complet interzise, (ii) sisteme cu nivel ridicat, (iii) sisteme cu nivel redus și (iv) sisteme cu nivel minim de risc. Practicile interzise se leagă de acelea care manipulează subliminal sau care fac social scoring (punctaj social);sistemele cu nivel ridicat de risc sunt celedin domenii precum medicina, educația, relațiile de muncă, care nu au legătură neapărat cu arta. O altă secțiune importantă din AI Act,care vizează modele mari, denumite General Purpose AI Models (GPAI), se referă în fapt la LLM-uri (Learning Language Models / Modele de Învățare a Limbajului), precum Chat GPT, dar și la tools-uri specifice de generare de imagini sau video. Ce le definește ca GPAI este că pot fi aplicate în variate moduri și că sunt antrenate pe un volum imens de date. Acestea sunt importante pentru că furnizorii de GPAI-uri trebuie să ia niște măsuri specifice, printre altele respectarea drepturilor de proprietate intelectuală și gestionarea riscurilor sistemice. Pentru a se conforma acestor obligații, furnizorii de GPAI-uri au posibilitatea să adere la așa-numitele Code of Practice (Coduri de practică), care au o secțiune dedicată drepturilor de proprietate intelectuală. Această obligativitate este foarte importantă pentru că acești furnizori de GPAI-uri ar avea voie, în Europa, în mod normal, să își antreneze modelele numai pe materiale pentru care autorii nu și-au exprimat dezacordul de la folosirea lucrărilor lor pentru antrenarea modelelor de AI, prin așa-numitul opt-out. Fac o paranteză: dreptul de autor este un drept de proprietate intelectuală care se aplică… by default (din oficiu, n.a.). Nu este nevoie să îl înregistrezi nicăieri, să faci vreo formalitate. Simplul fapt că tu ai creat un lucru înseamnă că tu ești titularul dreptului de autor. Revin. Din acest punct de vedere, eu ader la critica făcută Comisiei europene care a ales să aplice excepția de text & data mining (TDM)7. Aceasta, la bază, a fost reglementată pentru că au fost diferite interese în care lumea colecta informații de pe internet pentru a realiza diferite statistici, baze de date etc. Această excepție prevedea că poți lua orice informație găsești pe internet cu excepția cazului în care titularul dreptului de autor a precizat expres că nu este de acord cu preluarea conținutului său (opt-out); care trebuia reglementată și vizibilă tehnic. Dar această excepție fusese realizată când nu exista IA, iar aceasta să fi și concurat creatorii (cum se întâmplă în prezent).
G.A.C.:Cum au reușit creatorii să își protejeze totuși operele?
R.L.: Pe lângă remediile juridice clasice la care autorii apelează, și anume chemarea în judecată a furnizorilor de modele IA, care le-au folosit fără drept lucrările, au fost câteva cazuri în care creatorii au păcălit algoritmul. Pentru a-și proteja operele au reușit să creeze niște link-uri… la link-uri care să corupă atenția, care duceau mai degrabă într-o înfundătură a internetului și nu către creațiile adevărate.
G.A.C.:Dar cum își vor putea proteja performerii, actorii imaginea? Cu ajutorul IA vei putea crea copii perfecte ale unui actor, care va putea juca în orice tip de scenarii și nu vei mai avea nevoie de prezența fizică a acestuia la filmări.
R.L.: Scenariul pe care mi-l descrii se leagă mai degrabă de protecția datelor cu caracter personal, (așa-numitul GDPR, n.a.)8. Fața, imaginea ta fac parte din această categorie de date. Practic, Legea privind IA se leagă de GDPR. Conform GDPR-ului, nu este legal ca un model să ia fața ta și să poată crea conținut cu ea.
G.A.C.:Care este perspectiva ta, în privința criticii care s-a adus UE referitor la supra-reglementarea acestui domeniu și care ar duce la pierderea cursei la nivel mondial în privința inovației (în fața Chinei și SUA)?
R.L.: Acest narrative a fost, după părerea mea, împins de SUA. Și China are legi de IA. Parțial sunt apropiate de nivelul de rigurozitate impus de UE. Chinezii nu privesc IA din punctul de vedere al protecției consumatorilor. Recent, China a emis o lege de IA și proprietate intelectuală care este mult mai detaliată față de ce se aplică în UE. SUA au pus accentul pe progres şi investiție, nicidecum măsuri de siguranță. China are la rândul său un plan foarte puternic axat pe inovație. Părerea mea este că UE a acționat conform principiilor sale și a pus pe primul loc drepturile cetățenilor. Concentrându-se ani buni pe această lege, Comisia europeană a pierdut din vedere o mai bună reglementare a domeniului inovației și să pună accent pe planul de inovație. Dar este foarte important să nu existe riscuri majore pentru populație. De exemplu, dacă te uiți la practicile interzise – acestea au foarte mult sens. De IA țin și sistemele de recomandare din social media sau deepfake-urile – și este foarte important să poți sancționa ferm aceste aspecte care pot manipula oameni, să-i conducă la a se sinucide, la a pierde relații. Ce ar mai fi important de punctat pentru domeniul artistic este aspectul legat de output-ul generat de IA. El în sine nu este protejat de proprietatea intelectuală. Copyrightul cere să existe un creator uman. De aceea, dacă tu vrei să creezi ceva folosind IA și vrei să fie protejat de copyright ar trebui ca contribuția ta să fie contribuția principală. Astfel, să fie foarte clar că tu ai avut o viziune pentru acea operă, ai realizat foarte multe prompt-uri9, foarte detaliate. Dacă, dimpotrivă, ai dat un simplu prompt și ți se generează ceva, este improbabil să îți fie protejat de lege.
Interviu de George Albert COSTEA
*Raluca Lefticariu este avocată, head of legal la Compania ACCESA, pasionată de legislația europeană în domeniul digitalului și al inteligenței artificiale, membră a organizației „AI for Developing Countries” susținută de ONU, al cărei obiectiv este să înlesnească adopția IA-ului de țările în curs de dezvoltare.
Note:
(1) Este vorba despre Nicolae Ciucă, prim-ministru al României între 25 noiembrie 2021 și 12 iunie 2023.
(2) A se citi analiza lui Yanis Varoufakis și încercarea sa de a impune conceptul de tehno-feudalism: „La ce ar trebui să ne așteptăm, astăzi, în fazele incipiente ale tehno-feudalismului? Avem câteva indicii despre ce urmează să se întâmple. Sub blestemul războiului din Ucraina și al Marii Inflații, care sporesc sărăcia, schimbările climatice și o senzație generală de frică, lumea se împarte pe din două, reciproc-antagoniste, două fiefuri ale cloud-ului – una americană, alta chineză. Va veni foarte puțin bine și folositor din această bifurcație”. Citat din Technofeudalism. What Killed Capitalism, p. 164 (trad.aut.).
(5) Artificial Intelligence Act (AI Act) a fost publicat în Jurnalul Oficial al UE din 12 iulie 2024. Versiunea integrală poate fi consultată aici: https://artificialintelligenceact.eu/the-act/.
(7) Text & data mining (minarea prin text și date) „reprezintă procesul de extragere a informațiilor din materiale lizibile de către mașini. Funcționează prin copierea unor cantități mari de materiale, extragerea datelor și recombinarea acestora pentru a identifica tipare”, conform: https://libguides.cam.ac.uk/tdm/definitions.
(8) GDPR este acronimul de la Regulamentul general privind protecția datelor, adoptat de Uniunea Europeană cu scopul de a oferi cetățenilor europeni protecția datelor cu caracter personal. A intrat în vigoare la 25 mai 2018.
(9) Un prompt (en.)este un mesaj-text, o comandă sau un set de instrucţiuni, care indică (în acest caz) sistemului de tip IA ce sarcină trebuie să îndeplinească (n.r.).
Inteligența artificială și teatrul? În 2025? | Reglementări europene
Autor: George-Albert Costea
Publicat în: Teatrul azi nr. 7-8-9/2025
Rubrica: accente | IA & tehnologii digitale în artele performative
Ce subiect imposibil de cuprins, cu care am senzația că nu pot fi nicicum la zi: intersecția teatru și inteligența artificială (IA) în 2025. Orice aș scrie, am impresia că în câteva secunde… c’est passé. O strategie posibilă: să (mă) folosesc de motoare de căutare precum Chat GPT, Gemini, Deepseek, Claude, Perplexity, GLM sau clasicul Google pentru a le cere sprijinul să își etaleze perspectivele, să le analizez, structurez, sintetizez. Aleg pentru moment (cine știe pentru cât timp însă?) documentarea clasică… observația, accesarea și interpretarea resurselor www şi interviul semi-structurat.
Știrile despre tehnologia IA şi evoluția sa fulminantă au acaparat spațiul media digital. De la involuntar comicul asistent virtual „Ion” al unui fost premier român1, până la propunerile europene de motoare IA, precum Mistral, care încearcă să contrabalanseze monopolul liderilor mondiali, China și SUA2, ne aflăm într-un moment în care o parte dintre noi testează cum ar putea crea, trăi cu, îmblânzi inteligența artificială. Atenția ne este furată de foarte multe scenarii utopice sau complet distopice. Se fac averi de câteva miliarde de dolari peste noapte de cei care se pricep să speculeze momentul3. Există o multitudine de ateliere online pe care le poți urma ca să înveți să creezi conținut digital cu ajutorul unor aplicații precum Midjourney, Gamma, Dall E, astfel încât să îți maximizezi șansele de a mai avea serviciu și în 2028. Poți asculta perplex previziunile sumbre conform cărora șomajul la nivel mondial va ajunge la 99% până în 2030, că aproape toate joburile vor fi automatizate, iar Omul nu va mai putea ține pasul cu ritmul progresului tehnologic care îl va copleși și care îi va aduce dincolo de orice dubiu rezonabil… extincția4. Toate reprezintă realități pe care ne este dificil să le ignorăm… și ne ia ceva timp să le internalizăm și să putem opera cu ele. Omenește, nu?
Uniunea Europeană (UE) se laudă ca fiind prima structură politică din lume care și-a propus să facă ordine în acest haos, prin crearea unui cadru de reglementare a sistemelor de IA. Această preocupare s-a tradus prin Regulamentul privind Inteligența Artificială (Artificial Intelligence Act sau, mai simplu, AI Act)5, adoptat în 2024, prevederile sale intrând în vigoare etapizat până în 2026. Documentul de aproape 150 de pagini, așază omul și grija pentru acesta, în centrul obiectivelor sale: „Regulamentul privind IA stabilește reguli pentru modele de IA mari și puternice, asigurând că acestea nu prezintă riscuri sistemice pentru Uniune și oferă garanții solide pentru cetățenii noștri și democrațiile noastre împotriva oricăror abuzuri ale tehnologiei, prin supravegherea de către autoritățile publice”6. Legea își propune ca sistemele IA şi procedurile să fie transparente, iar autoritățile să aibă acces la modul de funcționare al algoritmilor utilizați sau al tipurilor de date colectate de la indivizi. Deținerea acestor date de către companiile private Big Tech sau alți operatori, fără control juridic, se consideră că poate conduce la manipulare, discriminare, fenomene precum Fake sau Deepfake, încălcarea dreptului la viață privată, modelarea sau remodelarea comportamentelor umane, în ultimă instanță, la revolte sociale, crize sistemice, războaie, haos, disoluție.
Pentru a înțelege mai bine această inițiativă, dar și zonele de intersecție cu domeniul artistic, am cerut sprijinul unui specialist, avocata Raluca Lefticariu:
George Albert COSTEA: De ce a considerat UE că este nevoie de o asemenea intervenție legislativă, căror nevoi răspunde și pe ce principii se bazează?
Raluca LEFTICARIU: AI Act este foarte complex și m-aș limita la ce este relevant pentru zona artelor. Totuși, acesta este gândit ca o reglementare de protecția consumatorilor. Are abordarea bazată pe gradul de risc al sistemelor IA și definește niște (i) practici complet interzise, (ii) sisteme cu nivel ridicat, (iii) sisteme cu nivel redus și (iv) sisteme cu nivel minim de risc. Practicile interzise se leagă de acelea care manipulează subliminal sau care fac social scoring (punctaj social); sistemele cu nivel ridicat de risc sunt cele din domenii precum medicina, educația, relațiile de muncă, care nu au legătură neapărat cu arta. O altă secțiune importantă din AI Act, care vizează modele mari, denumite General Purpose AI Models (GPAI), se referă în fapt la LLM-uri (Learning Language Models / Modele de Învățare a Limbajului), precum Chat GPT, dar și la tools-uri specifice de generare de imagini sau video. Ce le definește ca GPAI este că pot fi aplicate în variate moduri și că sunt antrenate pe un volum imens de date. Acestea sunt importante pentru că furnizorii de GPAI-uri trebuie să ia niște măsuri specifice, printre altele respectarea drepturilor de proprietate intelectuală și gestionarea riscurilor sistemice. Pentru a se conforma acestor obligații, furnizorii de GPAI-uri au posibilitatea să adere la așa-numitele Code of Practice (Coduri de practică), care au o secțiune dedicată drepturilor de proprietate intelectuală. Această obligativitate este foarte importantă pentru că acești furnizori de GPAI-uri ar avea voie, în Europa, în mod normal, să își antreneze modelele numai pe materiale pentru care autorii nu și-au exprimat dezacordul de la folosirea lucrărilor lor pentru antrenarea modelelor de AI, prin așa-numitul opt-out. Fac o paranteză: dreptul de autor este un drept de proprietate intelectuală care se aplică… by default (din oficiu, n.a.). Nu este nevoie să îl înregistrezi nicăieri, să faci vreo formalitate. Simplul fapt că tu ai creat un lucru înseamnă că tu ești titularul dreptului de autor. Revin. Din acest punct de vedere, eu ader la critica făcută Comisiei europene care a ales să aplice excepția de text & data mining (TDM)7. Aceasta, la bază, a fost reglementată pentru că au fost diferite interese în care lumea colecta informații de pe internet pentru a realiza diferite statistici, baze de date etc. Această excepție prevedea că poți lua orice informație găsești pe internet cu excepția cazului în care titularul dreptului de autor a precizat expres că nu este de acord cu preluarea conținutului său (opt-out); care trebuia reglementată și vizibilă tehnic. Dar această excepție fusese realizată când nu exista IA, iar aceasta să fi și concurat creatorii (cum se întâmplă în prezent).
G.A.C.: Cum au reușit creatorii să își protejeze totuși operele?
R.L.: Pe lângă remediile juridice clasice la care autorii apelează, și anume chemarea în judecată a furnizorilor de modele IA, care le-au folosit fără drept lucrările, au fost câteva cazuri în care creatorii au păcălit algoritmul. Pentru a-și proteja operele au reușit să creeze niște link-uri… la link-uri care să corupă atenția, care duceau mai degrabă într-o înfundătură a internetului și nu către creațiile adevărate.
G.A.C.: Dar cum își vor putea proteja performerii, actorii imaginea? Cu ajutorul IA vei putea crea copii perfecte ale unui actor, care va putea juca în orice tip de scenarii și nu vei mai avea nevoie de prezența fizică a acestuia la filmări.
R.L.: Scenariul pe care mi-l descrii se leagă mai degrabă de protecția datelor cu caracter personal, (așa-numitul GDPR, n.a.)8. Fața, imaginea ta fac parte din această categorie de date. Practic, Legea privind IA se leagă de GDPR. Conform GDPR-ului, nu este legal ca un model să ia fața ta și să poată crea conținut cu ea.
G.A.C.: Care este perspectiva ta, în privința criticii care s-a adus UE referitor la supra-reglementarea acestui domeniu și care ar duce la pierderea cursei la nivel mondial în privința inovației (în fața Chinei și SUA)?
R.L.: Acest narrative a fost, după părerea mea, împins de SUA. Și China are legi de IA. Parțial sunt apropiate de nivelul de rigurozitate impus de UE. Chinezii nu privesc IA din punctul de vedere al protecției consumatorilor. Recent, China a emis o lege de IA și proprietate intelectuală care este mult mai detaliată față de ce se aplică în UE. SUA au pus accentul pe progres şi investiție, nicidecum măsuri de siguranță. China are la rândul său un plan foarte puternic axat pe inovație. Părerea mea este că UE a acționat conform principiilor sale și a pus pe primul loc drepturile cetățenilor. Concentrându-se ani buni pe această lege, Comisia europeană a pierdut din vedere o mai bună reglementare a domeniului inovației și să pună accent pe planul de inovație. Dar este foarte important să nu existe riscuri majore pentru populație. De exemplu, dacă te uiți la practicile interzise – acestea au foarte mult sens. De IA țin și sistemele de recomandare din social media sau deepfake-urile – și este foarte important să poți sancționa ferm aceste aspecte care pot manipula oameni, să-i conducă la a se sinucide, la a pierde relații. Ce ar mai fi important de punctat pentru domeniul artistic este aspectul legat de output-ul generat de IA. El în sine nu este protejat de proprietatea intelectuală. Copyrightul cere să existe un creator uman. De aceea, dacă tu vrei să creezi ceva folosind IA și vrei să fie protejat de copyright ar trebui ca contribuția ta să fie contribuția principală. Astfel, să fie foarte clar că tu ai avut o viziune pentru acea operă, ai realizat foarte multe prompt-uri9, foarte detaliate. Dacă, dimpotrivă, ai dat un simplu prompt și ți se generează ceva, este improbabil să îți fie protejat de lege.
Interviu de George Albert COSTEA
*Raluca Lefticariu este avocată, head of legal la Compania ACCESA, pasionată de legislația europeană în domeniul digitalului și al inteligenței artificiale, membră a organizației „AI for Developing Countries” susținută de ONU, al cărei obiectiv este să înlesnească adopția IA-ului de țările în curs de dezvoltare.
Note:
(1) Este vorba despre Nicolae Ciucă, prim-ministru al României între 25 noiembrie 2021 și 12 iunie 2023.
(2) A se citi analiza lui Yanis Varoufakis și încercarea sa de a impune conceptul de tehno-feudalism: „La ce ar trebui să ne așteptăm, astăzi, în fazele incipiente ale tehno-feudalismului? Avem câteva indicii despre ce urmează să se întâmple. Sub blestemul războiului din Ucraina și al Marii Inflații, care sporesc sărăcia, schimbările climatice și o senzație generală de frică, lumea se împarte pe din două, reciproc-antagoniste, două fiefuri ale cloud-ului – una americană, alta chineză. Va veni foarte puțin bine și folositor din această bifurcație”. Citat din Technofeudalism. What Killed Capitalism, p. 164 (trad.aut.).
(3) „… există în prezent aproape 500 de companii private de AI care sunt unicorni, cu o valoare de minimum 1 miliard de dolari pe firmă și o valoare combinată de 2.700 de miliarde de dolari. Un număr uimitor de 100 dintre aceste afaceri au fost fondate numai din 2023. Boomul actual este atât de semnificativ, încât ar putea marca începutul unei ere a trilionarilor – oameni cu o avere mai mare de 1.000 de miliarde de dolari”, conform: https://techrider.ro/ai/inteligenta-artificiala-creeaza-miliardari-intr-un-ritm-record-exista-deja-498-de-unicorni-ai-cu-o-valoare-totala-de-2-700-de-miliarde-de-dolari/.
(4) Vezi episodul „The AI Safety Expert: These Are The Only 5 Jobs That Will Remain In 2030!” al podcastului The Diary of a CEO,: https://www.youtube.com/watch?v=UclrVWafRAI&ab_channel=TheDiaryOfACEO.
(5) Artificial Intelligence Act (AI Act) a fost publicat în Jurnalul Oficial al UE din 12 iulie 2024. Versiunea integrală poate fi consultată aici: https://artificialintelligenceact.eu/the-act/.
(6) Din declarația europarlamentarului Dragoș Tudorache (Grupul Renew, Europe), co-raportor pentru Parlamentul European în timpul conferinței de presă – partea a treia – legată de adoptarea AI Act, 09 decembrie 2023, Bruxelles, disponibilă online la: https://newsroom.consilium.europa.eu/events/20231206-artificial-intelligence-act-trilogue/142864-3-press-conference-part-3-20231209-1 (trad.aut.).
(7) Text & data mining (minarea prin text și date) „reprezintă procesul de extragere a informațiilor din materiale lizibile de către mașini. Funcționează prin copierea unor cantități mari de materiale, extragerea datelor și recombinarea acestora pentru a identifica tipare”, conform: https://libguides.cam.ac.uk/tdm/definitions.
(8) GDPR este acronimul de la Regulamentul general privind protecția datelor, adoptat de Uniunea Europeană cu scopul de a oferi cetățenilor europeni protecția datelor cu caracter personal. A intrat în vigoare la 25 mai 2018.
(9) Un prompt (en.) este un mesaj-text, o comandă sau un set de instrucţiuni, care indică (în acest caz) sistemului de tip IA ce sarcină trebuie să îndeplinească (n.r.).