[Creativitate & Tehnologie] Bogdan Bocșe: ”Lost in translation” ar fi o descriere foarte adecvată a stării așa-zisei ”inteligențe artificiale”

Inteligența artificială are, în acest moment, o aură babiloniană, bazată pe mit, prejudecăți, iluzii, frici și așteptări nemăsurate.
Se vorbește mult despre AI, dar, din păcate, e prezentat ca un amestec între promisiuni volatile de marketing și de comunicare, inovații tehnice doar parțial explicate. Bogdan Bocșe, Managing Partner Knosis.ai, dă la o parte legendele și clișeele legate inteligența artificială și explică, în interviul de mai jos, stadiul real în care se află dezvoltarea AI în 2022. 

 Oamenii adesea presupun că modulele de învățare automată (machine learning, deep learning) și de inteligența artificială reușesc să învețe orice îți imaginezi și dorești din orice informații și din orice procese ai. Realitatea e că AI poate să învețe urmărind anumite tipuri de reguli indicate din datele/exemple relevante, corecte, complete și încredere care se fac disponbile, spune Bogdan.

Povestim cu el, în continuare, despre limitele și potențialul AI, felul în care este percepută evoluția inteligenței artificiale de publicul larg, temerile și provocările noii realități, cum va evolua relația dintre creativitate și noile tehnologii, cum trebuie regândită educația în funcție de noua paradigmă. 

În seria editorială [Creativitate & Tehnologie], celebrăm deschiderea creatorilor de a îmbrățișa tehnologia și de a găsi în ea resurse noi de evoluție. Inteligența artificială e aici, infiltrându-se în toate domeniile. Și noi avem privilegiul de a descoperi teritorii noi alături de ea. În publicitate, design, muzică, fotografie, film, toate formele creației.   

Nu știm ce va urma, ce simbioze ale creativității artificiale se vor produce. Dar suntem aici, să spunem mai departe poveștile care se formează la granița dintre tehnologie, creativitate și umanitate. Vrem să vorbim de Creativitate & Tehnologie, nu de Creativitate VS Tehnologie.
Știm că AI-ul si tehnologia se vor alătura creativității, nu vor concura.

Stadiul AI-ului acum

”Lost in translation” ar fi o descriere foarte adecvată a stării așa-zisei ”inteligențe artificiale”. Adică ”pierdută printre rânduri” ar fi o traducere mai plastică în limba noastră maternă.

Inteligența - fie ea naturală, sintetică sau artificială (inclusiv artizanală) trebuie să aibă câteva caracteristici: autonomie (a îți purta de grijă), sapiență (a ști), saliență (a fii atent când și unde contează), sentiență (a simți). Ori, de mult ori, soluțiile împachetate, promovate și comercializate sub eticheta de ”inteligență artificială” nu prea pot dovedi niciuna dintre condițiile-dezideratele de mai sus.

Din păcate, în spațiul Uniunii Europene, inteligența artificială are mai degrabă un caracter magic-mitologic cu iz de ”cargo cult”, în sensul în care aplicațiile de machine learning/deep learning etc. produse în EU sunt în bună măsură dependente de componente electronice (chip-uri) importate din Orientul Îndepărtat, dar și de proprietate intelectuală (software comercial, software open source, servicii captive în ”cloud”) importată din SUA.

Dezvoltarea inteligenței artificiale orbitează strâns în jurul marilor poli de concentrare a informațiilor brute (eg. clipuri de pe TikTok, ideale pentru învățarea semanticii și conotațiilor gesturale ale expresiei umane, sau Stories de pe Instagram și Facebook) și a informațiilor prelucrate (compozite, agregate, analizate - *.analytica, *.analytics, marketplaces). Așadar, majoritatea companiilor din Europa au o poziție precară în ceea ce privește accesul la date și în ceea ce privește dobândirea legitimă a accesului la date. Concret, oricărei companii din Europa i-ar fi între dificil și imposibil să procure accesul la datele necesare pentru antrenarea unui model-estimator cum ar fi GPT-X (OpenAI), Imagen (Alphabet/Google) sau MuZero (Alphabet/DeepMind). Această problemă este mult mai ușor de rezolvat pentru rețele de parteneriate (data exchanges, data escrow, data brokers-publishers) operate de companii din SUA - Facebook, Amazon, Google, Microsoft -  sau din China - ByteDance (DouYin, TikTok), Tencent (WeChat), Sina Weibo, Xiao Hong Shu - similar cu Instagram, Douban - similar cu Reddit, Zhihu - similar cu Quora.

Așadar, din nefericire, în Europa majoritatea activității economice din jurul sectorului de inteligență artificială se bazează mult pe importul tehnologiilor hardware și software pre-împachetate în afara granițelor europene. Prin diverse programe de stimulare (Horizon, Digital Europe Programme, European Chips Act) Comisia Europeană face eforturi de recuperare a decalajului - ceea ce se dovedește dificil, lent și oarecum tardiv după 20 de ani de exod și acumulare de date și de inteligență umană în afara continentului, mai ales peste Atlantic.

Cum e prezentat AI-ul 

Din păcate, în mare parte din piață, AI-ul e prezentat ca o promisiune amplă și vagă, făcută adesea în grabă. De mult ori, este un amestec între promisiuni volatile de marketing și de comunicare, inovații tehnice doar parțial explicate și foarte foarte multe datorie tehnică mascată și limitări ascunse.

De multe ori le spunem clienților noștri că o soluție de AI nu e greu de dezvoltat și de instalat, cât e greu de testat corect și adaptat complet în scenariul practic în care e utilizată. Proporțional cu puterea de calcul și de interpretare adusă de soluțiile AI crește și marja de eroare între ”ce ne imaginăm că va face/poate face sistemul” și ”ce programăm sistemul să facă de fapt”

Împreună cu colegii de la Knosis.AI am ales să promovăm noțiunea mai specifică de ”inteligență augmentată (în mod) artificial”, pentru a sublinia că obiectivul nu e doar replicare/imitarea parțială a unor abilități umane de către mașină, ci și realizarea dovedibil corectă a acelora. 

Bogdan Bocșe este Managing Partner Knosis.ai

Beneficii

Asta e ca și cum am fi întrebat la 1900 care sunt beneficiile telefonului și ale faxului.

În mod ideal, presupunând un acces deschis și echitabil la informație, augmentarea artificială a inteligenței vine cu promisiunea de a crește anvergura informațională (să poți gestiona mai multe întrebări), autonomia intelectuală (să poți învăța mai profund mai multe lucruri utile), profunzimea observării (să poți observa mai multe colțuri din Univers cu mai puțin efort) și eficiența decizională (să putem calcula mai rapid moduri de a reduce amprenta umană asupra mediului înainte să fim nevoiți să ne reducem confortul și accesul la servicii).

Aceste beneficii sunt însă dependente și de atitudinea utilizatorului față de învățare de concepte noi și adoptare de rețete noi, atât la nivel individual (eg. ”unde mai țin o copie privată a datelor pe care le expun în social media?”), cât și la nivel organizațional (eg. ”cu ce instrumente open source îmi pot pregăti elevii mai bine”, ”ce trebuie să măsor în cadrul organizației mele pentru a știi că proiectul de digitalizare a fost sau nu a fost de succes”).

Pericolele

Cel mai mare pericol este să continuăm să acceptăm status quo-ul modelului cloud.

Ca să-l parafrazăm pe domnul Asimov: nu îmi e teamă de calculatoare cât de lipsa lor (după ce ne vom fi obișnuit cu ele).

“I do not fear computers. I fear lack of them.”
Isaac Asimov

De asta îmi e cel mai frică: că ne vom obișnui - în țară, în Balcani, în Europa - să beneficiem de servicii digitale la un preț și la o calitate pe care nu le vom putea susține (tehnologic, educațional, cultural, material, energetic) pentru încă o generație.

Îmi e frică de consecințele împământenirii și permanentizării unei ”economii digitale de consum”, în care tehnologia (de la terminale-telefon până la accesul la rețele de agenți virtuali adaptivi și clustere cu GPU pentru machine learning, din cloud) ne vor fi accesibile în moduri tot mai inegale: unora gratuit și abundent, unora ieftin și suficient, unora rar și cu țârâita, unora puțin-și-prost și altora deloc-deloc.

Îmi e frică de neo-feudalismul digital, în care cetățenii planetei renunță definitiv la dividendele asupra datelor lor și la uzufructul izvorând din acele date.

Companiile cele mai puternice în dezvoltarea AI-ului

Pentru a răspunde la întrebare, aș identifica două feluri de putere: putere de tip ”David” și putere de tip ”Goliath”. E evident că în categoria companiilor puternice de tip ”Goliath” MFAANG (Microsoft, Facebook, Amazon, Apple, Netflix) - au o poziție preferențială (ce frivează monopolulul) în ceea ce privește infrastructura de calcul, băncile de date și accesul la generații noi de chip-uri și arhitecturi hardware (inclusiv GPU, TPU, TPM/SGX și alte componente specializate în calcul tensorial și criptografic).

Categoria companiilor de tip ”David”, din care îmi place să cred că și Knosis.AI face parte, au doar o singură strategie de câștig și anume să inoveze la nivelul ”ritualurilor” de colectare și de monetizare a datelor pe care piața deocamdată la ”ia de-a gata”.

”Ca utilizator: care e dividendul meu asupra datelor pe care le fac disponbile/accesibile într-o platformă?”

”Ca furnizor: cum mă pot asigura că o parte din tehnologia pe care o dezvolt și operez vine și în susținerea educației generațiilor următoare, ca Open Source, ca Open Data, ca Open Skill?”

Ce va putea face AI-ul. Ce nu va putea face

Mașina de calcul (calculatorul, rețeaua, AI-ul) va putea învăța ce o învățăm să învețe.

Și mașina de calcul va putea face ce învață, inclusiv să testeze sau să studieze performanța unei alte mașini de calcul din anumite perspective.

“A computer will do what you tell it to do, but that may be much different from what you had in mind.” – spunea domnul Joseph Weizenbaum, la vremea respectivă profesor de calculatoare și inteligența artificială la MIT.

Dar AI-ul nu va putea prea curând să:

• Simtă pentru noi
• Intuiască mereu ”ce voiam să spunem de fapt” atunci când nu știm a ne exprima corect sau complet
• Ne citească gândurile în detaliul și în claritatea pe care o simțim noi în minte
• Fie legal responsabil pentru noi și pentru consecințele acțiunilor noastre
• Să ne apere de pericole despre care nu-l învățăm suficient
• Educe următoarea generație de oameni fără implicarea adulților

Așteptările oamenilor cu privire la AI

Aici e un subiect sensibil, unde e greu de dat un răspuns în același timp onest, complet și plăcubil.

În ceea ce privește așteptările oamenilor, adevărul e că de multe ori ei vor să sară la partea cu beneficiul imediat (instant gratification), fără să înțeleagă dependențele, pre-rechizitele, limitările sau riscurile mecanismelor de calcul, de estimare, de echivalare pe care ei le adoptă. Un exemplu notoriu ar fi mașinile cu ”pilot automat” vândute de compania lui Elon Musk, care de fapt au autonomie pe un spectru foarte limitat de situații favorabile, în ciuda faptului că utilizatorului i se dă impresia că poate lua fără griji mâna de pe volan și ochii de pe drum.

Oamenii adesea presupun că modulele de învățare automată (machine learning, deep learning) și de inteligență artificială reușesc să învețe orice îți imaginezi și dorești din orice informații și din orice procese ai. Realitatea e că AI poate să învețe urmărind anumite tipuri de reguli indicate din datele/exemple relevante, corecte, complete și încredere care se fac disponbile.

Oamenii, atât în context profesional cât și în context personal-comunitar, intuiesc în mod corect potențialul de eficientizare pe care tehnologia ”învățării automate” îl aduce. Ceea ce oamenii nu prea intuiesc este efortul de învățare, de retehnologizare și de organizare pe care îl implică dezvoltarea, calibrarea și mai ales testarea unui ansamblu de inteligență artificială care să fie în același timp fit for use și fit for purpose.

Cum va evolua relația dintre creativitate și tehnologia AI

În multe feluri, dezvoltarea formelor de inteligență automată, augmentată și asistată (reunite sub titlul ”AI”) va arăta, în scurtă secvență, două lucruri:

• Limitările creativității umane și ale artelor pre-Internet – tehnologia va domina trecutul și istoria artei. De facto, ansamblele de AI sunt deja mai abile în a produce artă nouă în stilul lui Gauguin, lui Matisse sau lui Monet mai rapid, mai eficient și mai convingător decât un curator uman abil. (Cat) Despre clasificare, catalogare și descriere, supremația aparține deja rețelelor de mașini.
• Oportunitățile de evoluție ale creativității umane în noi forme de artă - tehnologia va produce oportunități pentru feluri noi de artă, la granița dintre domenii (pentru vizualizare, traducere intre-disciplinară), dintre limbi/limbaje, la limita dintre sapiens, salience și sentiens.

Cum trebuie regândită educația în era AI-ului

Educația trebuie gândită pentru a asigura autonomia intelectuală a elevului și pentru a-i da curajul să gospodărească cu încredere complexitatea rețelelor (de date, de calcul, de servicii, de contacte etc) de care e făcut să depindă.