Societatea (la nivel global, dar și cea locală) nu se îndreaptă în direcția acceptării celuilalt. E din ce în ce mai fracturată, clivată, pervertită de o utilizare de multe ori greșită a tehnologiei. Riscurile pentru creșterea influenței spațiului virtual în ceea ce privește evoluțiile opuse utopiei egalitare sunt numeroase: polarizarea crescândă din cauza bulelor filtrante și informațiilor auto-referențiale. Dar cine spune că suntem într-o perspectivă deterministă? Algoritmii pot, sunt și vor fi folosiți de cei care cred în posibilitățile unei vieți mai bune împreună. Despre justiție socială, egalitate de șanse, feminism, design incluziv, design participativ am vorbit cu Andra Bria, digital product designer și creatoarea Feminist Futures Hackathon.
"Da, societatea este fracturată, supusă fake news și conspirațiilor, dar, în același timp, văd oameni care construiesc instituții și organizații alternative, grupuri de mutual aid, care au fost extrem de eficiente în contextul Covid, văd o nouă generație, generația Z mai puternică, mai conectată și mai implicată civic decât oricare alta", spune Andra.
Împreună cu Sinem Görücü, arhitect, design researcher și data activist, Andra Bria a inițiat Feminist Futures Hackathon, un hackathon care își propune sa vină cu idei, concepte, campanii, servicii sociale sau soluții tehnologice la problemele cu care grupurile marginalizate se confruntă astăzi, fie că este vorba despre femei, non-binary people, LGBTQ+, persoane cu dizabilități etc. Feminist Futures Hackathon se desfășoară în perioada 31 Mai- 6 Iunie și este compus din 3 track-uri: 1. Take Part - technologies for urban justice; 2. Take Care - technologies for health & wellbeing; 3. Take Control - technologies for financial inclusion. În perioada 31 Mai- 4 Iunie vor avea loc discuții și dezbateri pe marginea temei centrale a evenimentului, împreună cu organizații partenere ca EndTab sau FeministAI, iar în perioada 4-6 Iunie va avea loc hack-ul propriu zis.
Povestea pe scurt a hackaton-ului și colaborarea cu Sinem
Eu am această școală de produs digital numită Craft Product School, unde scopul este de a crea produse tehnologice etice și incluzive, iar Sinem a participat la cursul Design for Equality. Cea mai bună parte a acestei școli este că prin intermediul ei am întâlnit oameni care ulterior mi-au devenit prieteni sau parteneri de business, iar Sinem este unul dintre acești oameni. Cu Sinem am tot discutat de-a lungul timpului despre o mulțime de idei de proiecte, toate în jurul conceptelor de justiție socială, egalitate de șanse, feminism, design incluziv, design participativ etc. și amândouă suntem conectate la o mulțime de organizații care desfășoară activități în aceste zone. Hackathon-ul ni s-a părut un model bun de la care să pornim, pentru că acesta propune un spațiu de co-creare, reunind oameni cu diferite skill-uri, în echipe multidisciplinare, care produc, într-un timp extrem de scurt, produse tehnologice.
Noi am vrut să schimbăm puțin abordarea acestor spații de inovație: 1. pentru că nu credem în soluționismul tehnologic, outcome-urile hackathonului nu vor fi doar produse hardware sau software, ci și campanii media, servicii sociale, lucrări artistice samd; 2. oricine este invitat să participe, nu trebuie să știi să programezi, nu trebuie să fii parte din lumea tech, și 3. mai mult decât atât, am propus niște teme care foarte rar își găsesc loc în tehnologie: sănătatea femeilor și a grupurilor marginalizate, incluziunea financiară și incluziunea urbană. De exemplu, cercetarea în domeniul sănătății femeilor este extrem de subfinanțată - reprezintă în prezent doar 4% din finanțarea globală pentru cercetare și dezvoltare pentru produse și servicii medicale, iar 65% din această finanțare se concentrează pe fertilitate. Până de curând, femeile nici nu erau incluse în studiile clinice și, prin urmare, medicamentele și dispozitivele testate pe bărbați erau ineficiente sau chiar nesigure pentru femei. Ne dorim ca, în viitor, să mai organizăm și alte hackathon-uri cu diferite teme centrate în jurul ideii de justiție socială în diferite forme. Vrem să experimentăm în continuare cu mai multe formate.
Alternative radicale
Da, societatea este fracturată, supusă fake news și conspirațiilor, dar în același timp văd oameni care construiesc instituții și organizații alternative, grupuri de mutual aid, care au fost extrem de eficiente în contextul Covid, văd o nouă generație, generația Z mai puternică, mai conectată și mai implicată civic decât oricare alta. Unul dintre speakerii hackathonului nostru este Sarah Cheung, care este o elevă de liceu extrem de implicată civic și preocupată de algorithmic justice. Așa avem și noi organizația Girl Up Romania, formată din elevi de liceu, o sursă incredibilă de informație și educație civică, that I look up to. Da, the world is not doing so well, but it is possible to be different. Cred că speranța unei lumi mai bune este alternativa radicală a blazării, a nihilismului, a indiferenței. Speranța înseamnă să stai cu anxietatea realității, dar să recunoști că realitatea poate fi diferită. Și cred că ține de fiecare dintre noi să adoptăm această atitudine și să contribuim la valorile în care credem: democrație, egalitate, etică.
Data activism și democrație
Cred cu tărie că dispozitivele tehnologice contribuie la construirea unei lumi mai bune, că pot combate răul social. Dealtfel, la Craft Product School, adesea spun că facem activism tehnologic. Nu cred că tehnologia poate fi soluția la orice, dar cred că poate fi o soluție. Și am câteva exemple de tehnologii pe care le-am dezvoltat la Craft în acest sens: de exemplu un chatbot pentru Slack care te corectează atunci când limbajul tău devine sexist, sau o extensie de browser care identifică limbajul defăimător (ex: China virus) și propune o alternativă (ex: Covid19). O să dau câteva exemple de întrebări sau prompt-uri pe care le vom adresa participanților în cadrul hackathonului:
- Cum putem face mai mult awareness cu privire la hărțuirea online/ hărțuirea cibernetică?
- Cum putem face companiile tehnologice mai conștiente de responsabilitatea lor cu privire la tehnologiile pe care le construiesc și cum aceste tehnologii pot fi dăunătoare?
- Cum am putea proiecta instrumente digitale pentru educația sexuală?
- Cum am putea proiecta sisteme digitale pentru supraviețuitorii abuzurilor sexuale?
și altele.
Utopia egalității virtuale?
Cred că, dacă nu suntem atenți, mediul virtual poate capta, reproduce și multiplica multe dintre inegalitățile și discriminările pe care le întâlnim în spațiul real, din păcate. Dar, odată cu progresul tehnologic, și al inteligenței artificiale, avem ocazia să construim o nouă lume: o vom construi ținând cont de tendințele părtinitoare (biases) pe care le avem și încercând să le corectăm, sau vom reproduce inegalitățile din lumea reală? În spațiul virtual ne confruntăm cu un nou tip de “rău”: cyberstalking, cyberharassment, online dating violence, deepfakes - pornografie non-consensuală. Cum putem crea produse tehnologice care să creeze mecanisme de siguranță în aceste cazuri pt utilizatori? De ce este mai greu să fii femeie sau minoritate de orice fel în mediul online (non-binary, LGBTQIA+, BIPOC etc) și de ce trebuie bărbații să ia acest lucru în serios? Dacă vrei să adaugi o funcție de video chat produsului tău, adaugă și posibilitatea pentru utilizatori de a parcurge un video educativ, în care să-i atenționezi despre pericolele la care se expun atunci când folosesc acea funcție video, sau cum o pot folosi în mod etic. Blurring effects pentru nuduri sau opțiuni de atenționare sau banare a utilizatorului în cazul în care acesta folosește limbaj jignitor sunt doar câteva dintre exemplele de bună practică pe care cei care construiesc produse tehnologice ar trebui să-și ia responsabilitatea să le introducă. Din păcate ne confruntăm cu acest “tech enabled abuse”, de aceea companiile de tehnologie sunt responsabile să se gândească la modul în care tehnologia lor poate fi utilizată în mod greșit și să fie atente la blindspots.
Riscurile algoritmilor
Da, algoritmurile iau zilnic decizii în locul nostru, iar noi nici nu ne dăm seama. De exemplu, de fiecare dată când Netflix sau YouTube îți sugerează un anumit conținut, iar tu dai click pe el.
Partea dark a acestui fapt este că YouTube sau Netflix, în goana după audiență, pot sugera conținut din ce în ce mai radicalizat, inclusiv video-uri despre teorii conspiraționiste. Astfel de content extremist captează atenția, dar cu ce cost? Cu costul adicției și al polarizării. Da, AI-ul poate contribui la răspândirea de fake news, la crearea de filter bubbles și conținut extremist, dar un AI gestionat cum trebuie poate și să corecteze, să anihileze dezinformarea și să îmbunătățească calitatea informației publice. Algoritmurile pot fi folosite și în mod pozitiv: în ce privește media în special, pentru că este un tool important al democrației - AI-ul poate ajuta la îmbunătățirea deciziilor editoriale și la transparență - poate corecta bias-ul din redacție și poate crește diversitatea știrilor și a audienței. Astfel, rolul jurnalistului se schimbă: de la colectarea informației la oferirea de sens. AI-ul este o oglindă a societății, deoarece evidențiază toate diviziunile ei. Întrebarea este cum putem folosi potențialul AI. De aceea feminist futures sunt importante. Cum putem să examinăm critic diviziunile și stereotipurile de astăzi, pentru a avea un viitor mai echitabil? Pentru asta e nevoie să acționăm atât din punct de vedere al designului produselor și serviciilor, cât și al leadershipului și strategiei: cine sunt cei care iau deciziile în tech și AI?
Tales for the Future
Cred că nu putem crea ceea ce nu ne putem imagina. De aceea și prin intermediul cărții (n.r. Tales for the Future, a cărei autoare este) am încercat să abordez teme de “oameni mari” într-un limbaj accesibil copiilor, și să le transpun în fantezie și storytelling: vorbesc despre bullying, despre body positivity și acceptarea propriului corp, despre încrederea în sine, despre activism și egalitate și cum facem le față, cum relaționăm vizavi de aceste teme, invit la imaginație, dar și la acțiune. Prin cursurile pe care le susțin la Craft Product School, îmi propun să îmi aduc contribuția la două mari domenii care vor influența societatea: prin Design for Equality, la crearea de tehnologii mai incluzive pentru un viitor echitabil și democratic, iar prin Design for Degrowth, la crearea de tehnologii sustenabile. Iar tehnologia si inteligența artificială fac parte din ambele.
Noul normal
Cred că ar trebui să păstrăm din solidaritatea regăsită în timpul pandemiei. Grija pentru vecinii noștri, pentru oamenii de pe stradă, grija pentru familiile noastre și inclusiv grija pentru noi înșine - cum putem să păstrăm aceste obiceiuri care au fost accentuate în pandemie? Cum putem să ne bucurăm mai mult de ce avem în loc să consumăm mai mult? Vom regăsi aprecierea pentru o relație bună cu aproapele nostru? Vom înțelege că facem parte dintr-o comunitate sau ne vom întoarce la viețile noastre individualiste? Criza ne-a învățat că multe dintre lucrurile pe care le credeam imposibile sunt de fapt ușor de realizat: de exemplu, conceptul muncii: credeam că pentru a munci, trebuie să mergi la birou și că ai nevoie de un manager pentru a fi productiv - ei bine, odată cu criza, am realizat că putem foarte bine să lucrăm și singuri, de acasă. Credeam că oamenii fără adăpost nu au un spațiu unde să stea - în timpul crizei, am văzut că pot sta de exemplu în hotelurile care au rămas goale.
Criza este cel mai bun moment în care permitem alternativelor să se dezvolte în societate. Întrebarea este: putem să păstrăm aceste noi convingeri în absența crizei? Hai să nu ne întoarcem la normal, hai să nu ne întoarcem la ce făceam înainte de pandemie. Hai să nu facem business as usual. Hai să folosim acest moment de pivot ca pe o ocazie de a crea un nou normal.