Selfie-urile generate cu Lensa AI au invadat rețelele de socializare. Însă ce pericole ascunde aplicația?

În ultima săptămână, utilizatorii s-au înghesuit pe Lensa AI, o aplicație care folosește selfie-urile tale și inteligența artificială pentru a crea portrete într-o varietate de stiluri. Creată de compania Prisma Labs, aplicația generează imagini… și controverse.

Ce este Lensa AI?

Chiar dacă nu ai auzit de Lensa AI, este posibil să fi văzut activitatea acesteia în această săptămână. Începând de miercuri, a fost cea mai populară aplicație iPhone din Statele Unite în magazinul de aplicații al Apple. Lensa îți ia selfie-urile, le studiază și creează portrete originale, generate pe calculator.

Trebuie să plătesc pentru ea?

Da. În momentul de față, puteți obține 50 de avataruri – 10 imagini în cinci stiluri – pentru 3,99 USD în timpul unei perioade de probă de o săptămână.

„Magic Avatars consumă o putere de calcul extraordinară pentru a crea avataruri uimitoare pentru dumneavoastră”, potrivit paginii de plată a Lensa. „Este scump, dar l-am făcut cât mai accesibil posibil”. Avertismentul corect: prețurile au fluctuat pe măsură ce aplicația a devenit din ce în ce mai populară și este posibil să se fi schimbat de la publicarea acestui articol.

Cum funcționează?

După ce descarci aplicația, vei încărca o serie de selfie-uri. (Fă-ți o favoare și nu include niciunul în care mâinile îți ating fața, dacă nu vrei să plătești pentru a primi înapoi o grămadă de imagini cu falangele fantomatice care îți atârnă din gură). Selectează un gen – bărbat, femeie sau altul – și stai departe de telefon pentru aproximativ o jumătate de oră, iar când te vei, gata. Fața ta, sau ceva asemănător, a fost întinsă și strânsă pe o suită de 50 până la 200 – în funcție de pachetul pe care îl achiziționezi – de imagini generate de inteligența artificială cu teme precum „cosmic”, „prințesă” și „anime”.

OK, dar cum funcționează cu adevărat?

Stable Diffusion este un generator de imagini „foarte puternic” bazat pe inteligență artificială, a declarat Subbarao Kambhampati, profesor la School of Computing and Augmented Intelligence din cadrul Arizona State University. Asemănător cu DALL-E 2 și Midjourney, Stable Diffusion folosește indicații de imagine (cum ar fi selfie-urile tale) și indicații de text (cum ar fi „fantezie”, una dintre categoriile Lensa AI) pentru a genera imagini de înaltă calitate care uneori devin „ciudate”, a spus Dr. Kambhampati. „Vă arată imagini pe care nu le-a făcut nimeni.”

Mișto.

Este grozav! Este amuzant să te vezi redat sub forma unui tablou sau a unui personaj anime sau a unui mic elf de pădure cu ochi de dimensiuni diferite și cu o singură mână.

De ce unii utilizatori sunt iritați

Există câteva motive pentru care unii utilizatori sunt iritați de imaginile pe care le produce Lensa AI. În primul rând, mulți utilizatori raportează că arta îi sexualizează. Când am testat aplicația, mai multe dintre imaginile pe care le-am primit după ce am încărcat selfie-uri și am selectat „feminin” includeau reprezentări ale corpului întreg, în ciuda faptului că utilizatorii sunt instruiți în mod special să încarce doar selfie-uri faciale. Una dintre imagini îl prezenta pe avatarul nostru într-un bikini metalic à la Prințesa Leia. O alta includea doar o jumătate de față deasupra unui corp îmbrăcat sumar.

Prisma Labs afirmă pe pagina sa de Întrebări Frecvente că „se observă o sexualizare ocazională în toate categoriile de gen”.

Astfel, este destul de simplu să folosești aplicația pentru a crea imagini lascive cu oricine dorești. Săptămâna aceasta, Tech Crunch a reușit să creeze avataruri topless ale celebrităților folosind imagini ale capului unui actor editate pe corpuri topless. „Se pare că inteligența artificială ia aceste imagini photoshopate ca pe o permisiune de a se dezlănțui, și se pare că dezactivează un filtru NSFW («not safe for work», materiale care nu sunt destinate publicului, fiind de natură intimă – n.r.”, a relatat Tech Crunch. Acum imaginați-vă același experiment, dar prin prisma cuiva care urmărește să facă pornografie din răzbunare.

Andrei Usolțev, director executiv și cofondator al Prisma Labs, a declarat pentru TechCrunch că utilizarea Lensa AI în scopul unui „comportament dăunător sau de hărțuire” reprezintă o încălcare a termenilor de utilizare.

Ce părere au artiștii despre Lensa?

Stable Diffusion a fost antrenat pe creațiile multor artiști care nu au consimțit în mod explicit la utilizarea lucrărilor lor pentru profitul Prisma Labs, a declarat Dr. Kambhampati, adăugând: „Dacă van Gogh ar fi trăit astăzi, probabil că ar trebui să-i plătești lui van Gogh o taxă de licență pentru ca imaginile tale să fie în stilul său”.

„Pentru mulți oameni, faptul că ni se fură arta nu este considerat ceva personal – de genul: «Oh, ei bine, știți, este doar un stil; nu poți avea drepturi de autor asupra unui stil»”, a declarat Jonathan Lam, un artist de storyboard care lucrează în domeniul jocurilor video și al animației. „Dar aș spune că, pentru noi, stilul nostru este de fapt identitatea noastră. Este ceea ce ne diferențiază unul de celălalt. Este ceea ce ne face să fim comercializabili pentru clienți.”

Jonathan Lam, care locuiește în Vancouver, British Columbia, este unul dintre numeroșii artiști care s-au exprimat între timp pe rețelele de socializare cu privire la această aplicație.

El a remarcat, de asemenea, că unele dintre lucrările generate de Lensa includ ceea ce par a fi randări ale semnăturilor artiștilor. „Toți acești entuziaști ai tehnologiei spun că aceste generatoare creează ceva nou, dar dacă semnătura artistului este încă acolo, nu este ceva nou”, a spus Lam. „Pur și simplu generează ceva pe baza datelor cu care a fost alimentat.”

„Cred că publicul larg presupune că este vorba despre un program care a învățat să deseneze de unul singur în vid și nu realizează implicațiile mai mari ale exploatării datelor”, a adăugat el. „Când începi să vezi că aceste lucruri devin monetizate și că oameni reali sunt exploatați și abuzați, este destul de înfricoșător. Și este și mai înspăimântător atunci când este deghizat sub forma unei aplicații frumoase.”

A răspuns Prisma Labs la aceste îngrijorări?

Prisma Labs a scris într-o discuție pe Twitter că IA „nu va înlocui artiștii digitali” și a respins caracterizarea potrivit căreia Lensa ar fi furat munca artiștilor. „Inteligența artificială învață să recunoască legăturile dintre imagini și descrierile acestora, nu operele de artă”, a scris compania. „Așa cum cinematograful nu a ucis teatrul și software-ul de contabilitate nu a eradicat profesia, IA nu va înlocui artiștii, dar poate deveni un instrument de asistență excelent.”

Există preocupări legate de confidențialitate?

„Mă îndoiesc că întregul model de afaceri este: «Dați-ne 10 sau 15 dolari și vă vom trimite înapoi o fotografie glamour cu inteligență artificială»”, a declarat Jen King, cercetător în domeniul confidențialității și al politicii de date la Institutul pentru inteligență artificială centrată pe om de la Universitatea Stanford.

Politica de confidențialitate a Lensa AI susține că „datele privind fețele” sunt șterse în termen de 24 de ore după ce au fost procesate și nu sunt folosite pentru a identifica niciun utilizator individual – dar precizează, de asemenea, că fotografiile și videoclipurile pot fi folosite pentru a antrena în continuare algoritmii Lensa.