Personalitatea, sunetul vocii și utilizarea limbajului par a fi toate indicii la fel de puternice pentru răspunsurile sociale (3, 4). Genul are o importanță similară în ceea ce privește modul în care oamenii se comportă și interacționează social cu grupul lor intern (6), iar această aliniere de gen poate explica răspunsurile diferite în funcție de genul utilizatorului uman (4). Personalitatea poate semnala genul: Arhetipurile „feminine” sunt văzute ca fiind mai prietenoase, mai deschise și mai emoționale, în timp ce a fi dominant, încrezător și competitiv este văzut de obicei ca o trăsătură „masculină”. Sociologul H. Woods (8) a evidențiat în studiul său că atât creatorii, cât și utilizatorii DVA-urilor pun adesea accentul pe „personalitatea” DVA-ului chiar mai mult decât pe tehnologia în sine sau pe ceea ce aceasta este capabilă să facă. În pofida „rolului” lor principal de asistent domestic, Alexa a fost prezentată, de asemenea, ca un companion, îngrijitor și co-părinte; Siri ca un prieten apropiat căruia i se pot adresa întrebări legate de sex (8). Aceste trăsături sunt programate în mod intenționat în IA, din cel puțin un motiv pentru a genera încredere în IA (8).
De ce să fie genul IA deloc?
Chiar dacă este considerată o modă învechită, nu cu mult timp în urmă era obișnuit să auzi un bărbat referindu-se la mașina sau la barca sa ca la o „ea”. Aceste referințe merg împreună cu o lungă istorie de feminizare a mașinilor și a tehnologiei atât în ficțiune, cât și în viața reală (Bergen 2016). Motivul pentru care această practică nu mai este la modă în ultimii ani, în favoarea unui pronume „ea” neutru din punct de vedere al genului, este probabil o evoluție culturală a epocii post-feministe către o lume acum mai sensibilă la gen. De fapt, AP Styleguide a anunțat recent o nouă progresie în ceea ce privește pronumele de gen, încurajând utilizarea termenilor they/their/them atunci când genul nu este identificat (Easton, 2017). Și, în ciuda tendinței actuale pentru DVA-uri ca personaje feminine, din punct de vedere istoric există foarte probabil mai multe exemple de mașini personificate de sex masculin decât de sex feminin (de exemplu, KITT din Knight Rider, majoritatea Transformers, Data din Star Trek și C3PO și R2D2 din Războiul Stelelor).
Atunci, o întrebare pe care v-ați putea-o pune (dacă ați citit până aici, oricum!) este: ar putea DVA-urile fără un gen implicit să aibă succes pe piață? Ar avea ele o simpatie și o adopție similară cu cele de gen feminin? Ei bine, un prototip de voce „fără gen” pentru DVA, numit „Q”, a fost anunțat recent ca o încercare de dialog provocator pentru a încuraja companiile de tehnologie să ia în considerare vocile care nu sunt specifice genului (7). Deși este doar un prototip de voce și nu este utilizat încă în nicio aplicație de inteligență artificială, lansarea și acoperirea mediatică sugerează că cel puțin unii cer un dialog general despre genul DVA-urilor. Dar, având în vedere că oamenii sunt cablați pentru a clasifica genul ca fiind binar (3), s-ar putea presupune în mod logic că va exista o anumită rezistență din partea oamenilor obișnuiți în ceea ce privește angajamentul lor față de DVA-uri neutre din punct de vedere al genului.
Evident, problemele complexe legate de gen în știință, tehnologie și IA sunt unele care nu pot fi rezolvate prin simpla „de-genderizare” a IA (sau a altor obiecte). Stereotipurile culturale de gen, designul tehnologic patriarhal și utilizarea economiei comportamentale în profitul corporatist sunt toate în joc aici și sunt probleme la fel de mari și păroase, fiecare în parte.
Atunci, de ce sunt toate DVA-urile feminine?
În epoca postmodernă, în care consumerismul și mass-media sunt proeminente în societate, DVA-urile sunt o formă mainstream de IA în mare parte pentru că sunt accesibile – relativ accesibile, ușor de găsit și ușor de folosit – și, astfel, au devenit populare de către milioane de consumatori. Personificarea feminină poate încuraja, de fapt, acceptarea și utilizarea DVA-urilor, chiar și în cele mai personale și intime părți ale vieții utilizatorilor săi (8). Personajele feminine sunt mai puțin amenințătoare (prietenoase și mai puțin autoritare) și, în general, sunt considerate mai demne de încredere decât bărbații (9). În timp ce Nass & Brave în cercetarea lor constată că vocile masculine sunt deseori văzute ca fiind mai credibile și generează mai multă încredere decât vocile feminine în anumite contexte, cercetările anterioare privind diferențele de gen în materie de încredere și de încredere constată că, în timp ce bărbații sunt mai încrezători, femeile pot fi mai demne de încredere, având în vedere tendința lor de a fi reciproce (10).
Dar Woods (8) sugerează că aici se întâmplă ceva mai sinistru. Ea susține că utilizarea unei personalități feminine este o decizie deliberată a corporațiilor creatoare de DVA-uri pentru a liniști îngrijorările utilizatorilor cu privire la colectarea, utilizarea și confidențialitatea datelor. Într-adevăr, companiile de tehnologie au transformat DVA-ul în marfă; acesta este el însuși un obiect de profit și, mai important, un canal către venituri suplimentare prin servicii suplimentare, cum ar fi vânzările cu amănuntul pentru Amazon și abonamentele de software pentru Apple, Google și Microsoft.
Și Woods ar putea avea dreptate aici. Ceea ce majoritatea consumatorilor nu realizează este că costul pentru consumator poate fi mult mai mare decât prețul de aproape 1.000 de dolari al unui nou Apple iPhone. Siri, care a devenit un companion de încredere în mare parte datorită vocii sale feminine și prietenoase, ne-a obligat să avem încredere în iPhone-ul din buzunarul nostru. În spatele sticlei, fiecare introducere a datelor noastre biometrice, fiecare comandă vocală rostită este o poartă de acces la datele noastre personale (8). Alexa are acum 400 de „abilități” (sau aplicații) produse de mărci precum Nike, Campbell’s și Tide, care oferă acestor companii un canal de acces în casele consumatorilor.
Datele noastre sunt, de fapt, capitalul – o marfă monetizată de creatorul produsului, vândută agenților de publicitate și reciclată pentru antrenarea în continuare a sistemelor de inteligență artificială pentru a le face și mai bune. Difuzoarele inteligente (Amazon, Google Home și Apple Homepod) înregistrează și stochează vocile din casă 24/7, chiar dacă utilizatorul său nu a activat dispozitivul. Recent, s-a raportat că nu este vorba deloc de o colectare anonimă de date, ci de persoane reale de la Amazon care ascultă conversațiile prin intermediul dispozitivelor Echo. După cum propune Woods, utilizarea personajului feminin poate ajuta utilizatorii să se simtă mai confortabil cu această „supraveghere omniprezentă”. Așadar, în timp ce interacțiunile dvs. de zi cu zi cu Siri s-ar putea să nu vă stimuleze să vă gândiți de ce a fost creată ca ea, sau să glumiți cu prietenii dvs. și să o numiți pe Alexa „cățea” (așa cum fac adesea ai mei), ar putea fi bine să vă gândiți puțin mai profund la modul în care acest lucru ar putea fi o simplă distragere a atenției de la cine vă ascultă și cine vă folosește datele.
Deci există și avantaje ca DVA-urile noastre să fie feminine?
Poate că da. În cadrul studiului de consum LivePerson, 57,4 % dintre respondenți au declarat că pot numi un bărbat celebru din domeniul tehnologiei (Bill Gates, Steve Jobs și Elon Musk au fost printre alegerile de top), însă dintre cei 4 % care au putut numi de fapt un lider feminin din domeniul tehnologiei, un sfert dintre aceștia au numit „Alexa” sau „Siri”. Acest lucru nu este în niciun caz acceptabil și evidențiază o serie de probleme mai profunde legate de sexismul în domeniul tehnologiei, pe care le voi detalia într-o altă postare. Cu toate acestea, nu mă pot abține să nu mă gândesc că dacă fetele și băieții tineri încep să asocieze o voce feminină cu „tehnologie” sau „cunoscător al tuturor informațiilor” – acest lucru nu poate fi un lucru total rău.
****
Contenutul de mai sus este o adaptare din teza mea originală, „Societal Implications of Gendering AI;” disponibilă în text integral la
1. Pew Research Center. (2017). American Trends Panel. Retrieved from https://www.pewresearch.org/american-trends-panel-datasets/
2. Bosker, B. (2013, 11 iunie). De ce vocea lui Siri este acum un bărbat (și o femeie). Huffington Post. Retrieved from: https://www.huffingtonpost.com/2013/06/11/siri-voice-man-woman_n_3423245.html
3. Nass, C. & Brave, S. (2004). Cablat pentru vorbire: Cum activează și avansează vocea relația om-calculator. . Retrieved from Amazon.com
4. Nass, C., Moon, Y., & Green, N. (1997). Sunt mașinile neutre din punct de vedere al genului? Răspunsuri stereotipice de gen la computerele cu voce. Journal of Applied Social Psychology, 27 (10), 864-876. doi: 10.1111/j.1559-1816.1997.tb00275.x
5. Chemaly, S. (2016, 27 iulie). Ce au de-a face stereotipurile de gen și sexismul cu algoritmii și roboții. Huffington Post. Retrieved from https://www.huffingtonpost.com/soraya-chemaly/what-gender-stereotypes-and-sexism-have-to-do-with-algorithms-and-robots_b_7880906.html
6. Psylla I., Sapiezynski P., Mones E., & Lehmann S. (2017). Rolul genului în organizarea rețelelor sociale. PLoS ONE 12(12): e0189873. doi10.1371/journal.pone.0189873
7. Salinas, S. (2019, 11 martie). Imaginați-vă dacă Alexa nu ar avea gen – cercetătorii au creat o voce care nu este nici masculină, nici feminină. CNBC. https://www.cnbc.com/2019/03/11/researchers-make-q-genderless-voice-for-personal-assistants-like-alexa.html
8. Woods, H. (2018). Cerând mai mult de la Siri și Alexa: Persona feminină în serviciul capitalismului de supraveghere. Studii critice în comunicarea mediatică. 35(4), 334-349. doi:10.1080/15295036.2018.1488082
9. Buchan, N., Croson, R., & Solnick, S. (2008). Încredere și gen: O examinare a comportamentului și a convingerilor în jocul de investiții. Journal of Economic Behavior & Organizare. 68. 466-476. doi:10.1016/j.jebo.2007.10.006.
10. Chaudhuri, A., Paichayontvijit, T., & Shen, L. (2013). Diferențe de gen în ceea ce privește încrederea și încrederea în sine: Indivizi, grupuri de un singur sex și grupuri de sex mixt. Journal of Economic Psychology, 34, 181-194.
.