Personlighet, röstljud och språkanvändning verkar vara lika starka signaler för sociala reaktioner (3, 4). Kön är av liknande betydelse för hur människor beter sig och interagerar socialt med sin in-grupp (6), och denna könsanpassning kan förklara olika reaktioner beroende på den mänskliga användarens kön (4). Personlighet kan signalera kön: ”Kvinnliga” arketyper ses som mer vänliga, öppna och känslomässiga, medan dominans, självförtroende och tävlingsinriktning vanligtvis ses som ”maskulina” egenskaper. Sociologen H. Woods (8) framhöll i sin studie att både skaparna och användarna av DVA ofta betonar DVA:s ”personlighet” ännu mer än själva tekniken eller vad den kan göra. Trots deras primära ”roll” som hushållsassistent har Alexa också porträtterats som en följeslagare, vårdare och medförälder; Siri som en nära vän som man kan ställa sexfrågor till (8). Dessa egenskaper programmeras avsiktligt in i AI, av åtminstone en anledning för att skapa förtroende för AI (8).
Varför könstillhörighet för AI överhuvudtaget?
Och även om det anses vara ett föråldrat mode, var det för inte så länge sedan vanligt att höra en man referera till sin bil eller båt som en ”hon”. Dessa referenser går hand i hand med en lång historia av feminisering av maskiner och teknik både i fiktion och i verkligheten (Bergen 2016). Varför denna praxis har blivit omodern på senare år, till förmån för ett könsneutralt ”det”-pronomen, är sannolikt en kulturell utveckling efter den feministiska eran till en numera mer könskänslig värld. Faktum är att AP Styleguide nyligen tillkännagav ytterligare framsteg när det gäller genuspronomen och uppmuntrar användningen av termerna they/their/them när könet inte är identifierat (Easton, 2017). Och trots den nuvarande trenden för DVA:er som kvinnliga personligheter finns det historiskt sett förmodligen fler exempel på manliga personifierade maskiner än kvinnliga (t.ex. KITT från Knight Rider, de flesta Transformers, Data från Star Trek och C3PO och R2D2 från Star Wars).
Så en fråga du kanske ställer dig då (om du har läst så här långt i alla fall!) är: skulle DVA:er utan ett underförstått kön kunna bli framgångsrika på marknaden? Skulle de ha samma sympatier och samma acceptans som de som är av kvinnligt slag? Nyligen tillkännagavs en ”könslös” prototypröst för DVA:er, kallad ”Q”, som ett försök till en provocerande dialog för att uppmuntra teknikföretag att överväga röster som inte är könsspecifika (7). Även om det bara rör sig om en prototypröst, som ännu inte används i någon AI-applikation, tyder offentliggörandet och mediebevakningen på att åtminstone vissa efterfrågar en mainstreamdialog om könstillhörighet för DVA:er. Men med tanke på människans hårda koppling till att klassificera kön som binärt (3) kan man logiskt sett anta att det kommer att finnas ett visst motstånd från vanliga människor i deras engagemang för könsneutrala DVA:er.
Det är uppenbart att de komplexa könsfrågorna inom vetenskap, teknik och artificiell intelligens inte kan lösas genom att man helt enkelt ”avgenrerar” artificiell intelligens (eller andra objekt). Kulturella könsstereotyper, patriarkalisk teknikutformning och beteendeekonomisk användning i företagens vinstsyfte spelar alla in här och är lika stora håriga frågor var och en för sig.
Så varför är då alla DVA:er feminina?
I den postmoderna eran, där konsumtion och massmedier har en framträdande roll i samhället, är DVA:er en vanlig form av AI, i stor utsträckning på grund av att de är lättillgängliga – relativt överkomliga, lätta att hitta och använda – och därmed populära hos miljontals konsumenter. Den feminina personifieringen kan faktiskt uppmuntra acceptans och användning av DVA, även i de mest personliga och intima delarna av användarnas liv (8). Kvinnliga personligheter är mindre hotfulla (vänliga och mindre auktoritära) och anses i allmänhet vara mer pålitliga än män (9). Medan Nass & Brave i sin forskning finner att manliga röster ofta ses som mer trovärdiga och skapar mer förtroende än kvinnliga röster i vissa sammanhang, finner tidigare forskning om könsskillnader i fråga om förtroende och pålitlighet att medan män är mer tillitsfulla kan kvinnor vara mer pålitliga med tanke på deras tendens till ömsesidighet (10).
Men Woods (8) antyder att det är något mer ondskefullt som pågår här. Hon hävdar att användningen av en kvinnlig persona är ett medvetet beslut av de företag som skapat DVA:s för att dämpa användarnas oro för datainsamling, användning och integritet. Teknikföretagen har faktiskt gjort DVA till en handelsvara; den är i sig själv ett vinstobjekt och, ännu viktigare, en kanal för ytterligare intäkter genom tilläggstjänster, t.ex. detaljhandelsförsäljning för Amazon och programvaruabonnemang för Apple, Google och Microsoft.
Och Woods kan ha en poäng här. Vad de flesta konsumenter inte inser är att konsumentkostnaden kan vara mycket större än prislappen på nästan 1 000 dollar för en ny Apple iPhone. Siri, som har blivit en pålitlig följeslagare till stor del tack vare sin feminina, vänliga röst, har tvingat oss att lita på iPhone i fickan. Bakom glaset är varje inmatning av våra biometriska uppgifter, varje röstkommando som uttalas, en inkörsport till våra personuppgifter (8). Alexa har nu 400 ”färdigheter” (eller appar) som producerats av varumärken som Nike, Campbell’s och Tide, vilket ger dessa företag en kanal in i konsumenternas hem.
Våra uppgifter är i själva verket kapitalet – en vara som produktskaparen tjänar pengar på, som säljs till annonsörer och återanvänds för ytterligare träning av AI-system för att göra dem ännu bättre. Smarta högtalare (Amazon, Google Home och Apple Homepod) registrerar och lagrar röster i hemmet dygnet runt, även om användaren inte har aktiverat enheten. Nyligen rapporterades det att det inte alls är en anonym insamling av data, utan att det är riktiga människor på Amazon som lyssnar på samtalen via sina Echo-enheter. Som Woods föreslår kan användningen av den kvinnliga personligheten hjälpa användarna att känna sig mer bekväma med denna ”allestädes närvarande övervakning”. Så även om dina vardagliga interaktioner med Siri kanske inte får dig att fundera över varför hon skapades som en hon, eller om du skämtar med dina vänner och kallar Alexa för ”bitch” (vilket mina vänner ofta gör), kan det vara lämpligt att du tänker lite djupare på hur detta kan vara en distraktion från vem som lyssnar och vem som använder dina data.
Så finns det några fördelar med att våra DVA:er är kvinnliga?
Kanske det. I LivePerson-konsumentstudien sa 57,4 % av de tillfrågade att de kunde nämna en känd man inom tekniken (Bill Gates, Steve Jobs och Elon Musk var bland de främsta valen), men av de 4 % som faktiskt kunde nämna en kvinnlig ledare inom tekniken var det en fjärdedel som nämnde ”Alexa” eller ”Siri”. Detta är inte på något sätt acceptabelt, och det belyser en mängd djupare frågor om sexism inom teknikområdet som jag kommer att utveckla i ett annat inlägg. Jag kan dock inte låta bli att tänka att om unga flickor och pojkar börjar associera en kvinnlig röst med ”teknik” eller ”den som vet all information” – så kan det inte vara något helt dåligt.
****
Ovanstående innehåll är en anpassning från min ursprungliga avhandling ”Societal Implications of Gendering AI;” som finns tillgänglig i fulltext på https://www.researchgate.net/publication/334945581_Societal_Implications_of_Gendering_AI
1. Pew Research Center. (2017). American Trends Panel. Hämtad från https://www.pewresearch.org/american-trends-panel-datasets/
2. Bosker, B. (2013, 11 juni). Varför Siris röst nu är en man (och en kvinna). Huffington Post. Hämtad från: https://www.huffingtonpost.com/2013/06/11/siri-voice-man-woman_n_3423245.html
3. Nass, C. & Brave, S. (2004). Wired for speech: How voice activates and advances the human computer relationship. . Hämtad från Amazon.com
4. Nass, C., Moon, Y., & Green, N. (1997). Är maskiner könsneutrala? Könsstereotypa reaktioner på datorer med röster. Journal of Applied Social Psychology, 27 (10), 864-876. doi: 10.1111/j.1559-1816.1997.tb00275.x
5. Chemaly, S. (2016, 27 juli). Vad könsstereotyper och sexism har att göra med algoritmer och robotar. Huffington Post. Hämtad från https://www.huffingtonpost.com/soraya-chemaly/what-gender-stereotypes-and-sexism-have-to-do-with-algorithms-and-robots_b_7880906.html
6. Psylla I., Sapiezynski P., Mones E., & Lehmann S. (2017). Könets roll i organisationen av sociala nätverk. PLoS ONE 12(12): e0189873. doi10.1371/journal.pone.0189873
7. Salinas, S. (2019, March 11). Tänk om Alexa inte hade något kön – forskare har skapat en röst som varken är manlig eller kvinnlig. CNBC. https://www.cnbc.com/2019/03/11/researchers-make-q-genderless-voice-for-personal-assistants-like-alexa.html
8. Woods, H. (2018). Att begära mer av Siri och Alexa: Feminine persona in service of surveillance capitalism. Kritiska studier i mediekommunikation. 35(4), 334-349. doi:10.1080/15295036.2018.1488082
9. Buchan, N., Croson, R., & Solnick, S. (2008). Förtroende och kön: En undersökning av beteende och övertygelser i investeringsspelet. Journal of Economic Behavior & Organisation. 68. 466-476. doi:10.1016/j.jebo.2007.10.006.
10. Chaudhuri, A., Paichayontvijit, T., & Shen, L. (2013). Könsskillnader i förtroende och pålitlighet: Individer, grupper med ett och samma kön och grupper med blandat kön. Journal of Economic Psychology, 34, 181-194.