Osobnost, zvuk hlasu a používání jazyka se zdají být stejně silnými signály pro sociální reakce (3, 4). Pohlaví má podobný význam z hlediska toho, jak se lidé chovají a jak sociálně komunikují se svou vnitřní skupinou (6), a toto genderové sladění může vysvětlovat různé reakce na základě pohlaví lidského uživatele (4). Osobnost může signalizovat pohlaví: „ženské“ archetypy jsou považovány za přátelštější, otevřenější a emocionálnější, zatímco dominantnost, sebejistota a soutěživost jsou obvykle považovány za „mužské“ rysy. Socioložka H. Woodsová (8) ve své studii zdůraznila, že tvůrci i uživatelé DVA často zdůrazňují „osobnost“ DVA dokonce více než samotnou technologii nebo to, čeho je schopna. Bez ohledu na jejich primární „roli“ domácího asistenta byla Alexa vykreslována také jako společnice, pečovatelka a spolurodička; Siri jako blízká přítelkyně, které lze klást otázky týkající se sexu (8). Tyto vlastnosti jsou do UI naprogramovány záměrně, přinejmenším z jednoho důvodu, aby vzbudily důvěru v UI (8).
Proč vůbec genderová UI?“
Ačkoli je to považováno za zastaralou módu, ještě nedávno bylo běžné slyšet muže mluvit o svém autě nebo lodi jako o „ona“. Tyto zmínky jdou ruku v ruce s dlouhou historií feminizace strojů a technologií ve fikci i v reálném životě (Bergen 2016). Proč tato praxe v posledních letech vyšla z módy ve prospěch genderově neutrálního zájmena „to“, je pravděpodobně kulturní evolucí postfeministické éry do nyní genderově citlivějšího světa. Ostatně AP Styleguide nedávno oznámil další pokrok v oblasti genderových zájmen a podporuje používání výrazů they/their/them, pokud není pohlaví určeno (Easton, 2017). A navzdory současnému trendu, kdy jsou DVA personifikovány jako ženské osoby, historicky existuje dost možná více příkladů personifikovaných strojů mužského pohlaví než ženského (například KITT z Knight Ridera, většina Transformerů, Data ze Star Treku a C3PO a R2D2 ze Star Wars).
Takže otázka, kterou si možná kladete (pokud jste dočetli až sem!), zní: Mohou být DVA bez implikovaného pohlaví na trhu úspěšná? Měly by podobnou oblíbenost a přijetí jako ty ženské? No, nedávno byl oznámen „bezpohlavní“ prototyp hlasu pro DVA, nazvaný „Q“, jako pokus o provokativní dialog, který má povzbudit technologické společnosti, aby zvážily hlasy, které nejsou specifické pro pohlaví (7). Ačkoli se jedná pouze o prototyp hlasu a zatím se nepoužívá v žádné aplikaci umělé inteligence, zveřejnění a mediální ohlasy naznačují, že alespoň někteří žádají o mainstreamový dialog o genderizaci DVA. Ale vzhledem k tomu, že člověk má pevně zakódováno klasifikovat pohlaví jako binární (3), lze logicky předpokládat, že při zapojení do genderově neutrálních DVA bude ze strany běžných lidí existovat určitý odpor.
Je zřejmé, že komplexní otázky genderu ve vědě, technologii a UI jsou otázky, které nelze vyřešit prostým „odgenderováním“ UI (nebo jiných objektů). Ve hře jsou kulturní genderové stereotypy, patriarchální design technologií a využití behaviorální ekonomie v korporátním zisku, a to vše jsou stejně velké chlupaté problémy, každý sám o sobě.
Proč jsou tedy všechny DVA ženské?“
V postmoderní době, kdy ve společnosti vyniká konzum a masová média, jsou DVA mainstreamovou formou UI z velké části proto, že jsou dostupné – relativně cenově dostupné, snadno dostupné a snadno použitelné – a díky tomu si je oblíbily miliony spotřebitelů. Ženská personifikace může ve skutečnosti podporovat přijetí a používání DVA, a to i v těch nejosobnějších a nejintimnějších částech života jejich uživatelů (8). Ženské persony jsou méně hrozivé (přátelské a méně autoritativní) a obecně jsou považovány za důvěryhodnější než muži (9). Zatímco Nass & Brave ve svém výzkumu zjistil, že mužské hlasy jsou v určitých kontextech často vnímány jako důvěryhodnější a vzbuzují větší důvěru než hlasy ženské, předchozí výzkumy genderových rozdílů důvěry a důvěryhodnosti zjistily, že zatímco muži jsou důvěřivější, ženy mohou být důvěryhodnější vzhledem k jejich tendenci k reciprocitě (10).
Ale Woods (8) naznačuje, že se zde děje něco zlověstnějšího. Tvrdí, že použití ženské osoby je záměrným rozhodnutím firemních tvůrců DVA, aby uklidnili obavy uživatelů ze shromažďování, používání a ochrany soukromí. Technologické společnosti totiž DVA komodifikovaly; sám o sobě je předmětem zisku, a co je důležitější, kanálem k dalším příjmům prostřednictvím doplňkových služeb, jako je maloobchodní prodej pro Amazon a předplatné softwaru pro Apple, Google a Microsoft.
A Woodsová v tom může mít pravdu. Většina spotřebitelů si neuvědomuje, že náklady pro spotřebitele mohou být mnohem vyšší než cena nového iPhonu Apple, která se blíží 1 000 dolarů. Siri, která se stala důvěryhodnou společnicí z velké části díky svému ženskému, přátelskému hlasu, nás donutila důvěřovat iPhonu v kapse. Za sklem je každé zadání našich biometrických údajů, každý vyslovený hlasový příkaz bránou k našim osobním údajům (8). Alexa má nyní 400 „dovedností“ (neboli aplikací) vyrobených značkami, jako jsou Nike, Campbell’s a Tide, které těmto společnostem poskytují kanál do domácností spotřebitelů.
Naše data jsou ve skutečnosti kapitálem – komoditou zpeněženou tvůrcem produktu, prodávanou inzerentům a recyklovanou pro další školení systémů umělé inteligence, aby byly ještě lepší. Chytré reproduktory (Amazon, Google Home a Apple Homepod) zaznamenávají a ukládají hlasy v domácnosti nepřetržitě, i když jejich uživatel zařízení neaktivoval. Nedávno bylo oznámeno, že vůbec nejde o anonymní sběr dat, ale o skutečné lidi ve společnosti Amazon, kteří poslouchají rozhovory prostřednictvím zařízení Echo. Jak navrhuje Woods, použití ženské osoby může uživatelům pomoci, aby se s tímto „všudypřítomným dohledem“ lépe vyrovnali. Takže i když vás vaše každodenní interakce se Siri možná nepodnítí k zamyšlení nad tím, proč byla vytvořena jako ona, nebo budete žertovat se svými přáteli a nazývat Alexu „mrchou“ (jako to často dělají ti moji), možná by bylo dobré se trochu hlouběji zamyslet nad tím, že to může být pouhé odvedení pozornosti od toho, kdo vás poslouchá a kdo používá vaše data.
Mají tedy naše DVA ženské pohlaví nějaké klady?
Možná. Ve spotřebitelské studii společnosti LivePerson 57,4 % respondentů uvedlo, že by dokázalo jmenovat slavného muže v oblasti technologií (mezi nejčastějšími volbami byli Bill Gates, Steve Jobs a Elon Musk), nicméně ze 4 %, která skutečně dokázala jmenovat ženskou vedoucí osobnost v oblasti technologií, jich čtvrtina jmenovala „Alexu“ nebo „Siri“. To v žádném případě není přijatelné a poukazuje to na řadu hlubších problémů týkajících se sexismu v oblasti technologií, které rozvedu v jiném příspěvku. Nemohu si však pomoci, ale pokud si mladé dívky a chlapci začnou spojovat ženský hlas s „technologií“ nebo „znalkyní všech informací“ – nemůže to být úplně špatně.
****
Výše uvedený obsah je úpravou mé původní práce „Societal Implications of Gendering AI;“, která je v plném znění k dispozici na https://www.researchgate.net/publication/334945581_Societal_Implications_of_Gendering_AI
1. Výzkumné středisko Pew Research Center. (2017). American Trends Panel (Panel amerických trendů). Získáno z https://www.pewresearch.org/american-trends-panel-datasets/
2. Bosker, B. (2013, 11. června). Proč je nyní hlasem Siri muž (a žena). Huffington Post. Získáno z: https://www.huffingtonpost.com/2013/06/11/siri-voice-man-woman_n_3423245.html
3. Nass, C. & Brave, S. (2004). Dráty pro řeč: Jak hlas aktivuje a rozvíjí vztah mezi člověkem a počítačem. . Získáno z Amazon.com
4. Nass, C., Moon, Y., & Green, N. (1997). Jsou stroje genderově neutrální? Genderově stereotypní reakce na počítače s hlasy. Journal of Applied Social Psychology, 27 (10), 864-876. doi: 10.1111/j.1559-1816.1997.tb00275.x
5. [5252>. Chemaly, S. (2016, 27. července). Co mají genderové stereotypy a sexismus společného s algoritmy a roboty. Huffington Post. Získáno z https://www.huffingtonpost.com/soraya-chemaly/what-gender-stereotypes-and-sexism-have-to-do-with-algorithms-and-robots_b_7880906.html
6. Psylla I., Sapiezynski P., Mones E., & Lehmann S. (2017). Úloha pohlaví v organizaci sociálních sítí. PLoS ONE 12(12): e0189873. doi10.1371/journal.pone.0189873
7. Salinas, S. (2019, March 11). Představte si, že by Alexa neměla pohlaví – vědci vytvořili hlas, který není ani mužský, ani ženský. CNBC. https://www.cnbc.com/2019/03/11/researchers-make-q-genderless-voice-for-personal-assistants-like-alexa.html
8. Woods, H. (2018). Žádat po Siri a Alexe více: Ženská persona ve službách kapitalismu dohledu. Kritická studia mediální komunikace. 35(4), 334-349. doi:10.1080/15295036.2018.1488082
9.
. Buchan, N., Croson, R., & Solnick, S. (2008). Důvěra a gender: An examination of behavior and beliefs in the investment game [Zkoumání chování a přesvědčení v investiční hře]. Journal of Economic Behavior & Organizace. 68. 466-476. doi:10.1016/j.jebo.2007.10.006.
10. Chaudhuri, A., Paichayontvijit, T., & Shen, L. (2013). Genderové rozdíly v důvěře a důvěryhodnosti: Individuální, jednopohlavní a smíšené skupiny. Journal of Economic Psychology, 34, 181-194.
.