A személyiség, a hangszín és a nyelvhasználat egyformán erős jelzéseknek tűnnek a szociális válaszok szempontjából (3, 4). A nemek hasonló jelentőséggel bírnak az emberek viselkedése és a csoporton belüli társadalmi interakciói szempontjából (6), és ez a nemekhez való igazodás magyarázatot adhat az emberi felhasználó nemétől függő eltérő válaszokra (4). A személyiség jelezheti a nemet: A “nőies” archetípusokat barátságosabbnak, nyitottabbnak és érzelmesebbnek tekintik, míg a dominanciát, magabiztosságot és versenyképességet jellemzően “férfias” vonásoknak tekintik. H. Woods szociológus (8) tanulmányában kiemelte, hogy mind a DVA-k alkotói, mind a felhasználók gyakran még inkább hangsúlyozzák a DVA “személyiségét”, mint magát a technológiát, vagy azt, hogy mire képes. A háztartási asszisztensként betöltött elsődleges “szerepük” ellenére Alexát társnak, gondozónak és társszülőnek is ábrázolták; Sirit pedig közeli barátként, akinek szexuális kérdéseket lehet feltenni (8). Ezeket a tulajdonságokat szándékosan programozzák be a mesterséges intelligenciába, legalábbis azért, hogy bizalmat keltsenek a mesterséges intelligenciában (8).
Miért nemesítik egyáltalán a mesterséges intelligenciát?
Már elavult divatnak számít, nem is olyan régen még gyakori volt, hogy egy férfi “nőnek” nevezte az autóját vagy a hajóját. Ezek az utalások együtt járnak a gépek és a technológia feminizálásának hosszú történetével mind a fikcióban, mind a való életben (Bergen 2016). Az, hogy ez a gyakorlat az utóbbi években miért került ki a divatból a nemileg semleges “ez” névmás javára, valószínűleg a feminizmus utáni korszak kulturális evolúciója egy ma már nemileg érzékenyebb világhoz. Sőt, az AP Styleguide nemrégiben további előrelépést jelentett be a nemi névmások terén, és a they/their/them kifejezések használatát szorgalmazza, amikor a nemet nem azonosítják (Easton, 2017). És annak ellenére, hogy a DVA-k jelenleg női személyiségek, történelmileg valószínűleg több példa van férfi megszemélyesített gépekre, mint női (pl. KITT a Knight Riderből, a legtöbb Transformers, Data a Star Trekből, valamint C3PO és R2D2 a Star Warsból).
A kérdés, amit tehát feltehetsz (ha már úgyis elolvastál idáig!): sikeresek lehetnek-e a piacon a DVA-k implicit nem megjelölése nélkül? Hasonlóan szimpatikusak és elfogadottak lennének, mint a nőneműek? Nos, a közelmúltban bejelentették a DVA-k “Q” nevű “nem nélküli” hangprototípusát, amely egy provokatív párbeszédre tett kísérletet, hogy a technológiai vállalatokat arra ösztönözze, hogy fontolják meg a nemek szerinti hangok használatát (7). Bár csak egy prototípus hangról van szó, és egyelőre nem használják semmilyen mesterséges intelligencia alkalmazásban, a közlemény és a médiavisszhang azt sugallja, hogy legalább néhányan a DVA-k genderezéséről szóló főáramú párbeszédet kérik. De mivel az embereket a nemek binárisnak való besorolásához kötötték (3), logikusan feltételezhetjük, hogy az átlagemberek némi ellenállásba ütköznek majd a nemsemleges DVA-kkal kapcsolatban.
A tudomány, a technológia és a mesterséges intelligencia összetett nemi kérdései nyilvánvalóan nem oldhatók meg a mesterséges intelligencia (vagy más tárgyak) egyszerű “nemtelenítésével”. A kulturális nemi sztereotípiák, a patriarchális technológiai tervezés és a viselkedési közgazdaságtan alkalmazása a vállalati profitszerzésben mind-mind szerepet játszanak, és mindegyikük egyformán nagy, szőrös kérdés a maga nemében.
Miért nőies az összes DVA?
A posztmodern korban, amikor a társadalomban a fogyasztói társadalom és a tömegmédia kiemelkedő szerepet játszik, a DVA-k az AI egyik főáramú formája, nagyrészt azért, mert hozzáférhetőek – viszonylag megfizethetők, könnyen megtalálhatók és könnyen használhatók -, és így fogyasztók milliói teszik őket népszerűvé. A női megszemélyesítés valójában ösztönözheti a DVA-k elfogadását és használatát, még a felhasználók életének legszemélyesebb és legintimebb részein is (8). A női személyiségek kevésbé fenyegetőek (barátságosak és kevésbé tekintélyelvűek), és általában megbízhatóbbnak tekinthetők, mint a férfiak (9). Míg Nass & Brave kutatásában azt találja, hogy a férfi hangokat gyakran hitelesebbnek tekintik, és bizonyos kontextusokban nagyobb bizalmat keltenek, mint a női hangok, addig a bizalom és a megbízhatóság nemek közötti különbségeit vizsgáló korábbi kutatások azt találják, hogy míg a férfiak bizalomgerjesztőbbek, a nők a kölcsönösségre való hajlamuk miatt megbízhatóbbak lehetnek (10).
De Woods (8) szerint itt valami sokkal baljósabb dologról van szó. Azt állítja, hogy a női személyiség használata a DVA-k vállalati alkotóinak szándékos döntése, hogy eloszlassák a felhasználók adatgyűjtéssel, felhasználással és magánélet védelmével kapcsolatos aggodalmait. Valójában a technológiai vállalatok árucikké tették a DVA-t; az maga is a profit tárgya, és ami még fontosabb, a kiegészítő szolgáltatásokon keresztül további bevételek csatornája, mint például az Amazon kiskereskedelmi értékesítése és az Apple, a Google és a Microsoft szoftver-előfizetései.
És Woodsnak itt lehet, hogy igaza van. Amit a legtöbb fogyasztó nem vesz észre, az az, hogy a fogyasztói költségek sokkal nagyobbak lehetnek, mint az új Apple iPhone közel 1000 dolláros ára. Siri, aki nagyrészt nőies, barátságos hangjának köszönhetően vált megbízható társunkká, arra kényszerített minket, hogy megbízzunk a zsebünkben lévő iPhone-ban. Az üveg mögött a biometrikus adataink minden egyes bejegyzése, minden egyes hangutasítás a személyes adatainkhoz való hozzáférést jelenti (8). Az Alexa jelenleg 400 “készséggel” (vagy alkalmazással) rendelkezik, amelyeket olyan márkák gyártottak, mint a Nike, a Campbell’s és a Tide, és amelyek révén ezek a vállalatok bejuthatnak a fogyasztók otthonába.
A mi adataink valójában a tőke – a termék létrehozója által pénzzé tett áru, amelyet eladnak a hirdetőknek, és újrahasznosítanak az AI-rendszerek további képzéséhez, hogy még jobbá tegyék őket. Az intelligens hangszórók (Amazon, Google Home és Apple Homepod) rögzítik és tárolják az otthoni hangokat a nap 24 órájában, még akkor is, ha a felhasználója nem aktiválta az eszközt. Nemrég jelentették, hogy egyáltalán nem anonim adatgyűjtésről van szó, hanem valódi emberek az Amazonnál, akik lehallgatják a beszélgetéseket az Echo készülékeken keresztül. Mint Woods javasolja, a női személyiség használata segíthet abban, hogy a felhasználók jobban megbarátkozzanak ezzel a “mindenütt jelenlévő megfigyeléssel”. Tehát bár a Sirivel való mindennapi interakciói talán nem késztetik arra, hogy elgondolkodjon azon, hogy miért nőt alkottak belőle, vagy viccelődik a barátaival, és “ribancnak” hívja Alexát (ahogy az enyémek gyakran teszik), talán nem ártana egy kicsit mélyebben elgondolkodnia azon, hogy ez talán csak eltereli a figyelmet arról, hogy ki hallgatja, és ki használja az adatait.
Szóval van valami előnye annak, hogy a DVA-k nőneműek?
Meglehet. A LivePerson fogyasztói felmérésében a válaszadók 57,4%-a mondta azt, hogy tudna mondani egy híres férfit a technológia területén (Bill Gates, Steve Jobs és Elon Musk szerepelt a legnépszerűbbek között), ugyanakkor annak a 4%-nak, aki valóban tudott női vezetőt mondani a technológia területén, egynegyede “Alexát” vagy “Sirit” nevezte meg. Ez semmiképpen sem elfogadható, és rávilágít egy sor mélyebb problémára a szexizmussal kapcsolatban a technológia területén, amelyeket egy másik bejegyzésben fogok kifejteni. Azonban nem tudok nem arra gondolni, hogy ha a fiatal lányok és fiúk elkezdenek egy női hangot társítani a “technológiához” vagy a “minden információ tudójához” – ez nem lehet teljesen rossz dolog.”
****
A fenti tartalom az eredeti szakdolgozatom, “Societal Implications of Gendering AI;” (A mesterséges intelligencia társadalmi következményei) adaptációja; teljes szövegben elérhető a https://www.researchgate.net/publication/334945581_Societal_Implications_of_Gendering_AI
1 címen. Pew Research Center. (2017). Amerikai trendek panel. Letöltve: https://www.pewresearch.org/american-trends-panel-datasets/
2. Bosker, B. (2013, június 11.). Miért lett Siri hangja férfi (és nő). Huffington Post. Retrieved from: https://www.huffingtonpost.com/2013/06/11/siri-voice-man-woman_n_3423245.html
3. Nass, C. & Brave, S. (2004). Wired for speech (Drótozva a beszédre): Hogyan aktiválja és fejleszti a hang az ember-számítógép kapcsolatot. . Letöltve: Amazon.com
4. Nass, C., Moon, Y., & Green, N. (1997). Nemileg semlegesek-e a gépek? Nemi sztereotip reakciók a hanggal rendelkező számítógépekre. Journal of Applied Social Psychology, 27 (10), 864-876. doi: 10.1111/j.1559-1816.1997.tb00275.x
5. Chemaly, S. (2016, július 27.). Mi köze a nemi sztereotípiáknak és a szexizmusnak az algoritmusokhoz és a robotokhoz. Huffington Post. Retrieved from https://www.huffingtonpost.com/soraya-chemaly/what-gender-stereotypes-and-sexism-have-to-do-with-algorithms-and-robots_b_7880906.html
6. Psylla I., Sapiezynski P., Mones E., & Lehmann S. (2017). A nemek szerepe a társadalmi hálózatok szerveződésében. PLoS ONE 12(12): e0189873. doi10.1371/journal.pone.0189873
7. Salinas, S. (2019, március 11.). Képzeljük el, ha Alexának nem lenne neme – kutatók olyan hangot hoztak létre, amely se nem férfi, se nem nő. CNBC. https://www.cnbc.com/2019/03/11/researchers-make-q-genderless-voice-for-personal-assistants-like-alexa.html
8. Woods, H. (2018). Többet kérni Siritől és Alexától: Női személyiség a felügyeleti kapitalizmus szolgálatában. Kritikai tanulmányok a médiakommunikációban. 35(4), 334-349. doi:10.1080/15295036.2018.1488082
9. Buchan, N., Croson, R., & Solnick, S. (2008). Bizalom és nemek: A viselkedés és a hiedelmek vizsgálata a befektetési játékban. Journal of Economic Behavior & Organization. 68. 466-476. doi:10.1016/j.jebo.2007.10.006.
10. Chaudhuri, A., Paichayontvijit, T., & Shen, L. (2013). Nemi különbségek a bizalomban és a megbízhatóságban: Egyének, egynemű és vegyes nemű csoportok. Journal of Economic Psychology, 34, 181-194.