Content
- Què hi ha en un nom?
- Si els ordinadors poguessin parlar, com haurien de sonar?
- Sense errors, sense estrès: la vostra guia pas a pas per crear programes que canvien la vida sense destruir la vida
- Què diuen les expressions i la veu de Siri sobre nosaltres
- La tecnologia pot haver avançat, però les dones ... No tant
- Molt poques dones treballen en IA
- El camí cap endavant
Font: Idey / Dreamstime.com
Emportar:
Hi ha evidències d’un problema persistent de parcialitat en l’IA que podria ser una de les raons per les quals veiem manifestats estereotips de gènere en les identitats femenines associades als assistents d’IA.
Ens heu preguntat mai per què Alexa no és Alex, que podria ser un sobrenom dels dos gèneres? És veritablement irònic que una empresa amb un nom derivat d’una ferotge raça guerrera de dones acabés de caure en la pràctica estàndard de llançar l’ajudant que pren les ordres de l’usuari com a dona.
Què hi ha en un nom?
De fet, el nom de l'agent de l'AI deriva d'Alexandria, una ciutat la reivindicació de la fama al món antic era la seva biblioteca, segons Daniel Rausch, el cap de la divisió "Smart Home" d'Amazon. Va dir a Business Insider que es vol capturar la idea de la col·lecció original de volums que allotjava "tot el coneixement col·lectiu del món en aquell moment".
Però podrien haver considerat tan fàcilment el fet que la ciutat fos nombrada per Alexandre el Gran, i anava amb el nom Alex, sobrenom adoptat per homes i dones. En lloc d'això, van anar amb el Alexa femení.
Amazon no està sol en això. Apple va escollir Siri com el nom del seu assistent de veu que parla en veu femenina. També es va seleccionar una identitat femenina per a Cortana de Microsoft. No sembla ser només una coincidència que les tres identitats IA més conegudes siguin femenines.
Probablement, les empreses van fer el mateix tipus d’investigació de mercat que Amazon va dir que ho va fer. (Per al costat tan greu de Siri, feu un cop d'ull a Pardon Moi? Top Siri Fail.)
Si els ordinadors poguessin parlar, com haurien de sonar?
En l'entrevista de Business Insider, Rausch va dir que "van trobar que la veu d'una dona és més" simpàtica "i millor rebuda". L'article va dir que aquesta preferència per les veus femenines són anteriors a les assistents de la IA.
Podria ser per això que l’ordinador de l’Enterprise parlava en veu femenina. La veu era en realitat la de Majel Barrett-Roddenberry, esposa del creador de la sèrie "Star Trek", i més reconeguda pels fanàtics pel seu paper recurrent com a la infermera rossa perfectament refulgida, Christine Chapel, que va haver de prendre les ordres amb cura. El doctor McCoy.
Al vídeo següent, realment està donant veu a una biblioteca per compartir la informació sobre el fitxer per a la persona que demana el capità.
Sense errors, sense estrès: la vostra guia pas a pas per crear programes que canvien la vida sense destruir la vida
No podeu millorar les vostres habilitats de programació quan ningú es preocupa per la qualitat del programari.
És cert que hi ha agents de la IA que estan relacionats amb les identitats masculines, com ha observat Chandra Steele del PC Mag Mag en un bloc mitjà aquest any. Però solen estar relacionades amb tasques més greus que les relegades a l'assistent virtual de l'escriptori o del telèfon. Per tant, a Watson d’IBM, que s’associa a coses com la investigació mèdica, se li va donar la “veu masculina” que la gent associa amb confiança i lideratge.
En canvi, les veus femenines estan associades a cordialitat i queixa. "Tot i que manquen de cossos", va explicar Steele, "representen el que pensem quan imaginem un ajudant personal: una dona competent, eficient i fiable".
De vegades fins i tot se’ls concedeix un cos virtual femení, almenys un que apareix a la pantalla. Aquest és el cas de l'agent cognitiva Ams de IPsoft. Com es pot veure al vídeo següent, se’l mostra com una rossa bastant jove (el color de Barrett-Roddenberry es va tenyir els cabells pel seu paper visible d’infermera).
Amelia encarna la dona fiable que dóna suport a l’encarregada, en un segon pla però també una mica decorativa. Ella en recorda l’assistent ideal previst als anys cinquanta. Igual que la Della Street de Perry Mason, la secretària sense fidelitat, sempre està allà per satisfer les necessitats del seu cap masculí i rebutja cap sol·licitud ni tasca.
Què diuen les expressions i la veu de Siri sobre nosaltres
Des de mitjan segle passat, hauríem avançat significativament pel que fa a la igualtat de gènere, però els ajudants de l'AI ens recorden que encara ens queda molt per recórrer. Aquest va ser el focus d’un recent estudi de la UNESCO titulat “I’d Blush If I Podria”.
El títol de l'estudi és una frase que l'assistent de veu de gènere femení d'Apple, Siri, es va programar originalment per respondre als usuaris que la cridessin un nom masclista. La bona notícia és que Apple va actualitzar la programació de Siri a principis del 2019 per oferir ara una forma més adequada per a màquines "No sé respondre a això" quan algú faci una declaració a l'agent de l'AI.
No obstant això, segons assenyala l'informe, Apple va deixar-lo reposar durant molt de temps, tenint en compte que Siri va ser llançat el 2011. Aquest és el punt fort del problema.
La tecnologia pot haver avançat, però les dones ... No tant
Tal com assenyala l’informe, “l’obsequiïtat‘ femenina ’de Siri, i la servilitat expressada per tants altres assistents digitals projectats com a dones joves, proporciona una il·lustració potent dels prejudicis de gènere codificats en productes tecnològics, penetrant en el sector de la tecnologia i evident en les habilitats digitals. educació ”
L’informe recull el sexisme integrat en la identitat femenina de l’AI i les respostes programades a causa de la bretxa de gènere sistèmica en la tecnologia en general i la IA en particular: “Avui en dia, les dones i les nenes tenen un 25 per cent de probabilitats menys que els homes de saber aprofitar el digital. tecnologia amb finalitats bàsiques, 4 vegades menys probabilitats de saber programar ordinadors i 13 vegades menys probables de presentar una patent patent ".
Molt poques dones treballen en IA
Això s’ajusta a les conclusions dels sistemes de discriminació de l’Ia Now Institute: gènere, raça i energia. A les conferències d'AI, les dones només representen el 18% dels autors representats i menys del 20% dels professors d'AI. La representació és encara pitjor a la indústria. A les dones només ocupen el 15% dels llocs de personal investigador, i a Google el percentatge baixa fins a 10.
Per molt nombrosos que són, són millors del que diu l’informe de la UNESCO sobre els sol·licitants a aquestes posicions: “Els contractistes d’empreses tecnològiques de Silicon Valley estimen que el conjunt de sol·licitants per a treballs tècnics en intel·ligència artificial (IA) i ciències de dades sovint és menor. més d’un 1 per cent de dones ”.
Segons l'informe de la UNESCO, hi ha conseqüències greus per a aquest desequilibri: "A mesura que els homes continuen dominant aquest espai, la disparitat només serveix per perpetuar i agreujar les desigualtats de gènere, ja que el biaix no reconegut es reprodueix en algorismes i intel·ligència artificial".
Explica que els "equips dominats per homes" són els que estableixen els criteris que estableixen una norma que "pot ser difícil de solucionar quan s'assenyalen els biaixos de gènere". El tema del biaix de l'AI es va abordar a l'AI's Got Some Explaining to Do . L’AI no està creant el biaix, sinó que reflecteix els prejudicis de la seva programació.
"No hi ha res artificial sobre l'AI", va declarar Fei-Fei Li, una experta en la matèria. "Està inspirat en les persones, està creat per la gent i, el més important, afecta les persones". Igual que "escombraries, escombraries" s'aplica a totes les dades, és idèntic el que expressa "biaix, esbiaix" per sistemes AI.
El camí cap endavant
Llavors, com podem superar aquests prejudicis que s’han integrat en les nostres funcions d’aprenentatge automàtic i donar forma encara a les nostres expectatives? Segons l’informe de la UNESCO, la resposta és l’educació: “L’educació és on es forgen les expectatives i es cultiven les competències”.
Li accepta que és possible modificar de nou el camí que s'ha definit. "Amb una orientació adequada, l'AI millora la vida", afirma. "Però sense ell, la tecnologia permet ampliar encara més la divisió de riquesa, fer la tecnologia encara més exclusiva i reforçar els prejudicis que hem passat durant generacions intentant superar".
Ha arribat el moment d’anar amb valentia on l’home no ha anat abans.