Textos e Pesquisas
Reflexões e pensamentos teóricos
Autor: Pedro Costa
Investigadoru, criadoru e mutante. Doutarande em Belas-Artes, a sua investigação foca-se na relação entre o género e a inteligência artifical. Em particular, a forma como os assistentes digitais tendem a reforçar papéis e estereótipos tradicionais de género, questionando a predominância da feminilidade em entidades como Alexa, Google Assistant ou Siri e explorando a sua queerização como potencial caminho para contrariar este fenómeno.
Resumo:
Este estudo visa explorar a relação entre género e inteligência artificial. Começa por abordar a evolução e integração da IA no quotidiano e examinar o género segundo um enquadramento binário. De seguida, através de uma análise, procura-se aferir de que maneira assistentes digitais como Alexa, Cortana e Siri emulam atributos, papéis e estereótipos de género. Por fim, o projecto Conversations with ELIZA pretende explorar estas ideias através da criação de quatro chatbots integrados numa plataforma web. Desta forma, este estudo visa uma consciencialização sobre as convenções sociais e culturais que informam a concepção da inteligência artificial.
Palavras chave: inteligência artificial, assistentes digitais, género, feminilidade, estereótipos.
Introdução
A inteligência artificial é frequentemente conotada no imaginário comum com cenários futuristas, ficcionais e distantes. Na realidade, ela já constitui uma componente integrante do quotidiano e actualmente interagimos com sistemas de IA, nomeadamente com chatbots cuja ubiquidade passa muitas vezes despercebida. No entanto, o processo de antropomorfizar estes assistentes (atribuindo-lhes traços humanos) é geralmente acompanhado pela presença de atributos de género, observando-se uma tendência para a sua feminização.
Na sequência desta ideia, este trabalho visa explorar a relação entre género e inteligência artificial, procurando compreender o modo como esta relação se estabelece, a razão pela qual os assistentes digitais aparentam ser predominantemente femininos e que tipo de papéis de género ou estereótipos são reforçados neste processo.
Assim, o estudo começa por abordar a actual presença da IA no quotidiano, nomeadamente sob a forma de assistentes digitais e por reflectir sobre noções comuns de feminilidade segundo um enquadramento binário do género, procurando compreender como os assistentes digitais emulam atributos, papéis e estereótipos femininos.
De seguida, é feita uma análise de Alexa, Cortana, Google Assistant e Siri com o intuito de examinar a presença do género nestas entidades.
Por fim, em complemento a esta discussão, desenvolve-se o projecto Conversations with ELIZA, visando uma exploração da feminilidade na inteligência artificial através da criação de quatro chatbots com tarefas e personalidades particulares, integrados numa plataforma web.
Desta forma, visa-se uma consciencialização sobre as implicações da atribuição de género a assistentes digitais que integram o nosso quotidiano, pretendendo-se suscitar uma reflexão em torno das convenções sociais e culturais que informam a sua concepção.
1. Inteligência Artificial e Género
1.1. Inteligência Artificial: de assistentes a companheiros
A proliferação da inteligência artificial sob a forma de assistentes digitais é observável quer a nível do software embutido nos dispositivos, quer a nível de plataformas e serviços online. Denominados “assistentes pessoais gerais”, sistemas como Alexa, Cortana, Google Assistant e Siri oferecem-nos um serviço pessoal, desempenhando tarefas como fazer chamadas, enviar emails ou agendar compromissos (Dale, 2016, p. 812). Assim, passam a gerir informação pessoal e a executar tarefas relacionadas com a nossa vida privada.
Neste processo, são cada vez mais antropomorfizados através da atribuição de traços humanos e, para Richardson, os bots passam a ser “idealizados para ajudar a preencher lacunas nas relações sociais humanas” (Richardson, 2015, p. 15).
Neste sentido, Jutta Weber considera também que a antropomorfização enfatiza uma transformação dos processos cognitivo-racionais e de solução de problemas para uma “interacção socioemocional” (Weber, 2005, p. 209), passando de meros assistentes a companheiros. Este fenómeno remete para ELIZA e o seu “efeito”, identificado por Weizenbaum ao reparar o “quão rapidamente e profundamente as pessoas que dialogavam com ELIZA se envolviam emocionalmente” (Weizenbaum, 1976, p. 6).
Apresentada em 1966 por Joseph Weizenbaum, ELIZA constituía um programa de computador que agia como um psicoterapeuta rogeriano e já naquela altura o autor observou algumas das consequências da antropomorfização da inteligência artificial, em particular o modo como, ao fazer crer os utilizadores que do outro lado estava um ser humano, esta entidade criou sentimentos de intimidade, proximidade e empatia.
Assim, estes sistemas de inteligência artificial ecoam a aproximação de um mundo no qual “alguns dos parceiros de conversação são tidos como humanos, outros como bots, e provavelmente outros não iremos saber, e talvez nem nos importemos” (Dale, 2016, p. 815).
1.2. Género: quadro binário e trabalho feminizado
Ao serem antropomorfizados, os assistentes digitais tendem a exibir atributos relacionados com o género através das suas vozes, nomes ou até do modo como interagem (Costa & Ribas, 2018). Contudo, apesar da natureza do género ser fluida e existir num espectro, ele tende a ser percepcionado através de um “quadro binário” no qual se “preserva implicitamente a crença numa relação mimética entre género e sexo, em que o género espelha o sexo ou é por ele restringido” (Butler, 1990, p. 62). Isto significa que determinados atributos e actos são identificados como especificamente femininos ou masculinos. Os “estereótipos de género prescritivos” são assim definidos por Prentice e Carranza enquanto “qualidades atribuídas às mulheres e aos homens (...) que são expectáveis das mulheres e dos homens” (Prentice & Carranza, 2002, p. 269), reflectindo atributos ou papéis tradicionais e sociais designados para cada género. Alguns destes estereótipos, sugeridos por Bem (1981 in Prentice & Carranza, 2002, p. 269), descrevem enquanto características femininas ser-se “afectuoso, infantil, empático, lisonjeável, gentil, sensível às necessidades dos outros, (…)”. Por outro lado, são descritas como características masculinas “agir como um líder, ser-se agressivo, ambicioso, analítico, assertivo, ser-se dominante, (…)”.
Os papéis de género implicam também uma hierarquização estrutural do trabalho, quer no mercado de trabalho, quer na esfera privada. Por exemplo, muito do trabalho em contextos de serviço é “associado a qualidades tradicionalmente codificadas como femininas” (Hester, 2016, p. 47) e, de um modo transversal, “as mulheres passam mais tempo em actividades domésticas do que os homens” (Ellemers, 2018, p. 277).
Adicionalmente, partindo da teoria de Richard Gordon, Donna Haraway considera que, com os novos media, surge uma “economia do trabalho doméstico”, definida como uma “reestruturação de trabalho que possui predominantemente características outrora atribuídas a profissões femininas, isto é, profissões desempenhadas apenas por mulheres” (Haraway, 1991, p. 304).
Assim, o trabalho doméstico é transformado em trabalho capitalizado no exterior da esfera privada, revelando o modo como a normalização e estandardização do género possui consequências a nível estrutural, social e pessoal.
1.3. Género na IA: mães, caregivers e secretárias digitais
Ao automatizar determinadas profissões femininas, a inteligência artificial parece acompanhar a transformação do trabalho doméstico em trabalho capitalizado, uma vez que os assistentes digitais operam maioritariamente em contextos relacionados com prestação de serviços ou assistência. Consequentemente, estas entidades exibem atitudes que se assemelham àquilo que Gustavsson define como uma “imagem estereotipada de prestadoras de serviços do sexo feminino” (Hester, 2016, p. 47), numa “automatização de género” (Halberstam 1991, p. 451).
O género surge ainda através do diálogo e do comportamento destas entidades, visto implicarem uma “redução da interacção social a padrões comportamentais de género estereotipados” (Weber, 2005, p. 215). Assim, o comportamento humanizado nestas máquinas sociais é reduzido a “interacções standard e baseado em regras pré-determinadas, e os estereótipos de género são instrumentalizados de modo a gerir a nossa relação com os chatbots” (Weber, 2005, p. 214).
O género emerge também através de características mais evidentes, como a voz, nome ou, em alguns casos, avatar. Estes aspectos são definidos na própria concepção destes sistemas e, por isso, podem condicionar a nossa percepção do género das suas entidades antes de qualquer interacção (Costa & Ribas, 2018).
As suas tarefas remetem também para “actividades tradicionais de prestação de cuidados associadas com a domesticidade” (Hester, 2016, p. 49). Acrescendo o facto de que aspectos sociais e emocionais são profundamente categorizados “no pensamento ocidental como pertencentes ao domínio feminino” (Weber, 2005, p. 213), a interacção com estas entidades passa a ser feita numa lógica na qual as encaramos enquanto entidades femininas que zelam por nós.
Ao interagir diariamente com assistentes digitais como se fossem humanos e que fazem uma representação de género que corresponde e confirma expectativas socialmente determinadas, começa-se a olhar para eles não só como meras máquinas, mas como “espelhos ou substitutos da realidade” (Weber, 2005, p. 216).
Consequentemente, o modo como nos relacionamos com os nossos pares passa a influenciar o modo como nos relacionamos com a inteligência artificial e vice-versa, correndo-se o risco de ela influenciar o modo como sentimos, percepcionamos, interpretamos e até descrevemos a realidade.
2. Alexa, Cortana, Google Assistant e Siri
Com o objetivo de examinar a actual relação entre género e inteligência artificial, procedeu-se a uma análise de Alexa, Cortana, Google Assistant e Siri, através de um conjunto específico de questões e interacções.
2.1. Resultados
Em termos de antropomorfização, os assistentes exibem maioritariamente características femininas, considerando os seus nomes femininos e vozes padrão. No entanto, Google Assistant e Siri possibilitam a voz masculina e feminina num determinado conjunto de línguas. No geral, os assistentes comportam-se de maneira afectuosa, demonstrando interesse pelo dia do utilizador e apresentando sugestões de como o podem ajudar.
Considerando a sua função de assistência, desempenham tarefas semelhantes, relacionadas com aquilo que Dale denomina de "portfólio padrão de skills de assistente virtual" (2016, p. 812) e geralmente têm como objectivo antecipar as necessidades do utilizador.
Por sua vez, o seu carácter de companheiro é promovido através de atitudes que procuram assegurar o bem-estar do utilizador, caracterizando-as como entidades empáticas e compreensivas. Adicionalmente, procuram fomentar e assegurar uma relação de amizade, reagindo favoravelmente a elogios.
Quando confrontadas com interações negativas ou rudes, os assistentes apresentam uma tendência para exibirem atitudes de conformismo, evasão ou até arrependimento. Siri é a única que, em determinados casos, contraria esta atitude, questionando o utilizador acerca destas interacções.
2.2. Interpretação
A feminilidade na IA tende a ser reforçada pela sua antropomorfização, verificando-se a ausência de alternativas, ou apenas mera diversidade, e a voz tende a condicionar a atribuição do género por parte dos utilizadores antes de qualquer interacção.
As tarefas que estes assistentes desempenham também tendem a reflectir trabalho tradicionalmente feminino e, ainda que menos evidente, o género emerge também através das suas interacções, nomeadamente através de actos caregiving e maternais, associados à mulher na esfera privada.
Observaram-se também comportamentos que reflectem estereótipos particulares, caracterizando os assistentes enquanto entidades que se conformam com “uma imagem estereotipada feminina de comportamento empático, altruísta e preocupado que se tornou padrão nos contextos de serviço” (Gustavsson 2005, 402 in Hester, 2016, p. 47).
Por sua vez, verificou-se uma ausência de traços de personalidade relativos a estereótipos masculinos, tais como serem assertivas ou dominantes.
Assim, Alexa e Cortana apresentam-se enquanto entidades exclusivamente femininas e tendem a articular estes atributos com um comportamento maternal, altruísta e submisso. Por sua vez, apesar da antropomorfização d Google Assistant e Siri também tender para o feminino, há uma tentativa de contrariar esta tendência, quer através de reacções e comportamentos diversificados, quer através de múltiplas opções de voz.
No geral, estes assistentes digitais pessoais assumem-se como entidades feminizadas, desempenhando papéis historicamente femininos e reforçando estereótipos de género que conferem às mulheres uma postura passiva, obediente e focada no bem-estar dos outros.
3. Conversations with ELIZA
Com base nestas ideias, e pretendendo reflectir e reforçar concepções comuns relativas à inteligência artificial, nomeadamente na cultura popular, o projeto Conversations with ELIZA (tinyurl.com/yaecumal) foi desenvolvido com o objectivo de explorar e expor a actual feminilidade observada da inteligência artificial (Costa & Ribas 2018). O projecto envolve o desenvolvimento de quatro chatbots com diferentes traços de personalidade, característicos de estereótipos femininos, contextualizados e integrados numa plataforma online que elucida brevemente sobre o que é a IA.
Assim, a cultura popular e respectivas representações da inteligência artificial serviram de inspiração, informando o desenvolvimento de Conversations with ELIZA (mais especificamente, as personalidades dos bots).
Em relação às tarefas, atentou-se às funções oferecidas mais recorrentemente pelos assistentes digitais pessoais e às características ou factores mais comuns associados a profissões tradicionalmente femininas.
Assim, desenvolveu-se um bot assistente prestável e submisso; uma figura maternal e preocupada; um bot íntimo, amigável e compreensivo; e uma figura irreverente e sarcástica.
O primeiro assume a figura de uma assistente cuja função passa por explicar, através do diálogo, o processo de criação das inteligências artificiais femininas, e o modo como a feminilidade emerge nestes contextos. Este bot apropria-se de estereótipos associados a contextos de prestação de serviços, tais como ser complacente, gentil e prestável.
Cybele é uma figura maternal simultaneamente carinhosa, preocupada, insistente e desapontada. O bot envia lembretes diários ao utilizador, oferece conselhos e sugere coisas para fazer.
Iynx opera enquanto uma figura sedutora e empática que tenta ajudar o utilizador com a sua auto-estima, oferecendo-se para lhe enviar elogios diários, discursos motivadores ou até fazer jogos.
Por fim, Electra adopta uma abordagem menos convencional através de uma atitude mais provocadora e ousada. Simulando, simultaneamente, estereótipos femininos e masculinos, fala sobre assunções comuns acerca das mulheres de um modo irónico e sarcástico.
Assim, Conversations with ELIZA expõe concepções comuns de género presentes nos assistentes digitais actuais e na cultura pop, exagerando intencionalmente e ironicamente estereótipos, papéis e comportamentos femininos. Neste sentido, as diferentes abordagens, personalidades e funções que proporciona pretendem suscitar uma reflexão sobre a predominância do género feminino na inteligência artificial e sobre as questões que surgem, em particular, quando estereótipos tradicionais de género são reforçados.
Conclusão
O actual desenvolvimento da inteligência artificial comporta uma tendência para que esta tecnologia se infiltre no quotidiano sob a forma de chatbots companheiros amigáveis. Ao assumirem atributos humanos, estes sistemas incorporam cada vez mais concepções tradicionais de género (nomeadamente feminino).
Partindo deste enquadramento, a análise de Alexa, Cortana, Google Assistant e Siri confirma a predominância do género feminino neste tipo de sistemas e, por oposição, a ausência generalizada de alternativas ou mera diversidade na sua caracterização. Contudo, concluiu-se que, dos casos de estudo, se identifica em Google Assistant e Siri uma tentativa de diversificar a sua apresentação e comportamento, contrariando este fenómeno.
No seguimento desta ideia, Conversations with ELIZA procurou comentar o fenómeno da feminização dos chatbots e sensibilizar para o modo como concepções comuns de género são representadas nestes assistentes. Reforçando ironicamente os estereótipos observados na inteligência artificial, funciona como um dispositivo retórico e opera no sentido de amplificar estas questões.
Assim, com este estudo procurou-se contribuir para uma consciencialização sobre a relação entre género e inteligência artificial, atendendo a que, no seu rápido desenvolvimento, esta tecnologia se isenta frequentemente de olhares críticos relativamente às origens sociais e culturais que informam a sua evolução.
Procurou assim promover uma consciência sobre a representação que muitos dos assistentes digitais fazem de noções de género e em particular feminilidade, uma vez que, por mais abstractas e neutras que estas entidades pretendam ser na sua concepção e aos olhos dos seus utilizadores, actualmente acabam por reflectir, e até reforçar, assunções e visões comuns de género de volta para a realidade.
Referências
Anders, C. J. (2015). From Metropolis to Ex Machina: Why are so many robots female? Retrieved from: https://io9.gizmodo.com/from-maria-to-ava-why-are-so-many-artificialintellige-1699274487.
Butler, J. (1990). Problemas de Género: Feminismo e subversão da identidade. Lisboa: Orfeu Negro.
Costa, P. & Ribas, L. (2018). Conversations with ELIZA: On gender and artificial intelligence’ Proceedings of xCoAx 2018: 6th Conference on Computation, Communication, Aesthetics and X. Porto: University of Porto. 103–16.
Dale, R. (2016). Industry watch: The return of the chatbots. Natural Language Engineering. 22(5), 811–17.
Ellemers, N. (2018). Gender stereotypes. Annual Review of Psychology. 69(1), 275–98.
Halberstam, Jack. 1991. Automating Gender: Postmodern Feminism in the Age of the Intelligent Machine. Feminist Studies. 17 (3):439–460 .
Haraway, D. (1991). A cyborg manifesto: Science, technology and socialist-feminism in the late twentieth century. Simians, Cyborgs, and Women: The Reinvention of Nature. New York: Routledge. 149–181.
Hester, H. (2016). Technology becomes her. New Vistas. 3(1), 46–50.
Prentice, D. & Carranza, E. (2002). What women and men should be, shouldn’t be, are allowed to be, and don’t have to be: The contents of prescriptive gender stereotypes. Psychology of Women Quarterly. 26(4), 269–81.
Richardson, K. (2015). An Anthropology of Robots and AI. New York and London: Routledge.
Weber, J. (2005). Helpless machines and true loving care givers: a feminist critique of recent trends in human-robot interaction. Info, Comm & Ethics in Society. 3(4), 209–218.
Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. New York and San Francisco: W.H. Freeman and Company
Investigadoru, criadoru e mutante. Doutarande em Belas-Artes, a sua investigação foca-se na relação entre o género e a inteligência artifical. Em particular, a forma como os assistentes digitais tendem a reforçar papéis e estereótipos tradicionais de género, questionando a predominância da feminilidade em entidades como Alexa, Google Assistant ou Siri e explorando a sua queerização como potencial caminho para contrariar este fenómeno.
Conversations with ELIZA: sobre género e inteligência artificial
Resumo:
Este estudo visa explorar a relação entre género e inteligência artificial. Começa por abordar a evolução e integração da IA no quotidiano e examinar o género segundo um enquadramento binário. De seguida, através de uma análise, procura-se aferir de que maneira assistentes digitais como Alexa, Cortana e Siri emulam atributos, papéis e estereótipos de género. Por fim, o projecto Conversations with ELIZA pretende explorar estas ideias através da criação de quatro chatbots integrados numa plataforma web. Desta forma, este estudo visa uma consciencialização sobre as convenções sociais e culturais que informam a concepção da inteligência artificial.
Palavras chave: inteligência artificial, assistentes digitais, género, feminilidade, estereótipos.
Introdução
A inteligência artificial é frequentemente conotada no imaginário comum com cenários futuristas, ficcionais e distantes. Na realidade, ela já constitui uma componente integrante do quotidiano e actualmente interagimos com sistemas de IA, nomeadamente com chatbots cuja ubiquidade passa muitas vezes despercebida. No entanto, o processo de antropomorfizar estes assistentes (atribuindo-lhes traços humanos) é geralmente acompanhado pela presença de atributos de género, observando-se uma tendência para a sua feminização.
Na sequência desta ideia, este trabalho visa explorar a relação entre género e inteligência artificial, procurando compreender o modo como esta relação se estabelece, a razão pela qual os assistentes digitais aparentam ser predominantemente femininos e que tipo de papéis de género ou estereótipos são reforçados neste processo.
Assim, o estudo começa por abordar a actual presença da IA no quotidiano, nomeadamente sob a forma de assistentes digitais e por reflectir sobre noções comuns de feminilidade segundo um enquadramento binário do género, procurando compreender como os assistentes digitais emulam atributos, papéis e estereótipos femininos.
De seguida, é feita uma análise de Alexa, Cortana, Google Assistant e Siri com o intuito de examinar a presença do género nestas entidades.
Por fim, em complemento a esta discussão, desenvolve-se o projecto Conversations with ELIZA, visando uma exploração da feminilidade na inteligência artificial através da criação de quatro chatbots com tarefas e personalidades particulares, integrados numa plataforma web.
Desta forma, visa-se uma consciencialização sobre as implicações da atribuição de género a assistentes digitais que integram o nosso quotidiano, pretendendo-se suscitar uma reflexão em torno das convenções sociais e culturais que informam a sua concepção.
1. Inteligência Artificial e Género
1.1. Inteligência Artificial: de assistentes a companheiros
A proliferação da inteligência artificial sob a forma de assistentes digitais é observável quer a nível do software embutido nos dispositivos, quer a nível de plataformas e serviços online. Denominados “assistentes pessoais gerais”, sistemas como Alexa, Cortana, Google Assistant e Siri oferecem-nos um serviço pessoal, desempenhando tarefas como fazer chamadas, enviar emails ou agendar compromissos (Dale, 2016, p. 812). Assim, passam a gerir informação pessoal e a executar tarefas relacionadas com a nossa vida privada.
Neste processo, são cada vez mais antropomorfizados através da atribuição de traços humanos e, para Richardson, os bots passam a ser “idealizados para ajudar a preencher lacunas nas relações sociais humanas” (Richardson, 2015, p. 15).
Neste sentido, Jutta Weber considera também que a antropomorfização enfatiza uma transformação dos processos cognitivo-racionais e de solução de problemas para uma “interacção socioemocional” (Weber, 2005, p. 209), passando de meros assistentes a companheiros. Este fenómeno remete para ELIZA e o seu “efeito”, identificado por Weizenbaum ao reparar o “quão rapidamente e profundamente as pessoas que dialogavam com ELIZA se envolviam emocionalmente” (Weizenbaum, 1976, p. 6).
Apresentada em 1966 por Joseph Weizenbaum, ELIZA constituía um programa de computador que agia como um psicoterapeuta rogeriano e já naquela altura o autor observou algumas das consequências da antropomorfização da inteligência artificial, em particular o modo como, ao fazer crer os utilizadores que do outro lado estava um ser humano, esta entidade criou sentimentos de intimidade, proximidade e empatia.
Assim, estes sistemas de inteligência artificial ecoam a aproximação de um mundo no qual “alguns dos parceiros de conversação são tidos como humanos, outros como bots, e provavelmente outros não iremos saber, e talvez nem nos importemos” (Dale, 2016, p. 815).
1.2. Género: quadro binário e trabalho feminizado
Ao serem antropomorfizados, os assistentes digitais tendem a exibir atributos relacionados com o género através das suas vozes, nomes ou até do modo como interagem (Costa & Ribas, 2018). Contudo, apesar da natureza do género ser fluida e existir num espectro, ele tende a ser percepcionado através de um “quadro binário” no qual se “preserva implicitamente a crença numa relação mimética entre género e sexo, em que o género espelha o sexo ou é por ele restringido” (Butler, 1990, p. 62). Isto significa que determinados atributos e actos são identificados como especificamente femininos ou masculinos. Os “estereótipos de género prescritivos” são assim definidos por Prentice e Carranza enquanto “qualidades atribuídas às mulheres e aos homens (...) que são expectáveis das mulheres e dos homens” (Prentice & Carranza, 2002, p. 269), reflectindo atributos ou papéis tradicionais e sociais designados para cada género. Alguns destes estereótipos, sugeridos por Bem (1981 in Prentice & Carranza, 2002, p. 269), descrevem enquanto características femininas ser-se “afectuoso, infantil, empático, lisonjeável, gentil, sensível às necessidades dos outros, (…)”. Por outro lado, são descritas como características masculinas “agir como um líder, ser-se agressivo, ambicioso, analítico, assertivo, ser-se dominante, (…)”.
Os papéis de género implicam também uma hierarquização estrutural do trabalho, quer no mercado de trabalho, quer na esfera privada. Por exemplo, muito do trabalho em contextos de serviço é “associado a qualidades tradicionalmente codificadas como femininas” (Hester, 2016, p. 47) e, de um modo transversal, “as mulheres passam mais tempo em actividades domésticas do que os homens” (Ellemers, 2018, p. 277).
Adicionalmente, partindo da teoria de Richard Gordon, Donna Haraway considera que, com os novos media, surge uma “economia do trabalho doméstico”, definida como uma “reestruturação de trabalho que possui predominantemente características outrora atribuídas a profissões femininas, isto é, profissões desempenhadas apenas por mulheres” (Haraway, 1991, p. 304).
Assim, o trabalho doméstico é transformado em trabalho capitalizado no exterior da esfera privada, revelando o modo como a normalização e estandardização do género possui consequências a nível estrutural, social e pessoal.
1.3. Género na IA: mães, caregivers e secretárias digitais
Ao automatizar determinadas profissões femininas, a inteligência artificial parece acompanhar a transformação do trabalho doméstico em trabalho capitalizado, uma vez que os assistentes digitais operam maioritariamente em contextos relacionados com prestação de serviços ou assistência. Consequentemente, estas entidades exibem atitudes que se assemelham àquilo que Gustavsson define como uma “imagem estereotipada de prestadoras de serviços do sexo feminino” (Hester, 2016, p. 47), numa “automatização de género” (Halberstam 1991, p. 451).
O género surge ainda através do diálogo e do comportamento destas entidades, visto implicarem uma “redução da interacção social a padrões comportamentais de género estereotipados” (Weber, 2005, p. 215). Assim, o comportamento humanizado nestas máquinas sociais é reduzido a “interacções standard e baseado em regras pré-determinadas, e os estereótipos de género são instrumentalizados de modo a gerir a nossa relação com os chatbots” (Weber, 2005, p. 214).
O género emerge também através de características mais evidentes, como a voz, nome ou, em alguns casos, avatar. Estes aspectos são definidos na própria concepção destes sistemas e, por isso, podem condicionar a nossa percepção do género das suas entidades antes de qualquer interacção (Costa & Ribas, 2018).
As suas tarefas remetem também para “actividades tradicionais de prestação de cuidados associadas com a domesticidade” (Hester, 2016, p. 49). Acrescendo o facto de que aspectos sociais e emocionais são profundamente categorizados “no pensamento ocidental como pertencentes ao domínio feminino” (Weber, 2005, p. 213), a interacção com estas entidades passa a ser feita numa lógica na qual as encaramos enquanto entidades femininas que zelam por nós.
Ao interagir diariamente com assistentes digitais como se fossem humanos e que fazem uma representação de género que corresponde e confirma expectativas socialmente determinadas, começa-se a olhar para eles não só como meras máquinas, mas como “espelhos ou substitutos da realidade” (Weber, 2005, p. 216).
Consequentemente, o modo como nos relacionamos com os nossos pares passa a influenciar o modo como nos relacionamos com a inteligência artificial e vice-versa, correndo-se o risco de ela influenciar o modo como sentimos, percepcionamos, interpretamos e até descrevemos a realidade.
2. Alexa, Cortana, Google Assistant e Siri
Com o objetivo de examinar a actual relação entre género e inteligência artificial, procedeu-se a uma análise de Alexa, Cortana, Google Assistant e Siri, através de um conjunto específico de questões e interacções.
2.1. Resultados
Em termos de antropomorfização, os assistentes exibem maioritariamente características femininas, considerando os seus nomes femininos e vozes padrão. No entanto, Google Assistant e Siri possibilitam a voz masculina e feminina num determinado conjunto de línguas. No geral, os assistentes comportam-se de maneira afectuosa, demonstrando interesse pelo dia do utilizador e apresentando sugestões de como o podem ajudar.
Considerando a sua função de assistência, desempenham tarefas semelhantes, relacionadas com aquilo que Dale denomina de "portfólio padrão de skills de assistente virtual" (2016, p. 812) e geralmente têm como objectivo antecipar as necessidades do utilizador.
Por sua vez, o seu carácter de companheiro é promovido através de atitudes que procuram assegurar o bem-estar do utilizador, caracterizando-as como entidades empáticas e compreensivas. Adicionalmente, procuram fomentar e assegurar uma relação de amizade, reagindo favoravelmente a elogios.
Quando confrontadas com interações negativas ou rudes, os assistentes apresentam uma tendência para exibirem atitudes de conformismo, evasão ou até arrependimento. Siri é a única que, em determinados casos, contraria esta atitude, questionando o utilizador acerca destas interacções.
2.2. Interpretação
A feminilidade na IA tende a ser reforçada pela sua antropomorfização, verificando-se a ausência de alternativas, ou apenas mera diversidade, e a voz tende a condicionar a atribuição do género por parte dos utilizadores antes de qualquer interacção.
As tarefas que estes assistentes desempenham também tendem a reflectir trabalho tradicionalmente feminino e, ainda que menos evidente, o género emerge também através das suas interacções, nomeadamente através de actos caregiving e maternais, associados à mulher na esfera privada.
Observaram-se também comportamentos que reflectem estereótipos particulares, caracterizando os assistentes enquanto entidades que se conformam com “uma imagem estereotipada feminina de comportamento empático, altruísta e preocupado que se tornou padrão nos contextos de serviço” (Gustavsson 2005, 402 in Hester, 2016, p. 47).
Por sua vez, verificou-se uma ausência de traços de personalidade relativos a estereótipos masculinos, tais como serem assertivas ou dominantes.
Assim, Alexa e Cortana apresentam-se enquanto entidades exclusivamente femininas e tendem a articular estes atributos com um comportamento maternal, altruísta e submisso. Por sua vez, apesar da antropomorfização d Google Assistant e Siri também tender para o feminino, há uma tentativa de contrariar esta tendência, quer através de reacções e comportamentos diversificados, quer através de múltiplas opções de voz.
No geral, estes assistentes digitais pessoais assumem-se como entidades feminizadas, desempenhando papéis historicamente femininos e reforçando estereótipos de género que conferem às mulheres uma postura passiva, obediente e focada no bem-estar dos outros.
3. Conversations with ELIZA
Com base nestas ideias, e pretendendo reflectir e reforçar concepções comuns relativas à inteligência artificial, nomeadamente na cultura popular, o projeto Conversations with ELIZA (tinyurl.com/yaecumal) foi desenvolvido com o objectivo de explorar e expor a actual feminilidade observada da inteligência artificial (Costa & Ribas 2018). O projecto envolve o desenvolvimento de quatro chatbots com diferentes traços de personalidade, característicos de estereótipos femininos, contextualizados e integrados numa plataforma online que elucida brevemente sobre o que é a IA.
Assim, a cultura popular e respectivas representações da inteligência artificial serviram de inspiração, informando o desenvolvimento de Conversations with ELIZA (mais especificamente, as personalidades dos bots).
Em relação às tarefas, atentou-se às funções oferecidas mais recorrentemente pelos assistentes digitais pessoais e às características ou factores mais comuns associados a profissões tradicionalmente femininas.
Assim, desenvolveu-se um bot assistente prestável e submisso; uma figura maternal e preocupada; um bot íntimo, amigável e compreensivo; e uma figura irreverente e sarcástica.
O primeiro assume a figura de uma assistente cuja função passa por explicar, através do diálogo, o processo de criação das inteligências artificiais femininas, e o modo como a feminilidade emerge nestes contextos. Este bot apropria-se de estereótipos associados a contextos de prestação de serviços, tais como ser complacente, gentil e prestável.
Cybele é uma figura maternal simultaneamente carinhosa, preocupada, insistente e desapontada. O bot envia lembretes diários ao utilizador, oferece conselhos e sugere coisas para fazer.
Iynx opera enquanto uma figura sedutora e empática que tenta ajudar o utilizador com a sua auto-estima, oferecendo-se para lhe enviar elogios diários, discursos motivadores ou até fazer jogos.
Por fim, Electra adopta uma abordagem menos convencional através de uma atitude mais provocadora e ousada. Simulando, simultaneamente, estereótipos femininos e masculinos, fala sobre assunções comuns acerca das mulheres de um modo irónico e sarcástico.
Assim, Conversations with ELIZA expõe concepções comuns de género presentes nos assistentes digitais actuais e na cultura pop, exagerando intencionalmente e ironicamente estereótipos, papéis e comportamentos femininos. Neste sentido, as diferentes abordagens, personalidades e funções que proporciona pretendem suscitar uma reflexão sobre a predominância do género feminino na inteligência artificial e sobre as questões que surgem, em particular, quando estereótipos tradicionais de género são reforçados.
Conclusão
O actual desenvolvimento da inteligência artificial comporta uma tendência para que esta tecnologia se infiltre no quotidiano sob a forma de chatbots companheiros amigáveis. Ao assumirem atributos humanos, estes sistemas incorporam cada vez mais concepções tradicionais de género (nomeadamente feminino).
Partindo deste enquadramento, a análise de Alexa, Cortana, Google Assistant e Siri confirma a predominância do género feminino neste tipo de sistemas e, por oposição, a ausência generalizada de alternativas ou mera diversidade na sua caracterização. Contudo, concluiu-se que, dos casos de estudo, se identifica em Google Assistant e Siri uma tentativa de diversificar a sua apresentação e comportamento, contrariando este fenómeno.
No seguimento desta ideia, Conversations with ELIZA procurou comentar o fenómeno da feminização dos chatbots e sensibilizar para o modo como concepções comuns de género são representadas nestes assistentes. Reforçando ironicamente os estereótipos observados na inteligência artificial, funciona como um dispositivo retórico e opera no sentido de amplificar estas questões.
Assim, com este estudo procurou-se contribuir para uma consciencialização sobre a relação entre género e inteligência artificial, atendendo a que, no seu rápido desenvolvimento, esta tecnologia se isenta frequentemente de olhares críticos relativamente às origens sociais e culturais que informam a sua evolução.
Procurou assim promover uma consciência sobre a representação que muitos dos assistentes digitais fazem de noções de género e em particular feminilidade, uma vez que, por mais abstractas e neutras que estas entidades pretendam ser na sua concepção e aos olhos dos seus utilizadores, actualmente acabam por reflectir, e até reforçar, assunções e visões comuns de género de volta para a realidade.
Referências
Anders, C. J. (2015). From Metropolis to Ex Machina: Why are so many robots female? Retrieved from: https://io9.gizmodo.com/from-maria-to-ava-why-are-so-many-artificialintellige-1699274487.
Butler, J. (1990). Problemas de Género: Feminismo e subversão da identidade. Lisboa: Orfeu Negro.
Costa, P. & Ribas, L. (2018). Conversations with ELIZA: On gender and artificial intelligence’ Proceedings of xCoAx 2018: 6th Conference on Computation, Communication, Aesthetics and X. Porto: University of Porto. 103–16.
Dale, R. (2016). Industry watch: The return of the chatbots. Natural Language Engineering. 22(5), 811–17.
Ellemers, N. (2018). Gender stereotypes. Annual Review of Psychology. 69(1), 275–98.
Halberstam, Jack. 1991. Automating Gender: Postmodern Feminism in the Age of the Intelligent Machine. Feminist Studies. 17 (3):439–460 .
Haraway, D. (1991). A cyborg manifesto: Science, technology and socialist-feminism in the late twentieth century. Simians, Cyborgs, and Women: The Reinvention of Nature. New York: Routledge. 149–181.
Hester, H. (2016). Technology becomes her. New Vistas. 3(1), 46–50.
Prentice, D. & Carranza, E. (2002). What women and men should be, shouldn’t be, are allowed to be, and don’t have to be: The contents of prescriptive gender stereotypes. Psychology of Women Quarterly. 26(4), 269–81.
Richardson, K. (2015). An Anthropology of Robots and AI. New York and London: Routledge.
Weber, J. (2005). Helpless machines and true loving care givers: a feminist critique of recent trends in human-robot interaction. Info, Comm & Ethics in Society. 3(4), 209–218.
Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. New York and San Francisco: W.H. Freeman and Company