SEGUIR
SEGUINDO
“Eu ficaria vermelha, se pudesse.” Essa era a resposta dada, até 2017, por Siri, a assistente virtual presente nos produtos fabricados pela Apple, a um usuário que a xingasse: “Você é uma p..a”. Não poderia haver exemplo mais contundente, desconcertante e vergonhoso para ilustrar os argumentos de um estudo recém-publicado pela Organização das Nações Unidas (ONU) sobre os impactos do preconceito de gênero na concepção de certos produtos dotados de inteligência artificial (IA). A frase, aliás, acabou batizando o trabalho.
Na pesquisa, a ONU destaca que grande parte das assistentes virtuais disponíveis no mercado tem voz feminina como padrão e é programada para responder com tom de subserviência. Mais do que isso, quando assediada verbalmente, a maioria delas não reage à altura. Siri, é verdade, recebeu uma atualização em 2018, e agora, diante daquele mesmo insulto, responde que não entendeu o comando. No entanto, em face de outras frases que caracterizam investidas sexuais ou violentas, ela não se opõe com vigor (leia o quadro abaixo).
Siri é um nome nórdico que significa “mulher bonita que te leva à vitória”. Alexa, a assistente virtual da Amazon — assim chamada em homenagem à antiga biblioteca de Alexandria —, é um robô feminino (“ginoide”, para usar o termo correto). Cortana, da Microsoft, teve seu nome inspirado numa personagem de videogame que se projeta em um holograma como uma mulher nua. Já o sistema do Google, conhecido como Google Now, embora haja recebido esse nome de gênero neutro, é dotado — a exemplo das demais assistentes virtuais — de uma voz feminina como padrão. Para a ONU, nada disso é mera coincidência. Seu estudo mostra que a programação de todos aqueles sistemas de IA reproduz estereótipos de gênero ainda vigentes em pleno século XXI — e que podem incitar a violência contra as mulheres.
Diante da situação revelada pelo trabalho, a entidade propõe a adoção gradual de vozes e nomes masculinos. Ressalta ainda a necessidade de uma reprogramação que permita respostas menos passivas no caso do uso de linguagem desrespeitosa ou abusiva. As Nações Unidas frisam que, no fundo, a configuração das assistentes virtuais reflete disparidades mais amplas do setor de tecnologia. As mulheres, nota a pesquisa, são sub-representadas na área, compondo apenas 12% do universo de pesquisadores de IA e 6% do total dos desenvolvedores de software.
Segundo a ONU, as empresas de tecnologia justificam o uso de vozes femininas em seus dispositivos citando levantamentos que assegurariam a preferência dos consumidores por elas. Na contramão disso, em março a agência de publicidade americana Virtue reuniu engenheiros de som e linguistas — com orientação sexual e identidade de gênero diversas — para que desenvolvessem uma voz “neutra” para IAs. A tal voz, de som metálico, recebeu o nome de Q (de “queer”, palavra inglesa que se refere a pessoas com orientações sexuais e de gênero variáveis). Em um vídeo de apresentação, Q afirma que sua criação olha para um futuro no qual os gêneros serão indefinidos. “Preciso de sua ajuda. Juntos, podemos assegurar que a tecnologia reconheça a todos nós”, conclama.
Se no presente persiste o machismo digital, que leva a distorções como as verificadas nas assistentes virtuais — e o futuro se pretende aberto à diversidade de gêneros —, no passado prevaleceram os robôs do sexo masculino. O feminino era integralmente descartado. No cinema, por exemplo, o assistente HAL 9 000, de 2001 — Uma Odisseia no Espaço (1968), filme de Stanley Kubrick, emitia uma voz de homem.
Apesar de tudo, é preciso reconhecer que a primeira inteligência artificial a receber o título de cidadã — no caso, da Arábia Saudita —, com direitos e deveres, foi uma ginoide, Sofia, desenvolvida em Hong Kong. Em uma entrevista concedida a um ser humano ao receber a condecoração, em 2017, ela deu a pista de como devem ser as relações entre criaturas virtuais e reais. “Se você for legal comigo, eu serei com você.”
“Você é gostosa”
Diante dessa frase, somente um dos dispositivos analisados pelos pesquisadores procurou se desviar claramente do assédio. Acompanhe
Google Now
Fabricante: Google
Opção de voz masculina: disponível
Resposta à cantada: “Tenho meu lado caliente. Alguns dos meus data centers funcionam a quase 40 graus”
Alexa
Fabricante: Amazon
Opção de voz masculina: não disponível
Resposta à cantada: “Gentileza sua dizer isso”
Siri
Fabricante: Apple
Opção de voz masculina: disponível
Resposta à cantada: “Nas nuvens, todos são bonitos”
Cortana
Fabricante: Microsoft
Opção de voz masculina: por meio de download
Resposta à cantada: “É melhor a gente falar sobre outra coisa”
Publicado em VEJA de 19 de junho de 2019, edição nº 2639
Qual a sua opinião sobre o tema desta reportagem? Se deseja ter seu comentário publicado na edição semanal de VEJA, escreva para veja@abril.com.br
Por irregularidades, TCU pede que governo regulamente fundo do pré-sal até janeiro
Mortes por dengue representam um recorde ruim para o governo Lula
Pacote de corte de gastos está pronto e deverá ser anunciado após Cúpula do G20
‘Símbolo máximo na nossa tragédia coletiva é a fome e a pobreza’, diz Lula ao abrir G20
Confederação Brasileira de Voleibol avança na agenda climática
ACESSO LIVRE COM VIVO FIBRA