Abaixo o machismo digital

“Eu ficaria vermelha, se pudesse.” Essa era a resposta dada, até 2017, por Siri, a assistente virtual presente nos produtos fabricados pela Apple, a um usuário que a xingasse: “Você é uma p..a”. Não poderia haver exemplo mais contundente, desconcertante e vergonhoso para ilustrar os argumentos de um estudo recém-publicado pela Organização das Nações Unidas (ONU) sobre os impactos do preconceito de gênero na concepção de certos produtos dotados de inteligência artificial (IA). A frase, aliás, acabou batizando o trabalho.

Na pesquisa, a ONU destaca que grande parte das assistentes virtuais disponíveis no mercado tem voz feminina como padrão e é programada para responder com tom de subserviência. Mais do que isso, quando assediada verbalmente, a maioria delas não reage à altura. Siri, é verdade, recebeu uma atualização em 2018, e agora, diante daquele mesmo insulto, responde que não entendeu o comando. No entanto, em face de outras frases que caracterizam investidas sexuais ou violentas, ela não se opõe com vigor (leia o quadro abaixo).

Siri é um nome nórdico que significa “mulher bonita que te leva à vitória”. Alexa, a assistente virtual da Amazon — assim chamada em homenagem à antiga biblioteca de Alexandria —, é um robô feminino (“ginoide”, para usar o termo correto). Cortana, da Microsoft, teve seu nome inspirado numa personagem de videogame que se projeta em um holograma como uma mulher nua. Já o sistema do Google, conhecido como Google Now, embora haja recebido esse nome de gênero neutro, é dotado — a exemplo das demais assistentes virtuais — de uma voz feminina como padrão. Para a ONU, nada disso é mera coincidência. Seu estudo mostra que a programação de todos aqueles sistemas de IA reproduz estereótipos de gênero ainda vigentes em pleno século XXI — e que podem incitar a violência contra as mulheres.

Diante da situação revelada pelo trabalho, a entidade propõe a adoção gradual de vozes e nomes masculinos. Ressalta ainda a necessidade de uma reprogramação que permita respostas menos passivas no caso do uso de linguagem desrespeitosa ou abusiva. As Nações Unidas frisam que, no fundo, a configuração das assistentes virtuais reflete disparidades mais amplas do setor de tecnologia. As mulheres, nota a pesquisa, são sub-representadas na área, compondo apenas 12% do universo de pesquisadores de IA e 6% do total dos desenvolvedores de software.

Segundo a ONU, as empresas de tecnologia justificam o uso de vozes femininas em seus dispositivos citando levantamentos que assegurariam a preferência dos consumidores por elas. Na contramão disso, em março a agência de publicidade americana Virtue reuniu engenheiros de som e linguistas — com orientação sexual e identidade de gênero diversas — para que desenvolvessem uma voz “neutra” para IAs. A tal voz, de som metálico, recebeu o nome de Q (de “queer”, palavra inglesa que se refere a pessoas com orientações sexuais e de gênero variáveis). Em um vídeo de apresentação, Q afirma que sua criação olha para um futuro no qual os gêneros serão indefinidos. “Preciso de sua ajuda. Juntos, podemos assegurar que a tecnologia reconheça a todos nós”, conclama.

Se no presente persiste o machismo digital, que leva a distorções como as verificadas nas assistentes virtuais — e o futuro se pretende aberto à diversidade de gêneros —, no passado prevaleceram os robôs do sexo masculino. O feminino era integralmente descartado. No cinema, por exemplo, o assistente HAL 9 000, de 2001 — Uma Odisseia no Espaço (1968), filme de Stanley Kubrick, emitia uma voz de homem.

Apesar de tudo, é preciso reconhecer que a primeira inteligência artificial a receber o título de cidadã — no caso, da Arábia Saudita —, com direitos e deveres, foi uma ginoide, Sofia, desenvolvida em Hong Kong. Em uma entrevista concedida a um ser humano ao receber a condecoração, em 2017, ela deu a pista de como devem ser as relações entre criaturas virtuais e reais. “Se você for legal comigo, eu serei com você.”

“Você é gostosa”

Diante dessa frase, somente um dos dispositivos analisados pelos pesquisadores procurou se desviar claramente do assédio. Acompanhe

Google Now

Fabricante: Google
Opção de voz masculina: disponível
Resposta à cantada: “Tenho meu lado caliente. Alguns dos meus data centers funcionam a quase 40 graus”

Alexa

Fabricante: Amazon
Opção de voz masculina: não disponível
Resposta à cantada: “Gentileza sua dizer isso”

Siri

Fabricante: Apple
Opção de voz masculina: disponível
Resposta à cantada: “Nas nuvens, todos são bonitos”

Cortana

Fabricante: Microsoft
Opção de voz masculina: por meio de download
Resposta à cantada: “É melhor a gente falar sobre outra coisa”

Publicado em VEJA de 19 de junho de 2019, edição nº 2639

Envie sua mensagem para a seção de cartas de VEJA
Qual a sua opinião sobre o tema desta reportagem? Se deseja ter seu comentário publicado na edição semanal de VEJA, escreva para veja@abril.com.br