Inteligência artificial: “Terceirizamos o ato de pensar”, diz John Danaher

Um dos principais estudiosos no mundo sobre a influência da inteligência artificial na sociedade, o pesquisador irlandês John Danaher falou a VEJA sobre o conceito de “algocracia” e os dilemas éticos da tecnologia.

O que é algocracia? Na democracia, o povo é soberano. Na algocracia, os algoritmos ou as máquinas é que são soberanos e governam o povo.

Pode dar exemplos? Existem sistemas tecnológicos que tomam decisões no nosso lugar. A interação que o cidadão tem com o Estado, as burocracias, por exemplo, são ditadas por sistemas algorítmicos, como quando lhe negam um empréstimo, ou o seguro do seu carro fica mais caro, ou você não consegue o direito de sair da prisão. Uma das grandes preocupações em relação aos algoritmos é que seu funcionamento nem sempre é claro para os seres humanos. E se o Estado e as grandes empresas não conseguem ser transparentes sobre o modo como um cidadão é julgado, isso afeta princípios básicos da democracia.

Há mais de uma década o senhor estuda o fenômeno. Como vê hoje as discussões sobre o tema? Elas se tornaram mais pertinentes, críticas e até céticas. Debatemos sobre a influência dos algoritmos na polarização política, desde o visível aumento do populismo pelo mundo até a proliferação das fake news e da desinformação. Toda informação que chega até nós pelas redes sociais passa por uma curadoria algorítmica, que tem se tornado cada vez mais invasiva.

A ficção popularizou a ideia da inteligência artificial que domina os humanos. Os algoritmos seriam o início para essa distopia? De certa forma, já vivemos em um mundo dominado pela tecnologia. Não acho que se equipare ao Exterminador do Futuro, com um robô fortão por aí. Mas o que acontece é que entregamos o controle de nossa vida às máquinas. É mais fácil só ler algo que postaram nas redes e defender aquilo em vez de pensar. Ou deixar a Netflix escolher um filme por você. Terceirizamos o ato de pensar, de raciocinar sozinhos, a nossa autonomia. Não é porque a tecnologia é superinteligente: nós é que somos preguiçosos.

Como analisa as soluções apresentadas pelas empresas de tecnologia? Elas estão cientes dos problemas que causaram, mas preferem manter sua autonomia. Já está claro, porém, que agora é necessário agir nas esferas políticas.

Publicado em VEJA de 7 de julho de 2021, edição nº 2745