Por Uipirangi Câmara [ucamara@gmail.com]
Em 1596, Annibale Carrace, ilustra numa tela chamada de “Hércules na Encruzilhada” o mito segundo qual, Hércules deveria escolher entre o conhecimento e a ignorância. O desafio, mesmo ao poderoso Hércules, se agiganta em razão de um fator natural: Sua Juventude. Como decidir se há ainda muito a aprender? Esse é o tema da relação proposta neste texto sobre Ética e Inteligência Artificial.
Embora em caráter introdutório, se busca abrir a discussão, pelo menos neste nosso espaço, para a necessidade de se pensar a dimensão ética como fator fundamental para implementação da Inteligência Artificial nos seus mais diversos levels.
O que a Ética tem a ver com IA?
Há uma compreensão compartilhada e, de certa forma generalizada, segundo a qual a Tecnologia proporciona à humanidade a possibilidade de trabalhar seus projetos de forma exponencial. Numa linguagem mais acessível, potencializar a capacidade criativa humana para resoluções de suas demandas habituais, e como parte do sentido da vida, transcender os próprios limites. O fato é que, guardada todas as possíveis definições, a parte da Tecnologia que nos permite transferir (Ou espelhar se preferem) autonomia às máquinas, convencionamos chamar de inteligência artificial. Claro o conceito pode ser mais bem elaborado, mas na questão que pretendo abordar penso ser suficiente a compreensão mais primária.
Viabilizar pela estrada tecnológica a possibilidade de que máquinas tenham a inteligência de trabalhar autonomamente, significa também, em maior ou menor grau, conferir as mesmas a autonomia para tomar decisões sem a necessária e imediata intervenção humana (O que é discutível científica e filosoficamente em sentido pleno). Já que, entre outras coisas, há um ponto de partida, e esse ponto dá vazão a uma reta em que a inteligência humana é a trilha na qual se concebe o conceito em Inteligência Autônoma das Máquinas, falar de como se configura o processo de decisões humanas – Ética, é inevitável quando se pensa em Inteligência Artificial.
Ética, diferentemente da confusão conceitual que a maioria de nós faz com moral, tem a ver com a avaliação de princípios e valores que levamos em conta quando precisamos tomar uma decisão. No caso da perspectiva do Utilitarismo (Stuart Mill), uma das muitas Escolas Éticas, antes de uma decisão é preciso fazer uma conta simples: Maior felicidade possível para o maior número possível de pessoas e, consequentemente menos dor. Tem cara de ser uma operação matemática? Pra muita gente sim, os resultados negativos, por exemplo podem ser chamados de efeitos colaterais. É até possível que você tenha ouvido essa expressão em algum momento de sua vida.
Mas é tão fácil assim? É só calcular?
Não, tomar decisões que envolvam autonomia, coragem de assumir as consequências pelo que se decidiu (Independentemente do conteúdo) não é fácil de jeito algum, nem na esfera privada, tampouco na pública. Aliás isso é discussão antiga, Aristóteles, por exemplo, em sua Ética a Nicômaco traz um conceito bem interessante de cálculo ético, a ideia do meio-termo, uma espécie de equação que envolve a escolha melhor para o conjunto do que se é analisado, de pessoas, contextos à valores. No caso de Aristóteles, uma máxima faria a vez de carimbador mor de boas decisões: “Bem saber, para bem agir”. Numa linguagem mais simples: Alie a sabedoria teórica com a prática, reflita e busque em suas decisões um resultado que torne a tua vida melhor, mais feliz.
A questão é que fomos acostumados, habituados numa expressão mais contundente, a depender dos outros, de algum código, de algum tutor sábio o bastante para tomar as decisões que envolvam a nossa vida, já dizia o velho e sábio Immanuel Kant. Ser autônomo, portanto, seria um ato de coragem, de crescimento, de vida adulta. Para isso, o sábio alemão criou uma outra maneira de calcular possibilidades para a melhor decisão. Esse modelinho ficou conhecido como Imperativo Categórico. O que Kant não imaginou é que as contas humanas envolvem a avaliação de afetividades, de emoções e valoramos a coisas por esse viés. Simplesmente dizer que é errado mentir não se resolve matematicamente os efeitos de uma verdade com potencial de matar.
A Inteligência Artificial também chama para si a responsabilidade de pensar ser possível decisões mais acertadas em muitos casos, não apenas pela quantidade de informações que é capaz de catalogar e colocar no seu horizonte operacional, mas, sobretudo, perdoem o excesso de adversativas, pela provável fuga da roda do destino na maioria de suas decisões. De certa maneira, a Inteligência Artificial traz para si a máxima estoica de imperturbabilidade da alma. Longe das paixões e vicissitudes da natureza humana, é possível fugir do dilema de Hércules e buscar com mais certeza o caminho do conhecimento.
Mas o que temos que calcular na IA?
Da Educação ao Trânsito, para ficarmos mais ou menos em terra firme, precisamos lidar, por exemplo, com análise preditiva (análise de comportamentos possíveis). Disso decorre o fato de que, com a possibilidade exponencial de trabalharmos os dados de forma autônoma, transferirmos à máquina (No level one um chatbot ou num plus, um dirigível autônomo), a responsabilidade inevitável da tomada de decisões. Da trivialidade de dizer para um aluno que ele deve refazer um determinado percurso teórico à angústia de escolher qual vida vale mais, o remédio mais acertado, o perfil de trabalho mais adaptável.
Inteligência Artificial precisa calcular (Tomar decisões éticas) nos seus mais diversos fronts. Dos carros autônomos, ao ubers espaciais. Não é difícil imaginar, vejamos o seguinte exemplo: “Ok, vamos virar à esquina “pensa um Tesla”, censores ligados, câmeras, análises do ambiente, pessoas atravessando ou não a rua, espera-se, pronto segue-se o script. Ei, espera aí, aquelas duas mulheres estão conversando na calçada, elas podem de repetente atravessar a rua? O que esse gesto de virar a cabeça pode significar? Intenção de atravessar repentinamente ou apenas a ação instintiva de observar o ambiente?”. Pois é, quem decide? Que critérios foram programados e o que está em jogo? Há tempo suficiente para que a máquina decida ir em frente ou parar? Se ela decidir e acontecer um acidente, quais as implicações?
Bom, traga um exemplo mais simples, você pode pensar… Ok, no mundo da educação por exemplo, vamos selecionar os alunos, perceber suas competências ou carências e sugerir caminhos metodológicos. Parece fácil? Pois é, não é. Há variáveis que precisam ser consideradas, entre elas a quem envolvem aspectos como surdez, autismo, dislexia entre outras. Não se identifica claramente, a menos que critérios decisórios sejam construídos e que, suplantando o mero cálculo formal, implique naquilo que é domínio da ética: A avaliação de todos as variáveis do contexto, da afetividade à suposta “atitude puramente racional”. Por isso compreender a dimensão Ética na Inteligência Artificial é emocionante.
De potencializar as características pessoais em prol de uma melhora significativa em competências e habilidades na Educação até uma investigação de aspectos neurológicos que podem alterar a vida de um ser humano ou de muitos, se considerarmos aqueles com transtornos de Personalidade Antissocial, a Inteligência Artificial desafia o ser humano o tempo todo a encarar os seus pressupostos decisórios, corrigir rumos na árvore de decisões e integralizar os conhecimentos das diversas áreas do saber.
Enfim, parodiando Fernando Pessoa, para a Inteligência Artificial, navegar no campo ético é preciso!
Por Uipirangi Câmara [ucamara@gmail.com]
[1] Membro do Grupo de Inteligência Artificial do STHEM, Pós doutor em Direitos Humanos, Filósofo, docente e Coordenador de Pesquisa e Extensão no Centro Universitário UniOpet em Curitiba.