“Uma invenção, uma vez inventada, não pode ser desinventada” — Arthur Koestler
*Por Francisco Camargo
A inteligência artificial (IA) emerge como uma das mais fascinantes e desafiadoras realizações humanas. Sua capacidade de aprendizado, adaptação e execução de tarefas complexas redefine as fronteiras do que chamamos de “inteligência”. Contudo, junto a suas muitas promessas, a IA também levanta questionamentos éticos, sociais e filosóficos. Para compreender esses desafios, podemos recorrer tanto à ficção científica quanto às reflexões filosóficas do passado, exemplificadas pelo artigo do escritor neozelandês Samuel Butler, “Darwin among the Machines” (1863), e, exatamente um século depois, em 1963, o genial Frank Herbert lança o primeiro volume da série “Duna”, que em um império galáctico daqui a milhares de anos, ocorreu no passado, a Jihad Butleriana, em que todas as máquinas pensantes foram destruídas pelo perigo que representavam para a humanidade.
Em 1963 nada se falava de inteligência artificial, nem redes neurais, não existiam nem microcomputadores, redes distribuídas, internet, nada, era a era dos mainframes, com 4 kbytes de memória..
Uma advertência de 1863: a evolução das máquinas
No seu artigo Darwin among the Machines, Samuel Butler escreve com sagacidade e visão ao comparar a evolução das máquinas à evolução natural descrita por Charles Darwin. Butler argumenta que as máquinas, da mesma forma que os seres vivos podem evoluir e responde a duas questões,
A primeira: as máquinas serão capazes de construir outras máquinas, e a resposta foi sim, o que não era evidente em 1863
A segunda: as máquinas serão capazes de se auto aperfeiçoarem, isto é, de evoluir, e a resposta foi novamente sim.
Ele alerta sobre o potencial das máquinas de se tornarem independentes e que isso seria um terrível perigo para a raça humana, e sugere que, para proteger nossa espécie, devemos “destruir as máquinas mais perigosas”.
Embora escrito no século XIX, o ensaio de Butler ressoa profundamente na era da IA. O avanço de sistemas autônomos, como robôs e algoritmos de aprendizado profundo, reaviva a preocupação sobre a possibilidade de máquinas se tornarem agentes independentes, capazes de tomar decisões que escapem ao controle humano. A questão central não é apenas se as máquinas podem evoluir, mas como os humanos devem gerenciar essa evolução para evitar cenários distópicos.
A Jihad Butleriana: lições de “Duna”
No universo de Duna, Frank Herbert explora um evento apocalíptico conhecido como a Jihad Butleriana, uma guerra entre humanos e máquinas inteligentes. O conflito se encerra com a proibição de se criar “uma máquina à imagem da mente humana”.
Herbert utiliza a Jihad Butleriana como uma metáfora de advertência sobre os perigos de confiar em inovações radicais, em que ainda não conseguimos ver todas as consequências, ou pelo menos as mais importantes.
A Jihad Butleriana também levanta questões morais e filosóficas sobre o papel da tecnologia em nossas vidas. Herbert sugere que, ao depender demais de máquinas, os humanos correm o risco de perder sua essência, criatividade e autonomia. Isso nos leva a refletir sobre até que ponto devemos permitir que a IA desempenhe papéis que tradicionalmente requerem julgamento e moralidade humanos.
Os desafios da inteligência artificial
No tempo de Butler e Herbert não existiam computadores pessoais, e-mails, smartphones, internet, redes sociais, e eles, visionários, já vislumbravam os desafios da IA no mundo moderno, tornando-os mais claros para as futuras gerações.
Entre os principais dilemas estão:
1. Ética e Controle: Como garantir que sistemas de IA ajam de forma ética? Ou melhor, qual ética devemos ensinar para as futuras AI. Algoritmos podem herdar preconceitos de seus criadores ou de dados, resultando em discriminação ou decisões questionáveis. Além disso, a dificuldade em prever o comportamento de sistemas complexos pode levar a consequências inesperadas.
Mas o mais importante, e quem já desenvolveu sistemas, é como garantir as especificações necessárias para essa inteligência, como todo sistema complexo, para dado input, os outputs podem não ser os previstos.
2. Autonomia das Máquinas: O avanço da IA autônoma, como carros autodirigidos e drones militares, levanta questões sobre responsabilidade. Quem será culpado em caso de falhas ou danos? A máquina, o programador ou o usuário? Em carros autômatos todos os fabricantes já declararam (ou pensaram) que a prioridade é sempre proteger os passageiros, caso contrário não venderiam um carro.
3. Dependência Tecnológica: Assim como em *Duna*, a dependência crescente de máquinas pode enfraquecer nossa própria capacidade cognitiva e habilidades críticas. E isso já está acontecendo com as crianças e jovens pelo tempo de tela. Leitura não faz parte dos circuitos inatos do cérebro, tem que serem desenvolvidos por treino e repetição.
Devemos nos perguntar: estamos utilizando a IA como ferramenta ou permitindo que ela substitua nosso cérebro?
4. O Futuro do Emprego: Com a automação de tarefas, em um primeiro momento haverá um enorme ganho de produtividade, depois muitos empregos tradicionais estarão em risco.
O desafio não é apenas econômico, mas social e psicológico, pois milhões de pessoas poderão perder não apenas sua fonte de renda, mas também seu senso de propósito.
Regulamentação e o futuro
Tanto Samuel Butler quanto Frank Herbert nos oferecem visões que, embora enraizadas em contextos teóricos ou fictícios, continuam extremamente relevantes. A mensagem subjacente de ambos é clara: o progresso tecnológico deve ser acompanhado por um progresso ético e filosófico.
Não basta criarmos máquinas inteligentes; precisamos garantir que sua evolução esteja alinhada com os valores humanos.
A inteligência artificial é uma ferramenta poderosa, com potencial para transformar o mundo de maneiras que ainda estamos apenas começando a entender. Mas, como Butler e Herbert nos lembram, também é uma força que exige vigilância, reflexão e, acima de tudo, responsabilidade.
E aqui esbarramos na Regulamentação da Inteligência Artificial. Se os principais países do mundo não fizerem a regulamentação, os outros que se dispuserem a fazer estarão em desvantagem, pois a inciativa, a criatividade e o empreendedorismo migrarão desses países para os que não tiverem regulamentação.
Arthur Koestler foi um Escritor, Jornalista e Pensador, considerado um dos mais influentes intelectuais do Século XX. Dissidente húngaro, refugiou-se na Inglaterra por ocasião da repressão do Partido Comunista Húngaro em 1956.
*Francisco Camargo é Fundador e CEO da CLM e Diretor Tesoureiro da ABES
Aviso: A opinião apresentada neste artigo é de responsabilidade de seu autor e não da ABES – Associação Brasileira das Empresas de Software
Artigo publicado originalmente no site IT Forum: https://itforum.com.br/colunas/desafios-inteligencia-artificial/
PT 
EN 
