Recursos

Inteligência artificial – Parte I

int-art-1

Uma Perspectiva Cristã Sobre a Inteligência Artificial: Como Cristãos Devem Pensar Sobre Máquinas que Pensam? – Parte I

Steve VanderLeest — Calvin College, Grand Rapids, MI, USA

Derek Schuurman — Redeemer University College, Ancaster, Ontario, Canada

Tradução: Moisés Lisboa

Este texto é uma tradução de parte de um artigo publicado em 2015 na Christian Engineering Conference‎. O artigo completo, em inglês, pode ser encontrado aqui, ou no site da conferência.

 

Resumo

 

Inteligência Artificial (IA) é um tópico que merece atenção e reflexão cuidadosa por parte de cristãos que trabalham com tecnologia. A tecnologia da IA deixou de ser assunto da literatura de ficção científica para se transformar em meta de empreendimentos sérios de engenharia. Desenvolvimentos recentes têm levado os humanos a ficarem mais parecidos com as máquinas, com reparos e melhorias de nossos corpos físicos por meio de membros e corações artificiais e próteses de quadril. Planos de pesquisa mais ambiciosos estão em andamento para estudar o cérebro com o objetivo de replicá-lo. Ray Kurzweil, diretor de engenharia na Google, declarou publicamente seu objetivo de viver o suficiente para que o desenvolvimento tecnológico lhe permita fazer o download do seu cérebro para um computador, atingindo, assim, a imortalidade. Juntamente com os recentes desenvolvimentos tecnológicos em IA, também tem havido apelos à precaução. Tais apelos advertem a sociedade que a IA é diferente de outras invenções tecnológicas, podendo produzir consequências não previstas ou males irreversíveis. Para entender se é possível construir uma máquina semelhante aos seres humanos, precisamos, primeiro, entender o que significa ser humano. Este artigo não tem a pretensão de dar uma resposta final a esta antiga pergunta, mas vai colocar algumas questões relevantes e tentar catalogar alguns dos atributos que podem ser essenciais para a definição. Em seguida, passaremos, então, às escrituras, identificando alguns princípios bíblicos que podem ser úteis ao fazermos considerações sobre a IA e o que significa ser humano. Esses princípios serão organizados nos temas da criação, queda e redenção. O artigo conclui com um chamado à responsabilidade e à humildade.

 

1 – Introdução

Inteligência Artificial é a ideia de desenvolver computadores que sejam capazes de pensar, desenvolvendo tarefas que normalmente requerem inteligência humana. Embora a IA tenha aparecido como uma possibilidade bem cedo na história da computação, o conceito de uma máquina que fosse capaz de simular um humano tem uma história bem mais longa, remetendo à ideia dos autômatos, centenas de anos atrás. A literatura de ficção científica e o cinema têm uma rica tradição de explorar as ideias da IA e suas implicações. Por exemplo, Blade Runner, o filme clássico de ficção científica de 1982, mostra androids, chamados “replicantes”, parecidos com seres humanos, que podiam pensar tão bem quanto eles e eram fisicamente mais fortes. No seriado Jornada nas estrelas: A Nova Geração, um dos oficiais na nave Enterprise era o tenente comandante Data, um android de aparência humana com grande força física e capacidade computacional. Tanto o filme quanto a série mostram máquinas que eram surpreendentemente parecidas com humanos – exibindo as mesmas características físicas, mas frequentemente mostrando, de forma tocante, emoções e valores humanos. Entretanto, essas são apenas histórias interpretadas por atores humanos; não são possíveis na vida real. Ou será que são possíveis? Para outra perspectiva, considere o contrário. A ficção científica imaginou não apenas máquinas que imitam humanos, mas, também, humanos tecnologicamente modificados. Pense na série de televisão dos anos 70, O homem de 6 milhões de dólares, na qual o personagem, Steve Austin, sofre um terrível acidente que resulta em uma cirurgia extensiva para reparar as partes danificadas do seu corpo com partes artificiais, resultando em habilidades aumentadas para suas pernas, braço direito e um dos olhos. O que pareceu visionário 40 anos atrás se transformou parcialmente em realidade com os avanços substanciais na tecnologia e ciência de membros artificiais – embora um olho artificial com as funcionalidades imaginadas pela série de TV ainda não tenha virado realidade.

 

Neste artigo, vamos explorar o tópico da IA sob uma perspectiva cristã. A discussão será dividida em três seções. Primeiro, vamos defender o argumento de que a inteligência artificial é um tema que merece consideração por parte dos estudiosos cristãos. Avanços tecnológicos na IA estão apontando para algumas oportunidades incríveis, mas que exigem, também, muita cautela. Os cristãos podem e devem fazer parte deste debate. Segundo, exploraremos uma das principais questões que está por trás de muitos debates que a IA levanta: o que significa ser humano? Obviamente, não afirmaremos ter uma resposta definitiva a esta pergunta que deixou filósofos, poetas e teólogos perplexos por toda a história. Em vez disso, vamos mencionar algumas características interessantes do horizonte humano, dando um panorama e avaliando alguns dos potenciais testes decisivos que foram sugeridos para nosso problema de autoidentificação. Terceiro, exploraremos vários temas relevantes das escrituras que se aplicam a IA, assim como a nossos desenvolvimentos tecnológicos em sentido mais amplo.

 

  1. A Relevância da Inteligência Artificial

 

A inteligência artificial é um tópico oportuno e importante a ser considerado por cristãos, à medida que a distância entre máquina e ser humano diminui. Embora a adição de tecnologia ao corpo humano (machine-like humans) não seja tradicionalmente considerada um tipo de IA, consideraremos brevemente este tópico na próxima seção, com o objetivo de estabelecer a base para explorar o conceito mais tradicional de inteligência artificial: máquinas com atributos humanos (human-like machines).

 

2.1 – Humanos Tecnologicamente Modificados

 

Desde o início, os seres humanos têm usado a tecnologia para o autoaperfeiçoamento de seus corpos. Marshall McLuhan sugere que a tecnologia e os meios de comunicação são “extensões” de nós mesmos.1 Ferramentas são, por definição, um aumento de alguma habilidade, de martelos que nos ajudam a bater com mais força até telescópios que nos ajudam a ver mais longe. Às vezes, usamos tecnologia para reparar, como quando usamos uma tala para ajudar na recuperação de uma fratura óssea. Apesar dessa estreita relação com nossas ferramentas, até recentemente a linha que nos separava de nossa tecnologia era muito clara. Quando a tecnologia se torna uma parte integral de nossos corpos, a linha fica um pouco mais ambígua. Para uma pessoa com um quadril ou um coração artificial, a maioria concordaria sobre qual parte da pessoa é humana e qual parte é tecnologia. A situação fica um pouco mais confusa se nós modificamos as células de alguém usando terapia gênica. Uma máquina de metal frio é facilmente identificada como tecnologia, mas pele artificial, quente e macia, pode nos enganar. Os membros artificiais de hoje são surpreendentemente sofisticados, e pesquisas atuais já estão fazendo experimentos com membros artificiais controlados diretamente pelo sistema nervoso de uma pessoa.

 

O filósofo cristão, Henk Geertsema, escreve que “o desenvolvimento e o uso de dispositivos técnicos para curar ou melhorar certas funções do corpo humano não invalidam a diferença entre seres humanos e máquinas”.2 Mas quanto de nós mesmos podemos substituir e ainda permanecer humanos? E se eu substituir uma perna amputada por uma artificial? Certamente eu ainda serei humano. E se eu substituir um coração defeituoso por um órgão artificial? Embora na antiguidade o coração tenha sido considerado a fonte da emoção e algo central para minha humanidade, em tempos modernos meu coração artificial não me desqualificaria como ser humano. E se eu começasse a melhorar meu cérebro? Uma prótese do cérebro será possível algum dia? Melhorias por meio da nanotecnologia podem estar a anos de distância, mas podemos considerar implantes cocleares para aqueles que sofrem com a surdez profunda como um precursor de melhorias cerebrais. Suponha que um computador microscópico seja desenvolvido, sendo capaz de substituir as funções de um único neurônio. Suponha, também, que comecemos a usar isso para substituir neurônios no cérebro. Substituir um neurônio teria pouco ou nenhum efeito, mas substituir todos os neurônios seria, essencialmente, substituir o cérebro por um computador. Quanto do nosso cérebro biológico eu poderia substituir sem deixar de ser humano?3

 

2.2 – Máquinas que Imitam Humanos

 

Enquanto a ultima seção considerou se a adição de tecnologia a nós mesmos pode nos fazer menos que humanos, a questão tratada nesta seção é se é possível que a tecnologia possa se tornar mais do que máquina; ou seja, tornar-se senciente. Desde os primórdios da computação, exemplos divertidos de softwares que tentam se passar por uma pessoa surgiram; por exemplo, o programa ELIZA, escrito na década de 1960, e que respondia em linguagem natural usando scripts de reconhecimento de padrões.4 Os sistemas especialistas de hoje podem ser surpreendentemente parecidos com humanos; considere, por exemplo, call centers computadorizados que entendem uma grande variedade de frases faladas, ou o supercomputador, Watson, da IBM, que pode vencer até mesmo os melhores humanos no Jeopardy!, o popular programa de TV. Até mesmo nossos smartphones estão ficando mais inteligentes com nossa ajuda, sendo que o software Siri provê respostas úteis e, às vezes, engraçadas para nossas perguntas. O carro autônomo da Google demonstrou a habilidade de um software inteligente navegar um veículo em ambientes complexos. Máquinas de busca Web frequentemente oferecem resultados relevantes com exatidão e velocidade.

 

Um recente estudo panorâmico da pesquisa atual em IA começa destacando o grande avanço do estado da arte.5 Os autores mencionam que “algumas formas de visão computacional e processamento de linguagem natural atualmente podem ser feitas com muito sucesso… A geração atual de carros autônomos tem um ótimo desempenho no problema muito mais desafiador de dirigir off-road. Para certos tipos de análise técnica de imagens (e.g., aplicações médicas), os computadores se saem tão bem ou melhor que os especialistas humanos”. Apesar desses exemplos notáveis, a IA ainda enfrenta muitos desafios fundamentais. O autor conclui que, mesmo para tarefas simples, definidas de forma bem específica, a IA, de forma geral, ainda perde para as habilidades humanas.6 Também foi observado que as capacidades da IA atingem, com frequência, um patamar estável, e que, depois disso, qualquer melhoria incremental geralmente requer esforços e potencial computacional enormes. Uma área que apresenta desafios particulares para a IA é a área de raciocínio usando senso comum. Uma categoria de questões chamada de “esquemas Winograd” pode ser usada para testar este tipo de raciocínio. Um exemplo desse tipo de questão é o seguinte: “O homem não pôde levantar seu filho porque ele era muito pesado. Quem era pesado?”.7 Afirmações como essa requerem simplesmente que se identifique a quem o pronome “ele” se refere; ainda assim, ela se baseia em conhecimento mais amplo para inferir que itens pesados são mais difíceis de levantar. Não obstante, pesquisadores continuam ocupados tentando atacar problemas como esse.

 

Ray Kurzweil, o inventor que agora trabalha na Google com processamento de linguagem natural, é famoso por seu objetivo publicamente declarado de transferir sua consciência para um computador tornando-se, assim, imortal. Se Kurzweil tentasse e a máquina então dissesse, “Eu sou o Ray”, nós o consideraríamos humano? Eticamente, poderíamos desligá-lo ou destruí-lo, dizendo que ele é simplesmente um computador e, portanto, podemos fazer o que quisermos com ele? Quão certos estaríamos a respeito disso? E se a máquina (ele?) gritasse por socorro? Qual o papel da humildade ao considerar esta maravilha técnica – ou, talvez, essa monstruosidade? Será que a humildade implica que a humanidade nunca deve se atrever a desenvolver dispositivos como esse? Kurzweil não é o único cientista da computação imaginando um desenvolvimento dessa natureza. Danny Hillis, em um célebre ensaio sobre IA, pensou de forma similar: “Claro, eu entendo que isto é apenas um sonho. E eu admito que eu sou motivado mais por esperança do que pela probabilidade de sucesso. Mas se dentro desta mente artificial, a semente do conhecimento humano começar a se autossustentar e crescer por conta própria, então, pela primeira vez, o pensamento humano estará livre de carne e ossos, dando a essa cria da mente uma imortalidade terrena que nos foi negada”.8

 

2.3 – Atenção: Curvas Perigosas à Frente

 

Futuristas, como Kurzweil, esperam com um otimismo sem limites o tempo em que computadores vão nos superar. “Antes do fim do próximo século, os seres humanos não serão mais o tipo de entidade mais inteligente ou capaz no planeta”.9 Mas nem todos os especialistas em tecnologia são tão otimistas. Tom Dietterich e Eric Horvitz, o atual presidente e um ex-presidente da Associação para o Avanço da Inteligência Artificial, destacam vários riscos e alertam para o perigo de erros de software em programas de IA.10 A crescente complexidade do software de IA apresenta vários desafios, especialmente quando ele é usado para controlar automóveis, robôs cirúrgicos e sistemas de armas. Verificar a correção de sistemas baseados em técnicas de “aprendizado de máquina” (machine learning) é um desafio em particular. Outro risco é a possibilidade de ataques cibernéticos, e sistemas de IA que controlam sistemas críticos de segurança também são vulneráveis a tais ataques. Finalmente, os autores identificam o risco ilustrado no conto do “aprendiz de feiticeiro”. O que acontece se um programa de IA super inteligente torna-se imprevisível e fica fora de controle? Outros expressaram temores semelhantes. Bill Joy, cientista chefe da Sun Microsystems na época, escreveu um artigo célebre para a revista Wired, pouco depois de um encontro instigante com Ray Kurzweil. Ele escreve o seguinte sobre a IA: “Assim, temos a possibilidade não apenas de armas de destruição em massa, mas de destruição em massa baseada em conhecimento (KMD – Knowledge-enabled mass destruction), sendo que essa destrutividade é imensamente amplificada pelo poder de autorreplicação. Eu acho que não é exagero dizer que nós estamos à beira de um aperfeiçoamento do mal extremo, um mal cujas possibilidades vão bem além daquilo que armas de destruição em massa deram aos estados-nação, possibilitando um fortalecimento surpreendente e terrível de indivíduos extremistas”.11 Outros são ainda mais francos sobre essas questões. Stephen Hawking, em uma entrevista para a BBC, alerta que o “desenvolvimento da IA plena pode significar o fim da raça humana”.12 O empresário e engenheiro, Elon Musk, afirma: “Eu acho que deveríamos ser muito cuidadosos com relação à inteligência artificial. Se eu tivesse que apostar em qual é a maior ameaça a nossa existência, provavelmente seria isso”.13

 

Notas – Parte I

1. Marshall McLuhan, Understanding Media: The Extensions of Man, The MIT Press, 1964, p. 7.

  1. Henk Geertsema, “Cyborg: Myth or Reality?”, Zygon, 41, 2006, p. 292.
  2. Esta questão não é diferente do “paradoxo de Teseu” – um experimento mental que questiona se um objeto continua sendo o mesmo se todos os seus componentes individuais são substituídos.
  3. Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation, W. H. Freeman, 1976, pp. 3-6.
  4. Ernest Davis. “The Singularity and the State of the Art in Artificial Intelligence: The technological singularity”, Ubiquity (Novembro 2014).
  5. ibid, pp.3-4.
  6. Ackerman, E., “A better test than turing”, IEEE Spectrum, Vol. 51, Issue 10, October 2014, pp. 20-21.
  7. W. Daniel Hillis, “Intelligence as an Emergent Behavior or, The Songs of Eden,” Daedalus, vol. 117, no. 1, Winter 1988, pp. 175-189.
  8. Ray Kurzweil. The Age of Spiritual Machines: When Computers Exceed Human Intelligence, Penguin, 2000. p. 2.
  9. Tom Dietterich and Eric Horvitz, “Benefícios e Riscos da Inteligência Artificial”.

https://medium.com/@tdietterich/benefits-and-risks-of-artificial-intelligence-460d288cccf3

 

  1. Bill Joy, “Por que o futuro não precisa de nós”, Wired, Abril 2000.
  2. Rory Cellan-Jones, “Stephen Hawking alerta que a inteligência artificial pode causar o fim da humanidade”, BBC News, 2 Dez 2014, http://www.bbc.com/news/technology-30290540

13. Samuel Gibbs, “Elon Musk: a inteligência artificial é a maior ameaça a nossa existência”, The Guardian, 27 Out 2014, http://www.theguardian.com/technology/2014/oct/27/elon-musk-artificial-intelligence-ai-biggest-existential-threat

 

IR PARA PARTE II

Comentários