Avanço da inteligência das máquinas preocupa cientistas

O artigo abaixo vem ao encontro do que discutimos sobre o post de Jacson acerca do troco da sociedade. Será que estamos no nível moral de uma sociedade que avança tanto tecnologicamente ? Leiam as preocupações dos cientistas.

JC e-mail 3824, de 11 de Agosto de 2009.

21. Avanço da inteligência das máquinas preocupa cientistas


Tecnólogos se reuniram na Califórnia para discutir efeitos do progresso tecnológico

Robôs que abrem portas e encontram tomadas para a recarga. Novos vírus de computador que ninguém consegue exterminar. Aeronaves não tripuladas que, apesar de ainda controladas por humanos, estão perto de se tornar máquinas capazes de matar com autonomia.

Impressionados com os avanços na inteligência artificial, cientistas da computação debatem a necessidade de limites a pesquisas que poderiam levar a uma perda do controle humano sobre sistemas computadorizados. A preocupação está relacionada à possibilidade de avanços adicionais produzirem perturbações sociais.

Apesar de os cientistas terem concluído que estamos longe de ver um HAL - o computador que assume o controle da nave no filme 2001: Uma Odisseia no Espaço -, eles consideram legítima a preocupação com a possibilidade de o progresso transformar a força de trabalho por meio da destruição de uma ampla gama de ocupações, além de obrigar pessoas a aprender a conviver com máquinas que cada vez mais imitam humanos.

Os pesquisadores - que se reuniram no Centro de Convenções de Asilomar, na Califórnia - descartaram a possibilidade da criação de superinteligências centralizadas e a ideia de algum tipo de inteligência surgir espontaneamente a partir da internet. Mas concordaram que robôs capazes de matar com autonomia existirão num futuro próximo.

Eles deram atenção especial aos usos que criminosos teriam para sistemas de inteligência artificial. O que um bandido poderia fazer com um sistema de síntese vocal capaz de se fazer passar por uma pessoa? O que acontece quando a inteligência artificial é empregada para roubar informações de smartphones?

Também debateram possíveis ameaças a empregos humanos, como carros equipados com piloto automático, assistentes pessoais sob a forma de programas de computador e robôs de serviço doméstico.

A conferência foi organizada pela Associação para o Avanço da Inteligência Artificial (Aaai, em inglês). Ao escolher Asilomar como sede, evocou um evento marcante. Em 1975, os maiores biólogos do mundo se reuniram em Asilomar para debater a habilidade de moldar a vida por meio do intercâmbio de material genético. Preocupados com riscos biológicos e questões éticas, os cientistas suspenderam certos experimentos. A conferência resultou em parâmetros para a pesquisa com DNA recombinante.

O encontro para debater o futuro da inteligência artificial foi organizado por Eric Horvitz, pesquisador da Microsoft e atual presidente da associação. Ele disse acreditar que os cientistas da computação devem responder à ideia de máquinas superinteligentes e sistemas de inteligência artificiais tomados por uma fúria assassina.

A noção de uma "explosão da inteligência", na qual máquinas inteligentes projetariam modelos mais inteligentes, foi proposta em 1965 pelo matemático I. J. Good. Posteriormente, em palestras e romances de ficção científica, o cientista Vernor Vinge popularizou a ideia de um momento no qual humanos criariam máquinas mais inteligentes que os homens, causando uma mudança tão rápida que a "era da humanidade chegaria ao fim".

Essa visão é tida como plausível e perigosa por alguns cientistas, como William Joy, cofundador da Sun Microsystems. Outros tecnólogos, entre os quais se destaca Raymond Kutzweil, exaltam a chegada das máquinas ultrainteligentes, afirmando que elas trarão imensos avanços na extensão da vida e na criação de riqueza.

O relatório do encontro, a ser publicado ainda neste ano, tentará avaliar a possibilidade da "perda do controle humano sobre inteligências computadorizadas". O documento também lidará com uma série de temas socioeconômicos, legais e éticos, além das prováveis transformações no relacionamento entre humanos e computadores. Como seria, por exemplo, relacionar-se com uma máquina tão inteligente quando seu cônjuge?

Horvitz diz que o painel buscava maneiras de direcionar as pesquisas para que a tecnologia beneficiasse a sociedade. Algumas pesquisas, por exemplo, podem ser conduzidas em laboratórios de alta segurança.

Apesar de suas preocupações, Horvitz disse ter esperança de que a pesquisa da inteligência artificial possa beneficiar os humanos - e, quem sabe, até compensar as nossas falhas.
(O Estado de SP, 9/8)