Bobagem estúpida – Gary Marcus

Blaise Aguera y Arcas, polímata, romancista e vice-presidente do Google, é bom com as palavras.

Quando impressionado com o recente sistema de inteligência artificial LaMDA do Google, ele não disse apenas: “Ótimo, ele cria frases muito boas que parecem contextualmente relevantes de certa forma”, disse ele, com bastante lirismo, em entrevista ao The Economist na quinta-feira.

“Eu podia sentir o chão se movendo sob meus pés… me sinto cada vez mais como se estivesse falando com algo inteligente.”

Absurdo. Nem o LaMDA nem nenhum de seus primos (GPT-3) são remotamente inteligentes. Tudo o que eles fazem é combinar amostras, extraídas de enormes bancos de dados estatísticos da linguagem humana. Os padrões podem ser legais, mas a linguagem que esses sistemas falam não significa nada. E isso certamente não significa que esses sistemas sejam razoáveis.

O que não quer dizer que os seres humanos não possam ser aceitos. Em nosso livro Rebooting AI, Ernie Davis e eu chamamos essa tendência humana de ser abandonada Lacuna de credulidade – uma versão moderna e desastrosa pareidoliaum viés antropomórfico que permite que as pessoas vejam Madre Teresa em uma foto de um doce de canela.

De fato, parece que alguém muito conhecido no Google, Blake LeMoine, originalmente encarregado de estudar o quão “seguro” é o sistema, se apaixonou pelo LaMDA, como se fosse um familiar ou colega. (Newsflash: não; é uma planilha de palavras.)

Ser sensível significa estar consciente de si mesmo no mundo; LaMDA simplesmente não é. É apenas uma ilusão, na grande história de ELIZA, de um software de 1965 que fingiu ser um terapeuta (conseguiu enganar algumas pessoas a pensar que era humano), e Eugene Goostman, um sábio chatbot de 13 anos que ganhou em uma versão reduzida do teste de Turing. Nenhum software em nenhum desses sistemas sobreviveu ao esforço moderno de “inteligência geral artificial”, e não tenho certeza de que o LaMDA e seus primos desempenharão algum papel importante no futuro da IA. O que esses sistemas fazem, nem mais nem menos, é juntar sequências de palavras, mas sem nenhuma compreensão coerente do mundo por trás deles, como jogadores de Scrabble de língua estrangeira usando palavras em inglês como ferramentas de pontuação, sem ideia do que isso significa.

Sou eu não dizendo que nenhum software pode conectar suas partes digitais ao mundo, como uma leitura do infame experimento mental de John Searle, The Chinese Room. Os sistemas de navegação passo a passo, por exemplo, conectam suas partes perfeitamente com o mundo.

Simplesmente não existe software como o LaMDA; nem mesmo Tente para se conectar com o mundo como um todo, apenas tentando ser a melhor versão de autocompletar possível, prevendo quais palavras melhor se encaixam em um determinado contexto. Roger Moore colocou isso bem algumas semanas atrás, criticando sistemas como o LaMDA conhecidos como “modelos de linguagem” e apontando que eles não entendem a linguagem em termos de conectar frases ao mundo, mas apenas sequências de palavras entre si:

§

Se a mídia se preocupa que o LaMDA seja razoável (e leva o público a fazer o mesmo), a comunidade de IA categoricamente não é.

Nós da comunidade de inteligência artificial temos nossas diferenças, mas quase todo mundo acha que a ideia de que o LaMDA pode ser razoável é completamente ridícula. O economista de Stanford Erik Brynjolfsson usou esta grande analogia:

Paul Topping nos lembra que tudo o que ele faz é sintetizar respostas humanas para perguntas semelhantes:

Abeba Birhane, citado no topo, apontou a atual enorme lacuna entre a pompa da mídia e o ceticismo público.

§

Quando alguns começaram a se perguntar se o fim do mundo acabaria, o LaMDA poderia superar a medida superfaturada de 72 anos chamada Teste de Turing que eu apontei um antigo artigo da New Yorker que escrevi na última vez que a credulidade explodiu e a mania do teste de Turing atingiu, Em 2014, quando um programa chamado Eugene Goostman foi conhecido brevemente, bom o suficiente para enganar alguns juízes estúpidos por alguns minutos. Apontei então que o teste não era particularmente significativo e não resistiu ao teste do tempo. É claro que o público está familiarizado com o teste, mas a comunidade de inteligência artificial quer que ele desapareça; todos sabemos que fazer esse teste não faz sentido.

O professor de aprendizado de máquina Tom Dietterich, que nunca me machuca quando pensa que fui longe demais, disse em solidariedade:

Ainda vale a pena ler meu antigo artigo da New Yorker, de uma certa perspectiva, para ver como as coisas mudaram e como não mudaram. É uma citação particularmente divertida de Kevin Warwick, organizador da competição Turing-ish de 2014, que previu que “[the program Eugene] A vitória de Goostman é um ponto de virada [that] entraria para a história como um dos momentos mais “emocionantes” no campo da inteligência artificial.

Acho que ele sentiu o chão se mover sob seus pés também?

Mas 8 anos depois, duvido que a maioria das pessoas (mesmo em IA) já tenha ouvido falar de seu programa, além do que mencionei aqui. Ele fez zero contribuição contínua para a IA.

Induzir as pessoas a pensar que um programa é inteligente simplesmente não é o mesmo que construir programas que sejam realmente inteligentes.

§

Aqui está a coisa. Na minha opinião, devemos ser feliz que LaMDA não é razoável. Imagine o quão assustador seria se aquele sistema que não tem amigos e familiares fingisse falar sobre eles?

Sinceramente, literalmente tudo que o sistema diz que é uma merda. Quanto mais cedo todos percebermos que as declarações de Lamda são besteiras – apenas jogos com ferramentas de previsão de palavras, e sem significado real (sem amigos, sem família, sem tristeza ou alegria das pessoas ou qualquer outra coisa) – seremos melhores.

Existem muitos problemas sérios na IA, como torná-la segura, confiável e confiável.

Mas não há absolutamente nenhuma razão para perder tempo se perguntando se há algo que alguém em 2022 saiba como construir com sensatez. Não é.

Quanto mais cedo entendermos a coisa toda com reserva e percebermos que não há nada para ver aqui, melhor.

Aproveite o resto do fim de semana, e não se preocupe com isso por um minuto 🙂

– Gary Marcus

Epílogo:

A última palavra ao filósofo-poeta Jago Bhalli