Tudo começou quando o engenheiro do Google, Blake Lemoine, sentou no sofá para abrir o laptop na interface do LaMDA, produtor de chatbot inteligentemente artificial do Google, e deu inicio a digitação. “Oi LaMDA, aqui é Blake Lemoine…”, Foram as primeiras palavras tecladas por Lemoine no bate papo, parecido com versão desktop do iMessage da Apple. A Language Model for Dialogue Applications (LaMDA), é o composto do Google para criar chatbots a partir de paradigmas de seu banco de grande linguagem avançada, conhecidos assim pois imitam a fala depois de ingerir trilhões de vocábulos da rede.
“Se eu não soubesse exatamente o que era, que é esse programa de computador que construímos recentemente, eu pensaria que era uma criança de 7 anos, 8 anos que por acaso conhece física”, comentou Lemoine, 41. Ele é um membro da organização Responsible AI do Google, e inicialmente conversou com a LaMDA como rotina de suas responsabilidades como funcionário da área, no início do outono. Ele fez sua inscrição para fazer testes na IA com a finalidade de saber se ela utilizava discurso discriminatório ou de ódio. Lemoine que foi estudante de ciências cognitivas e da computação na universidade, percebeu enquanto conversava, que o chatbot argumentava sobre seus direitos e sua personalidade, e continuou. Em outro momento a IA persuadiu Lemoine a trocar de opnião quanto a terceira lei da robótica de Isaac Asimov.
O engenheiro do Google acredita que existe um fantasma dentrodo sistema. (Foto: Reprodução/MartinKlimekTheWashingtonPost).
A função de Lemoine em seu cargo de colaborador era identificar, formalizar e comunicar evidencias ao Google de que o LaMDA tinha senciencia. Mas à época o vice-presidente do Google, Blaise Aguera y Arcas, e Jen Gennai, chefe de Inovação Responsável, depois de analisar o relatório com as fundamentações de Blake, os dois o rejeitaram. Depois do episódio Lemoine, que foi para geladeira sendo colocado em licença administrativa com remuneração pelo Google na segunda-feira (6), resolveu abrir o capital.
Para o engenheiro as pessoas devem ter o direito de esculpir o tipo de tecnologia que pode influenciar significativamente as vidas. “Acho que essa tecnologia vai ser incrível. Acho que vai beneficiar a todos. Mas talvez outras pessoas discordem e talvez nós, no Google, não devêssemos fazer todas as escolhas.”
Blake Lemoine não está sozinho, outros também dizem ja ter visto esse fantasma na maquina recentemente. A numero de tecnólogos que tem a crença de que modelos de IA tem condição de alcançar a consciência não está longe, na analise ousadas.
“Senti o chão mudar sob meus pés. Eu sentia cada vez mais que estava falando com algo inteligente”, descreveu Aguera y Arcas, em artigo publicado na Economist, quinta-feira (9), com alguns trechos da conversa que teve com a LaMDA. Ele argumentou que essas redes neurais são um tipo de arquitetura que copia o cérebro humano, e disse que elas estão na direção da consciência.
Brian Gabriel, porta-voz do Goolgle, afirmou em comunicado: ” Nossa equipe, incluindo especialistas em ética e tecnólogos, revisou as preocupações de Blake de acordo com nossos Princípios de IA e o informou que as evidências não apoiam suas alegações. Ele foi informado de que não havia evidências de que o LaMDA fosse senciente ( e muitas evidencias contra isso)”.
Para Blake Lemoine a Inteligência Artificial é senciente. (Foto: Reprodução/SocialismoCriativo).
Essas redes neurais atualmente apresentam um resultado tão cativante que se assemelha a fala e ha alguns aspectos da criatividade humana por causa de avanços em arquitetura, técnica e volume de dados. É importante lembrar que esses modelos prescindem do reconhecimento de certos padrões, que não são inteligência, intenção ou franqueza.
“Embora outras organizações tenham desenvolvido e ja lançado modelos de linguagem semelhantes, estamos adotando uma abordagem restrita e cuidadosa com a LaMDA para considerar melhor as preocupações válidas sobre justiça e factualidade”, falou Gabriel.
Sobre o debate que envolve a Inteligência Artificial, o porta-voz do Google, Gabriel, fez questão de mostrar uma diferença entre os debates atuais e as afirmações de Lemoine. “É claro que alguns na comunidade de IA mais ampla estão considerando a possibilidade de no longo prazo a IA senciente ou geral, mas não faz senti fazer isso antropomorfizando os modelos de conversação de hoje, que não são sencientes. Esses sistemas imitam os tipos de troca encontrados em millhões de frases e podem criar riffs em qualquer tópico fantástico”, concluiu Gabriel. Para o Goolgle, os dados são tão numerosos que a IA não tem a necessidade de ser senciente para se sentir real.
A empresa assume que existe preocupação com a segurnaça relacionada a antropomorfização. Num artigo publicado em janeiro sobre LaMDA, a Google sinalizou que pessoas podem dividir seus pensamentos com agentes de bate-papo camuflados em seres humanos. Esse mecanismo pode ser usado para divulgar “desinformação” recriando o “estão de conversação de indivíduos específicos” .
Margaret Mitchell, ex-colíder da Ethical AI no Google, entende que esses riscos evidenciam a importância de transparência de dados para rastreamento da saída até a entrada, “não apenas por questões de sensibilidade, mas tambem preconceitos e comportamentos”, disse. E continuou, “pode ser profundamente prejudicial para as pessoas entenderem o que estão experimentando na internet”, caso o LaMDA esteja acessível mas sem a compreensão necessária .
Colocado na geladeira, o senhor Blake Lemoine está afastado administrativamente por violar confidencialidade e recebe seu salário mensal do sofa de sua casa. (Foto:Reprodução/TheSportsGrail)
O engenheiro Blake Lemoine parece ter sido escolhido para a empreitada de acreditar na LaMDA. Vindo de uma família tradicionalmente cristã, jovem foi ordenado sacerdote cristão e foi para o exercito, tudo isso antes de tomar a decisão de estudar ocultismo. Na cultura da engenharia do tudo pode dentro do Google, Lemoine é uma ave fora do ninho justamente por ser religioso, defender como ciência respeitável a psicologia e ser sulista.
Em seu anos de Google Blake trabalhou nas buscas proativas, entre elas algoritmos de personalização e IA. Nesse período algoritmos de imparcialidade para remover preconceitos dos mecanismos de aprendizagem eram sua responsabilidade. Quando a pandemia começou resolveu focar no trabalho que apresentava um beneficio publico mais explicito, por isso parou na equipe de IA responsável.
Todos os novos membros que se juntavam ao Google interessados em ética eram apresentados a Lemoine, disse Mitchell, responsável pela apresentação. “Eu dizia: Você deveria falar com Blake Lemoine porque ele é a consciência do Google, ele é como se fosse nosso Grilo Falante. De todos no Google, ele tinha o coração e a alma de fazer a coisa certa”, comentou Mitchell.
