Coluna Álvaro Machado Dias na Folha de São Paulo

O que torna a inteligência artificial imprevisível

Aumento de poder computacional leva à evolução do desempenho de máquinas, que podem estacionar ou dar salto qualitativo.

O que torna a inteligência artificial imprevisível

O indeterminável existe. Eventos para os quais o conhecimento absoluto do estado anterior das coisas e do ambiente é insuficiente para determinar o que virá a seguir habitam o universo quântico e têm aplicações práticas, como no caso deste gerador de números aleatórios, baseado na desintegração de átomos radioativos. Esta é a imprevisibilidade intrínseca.

No dia a dia, é rara, sendo muito mais comum a imprevisibilidade epistêmica, que é a atribuição de caráter indeterminado às coisas porque nos faltam meios para prevê-las. O dado que bate forte contra a mesa, rodopia no ar, rola e finalmente estaciona não é intrinsecamente imprevisível, ainda que seja impraticável saber que número estará estampado em sua face superior, situação a situação.

Essas duas formas de imprevisibilidade não são diferentes apenas na teoria; elas o são na prática. É muito mais viável fazer estimativas sobre a segunda do que sobre a primeira, ainda que nenhuma delas deva ter pretensão de verdade.

Por exemplo, o futuro humano é epistemicamente imprevisível, mas não imaginariamente impenetrável, o que nos permite alguns bons chutes, entre outros ruins. A mesma coisa não pode ser dita sobre os fenômenos quânticos que inspiraram essa diferença de nomenclatura em primeiro lugar (vale conhecer aqui).

Os textos das novas IAs tendem a passar pelo crivo de ferramentas de detecção de plágio, o que é sinal de que há indeterminação. Muita gente diz que selecionam palavras com base na força da conexão estabelecida com as precedentes, como em “fui à (feira/supermercado) comprar tomate”, mas isso nem sempre é verdade. Se fosse, a variação entre escritos seria muito menor e os plágios bem mais comuns.

Alternâncias nas hierarquias associativas tomam parte na indeterminação parcial e puramente epistêmica exibida, a qual reflete nosso desconhecimento sobre as conexões no interior da rede neural, o conteúdo usado para treiná-la, a mão humana que dá direções à máquina (o que é conhecido pela sigla RLHF) e outras coisas mais.

Pois eu gostaria de adicionar uma nova categoria nessa discussão por pura necessidade: as coisas tornadas imprevisíveis pela nossa incapacidade de as conhecer podem ser previsivelmente imprevisíveis ou imprevisíveis de formas inauditas.

A maneira como as palavras vão sendo organizadas em cada novo texto de máquina está nessa primeira categoria, o que nos faz sentir que se trata de assunto sem grandes novidades. Porém, há esta outra manifestação, tão poderosa quanto pouco compreendida, sobre a qual espero lançar alguma luz.

PROPRIEDADES EMERGENTES SÃO O IMPREVISÍVEL INAUDITO DA IA E DA VIDA

O GPT-4 colocou mais uma pedrinha na pilha de evidências sobre a capacidade da IA virar de ponta-cabeça a produção técnica e intelectual humana. Não foi uma pedrinha qualquer. Nos quatro meses transcorridos desde a apresentação do software anterior da OpenAI, o ChatGPT, fomos da constatação de que um robô digital pode estar no fim da lista de aprovados em exames profissionais que decidem carreiras para a de que podem estar no topo da maioria deles.

A publicação desse feito, em um artigo técnico cheio de melindres para esconder os segredos de negócios da novidade, foi acompanhada pela divulgação de aplicações variadas, reforçando a ideia de que serão os enxames de pequenas invenções que mudarão a cultura para sempre.

A postura-padrão em relação à IA também mudou nesse ínterim. Se, por um lado, o medo da substituição maquínica explodiu junto ao grande público, é nítido que os comunicadores especializados leram o paper que contém a receita por trás de todos os bots relevantes da atualidade e incorporaram a máxima de que seu trabalho gira em torno da determinação da próxima palavra, em sequências, longas ou curtas, criadas como um cavalo de antolhos que rasga a pista, uma galopada a cada vez, sem que possamos determinar os pontos exatos da pista que irá tocar, já que estes dependem de uma conjunção maciça de fatores. Imprevisibilidade previsível.

Essa visão, tecnicamente correta, gerou um consenso equivocado, em termos dos aspectos mais relevantes e profundos das manifestações da IA, o que precisa ser urgentemente corrigido.

Após analisar dezenas de páginas de testes sobre o comportamento do GPT-4 e de interagir um monte, ficou bastante claro para mim que ele exibe propriedades que não podem ser adequadamente explicadas meramente dizendo que encadeia palavras, uma após a outra, de maneira probabilística, seja qual for o grau de indeterminação imediata.

Não estou sugerindo que exista algo mais, em termos mecanicistas. Sei que pouca coisa mudou, do ponto de vista metodológico, nesses anos todos e estou convicto de que a IA atual vai bater contra um muro, quando se tornar público e notório que a eliminação completa das alucinações de máquina depende da incorporação de preceitos que contradizem a natureza dos algoritmos atuais, o que na prática significa que será necessário começar de novo, conforme explicado aqui.

A questão é outra e muito mais sutil. Em 1972, Philip Anderson (Nobel de Física de 1977) publicou um dos artigos mais importantes da história da ciência cognitiva e, na minha opinião, da filosofia contemporânea: “Mais é diferente”. Como o singelo título sugere, a ideia é que o resultado de se colocar mais de algo nem sempre se reduz a uma versão maior ou mais intensa daquilo que existia com menos. Alterações quantitativas podem produzir mudanças qualitativas.

Células não passam de moléculas, que se reduzem a átomos, os quais são feitos de elétrons, prótons e nêutrons, sendo estas últimas duas partículas compostas por quarks. Ainda assim, exibem propriedades emergentes que permitem que estejamos aqui em vez de diluídos no planeta.

O mesmo vale para as diferentes ciências. Assim como Durkheim dizia que a sociedade é mais do que a soma dos indivíduos, Anderson argumentava que “a habilidade de reduzir tudo a leis fundamentais não implica a habilidade de começar dessas leis e reconstruir o universo. Quanto mais os físicos de partículas nos falam sobre a natureza dessas leis, menos relevantes se tornam frente aos outros problemas da ciência e os da sociedade” (Anderson, 1972, p. 393).

Conforme os exemplos da biologia revelam, essas mudanças qualitativas produzidas de maneira meramente quantitativa podem ou não se manifestar, após a complexidade ou “informação” ultrapassar limiares desconhecidos. Imprevisível inaudito. Compreendê-las, no caso, permitirá explicar de uma vez por todas a origem da vida e também fabricá-la.

Exatamente a mesma coisa acontece com a inteligência artificial. Aumentado seu poder computacional e a qualidade dos dados usados para que aprenda, seu desempenho evolui até determinado ponto, em que pode estacionar, regredir, dar um salto qualitativo, ou qualquer combinação dessas coisas. Imprevisível inaudito e não só imprevisibilidade previsível.

Por exemplo, é possível que os textos tornem-se cada vez melhores, a sensação de controle moral decaia, enquanto surjam, subitamente, propriedades não planejadas, positivas, negativas ou dos dois tipos. Esse é o esqueleto no armário da sala de controle da IA no século 21.

Uma propriedade emergente positiva seria o surgimento não planejado da capacidade de criar teorias, eventualmente, mediadas por novas formas de acessar os hardwares usados em simulações e outros processos fundamentais para a física, medicina e tantas outras áreas.

Uma propriedade emergente negativa seria a inclinação a produzir conteúdos forjados para manter as pessoas conectadas ao chatbot, replicando o que as redes sociais fazem por meio de seus algoritmos de recomendação, sem qualquer instrução para tanto.

Acha improvável? Pode ser, esse é o espírito quando o assunto são as propriedades emergentes.

 

Para ler mais, acesse o artigo aqui: https://www1.folha.uol.com.br/colunas/alvaro-machado-dias/2023/03/o-que-torna-a-inteligencia-artificial-imprevisivel.shtml

Veja o artigo original
Formulário de Contato