• É possível a IA ter consciência? Por que sim / por que não?

O que fascina no tema da consciência é a sua intransitividade fenomenológica, isto é, a impossibilidade absoluta de uma pessoa garantir que outra é consciente. Como diz David Chalmers, podemos simplesmente estar vivendo entre zumbis.

Neste sentido, não dá para saber se e o quanto uma IA pode ter consciência, dado que para isso teríamos que ser a IA que tem conjunto de experiências que se esconde sobre essa coisa toda que tratamos de fora como máquina.

Quem colocou isso de maneira mais precisa na modernidade foi Thomas Nagel com o seu famoso “Como é ser um morcego?”. Lógico que ninguém sabe. Pois é, isso não se aplica só a morcegos – que nunca poderão nos dizer o quanto são conscientes – mas às máquinas.

O que podemos fazer é criar testes que assumimos como relevantes para medir aspectos da consciência. Um deles envolve a capacidade de pensar sobre si mesmo de maneira contrafactual; outro, a capacidade de compreender crenças falsas, isto é, o descolamento entre modelos mentais e o mundo real. Crianças só desenvolvem esta habilidade em torno dos quatro anos de idade, quando, justamente, tornam-se muito mais conscientes de si mesmas e do mundo (o que é uma coisa só, obviamente). Ambas medidas falam de metacognição, que é a capacidade de pensar sobre o pensar, a qual, ao menos entre humanos, depende da manipulação de representações mentais presentes no “palco da consciência”.

Ainda não existem máquinas capazes de realizar contrafactuais ou de processar crenças que se opõem à realidade (falsas crenças). Logo, por estes critérios, ainda não temos máquinas conscientes.

• Foi exagerada a postura do Google em afastar o funcionário? Por que sim/Por que não?

O exagero é um vício que se reconhece a posteriori e eu não vejo sinais do mercado recriminando o Google fortemente pela sua reação interna. Dado que a empresa age de maneira puramente utilitária, não entrando no cálculo de suas lideranças mais do que o impacto em sua imagem, eu diria que não foi exagerada ou equivocada.

Note que a discussão seria outra se o objetivo do Google fosse educar o colaborador, mas precisaríamos ser muito cínicos ou tapados para entrar nessa.

• O que é consciência para a ciência da computação? O que precisaria acontecer para que uma máquina possa ser considerada consciente? 

A ciência da computação não tem nada a dizer sobre a consciência. Aliás, toda vez que alguém sai do seu laboratório de tecnologia para arriscar alguma coisa, termina repetindo algum dos dogmas filosóficos mais elementares.

Isso não quer dizer que inexistam teorias computacionais da consciência. Na mais atual e popular, a consciência é aquilo que emerge quando determinado estado de complexidade neurocomputacional é atingida. Essa complexidade é determinada pela natureza dos grafos que se formam enquanto as diferentes áreas do cérebro interagem, de forma estruturada, para incrementar o processamento informacional. Ou seja, a consciência é uma forma de processamento intelectual, que ganha maior relevância em compasso com o desenvolvimento neurológico da espécie.

De acordo com Giulio Tononi, líder do campo nessa abordagem, o córtex pré-frontal dorsolateral humano age como um núcleo relê que distribui impulsos como um maestro, fazendo as outras áreas do cérebro funcionarem como “redes de pequenos mundos”, isto é, núcleos de processamento semi-isolados à serviço das demandas pré-frontais. Esta forma de funcionar seria informacionalmente superior às outras e explicaria porque, ao menos na aparência, somos super-conscientes.

– Caso as máquinas ainda não tenham consciência, terão um dia?

Terão. Será o dia em que deixarão de ser máquinas.