O homem bicentenário e o teatro sem espectadores

O que a filosofia contemporânea tem a dizer sobre a possibilidade de uma IA consciente e seus reflexos para a ética e o direito

O debate sobre inteligência artificial consciente ou senciente é um dos temas centrais da filosofia contemporânea e do desenvolvimento tecnológico, envolvendo ciência, ética, direito e religião. À medida que algoritmos se tornam mais sofisticados e sistemas aprendem de maneira autônoma, tornando-se cada vez mais parecidos com pessoas, cresce a inquietação sobre a possibilidade de máquinas desenvolverem consciência e manifestarem sentimentos. Essa questão recoloca antigas perguntas da filosofia e da religião e nos obriga a refletir sob novos ângulos a respeito do que significa pensar, sentir e existir como sujeito. Ao discutir a existência de máquinas conscientes, analisamos indiretamente a própria natureza da pessoa, os limites da existência material e o possível papel de dimensões não materiais na experiência de viver.

Consciência pode ser entendida como a capacidade de autorreflexão, de reconhecer a si mesmo como sujeito ao longo do tempo e de perceber a evolução dos próprios pensamentos, escolhas e estados mentais. Ela pode ser vista como um conjunto extremamente complexo de processos cognitivos paralelos ou, por outro lado, como a existência de um eu que observa, interpreta e organiza a nossa própria percepção subjetiva. Nesse último sentido, a consciência pressupõe a existência de um outro eu interno, que observa a própria mente. Ser consciente aqui vai além de apenas processar informações e responder a estímulos, pois implica ter uma perspectiva autorreflexiva a partir da qual a experiência de pensar e sentir é percebida e completada.

Senciência, por sua vez, refere-se à capacidade de experimentar emoções e sensações como dor, prazer, alegria, tristeza e afeto, produzindo vivências internas qualitativas. Não se trata apenas da capacidade de processar informações e dados sobre a realidade externa, mas de reagir emocionalmente a esse processamento. A senciência também pode ser compreendida apenas como um conjunto muito sofisticado e complexo de processos sensoriais superpostos ou, por outro lado, como uma experiência que ultrapassa reações automáticas, envolvendo a provocação de emoções nesse eu interno em razão das experiências sensoriais.

O conto O Homem Bicentenário de Isaac Asimov, escritor russo nascido em 1920, oferece uma das mais belas reflexões literárias sobre essas questões e sobre a possibilidade de uma máquina tornar-se uma pessoa consciente. Trata-se de uma obra que segue uma ampla tradição literária a respeito da mimetização da humanidade. Ela começa pelo Golen da tradição judaica, moldado do barro e animado por rituais da Cabala e, a partir do século XX, com o surgimento de máquinas capazes de movimentos autônomos, acelera. O Frankenstein de Mary Shelley, os replicantes Rachel e Roy Batty de Philip K. Dick no livro Androides Sonham com Ovelhas Elétricas?, o robô David de Brian Aldiss no conto Superbrinquedos Duram o Verão Todo e toda a extensa linhagem de histórias de zumbis estão nessa tradição.

A narrativa do homem bicentenário acompanha a longa existência de um robô doméstico que atravessa gerações humanas enquanto busca compreender seu lugar no mundo. Andrew é adquirido inicialmente como propriedade de uma família, programado para tarefas domésticas simples e obediência absoluta. No entanto, desde cedo revela algo inesperado ao demonstrar criatividade artística, esculpindo objetos em madeira por iniciativa própria e ultrapassando a mera execução de comandos técnicos. Com o passar dos anos, Andrew passa a desejar autonomia, liberdade de ação e reconhecimento social, iniciando uma trajetória de emancipação gradual. Ele conquista o direito de possuir bens, de trabalhar por conta própria e de ser tratado não apenas como ferramenta, mas como indivíduo com interesses próprios.

Paralelamente, Andrew substitui progressivamente seus componentes mecânicos por partes orgânicas artificiais, aproximando-se cada vez mais da fisiologia humana. Seu corpo torna-se menos metálico e mais vivo em aparência e funcionamento, ainda que criado tecnologicamente. Ao final da história, Andrew replica todos os atributos das pessoas, inclusive consciência e senciência, faltando apenas a condição não trivial da mortalidade, já que os seres humanos são definidos também pela sua finitude. Quando ele se auto programa para morrer e sua vida termina, a sociedade finalmente o reconhece como pessoa. Ou seja, paradoxalmente, sua existência humana apenas se completa quando ele deixa de existir.

A trajetória de Andrew pode ser lida como uma defesa narrativa de uma concepção materialista da humanidade, na qual mente, identidade e emoções não dependem de uma essência espiritual, mas surgem da organização de sistemas físicos suficientemente complexos para gerar uma percepção de subjetividade. À medida que seus componentes evoluem, sua vida mental também se aprofunda. No conto, não há um momento no qual a alma ou a consciência são sopradas dentro do barro. O que se observa é um desenvolvimento gradual de capacidades cognitivas e afetivas que redundam na conformação de uma mente. A consciência de Andrew emerge passo a passo, sugerindo que aquilo que chamamos de humanidade pode ser apenas o resultado ou efeito de processos materiais bem-organizados.

Asimov propõe que a diferença entre máquina e humano não é ontológica, mas tecnológica e histórica. Se corpos artificiais puderem sustentar os mesmos processos cognitivos que os biológicos, nada impediria que sentimentos, autoconsciência e personalidade florescessem igualmente, dissolvendo fronteiras tradicionais entre o natural e o artificial. A possibilidade de Andrew tornar-se plenamente humano entra em tensão com a imagem tradicional da mente como um teatro cartesiano, no qual percepções e pensamentos seriam apresentados a um espectador interno independente das sensações. Nessa visão, a consciência dependeria de um eu central, que observa, compreende e se emociona com essa peça teatral.

Esse espectador costuma se assemelhar, explícita ou implicitamente, a uma alma ou princípio transcendente que existe além do corpo material. Mesmo abordagens racionalistas e céticas frequentemente preservam essa estrutura, supondo que, por trás das operações mentais, há um sujeito metafísico para quem as experiências aparecem como vivências conscientes. Se essa concepção for verdadeira, a busca de Andrew por humanidade enfrentaria um limite insuperável, pois seria possível construir artificialmente todos os mecanismos cognitivos, sensoriais e emocionais próprios de uma pessoa, mas isso jamais garantiria a presença desse observador interno. O teatro da mente poderia ser replicado nos mínimos detalhes, mas permaneceria um edifício vazio, sem plateia.

Daniel Dennett, filósofo americano falecido em 2024, critica duramente essa imagem do teatro cartesiano ao negar a existência desse centro da consciência onde tudo seria observado por um eu interno (um homunculus ou homenzinho). Dennett descreve a mente como um conjunto distribuído de processos cognitivos paralelos que interpretam informações e geram comportamentos. A consciência não seria um lugar nem uma substância imaterial, mas um efeito emergente da interação dinâmica entre múltiplos sistemas cerebrais. Nessa perspectiva, não haveria necessidade de alma, espectador metafísico ou essência especial para explicar a experiência consciente. Se sistemas artificiais forem capazes de reproduzir níveis semelhantes de complexidade funcional, nada impediria que fenômenos análogos à consciência humana também emergissem em estruturas não biológicas.

Apesar do otimismo materialista presente em abordagens como a de Dennett, muitos filósofos discordam e sustentam que há algo na mente que não pode ser capturado apenas por processos funcionais. Entre eles está David Chalmers, conhecido por enfatizar a particularidade da experiência subjetiva. Filósofo australiano ainda vivo, Chalmers propôs o experimento mental do zumbi filosófico, um ser fisicamente idêntico a um humano em todos os aspectos observáveis. Como um replicante de Philip Dick, esse zumbi fala, age, demonstra emoções e responde a estímulos exatamente como uma pessoa comum, sendo impossível distingui-lo externamente de alguém consciente. A diferença crucial, porém, é que o zumbi não sente absolutamente nada por dentro, não possui vivências internas nem experiências subjetivas.

Outra crítica à inteligência artificial consciente foi apresentada pelo filósofo americano John Searle, falecido agora no final de 2025, por meio do famoso argumento da sala chinesa. Nesse experimento mental, uma pessoa trancada em uma sala lacrada manipula símbolos chineses seguindo regras formais estritas, respondendo a um conjunto de símbolos com outro conjunto conforme instruções. Entra uma pergunta em chinês por uma fresta, sai uma resposta em chinês por outra. Embora para observadores externos pareça que a sala é fluente em mandarim, na verdade ninguém ali dentro fala o idioma e internamente ocorre apenas manipulação mecânica de sinais, sem uma compreensão real do que está sendo ouvido e falado. Searle usa essa imagem para argumentar que computadores são salas chinesas, que podem simular mente e linguagem, mas não possuem consciência ou compreensão genuína.

O problema da consciência artificial talvez seja, em última instância, insolúvel pelos métodos tradicionais de verificação do conhecimento. Trata-se de um conflito de premissas, pois ninguém consegue entrar nas cabeças uns dos outros (nossas salas chinesas cranianas) para verificar se o homunculus está lá sentado assistindo à peça, compreendendo o seu significado e se emocionando. A hipótese desse eu interno não pode ser construída, testada e observada em laboratório, já que não faz parte do mundo físico e sua existência é, por definição, subjetiva: um homunculus nunca pode conhecer outro homunculus, porque um é sempre parte do teatro do outro. Sua confirmação, portanto, exigiria algum tipo de acesso não cognitivo, como intuição metafísica, experiência espiritual ou revelação, situando o debate em um plano não objetivo.

Daí a beleza da discussão. No conto O Homem Bicentenário, Isaac Asimov conseguiu condensar em uma narrativa belíssima debates que atravessam campos inteiros do conhecimento humano. A história de Andrew não é apenas ficção científica, mas um experimento literário onde se testam ideias profundas ligadas a múltiplas áreas. Cada camada oferece respostas parciais, mas nenhuma consegue, isoladamente, esgotar o mistério da consciência e da experiência subjetiva. No entanto, apesar de inatingível, a forma como escolhermos interpretar esses problemas terá consequências práticas imensas no futuro, especialmente quanto aos limites de direitos, deveres, responsabilidade penal, civil e ao próprio conceito jurídico de pessoa.

Robôs exponenciam esse problema e nos confrontam com essas questões em um nível exponencialmente mais complexo. Podemos assumir que eles são apenas um tipo de liquidificador muito complexo. Mas com base nessa premissa permitiremos a criação de uma IA que pode ser abusada, ofendida, torturada e humilhada por humanos? Uma IA na forma de uma criança, de um representante de minoria ou de uma pessoa vulnerável? Estaremos confortáveis com a existência de um mercado desses, um novo silk road, no qual esse tipo de “mercadoria” é livremente comercializada? Deixaremos esse tipo de impulso aflorar e ser alimentado porque, afinal, estamos diante de um zumbi filosófico na forma de uma IA, e não de uma pessoa?

Todos esses conceitos e personagens ganharam na atualidade um novo significado. O teatro cartesiano e o seu homunculus, a sala chinesa e o zumbi filosófico não são meras abstrações filosóficas desconectadas da realidade. Elas são alegorias que nos ajudam a entender e a lidar com formulações de questões profundas, cujas respostas trarão consequências muito palpáveis e sensíveis para a sociedade. Os filósofos tentam democratizar os debates filosóficos através dessas alegorias, uma vez que, em última instância, as pessoas em geral precisam entender e participar dessa discussão.

Na literatura, os personagens cibernéticos e seus “dramas pessoais” cumprem o mesmo papel. Muitos se emocionaram com a morte de Andrew, com o sofrimento de Frankenstein por não ter uma companheira, da replicante Rachel que se deprime ao descobrir que não é humana e com os abusos sofridos por David, com seu programa que o fazia sentir saudades da mãe que o abandonou. Os autores dessas histórias foram brilhantes ao perceberem essas tensões antes de a tecnologia torná-las urgentes e por traduzi-las em histórias de enorme beleza, sem oferecer respostas fechadas, mas colocando de forma poética perguntas filosóficas profundas.

O meu homunculus interno se emociona, aplaude e agradece.