Qualquer tentativa de desvendar, imitar ou aumentar a consciência é um campo minado ético. Se um sistema artificial é consciente, ele tem direitos e responsabilidades, emoções, um senso de livre arbítrio? Os humanos teriam o direito de desligar ou matar tal ser senciente se nos sentíssemos ameaçados?
Carregando
Passando por essas questões preocupantes está uma suposição de que a consciência não é um fenômeno do tipo tudo ou nada, mas vem em graus. Sentimos muito mais remorso em matar um cachorro do que uma barata porque supomos que uma barata não é tão consciente assim e provavelmente não tem senso de si ou emoções.
Mas como podemos ter certeza? E nos debates altamente carregados sobre aborto, eutanásia e síndrome do encarceramento, o nível real de consciência é geralmente o critério crítico.
Sem uma teoria da consciência, no entanto, é impossível quantificá-la. Os cientistas não têm a mínima ideia de qual é exatamente a característica definidora da atividade neural que dá suporte à experiência consciente.
Por que os padrões elétricos na minha cabeça geram consciência e agência, enquanto os padrões elétricos em Ausgrid NSW não? (Pelo menos, eu não acho que eles façam isso.) E todos nós aceitamos que quando adormecemos, nossa consciência diminui e pode desaparecer completamente.
Carregando
Alguns anos atrás, o neurocientista e pesquisador do sono Giulio Tononi, da Universidade de Wisconsin, propôs uma teoria matemática da consciência baseada na maneira como o fluxo de informações é organizado, grosso modo, o arranjo de ciclos de feedback, o que, em teoria, permite que uma quantidade específica de consciência seja atribuída a vários estados físicos e sistemas.
Um termostato é consciente? Um cérebro de prato? ChatGPT? Uma lagosta em uma panela fervente? Um embrião de um mês? Uma vítima de acidente de trânsito com “morte cerebral”? Esses exemplos vexatórios podem ser mais fáceis de confrontar e legislar sobre eles, se realmente entendêssemos a base física da consciência.
Os avanços acima mencionados, embora promissores, dizem-nos pouco sobre a subjetivo experiências que acompanham eventos conscientes, como a vermelhidão do vermelho, o som de um sino ou a aspereza de uma lixa, sensações que os filósofos chamam de qualia.
Como podemos saber se um agente realmente tem uma vida interior experimentando tais qualia, ou é apenas um autômato, um zumbi, programado para responder apropriadamente a estímulos sensoriais, por exemplo, parando em um semáforo vermelho sem realmente “ver vermelho”?
E se não se pode dizer de fora o que está acontecendo lá dentro, por que esse reino subjetivo interno existe em primeiro lugar? Que vantagem ele confere naquela grande loteria genética chamada evolução darwiniana? Mesmo se criarmos uma IA verdadeiramente consciente, esse problema final pode permanecer para sempre além do nosso alcance.
Paulo Davies é professor regente de física na Universidade Estadual do Arizona e autor de mais de 30 livros, incluindo O Demônio na Máquina. Ele falará na Sydney Opera House como parte do Seu cérebro na IA evento em 17 de agosto. Ingressos: sydneyoperahouse.com
Receba um resumo semanal de opiniões que desafiarão, defenderão e informarão as suas. Inscreva-se para receber nossa newsletter de opinião.
