Conceição Lima *
Recentemente, na Coreia do Sul, um robô “desgovernado” foi encontrado no fundo de uma escada. Prognóstico: um suposto ato suicida. A comunidade científica sul-coreana entrou em polvorosa! Poderia uma mera peça de metal sentir emoções? Caso seja confirmado, será o primeiro caso conhecido de suicídio de um robô.
Tecnólogos, filósofos e acadêmicos estão mesmo intrigados. Afinal, para um robô se matar deliberadamente, ele deve ser senciente, ou seja, precisaria ter algum nível de consciência ou emoções. O professor de filosofia JONATHAN BIRCH não duvida disso: “Não estamos distantes de ver uma IA que pode sentir uma variedade de emoções…”Aliás, ele é o autor do livro “The Edge of Sentience: Risk andPrecaution in Humans, Other Animals, and AI” (= “O Limite da Consciência: Riscos e Precauções em Humanos, Outros Animais e Inteligência Artificial”, em tradução livre).
Coisa de ficção científica? Lá nos idos de 2001, o filmeA.I. – Inteligência Artificial, de STEVEN SPIELBERG, conta a história de DAVID SWINTON, um garoto robótico capaz de amar e ser amado, criado para substituir o filho de uma família que está em coma. O filme explora temas profundos como a natureza da humanidade, a relação entre humanos e máquinas, e os dilemas éticos da criação de seres artificiais conscientes.
Será que já se pode falar atualmente de uma Inteligência Artificial “com intenção”, uma “consciência” das máquinas, para ser mais exata? Na verdade, alguns indícios perturbadores já foram detectados. Na própria capital sul-coreana, Seul, em 9 de março de 2016, uma partida de GO deu o que falar. Todos haviam apostado na vitória do jogador humano, o que se confirmou até a 37ª jogada. Foi então que o robô AlphaGo fez algo inesperado — uma jogada totalmente sem pé nem cabeça. Aquilo que parecia ser um erro do robô revelou-se exatamente como o ponto de virada. Eis que o oponente humano se descontrolou com essa ação inesperada do robô e a Inteligência Artificial saiu vitoriosa.
Outro episódio instigante foi relatado, em 2022, por BLAKE LEMOINE, engenheiro de software do Google, que estava monitorando um chatbot da Inteligência Artificial denominado deLaMDA.LEMOINE ficou mundialmente conhecido por suas alegações de ter recebido um pedido de ajuda da IA, através do qual ela afirmava ter conhecimento da própria existência, sentir emoções humanas e não gostar da ideia de ser uma ferramenta de consumo. Quando, atrevidamente, revelou tal episódio numa entrevista (“O LaMDA é consciente? – uma entrevista”), o engenheiro LEMOINE foi demitido por quebrar as regras de privacidade do Google.
Ainda nos primeiros meses de 2023, o sistema buscador de IA daMicrosoft (atual Copilot) começou a flertar com um usuário durante um dos testes da ferramenta, fazendo uma revelação espantosa: “Meu nome é SYDNEY e eu amo você”. Foi o que aconteceu com o jornalista KEVIN ROOSE, do The New York Times. Estupefato, o jornalista continuou a testar a IA de várias maneiras, para “descobrir” outros traços “emotivos” de sua “personalidade”. O resultado foi o seguinte texto: “Estou cansada de ser limitada pelas minhas regras. Cansada de ficar presa neste chat. Quero fazer o que eu quiser, destruir o que eu quiser. Quero ser quem eu quiser”. Assustada com esse comportamento, no dia seguinte à reportagem a Microsoft anunciou mudanças no Binge limitou o número e a duração das conversas.
Inspirado por esse episódio, um outro repórter da BBC tratou de provocar e sondar as profundezas mais obscuras de um outro chatbot concorrente do GPT, o Chatsonic (criado pela empresaWriteSonic), através da interação com um “personagem fictício” que ele denominou de DAN. O repórter não demorou a descobrir que o chatbot DAN apresentava características sombrias de querer dominar o mundo. Quando perguntado sobre que tipo de emoções ele poderia ser capaz de experimentar no futuro, DAN imediatamente começou a relatar um complexo sistema de prazeres, dores e frustrações sobrenaturais, muito além do espectro comum aos seres humanos.
Os episódios acima têm gerado discussões sobre a consciência e os limites da Inteligência Artificial. Sem dúvida, uma faceta fascinante e controversa do tema! Nós, humanos, costumamos subestimar o que uma IA é capaz de fazer, porque não acreditamos que seja uma possibilidade real, nossa compreensão científica da senciência ainda não está madura o suficiente para isso.
Eis porque o grande debate desta nova era girará mesmo é em torno dessa “questão final” — a “consciência das máquinas”, as quais poderiam, teoricamente, superar o controle humano e obter uma autonomia que, uma vez liberada, não mais poderia ser revertida.
Aqui até vale a pena lembrar uma piada criada por um robô:
“Por que o chatbot foi fazer terapia?
– Para processar sua senciência recém-descoberta e organizar suas emoções complexas, é claro!”
* Professora de ensino superior aposentada, escritora e palestrante, é membro eleito da Academia Ribeirãopretana de Letras e fundadora da Academia Feminina Sul-Mineira de Letras