“Construir a tecnologia com o fim de desempenhar o papel de Deus seria um equívoco”

"Não estamos preparados”. A expressão lacónica baila na apresentação do livro de Mustafa Suleyman, cofundador da DeepMind, uma das principais empresas de inteligência artificial, ecoa ao longo das páginas do livro que assina em parceria com o escritor Michael Bhaskar, A Próxima Vaga - Inteligência Artificial, Poder e o Grande Desafio do Século XXI (edição Clube do Autor). Para o autor britânico, CEO da Microsoft IA, não estamos preparados para o momento crucial da história da nossa espécie, face aos desenvolvimentos da Inteligência Artificial (IA). Em breve, a IA vai gerir negócios, produzir conteúdo digital ilimitado, será responsável pelos principais serviços públicos e manutenção de infraestruturas. A humanidade passará a viver num mundo de impressoras de ADN, computadores quânticos, assistentes robôs, patogénicos artificialmente criados. Para Suleyman há que ponderar a questão da contenção, a tarefa de manter o controlo sobre as tecnologias. E elege-o como o grande desafio do nosso tempo.

Para o cofundador da empresa Inflection AI, “quase todas as culturas têm um mito do dilúvio (...) As cheias também marcam a história num sentido literal (...) O asteroide que matou os dinossauros criou uma onda com mais de um quilómetro de altura (...) O poder absoluto destes vagalhões ficou marcado na consciência coletiva (...) Outros tipos de vagas têm sido igualmente transformadores (...) Ondas metafóricas: ascensão e queda de impérios e religiões, explosões de comércio”, escreve Suleyman a abrir o capítulo 1 do livro. Ao correr da leitura de A Próxima Vaga, o autor parte para um evento que está a chegar, “uma onda de tecnologia, construída em torno da IA, mas também de algumas outras tecnologias, como a biologia quântica. Quando olhamos para a história humana numa visão muito profunda, podemos ver que ela foi marcada por sucessivas ondas de tecnologia, desde o fogo e ferramentas de pedra até à escrita, à era do vapor e à da eletricidade. Estas ondas definiram sempre as civilizações e as suas capacidades. Esta nova onda faz então parte de uma longa sequência, mas acredito que poderá vir a ser a mais importante até agora”, sintetiza Mustafa Suleyman.

Sobre a onda iminente de tecnologia e o seu significado para a humanidade, o autor nascido em 1984, deixa a pergunta à IA no prólogo ao seu livro. Eis a resposta da máquina: “Nos anais da história, há momentos que se destacam como pontos de viragem, em que o destino da humanidade está em jogo (…) nunca antes vimos tecnologias com um potencial tão transformador, prometendo remodelar o nosso mundo de formas simultaneamente inspiradoras e assustadoras (…) Os benefícios potenciais destas tecnologias são vastos e profundos (…) Por outro lado, os perigos potenciais destas tecnologias são também vastos e profundos. Com a IA, podemos criar sistemas que escapam ao nosso controlo e ficar à mercê de algoritmos que não compreendemos (…) A era da tecnologia avançada aproxima-se, e temos de estar preparados para enfrentar os seus desafios”.

Na linha da IA, embora procurando respostas alicerçadas na inteligência humana, Mustafa Suleyman diz acreditar que esta nova onda de tecnologia está a levar a história humana a um ponto de viragem. O autor escreve que “estamos perante um dilema que já debateu à porta fechada”. “O dilema a que me refiro no livro é o de estarmos a criar ferramentas de poder crescente, mas sem a garantia de um bom resultado, o que aumenta o risco de caírem nas mãos de maus atores. No entanto, não podemos simplesmente parar de produzi-las, porque os incentivos à sua concretização estão extremamente enraizados, mas também porque precisamos delas. Ficamos, portanto, com um caminho estreito que devemos percorrer para entregar com sucesso e segurança à humanidade algo como a IA”.

Uma onda semelhante a um maremoto

O autor de A Próxima Vaga aproxima esta onda presente de um maremoto, como detalha nas páginas do livro: “Em 2010, quase ninguém falava seriamente sobre IA. No entanto, o que antes parecia uma missão de nicho para um pequeno grupo de investigadores e empresários tornou-se agora um vasto empreendimento global. A IA está em todo o lado, nas notícias e no smartphone do leitor, a negociar ações e a criar sítios na Web (…) Uma vez amadurecidas, estas tecnologias emergentes espalhar-se-ão rapidamente, tornando-se mais baratas, mais acessíveis e amplamente difundidas por toda a sociedade”. Em breve, qualquer pessoa poderá montar um laboratório de genética em sua casa, enfatiza o autor, acrescentando que “haverá a tentação de manipular o genoma humano. Também a de criarmos um vírus concebido por IA que poderia causar mais de mil milhões de mortes numa questão de meses”. Face ao cenário traçado, deixamos a pergunta: “Como podemos travar isto?”. Responde o empresário: “A sua pergunta envolve uma resposta complexa. De uma forma mais ampla, a resposta faria parte daquilo a que chamo de contenção, ou seja, um conjunto alargado e abrangente de medidas sociais, políticas e tecnológicas interligadas que garantiriam que manteríamos a tecnologia firmemente sob o controlo das nossas sociedades”.
A questão da contenção perpassa os vários capítulos do livro de Suleyman: “Engloba regulamentação, melhor segurança técnica, novos modelos de governação e de propriedade e novos modos de responsabilização e transparência, todos eles percursores necessário (mas não suficientes) de uma tecnologia mais segura”, detalha no capítulo três.

Um caminho de contenção

Sobre se a IA nos põe, para já, em risco enquanto espécie, na ânsia de desempenharmos o papel de Deus criador e destruidor, o autor de A Próxima Vaga realça que “é importante dizer, em primeiro lugar, que neste momento a IA não ameaça a espécie humana. As discussões mais extremas sobre riscos existenciais são absolutamente hipotéticas e não baseadas na situação atual da tecnologia. Isso não significa que não devemos ter cuidado. Construir a tecnologia com o fim de desempenhar o papel de Deus, como refere, não deveria, de forma alguma, ser uma motivação. Seria um equívoco. Deveríamos, sim, construir tecnologia por razões muito concretas e específicas: para tornar a vida melhor, mais fácil, mais feliz e mais segura para os indivíduos em todo o mundo”.

Mustafa Suleyman revela-se crítico em relação à possibilidade de os Estados travarem estas tecnologias. “Critico a ideia de que deveríamos simplesmente detê-las. Em primeiro lugar, penso que é impraticável fazê-lo, tendo em conta os fatores determinantes no desenvolvimento das tecnologias e, em segundo lugar, precisamos realmente destas para manter a sociedade em movimento. No entanto, isso não significa que os Estados não devam regular, moldar ou mesmo retardar o desenvolvimento tecnológico. Na verdade, aludo as estas três formas de contenção no meu livro. É precisamente fazendo isto de modo criterioso que garantiremos que as vantagens superem os riscos”.

“Precisamos de legislação, precisamos de supervisão governamental, precisamos da participação pública em todos os itens que já enunciei. Durante anos, trabalhei com organismos nacionais e internacionais nesta matéria. É encorajador ver até que ponto eles realmente avançaram em relação a essas questões”, conclui o autor.

Descascar a cebola em dez passos

O pensador escreve no livro que apresenta aos escaparates nacionais que “a civilização moderna assina cheques que só o desenvolvimento tecnológico contínuo pode descontar”. A frase suscita-nos a pergunta: Não serão estes cheques um perpétuo incentivo às grandes empresas tecnológicas a ultrapassarem limites antes proibidos?. Responde Suleyman com uma pergunta: “Se congelássemos de alguma forma o desenvolvimento social e técnico na sua forma atual, acha que o nosso modo de vida moderno poderia simplesmente continuar indefinidamente?” O autor responde à questão que deixa: “Isso é extremamente improvável. Ao invés, quase tudo se baseia no crescimento económico contínuo, na melhoria dos padrões de vida e na resolução dos problemas de hoje. As novas tecnologias apresentam riscos, sim, mas avançar sem elas também acarreta riscos enormes e provavelmente catastróficos”.

De regresso ao tema reparação de danos/evitar a catástrofe, o livro de Mustafa Suleyman alicerça-se em “dez passos”, “dez ideias apresentadas como círculos concêntricos. Começamos de forma pequena e direta, perto da tecnologia, concentrando-nos em mecanismos específicos de imposição de restrições desde a conceção. A partir daí, cada ideia ganha progressivamente amplitude, subindo uma escada de intervenções (…) rumo aos atos não técnicos (…) novos incentivos comerciais, reforma do governo, tratados internacionais, uma cultura tecnológica mais saudável e um movimento popular global”, detalha o investigador nas páginas do livro. Centremo-nos no tratado internacional de não-proliferação proposto por Suleyman. “Não procuro um tratado de não-proliferação num sentido estrito e formal. O que procuro é algo semelhante, que tenha o mesmo consenso transfronteiriço, mas que não se limite apenas a impedir as coisas, mas que seja um guia mais proativo. Quando olhamos para a história, felizmente existem muitos bons exemplos: pense em realidades como o Protocolo de Montreal [1987] para eliminar os CFCs [clorofluorcarbonetos], ou o Acordo de Paris [2016] sobre as alterações climáticas, bem como várias proibições de armas através de acordos de não-proliferação. Em última análise, o que é necessário é que os governos, principalmente os EUA e a China, mas também a UE, a Índia e outros, concordem que, a longo prazo, a segurança e a proteção da IA são um problema global, que só pode ser resolvido através de um trabalho conjunto. Não será fácil, isso é certo. As pressões para competir são intensas. Mas os líderes políticos, diplomatas, tecnólogos e empresas: todos precisam de colocar esta questão no topo da sua agenda e continuar a trabalhá-la durante anos”.

Finalmente, o autor de A Próxima Vaga, acredita que a IA irá resolver os problemas inerentes à emergência climática. “Acredito absolutamente que isso causará um impacto. Não há aqui uma varinha mágica, mas penso que a IA pode ajudar a gerir a energia de forma muito mais eficiente, produzir novos materiais para baterias e energia solar, por exemplo, afirmar o seu pioneirismo na energia de fusão, monitorizar os impactos de forma mais abrangente e eficiente. Em última análise, é plausível que a mesma IA possa gerar novas estratégias, podendo ajudar-nos a reunir novas medidas de mitigação climática e de tecnologia limpa”.