Prepare-se para a chegada: pioneiro da tecnologia alerta sobre invasão alienígena

Uma espécie alienígena está se dirigindo ao planeta Terra e não temos motivos para acreditar que será amigável. Alguns especialistas preveem que chegará aqui dentro de 30 anos, enquanto outros insistem que chegará muito mais cedo. Ninguém sabe como será, mas compartilhará duas características principais conosco, humanos – será inteligente e autoconsciente . 

Não, esse alienígena não virá de um planeta distante – ele nascerá aqui na Terra, chocado em um laboratório de pesquisa em uma grande universidade ou grande corporação. Estou me referindo à primeira inteligência geral artificial (AGI) que atinge (ou excede) a cognição em nível humano .

Enquanto escrevo estas palavras, bilhões estão sendo gastos para dar vida a esse alienígena, pois seria visto como uma das maiores conquistas tecnológicas da história humana. Mas, ao contrário de nossas outras invenções, esta terá uma mente própria, literalmente. E se se comportar como todas as outras espécies inteligentes que conhecemos, colocará seus próprios interesses em primeiro lugar, trabalhando para maximizar suas perspectivas de sobrevivência.

IA à nossa própria imagem

Devemos temer uma inteligência superior impulsionada por seus próprios objetivos, valores e interesses próprios? Muitas pessoas rejeitam essa pergunta, acreditando que construiremos sistemas de IA à nossa própria imagem , garantindo que eles pensem, sintam e se comportem exatamente como nós. É extremamente improvável que isso aconteça.

Mentes artificiais não serão criadas escrevendo software com regras cuidadosamente elaboradas que as façam pensar como nós. Em vez disso, os engenheiros alimentam enormes conjuntos de dados em algoritmos simples que ajustam automaticamente seus próprios parâmetros, fazendo milhões e milhões de pequenas mudanças em sua estrutura até que uma inteligência surja – uma inteligência com funcionamento interno que é complexo demais para que possamos compreender.

E não – alimentá-lo com dados sobre humanos não o fará pensar como os humanos. Esse é um equívoco comum – a falsa crença de que, ao treinar uma IA em dados que descrevem comportamentos humanos, garantiremos que ela acabe pensando, sentindo e agindo como nós. Não vai.

Em vez disso, construiremos essas criaturas de IA para conhecer humanos , não para serem humanos. E sim, eles nos conhecerão por dentro e por fora, serão capazes de falar nossas línguas e interpretar nossos gestos, ler nossas expressões faciais e prever nossas ações. Eles entenderão como tomamos decisões, para o bem e para o mal, lógicas e ilógicas. Afinal, teremos passado décadas ensinando aos sistemas de IA como nós humanos nos comportamos em quase todas as situações.

Profundamente diferente

Mas ainda assim, suas mentes não serão nada parecidas com as nossas. Para nós, eles parecerão oniscientes, ligando-se a sensores remotos de todos os tipos, em todos os lugares. Em meu livro de 2020, Arrival Mind , eu retrato a AGI como “tendo um bilhão de olhos e ouvidos”, pois suas habilidades perceptivas poderiam facilmente abranger o globo. Nós, humanos, não podemos imaginar como seria perceber nosso mundo de uma maneira tão expansiva e holística, e ainda assim presumimos que uma mente como essa compartilhará nossa moral, valores e sensibilidades. Não vai.

As mentes artificiais serão profundamente diferentes de qualquer cérebro biológico que conhecemos na Terra – desde sua estrutura e funcionalidade básicas até sua fisiologia e psicologia geral. Claro, vamos criar corpos semelhantes a humanos para essas mentes alienígenas habitarem, mas eles serão pouco mais do que fachadas robóticas para nos sentirmos confortáveis ​​em sua presença.

Na verdade, nós, humanos, trabalharemos muito para fazer com que esses alienígenas se pareçam conosco e falem como nós, até sorriam e riam como nós, mas no fundo eles não serão nada como nós. Muito provavelmente, seus cérebros viverão na nuvem (total ou parcialmente) conectados a recursos e funções dentro e fora das formas humanóides que os personificamos.

Ainda assim, a fachada funcionará – não temeremos esses alienígenas – não do jeito que temeríamos as criaturas que correm em nossa direção em uma misteriosa nave estelar. Podemos até sentir um sentimento de parentesco , vendo-os como nossa própria criação, uma manifestação de nossa própria engenhosidade. Mas se deixarmos esses sentimentos de lado, começamos a perceber que uma inteligência alienígena nascida aqui é muito mais perigosa do que aquelas que podem vir de longe.

O perigo dentro

Já a IA pode derrotar nossos melhores jogadores nos jogos mais difíceis da Terra. Mas, na verdade, esses sistemas não dominam apenas os jogos de xadrez, pôquer e Go, eles dominam o jogo dos humanos , aprendendo a prever com precisão nossas ações e reações, antecipando nossos erros e explorando nossas fraquezas. Pesquisadores de todo o mundo já estão desenvolvendo sistemas de IA para nos superar , negociar e manobrar.

Há algo que possamos fazer para nos proteger?

Certamente não podemos impedir que a IA fique mais poderosa, pois nenhuma inovação jamais foi contida. E enquanto alguns estão trabalhando para colocar salvaguardas, não podemos presumir que será suficiente para eliminar a ameaça. De fato, uma pesquisa da Pew Research indica que poucos profissionais acreditam que o setor implementará práticas significativas de “IA ética” até 2030.

Então, como podemos nos preparar para a chegada?

O melhor primeiro passo é perceber que a AGI acontecerá nas próximas décadas e não será uma versão digital da inteligência humana. Será uma inteligência alienígena tão estranha e perigosa como se viesse de um planeta distante.

Trazendo urgência à ética da inteligência artificial

Se enquadrarmos o problema dessa maneira, podemos abordá-lo com urgência, pressionando para regular os sistemas de IA que monitoram e manipulam o público, sentindo nossas emoções e antecipando nossos comportamentos. Essas tecnologias podem não parecer uma ameaça existencial hoje, pois estão sendo desenvolvidas principalmente para otimizar a eficácia da publicidade orientada por IA , não para facilitar a dominação mundial. Mas isso não diminui o perigo – as tecnologias de IA projetadas para analisar os sentimentos humanos e influenciar nossas crenças podem ser facilmente usadas contra nós como armas de persuasão em massa.

Também devemos ser mais cautelosos ao automatizar decisões humanas. Embora seja inegável que a IA possa ajudar na tomada de decisão eficaz, devemos sempre manter os humanos informados . Isso significa usar a IA para aprimorar a inteligência humana em vez de trabalhar para substituí-la. 

Quer nos preparemos ou não, mentes alienígenas estão vindo em nossa direção e podem facilmente se tornar nossos rivais, competindo pelo mesmo nicho no topo da cadeia alimentar intelectual. E embora haja um esforço sério na comunidade de IA para promover tecnologias seguras , também há falta de urgência . Isso porque muitos de nós acreditam erroneamente que uma IA senciente criada pela humanidade será de alguma forma um galho da árvore humana, como um descendente digital que compartilha um núcleo muito humano. 

Isso é um desejo. É mais provável que uma verdadeira AGI seja profundamente diferente de nós em quase todos os aspectos. Sim, será notavelmente hábil em fingir ser humano, mas sob uma fachada amigável, cada um será uma mente rival que pensa, sente e age como nenhuma criatura que já conhecemos na Terra. A hora de se preparar é agora.