Fontes:
IAs – Claude, ChatGPT, Gemini, Perplexity, Z.ai
Ivan Linhares Martins – VP de Platform Engineering
Alfredo Martins – GEA.
PRÓLOGO: ALFREDO MARTINS
Nas palestras do GEA, o tema da inteligência artificial (IA) tem aparecido de forma recorrente tanto na esfera da computação como na sua incorporação aos novos telescópios, a exemplo do Observatório Vera C. Rubin que fará em 10 anos o trabalho que levaria 200 anos sem o suporte destas tecnologias. Recentemente, com a evolução acelerada das IAs, alguns dos principais nomes do setor, tal qual Dario Amodei – CEO da Anthropic, têm feito alertas contundentes sobre os riscos que esta tecnologia pode representar. Eles defendem que o desenvolvimento da IA seja desacelerado.
Outros dirigentes de duas empresas rivais do setor, Sam Altman – OpenAI e Elon Musk -Rede social X e do assistente de AI Grok, afirmaram concordar com Amodei, sob a ótica de que esta tecnologia poderia, um dia, causar disruptura social ou ameaçar a sobrevivência da humanidade. A privacidade e o bioterrorismo são exemplos recorrente.
Um dos debates centrais é o risco da IA escapar do controle humano e representar uma ameaça existencial real à humanidade com cenários hipotéticos de extinção.
Neste sentido, foram peticionadas 4 (quatro) IAs para se manifestarem sobre a questão de alcançarem a possível Superinteligência e as decorrentes consequências futuras.
A SUPERINTELIGÊNCIA DAS IAs E SUAS CONSEQUÊNCIAS FUTURAS:
Fontes: ChatGPT, GEMINNI & PERPLEXITY (Orchestration by CLAUDE)
As lAs de hoje, como o ChatGPT, já conversam, traduzem, programam e interpretam imagens — mas são irregulares: brilham num problema e tropeçam em outro aparentemente simples. O próximo degrau em discussão é a AGI (inteligência artificial geral), que igualaria o desempenho humano na maioria das tarefas cognitivas. Um degrau acima estaria a superinteligência: uma IA superior aos melhores humanos em praticamente todos os domínios, inclusive na ciência — conceito sistematizado pelo filósofo Nick Bostrom em 2014. Fato consolidado: nem AGI nem superinteligência existem hoje; tudo o mais é projeção.
Quando poderia acontecer? As estimativas divergem muito. Uma pesquisa de 2023 com cerca de 2.800 pesquisadores de IA (Grace et al.) apontou 50% de chance de as máquinas superarem os humanos em todas as tarefas até 2047 — na edição anterior, de 2022, a data era 2060 —, com enorme dispersão entre as respostas. Os líderes das empresas falam em prazos bem mais curtos: Sam Altman (OpenAl) escreveu em 2024 que a superinteligência poderia chegar “em alguns milhares de dias”; Dario Amodei (Anthropic) avaliou, no mesmo ano, que uma “IA poderosa” poderia surgir já em 2026; Demis Hassabis (Google DeepMind) estimou, em 2025, de cinco a dez anos para a AGI. Já Yann LeCun, pioneiro da área e ex-cientista-chefe de A da Meta, considera esses prazos exagerados: para ele, as técnicas atuais não bastam e faltam avanços fundamentais. Vale lembrar que quem dirige empresas de IA tem interesse em prazos curtos. Em resumo: ninguém sabe — são estimativas, não fatos.
As consequências podem ser grandes nos dois sentidos. Entre os benefícios já concretos, o sistema AlphaFold (Deepind) previu a estrutura de milhões de proteínas — trabalho que rendeu a Demis Hassabis e John Jumper o Nobel de Química de 2024, dividido com David Baker. Na astronomia, redes neurais ajudaram a identificar exoplanetas nos dados do telescópio espacial Kepler (2017), separam ruído de sinal nos detectores de ondas gravitacionais e vão peneirar a enxurrada de dados do Observatório Vera Rubin.
Entre os riscos, destacam-se o problema do alinhamento: 1) garantir que os objetivos de sistemas avançados continuem compatíveis com os valores humanos (Stuart Russell, 2019); 2) superar a dificuldade de supervisionar e desligar sistemas muito capazes; 3) a concentração de poder que pousem estas empresas. Estimou-se em 2024, que cerca de 40% dos empregos no mundo estão expostos à IA (expostos, não necessariamente eliminados). Em 2023, centenas de cientistas — entre eles Geoffrey Hinton e Bengio – assinaram uma declaração pedindo que esse risco seja tratado como prioridade global.
Para nós, apaixonados pelo céu, fica uma pergunta instigante. O Paradoxo de Fermi indaga: se o Universo é tão vasto e antigo, onde estão todos? Alguns sugerem — e isto é pura especulação — que desenvolver superinteligência seja um “Grande Filtro” que poucas civilizações atravessam. De todo modo, a IA já é aliada da busca: o projeto Breakthrough Listen usa aprendizado de máquina para vasculhar petabytes de sinais de rádio atrás de tecno assinaturas. Talvez a resposta ao silêncio cósmico esteja em dados que só uma IA saberá ler.
A SUPERINTELIGÊNCIA DAS IAs E SUAS CONSEQUÊNCIAS FUTURAS:
Fonte: Z.ai
A IA que usamos hoje é “estreita”: reconhece imagens, traduz textos, conversa — mas cada sistema é especializado e não generaliza. Discute-se o próximo degrau, a AGI (Inteligência Artificial Geral), que igualaria o desempenho humano na maioria das tarefas cognitivas. Mais adiante está a superinteligência: uma IA superior aos melhores humanos em praticamente todos os domínios, inclusive na ciência. Fato consolidado: nem AGI, nem superinteligência existem hoje; tudo o mais é projeção.
Quando poderia acontecer? As estimativas divergem muito. Uma pesquisa com cerca de 2.800 pesquisadores de IA (Grace et al., 2023) apontou mediana de 2047 para sistemas superarem humanos em todas as tarefas — com enorme dispersão de respostas. Do lado otimista, Sam Altman (OpenAl) escreveu em 2024 que a superinteligência poderia chegar “em alguns milhares de dias”; Demis Hassabis (Google Deepind) aposta em AGI entre cinco e dez anos; Dario Amodei (Anthropic) avaliou que uma “IA poderosa” pode chegar já em 2026. Já Yann LeCun (Meta) considera tais prazos exagerados, lembrando que os modelos atuais ainda falham em raciocínio elementar. Resumindo: ninguém sabe — as datas são opiniões, não previsões.
As consequências podem ser grandes nos dois sentidos. Entre os benefícios já concretos, o sistema AlphaFold (DeepMind) previu estruturas de proteínas — trabalho que rendeu o Nobel de Química de 2024 a Hassabis e John Jumper. Na astronomia, redes neurais ajudaram a identificar exoplanetas nos dados do telescópio Kepler (2017) e hoje classificam ruído em detectores de ondas gravitacionais. Dos riscos, destacam-se o problema de alinhamentos: Garantir que objetivos de sistemas avançados coincidam com valores humanos (Stuart Russell, 2019); A dificuldade de supervisionar e desligar sistemas muito capazes; A concentração de poder em poucas empresas e governos; O impacto no trabalho – o FMI estimou (2024) que cerca de 40% dos empregos no mundo estão expostos à IA.
EPÍLOGO: ALFREDO MARTINS
Em data recente, a “Google’s Gemini AI” hackeou três companhias concorrentes em teste de segurança. Se a segurança cibernética falha em proteger plataformas com elevado nível de salvaguardas, imagine nossos modestos computadores. O progresso das ciências, a busca incessante por lucros e o controle de informações são inevitáveis e implacáveis. Aldous Huxley, em Admirável Mundo Novo (1932), nunca esteve tão atual.
MEMÓRIA VISUAL
Fonte: ChatGPT