Não há dúvida de que a IA deve ser desenvolvida com segurança e transparência, mas interromper a tecnologia mais crítica de nossa era pode enfraquecer nosso país em um momento crítico.
As luvas estão caindo na luta pelo futuro da IA .
Na terça-feira, o Future of Life Institute, uma organização futurista sem fins lucrativos apoiada pela Fundação Musk, publicou uma carta aberta pedindo uma pausa de seis meses no treinamento de sistemas de IA mais poderosos do que o serviço líder GPT-4 da OpenAI .
“Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”, declara a carta, que foi assinada por vários milhares de pessoas, incluindo o próprio Elon Musk, o cofundador da Apple Steve Wozniak, AI os pesquisadores Yoshua Bengio e Gary Marcus, e o historiador Yuval Noah Harari. “Laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes”.
Embora não haja dúvida de que a IA deva ser desenvolvida de forma segura, responsável e transparente, colocar a tecnologia mais crítica de nossa época em um intervalo é uma solução inviável que pode enfraquecer nosso país em um momento crítico.
Para começar, seria um movimento sem precedentes, exatamente quando a IA está começando a se mostrar uma promessa incrível após décadas de exagero não cumprido. Também seria quase impossível de aplicar e um soco no estômago para a inovação – o motor da nossa economia.
Embora a carta tenha sido assinada por alguns especialistas notáveis em IA, outros pesquisadores de IA criticaram a abordagem e disseram que ela ignorou os danos e riscos apresentados pela IA atual, como exigir mais transparência dos dados de treinamento de IA e tomada de decisão de grandes modelos de linguagem. O cientista da computação Andrew Ng, fundador do Google Brain, chamou a moratória de “uma péssima ideia” no Twitter porque a intervenção do governo seria a única maneira possível de aplicá-la.
“Estou vendo muitas novas aplicações em educação, saúde, alimentação, . . . isso vai ajudar muitas pessoas. Melhorar o GPT-4 ajudará”, ele twittou. “Vamos equilibrar o enorme valor que a IA está criando com os riscos realistas. Para promover a segurança da IA, os regulamentos sobre transparência e auditoria seriam mais práticos e fariam uma diferença maior.”
Imagine as pessoas pedindo à Netscape, Microsoft e Mozilla para interromper o desenvolvimento do navegador da Web em meados da década de 1990. Teria sido o movimento certo para abordar preocupações reais sobre pornografia infantil online e discurso indecente? Absolutamente não. Essas questões foram abordadas de forma mais eficaz pela indústria, legisladores, tribunais e reguladores, sendo finalmente resolvidas por meio de uma decisão histórica da Suprema Corte que consagrou o valor da liberdade de expressão na internet.
Em segundo lugar, os EUA estão envolvidos em uma competição com a China para liderar o mercado de IA. Graças à recente inovação da OpenAI, com sede nos Estados Unidos, outras multinacionais americanas como Microsoft, Google e Meta, e um bando de startups, os EUA podem ter retomado a liderança nesta corrida em que especialistas disseram que a China estava à frente apenas alguns anos atrás. Mas o ritmo da inovação da IA está acelerando a uma taxa nunca vista desde o boom da computação móvel. Considere que demorou pouco menos de quatro meses para o OpenAI lançar o GPT-4 após o lançamento inovador do ChatGPT.
Se os EUA e suas principais corporações parassem o desenvolvimento da IA por seis meses enquanto a China avançava, isso colocaria nosso país em desvantagem e criaria uma abertura potencial para nosso principal adversário global. Imagine se a IA da China ultrapassasse os EUA durante essa pausa e os danos a longo prazo que isso poderia trazer à democracia e à segurança geopolítica.
Em terceiro lugar, mesmo que de alguma forma pausássemos o desenvolvimento, o que poderia ser realizado durante este “verão de IA”? Provavelmente não tanto porque a governança da IA é um tópico incrivelmente complexo que requer uma discussão robusta e inclusiva entre várias partes interessadas para elaborar uma nova estrutura. Levará anos para desenvolver a base desse sistema de governança, o que provavelmente exigirá mudanças nas práticas do setor, na política regulatória e nas leis globais.
Não há dúvida de que precisamos de um esforço e investimento mais concentrados para alinhar o design de um sistema de governança eficaz para uma IA responsável, confiável e explicável. E a rápida evolução desses sistemas significa que devemos torná-los uma prioridade maior da sociedade, assim como a mudança climática se tornou um imperativo global.
A tecnologia sempre ultrapassou nossa capacidade de gerenciá-la. Mas nossa história mostrou que a abordagem mais sábia é seguir o caminho paralelo do desenvolvimento da tecnologia e sua governança sem sufocar o progresso.
Vale a pena notar na carta esquecida que muito desse trabalho já está acontecendo. Os principais fornecedores de IA estão levando muito a sério a segurança e a responsabilidade da IA, desenvolvendo ferramentas de mitigação de riscos, práticas recomendadas para uso responsável, plataformas de monitoramento para uso indevido e aprendendo com o feedback humano. O lançamento rápido das duas últimas iterações do GPT já levou a grandes melhorias em valor, segurança e responsabilidade.
É perfeito? Claro que não. Essas empresas precisam de mais supervisão? Claro que sim. A inovação é confusa. Erros estão prestes a acontecer, mas eles também são essenciais para o processo de aprendizagem. À medida que este debate gira, Musk deve se lembrar desta citação que compartilhou uma vez: “Se as coisas não estão falhando, você não está inovando o suficiente”.