Um ex-pesquisador de inteligência artificial que trabalhou com OpenAI e Anthropic afirmou que decidiu deixar a indústria porque, segundo ele, as empresas não agem com a responsabilidade necessária. Na avaliação dele, o ritmo atual de desenvolvimento da IA representa uma aposta com a vida humana.
Críticas ao avanço acelerado
Na publicação, Jacob Coxon relatou que passou os últimos três anos em pré-treinamento nas duas empresas. Com base nessa experiência, ele passou a dizer que o setor corre em direção à superinteligência autoaperfeiçoável sem avaliar os riscos com a profundidade necessária.
Além disso, Coxon afirmou que muitos profissionais conhecem os perigos da tecnologia, mas usam um discurso mais cauteloso em público. Nos bastidores, segundo ele, o medo sobre o futuro da IA aparece com frequência.
Ainda de acordo com o ex-pesquisador, a inteligência artificial pode, em breve, atingir um nível capaz de hackear sistemas, mudar setores inteiros em pouco tempo e concentrar poder e recursos de forma inédita.
Pressão por limites no desenvolvimento
Diante desse cenário, ele defendeu medidas de contenção, como uma pausa temporária no avanço de certas capacidades dos modelos mais sofisticados. Na visão dele, essa decisão poderia reduzir os efeitos negativos de uma corrida sem controle.
Ao mesmo tempo, a discussão já ganhou força dentro da própria indústria. Em julho, mais de 1.200 funcionários de empresas de tecnologia assinaram uma petição pedindo ao governo dos Estados Unidos instrumentos para controlar o ritmo de evolução da inteligência artificial avançada.
A iniciativa, chamada Pacing the Frontier, reuniu trabalhadores de companhias como Meta, Alphabet, Anthropic e OpenAI. No documento, o grupo reconhece o potencial da IA para melhorar o futuro, mas alerta que os resultados não estão garantidos.
Por fim, Coxon afirmou que aceitar essa corrida tecnológica e entrar na chamada fase final seria, na avaliação dele, uma decisão arrogante e precipitada, que não deveria acontecer sem reflexão profunda.
Por: Demais FM / Com informações de CNN Brasil