Coxon é o mais recente funcionário a deixar um dos principais laboratórios de IA dos EUA alegando preocupações com a segurança.
Por Redação, com FT – de Londres
Um pesquisador da Anthropic pediu demissão do laboratório de Inteligência Artificial (IA) e alertou que a corrida desenfreada para desenvolver uma superinteligência capaz de se aprimorar sozinha pode destruir a humanidade até o fim desta década. Segundo Jacob Coxon, de 27 anos, em entrevista exclusiva ao diário britânico Financial Times (FT), nesta quarta-feira, ele havia deixado a OpenAI para entrar em sua principal concorrente e afirmou que ambas as empresas estão “apostando” com o futuro da humanidade.
— As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década — comentou Coxon em uma série de publicações em uma rede social, nas quais anunciou sua demissão da Anthropic.
Coxon é o mais recente funcionário a deixar um dos principais laboratórios de IA dos EUA alegando preocupações com a segurança. Sua saída ocorre no momento em que a Anthropic, que colocou a segurança da IA como sua principal marca, planeja uma oferta pública inicial de ações (IPO), que pode avaliar a empresa em US$ 1 trilhão.
Sistemas
Coxon, que trabalhou anteriormente na OpenAI antes de se transferir para a Anthropic, alertou que as pessoas de fora dos laboratórios estavam subestimando o poder da tecnologia.
— Em breve, serão sistemas sobre-humanos, capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais — declarou.
E Evan Hubinger, um dos colegas de Coxon na Anthropic, endossou seu alerta.
No caminho
“Jacob está correto — nós realmente acreditamos, com toda a sinceridade, que a IA pode matar todos os seres humanos”, escreveu no X, acrescentando acreditar que a probabilidade de uma extinção em massa na próxima década é superior a 10%.
“A Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para solucionar o alinhamento da superinteligência e não estamos claramente no caminho para isso”, acrescentou Hubinger, referindo-se ao esforço para garantir que os sistemas de IA se comportem de maneira compatível com as intenções e os valores humanos.
Hubinger lidera a área de ciência do alinhamento, na empresa.
