A empresa destacou que uma pausa significativa exigiria um acordo entre “vários laboratórios com bons recursos” que operam na fronteira tecnológica.
Por Redação, com Reuters – de Nova York
A Anthropic disse na quinta-feira que os desenvolvedores de IA de fronteira devem estabelecer uma maneira coordenada e verificável de desacelerar ou interromper temporariamente seu trabalho caso os sistemas comecem a se aperfeiçoar mais rapidamente do que a sociedade pode gerenciar seus riscos.
Uma inteligência artificial capaz de se autoconstruir seria um grande desenvolvimento na história da tecnologia, mas “o aperfeiçoamento recursivo completo também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, disse a Anthropic.
“Se os sistemas forem capazes de criar totalmente seus próprios sucessores, as formas como os protegemos, monitoramos e moldamos seu comportamento se tornarão muito mais importantes.”
Como exemplo, a Anthropic disse que, em maio, mais de 80% do código mesclado em sua base de código era de autoria do Claude, seu assistente de IA.
Seria “bom para o mundo ter a opção de desacelerar ou pausar temporariamente o desenvolvimento da IA de fronteira para permitir que as estruturas sociais e a pesquisa de alinhamento acompanhem o avanço da tecnologia”, defendeu a empresa.
No entanto, a Anthropic advertiu que desacelerações unilaterais ou mal coordenadas podem ser um tiro pela culatra se atores menos cautelosos continuarem avançando, reduzindo potencialmente a segurança geral.
A empresa destacou que uma pausa significativa exigiria um acordo entre “vários laboratórios com bons recursos” que operam na fronteira tecnológica, bem como regras sobre quais condições acionariam ou suspenderiam essa pausa e sobre quem supervisionaria as ações.
Anthropic
Uma pausa unilateral por parte de uma única empresa seria mais fácil de ser implementada, acrescentou a Anthropic, mas teria um impacto limitado.
Seu braço de pesquisa, o Anthropic Institute, planeja estudar e ajudar a construir sistemas que seriam necessários para suportar uma desaceleração.
Nos próximos meses, a Anthropic planeja retomar discussões envolvendo formuladores de políticas, pesquisadores, grupos da sociedade civil e outras empresas de IA para examinar as principais questões.
Os temas incluem como gerenciar os riscos relacionados à IA, como o autoaperfeiçoamento recursivo, e como melhorar os mecanismos de coordenação.
No mês passado, a Anthropic concluiu uma rodada de captação de recursos que avaliou a empresa em US$965 bilhões. Na segunda-feira, a empresa solicitou confidencialmente um IPO (oferta pública inicial de ações) nos EUA.
