Plano busca minimizar os riscos associados à possível chegada da autossuperação recursiva autônoma.
Por Redação, com Xataka – de Madri
“Nosso objetivo é garantir que a inteligência artificial (IA) geral beneficie toda a humanidade”. Assim começa o texto intitulado “Desenvolver os padrões para a próxima fase da IA“, publicado ontem pela OpenAI. Sam Altman, diretor-geral da empresa, e Jakub Pachocki, cientista-chefe, demonstraram preocupação publicamente nos últimos dias com o desenvolvimento vertiginoso que a IA está experimentando.
Seja como for, algo está mudando nos principais laboratórios de IA estadunidenses. Até apenas duas semanas atrás, eles haviam se lançado em uma corrida desenfreada para liderar o desenvolvimento dos modelos de fronteira. Agora, essas mesmas corporações querem pisar no freio. No entanto, há algo mais. Elas estão começando a propor roteiros que, em teoria, buscam minimizar os riscos associados à possível chegada de um modelo de IA suficientemente avançado para ser capaz de desenvolver, por conta própria, modelos ainda mais sofisticados. Esse conceito é conhecido como melhoria recursiva.
A solução para esse cenário proposta pela OpenAI no artigo que publicou ontem exige o estabelecimento de padrões técnicos comuns para os modelos de IA de fronteira. Dessa forma, a segurança, as avaliações e a gestão dos incidentes não dependerão exclusivamente dos laboratórios envolvidos e dos países aos quais pertencem; haverá uma supervisão presumivelmente neutra e superior que aproveitará o trabalho que os institutos de segurança da IA já estão realizando.
IA
O ponto de partida da estratégia proposta pela OpenAI consiste em encontrar uma forma de fazer com que o desenvolvimento dos modelos de fronteira seja acompanhado por um desenvolvimento equivalente da pesquisa em alinhamento. O objetivo do alinhamento é garantir que os modelos de IA mais capazes e autônomos se comportem de acordo com os objetivos dos seres humanos e permaneçam o tempo todo sob sua supervisão. Nesse contexto, a principal ameaça é, segundo os laboratórios estadunidenses que se manifestaram, a autossuperação recursiva.
Se um modelo de fronteira adquirir a capacidade de melhorar suas próprias habilidades gerando novas versões de si mesmo ou outros modelos ainda mais avançados sem a intervenção e a supervisão de seus criadores, o ser humano poderá perder o controle de sua invenção. Além disso, a OpenAI adverte que, à medida que aumenta o grau de automação, também aumenta a velocidade de progresso da IA. No entanto, reconhece que a autossuperação recursiva completamente autônoma ainda não existe.
A empresa argumenta que essa última capacidade não deve ser buscada até que possa ser implementada de forma segura. A preocupação com o correto alinhamento da IA está presente em todo o artigo da OpenAI, mas suas propostas não se limitam a esse desafio. Altman e seus colegas defendem que é necessário criar um protocolo que identifique os incidentes provocados pelos modelos de IA de fronteira que precisam ser comunicados às autoridades. Além disso, acreditam que é necessário que os países cooperem para elaborar mecanismos de atuação conjunta diante desse cenário.
A proposta da OpenAI chega em um momento em que o debate sobre a gestão dos riscos decorrentes do desenvolvimento de sistemas de IA avançados parece estar atingindo seu ponto máximo. Pode ser que as iniciativas de Anthropic, OpenAI e outros laboratórios estadunidenses não sejam em vão e finalmente prosperem, mas isso não bastará.
O mais importante é que os EUA e a China consigam um alinhamento técnico e diplomático para que os laboratórios de IA dos dois países estejam submetidos aos mesmos padrões de segurança e protocolos de atuação. E, neste momento, nada parece indicar que esse acordo seja possível no curto prazo.
