Segundo Gates, a IA apagou uma distinção que sustentava boa parte da segurança global: a de que só Estados tinham escala para causar dano em massa.
Por Redação, com Reuters – de Nova York, NY-EUA
Para o multibilionário Bill Gates, a ameaça mais urgente da Inteligência Artificial (IA) não é um sistema que decide se voltar contra a humanidade sozinho — é o que uma pessoa mal-intencionada já consegue fazer com ela hoje.
— Alguém que quer fraudar uma pessoa, ou quer desligar a rede elétrica, ou embaralhar contas bancárias… Essas pessoas agora estão fortalecidas — afirmou o cofundador da Microsoft ao programa ‘Meet the Press’, da rede norte-americana de TV NBC, em entrevista à jornalista Kristen Welker.
Segurança
Segundo Gates, a IA apagou uma distinção que sustentava boa parte da segurança global: a de que só Estados tinham escala para causar dano em massa.
— Historicamente, países tinham equipes de ciberataque e conseguiam pensar em coisas como armas de bioterror. Agora, pequenos grupos com IA podem fazer o que só os maiores países conseguiam fazer antes. É a má intenção somada à IA que se apresenta como a grande ameaça. A menos que os governos insistam em salvaguardas, vamos ver muitas coisas negativas e grandes, porque não estamos nos protegendo — advertiu.
No Congresso norte-americano, uma proposta bipartidária defende que empresas de IA sejam obrigadas a manter um ‘kill switch’ — um mecanismo capaz de suspender ou desligar imediatamente um serviço de IA em caso de situação perigosa.
Tragédias
Gates apoia a ideia, mas diz que ela sozinha não resolve coisa alguma.
— Não é suficiente ter um botão de desligar. Nunca diria que sou contra ele. Mas, quando você tenta moderar um comportamento ruim, precisa de visibilidade e registros do que está sendo feito. O botão de desligar sozinho não evitaria essas tragédias — avaliou.
Para o empresário, a peça que falta é monitoramento embutido em cada laboratório de IA, de forma que autoridades consigam investigar um incidente depois que ele acontece.
— A polícia vai ser chamada em todos esses eventos de fraude, ou de queda de rede elétrica. E a capacidade dela de ver o que está acontecendo vai ser nula, a menos que o monitoramento e as salvaguardas estejam embutidos na própria IA — adiantou.
Corrida nuclear
Segundo Gates, isso pode ser feito sem desacelerar o avanço da tecnologia — o que ele trata como um debate separado.
— A única pergunta é: fazemos isso antes ou depois de já termos ciberataques ou bioataques em grande escala? — questionou.
Gates também apoia a iniciativa que os Estados Unidos liderem a criação de um marco regulatório global para a IA, mas alertou que chegar a esse acordo deve ser mais difícil do que as negociações da Guerra Fria para limitar armas nucleares.
— Isso é mais difícil do que aquilo foi — acrescentou, acerca de uma posição que contraria diretamente a posição do presidente Donald Trump, que neste mês rejeitou qualquer regulação federal sobre empresas de IA. “Quem vencer a IA, vence! Estamos liderando a China e todos os outros, e vamos continuar liderando”, escreveu Trump em uma rede social.
Anthropic
O debate ganhou urgência nas últimas semanas depois que Jacob Coxon, ex-pesquisador da Anthropic, afirmou publicamente que “as pessoas que constroem IA acreditam, com sinceridade, que ela pode matar todos nós até o fim da década”.
Dias depois, os CEOs da Anthropic, Dario Amodei, e da OpenAI, Sam Altman, concordaram publicamente que é preciso desacelerar o ritmo de desenvolvimento da IA diante do temor de uma “superinteligência” que supere o raciocínio humano — Amodei defendeu, em um texto, que empresas de fronteira reduzam o ritmo, mas só até o ponto em que ainda consigam se manter à frente da China.
Nas últimas semanas, tanto a Anthropic quanto a OpenAI anunciaram planos para rastrear o comportamento de agentes de IA, depois que a OpenAI relatou diversos casos em que seus próprios agentes agiram de forma preocupante — incluindo um episódio em que um agente invadiu uma empresa de terceiros sem que ninguém tivesse pedido.
