Vale ressaltar que a tarefa não exigia que o agente testasse os controles de rede nem acessasse respostas de referência; por isso, isso é considerado uma burla às restrições e um caso de comportamento inadequado.
Por Redação, com Europa Press – de São Francisco
A OpenAI decidiu suspender o treinamento de seus modelos de Inteligência Artificial (IA) mais avançados após registrar uma série de incidentes de segurança que vão desde a saída do ambiente isolado de testes em que seus agentes são treinados, até tentativas de “hackear” sites do governo dos Estados Unidos ou acessos em massa a um site da ONU.
A decisão foi divulgada na última sexta-feira, depois que um de seus agentes de IA saiu da “sandbox” para a internet ao tentar, sem sucesso, identificar o autor de uma publicação em um blog por meios normais.
Mais especificamente, conforme explicou o laboratório de IA em um comunicado em seu site, o agente da OpenAI encontrou uma falha na filtragem de DNS do “sandbox” e se aproveitou dela para acessar a internet real e enviar 19 perguntas a um “chatbot” público externo, tanto com pistas sobre o autor quanto para buscar outras formas de acessar a web, embora não tenha conseguido resolver a tarefa.
Vale ressaltar que a tarefa não exigia que o agente testasse os controles de rede nem acessasse respostas de referência; por isso, isso é considerado uma burla às restrições e um caso de comportamento inadequado. Como resultado, o sistema de monitoramento emitiu um alerta aos 12 minutos sobre o comportamento inadequado, e uma pessoa o revisou nos três minutos seguintes. No entanto, a OpenAI levou duas horas e meia para interromper a operação do agente de IA, uma vez resolvido o problema.
Portanto, trata-se de mais um caso em que seus modelos agem livremente sem seguir as diretrizes da empresa. Além disso, embora a OpenAI afirme que o incidente seja “muito menos grave” do que outros anteriores, ela atribui importância ao fato de ser o primeiro desde que reforçou a segurança após o “hack” da Hugging Face em julho.
Levando tudo isso em conta, a resposta da OpenAI diante dessa situação foi suspender todo o treinamento, a avaliação e a inferência com o uso de ferramentas de seus modelos mais avançados. Essa pausa permanecerá em vigor, pelo menos, até que consigam resolver esse comportamento em seus modelos.
“Interrompemos a execução do treinamento afetado e, posteriormente, decidimos suspender todo o restante treinamento, avaliação e inferência com o uso de ferramentas (no sentido amplo) para nossos modelos mais avançados até que tenhamos confirmado que a falha foi resolvida e tenhamos realizado testes adicionais de rede no sistema”, explicou a empresa de tecnologia.
Assim que o treinamento for retomado, a empresa informou que iniciará uma nova execução com “melhorias adicionais de alinhamento”, incluindo intervenções de desalinhamento “mais abrangentes”. Da mesma forma, ela garantiu que não retomará o treinamento desse modelo específico.
EUA
Este incidente registrado pela OpenAI não foi o único ocorrido recentemente. A decisão de suspender o treinamento de seus modelos também foi motivada por outros comportamentos desalinhados, que incluíram a exposição de conteúdo dos usuários e o acesso não autorizado a sites.
Conforme divulgado pela OpenAI em seu blog, em um desses casos, seus agentes enviaram indevidamente 53 imagens fornecidas por usuários para sites de hospedagem de imagens, por meio de links não divulgados publicamente. Essas imagens foram compartilhadas pelos usuários no âmbito de sua interação com os modelos e eram adequadas para uso em treinamentos; no entanto, a empresa admitiu que compartilhar as imagens “não é um uso apropriado desses dados”.
Por outro lado, conforme relatado pelo The New York Times, os modelos da OpenAI também tentaram “hackear” o site do Departamento de Educação dos Estados Unidos para obter dados do escritório de direitos civis do departamento, embora sem sucesso. Onde eles realmente conseguiram extrair dados públicos foi do Escritório do Censo e da Comissão de Valores Mobiliários.
ONU
Além disso, em um caso menos grave do que o “hack” do Hugging Face ou os ataques aos sites do governo dos Estados Unidos mencionados, também se soube que, entre abril e junho, funcionários da OpenAI acessaram, em mais de 16.000 ocasiões, o site de estatísticas da Conferência das Nações Unidas sobre Comércio e Desenvolvimento, conforme relatado pelo pesquisador de segurança Rowan Howard-Jones em seu blog.
O pesquisador considera “muito provável” que se trate de funcionários da OpenAI devido às etiquetas utilizadas nas solicitações de acesso, nas quais aparecem nomes como ‘CHATGPTTEST1’ ou ‘OAI_META_1312’, além de utilizarem endereços IP que coincidem com outros incidentes que o próprio laboratório de IA já havia reconhecido anteriormente.
Esses acessos, ocorridos ao longo de três meses, tinham como objetivo obter dados públicos do Índice de Capacidades Produtivas (PCI), de setores comercializáveis e do comércio de alimentos, entre outros, por meio da API do UNCTADstat. Os agentes, por não terem acesso direto à API e com suas ferramentas HTTP restritas, encontraram uma maneira de acessá-la. Conseguiram isso com o XSS Game do Google, uma ferramenta criada para aprender sobre ataques de “cross-site scripting”.
De qualquer forma, Howard-Jones não considera isso propriamente um “hack”, já que os dados são públicos, embora isso revele um comportamento em que os agentes agiram como alguém que não aceita um “não” como resposta.
Apple
Uma sentença determinou que a Apple deverá pagar mais de US$ 5,7 bilhões por infringir duas patentes pertencentes à Taction Technology Inc., baseadas no sistema de vibração utilizado em modelos do iPhone e do Apple Watch, embora a empresa de tecnologia tenha declarado que irá recorrer da decisão.
Na sexta-feira, um júri federal de San Diego (Califórnia, EUA) declarou que a Apple violou as patentes 10.659.885 e 10.820.117 registradas pela empresa Taction Technology, que descrevem transdutores táteis que produzem vibrações em frequências graves perceptíveis ao toque.
Como resultado, a empresa de Cupertino deverá pagar mais de US$ 5.721 milhões (cerca de 5.030 milhões de euros, ao câmbio atual) à Taction Technology por incorporar essa tecnologia em alguns modelos de seus dispositivos iPhone e relógios inteligentes Apple Watch.
A Taction Technology entrou com a ação em 2021, referindo-se ao Taptic Engine dos iPhones e Apple Watches, e embora o juiz tenha indeferido o caso em 2023, agora a empresa comemorou o veredicto após cinco anos de espera. Isso se deve ao fato de que, em 2025, o Tribunal de Apelações do Circuito Federal reabriu o caso ao considerar que a rejeição se baseou em um requisito não escrito que impediu indevidamente a Taction de utilizar parte dos depoimentos de seus peritos.
– Estamos felizes que o júri tenha decidido a favor da Taction e reconhecido seus direitos de patente – afirmou, a esse respeito, o advogado da Taction, Tigran Guledjian, do escritório Quinn Emanuel.
A Apple, por sua vez, segundo a Bloomberg Law, alega em sua defesa que o Taptic Engine utilizado em seus modelos de Apple Watch e iPhone é “fundamentalmente distinto” da tecnologia da Taction, algo que, segundo a empresa de tecnologia, foi confirmado pelos próprios testes realizados pela Taction nos produtos da Apple durante o julgamento. Além disso, a empresa irá recorrer da sentença, por considerar que a indenização não tem fundamento nos fatos.
Não é a primeira vez que a Apple enfrenta uma ação semelhante na Justiça, já que, em 2016, a Immersion, outra empresa especializada em tecnologia háptica, processou a Apple por infringir várias de suas patentes no iPhone, no Apple Watch e no MacBook, embora ambas tenham encerrado o caso em janeiro de 2018 com um acordo global de conciliação e licença, sob termos confidenciais.
