O primeiro chip personalizado da OpenAI foi projetado com seus próprios modelos de IA, enquanto os modelos mais recentes foram utilizados para otimizá-lo e programá-lo.
Por Redação, com Europa Press – de São Francisco
A OpenAI divulgou o desempenho de seu primeiro chip personalizado para inferência de modelos de Inteligência Artificial (IA), que proporcionará aos usuários respostas mais rápidas, agentes mais ágeis e um acesso mais confiável.
Anunciado em junho, o Jalapeño foi desenvolvido pela OpenAI em estreita colaboração com a Broadcom. O objetivo da empresa é que o Jalapeño seja uma plataforma multigeracional, que permita o desenvolvimento conjunto de produtos, modelos, chips e memória de IA.
– O Jalapeño consegue processar mais tarefas de IA por unidade de energia, ao mesmo tempo em que responde mais rapidamente. Ele é muito eficiente ao atender a vários clientes, mas também pode apresentar uma latência muito baixa – afirma o diretor de hardware da OpenAI, Richard Ho, no comunicado à imprensa, conforme divulgado pelo site TechCrunch.
O primeiro chip personalizado da OpenAI foi projetado com seus próprios modelos de IA, enquanto os modelos mais recentes foram utilizados para otimizá-lo e programá-lo. O objetivo da OpenAI é integrá-lo à sua própria infraestrutura de computação até o final do ano, conforme publicação da própria OpenAI.
“O desempenho do Jalapeño se estende ao GPT-OSS 120B, ao DeepSeek R1 e ao Kimi K2.5 1T, o que indica que a arquitetura funciona tanto em modelos internos quanto externos”, destaca a OpenAI em seu anúncio publicado no site.
De fato, nos três modelos mencionados, o Jalapeño demonstrou excelente desempenho, processando de 1,5 a 1,9 vezes mais trabalho de IA por vatio (no consumo de pico) e apresentando de 1,7 a 3,6 vezes menos latência (ponta a ponta) do que sistemas semelhantes.
No que diz respeito ao desempenho com agentes de IA e tarefas altamente interativas, o Jalapeño é de 2,1 a 4,1 vezes superior a sistemas semelhantes; e em termos de consumo, com uma potência nominal de 700 W, em testes reais manteve-se em 550 W ou menos.
Mais especificamente, no GPT-OSS (120B), ele oferece um desempenho por kW 1,9 vezes maior; no DeepSeek R1 (670B), 1,7 vezes maior; e no Kimi K2.5 (1T), 1,5 vezes maior.
O Jalapeño foi testado na plataforma pública de benchmark InferenceX e oferece mais tokens por usuário e maior capacidade de processamento por quilowatt do que os processadores de inferência comerciais de ponta com os quais é comparado, como a arquitetura Blackwell GB200/GB300 da Nvidia,
Anthropic
A Anthropic anunciou que o Claude já conta com uma única memória disponível no chat e no Claude Cowork, ao unificar as memórias que até agora estavam separadas entre os dois.
O laboratório de Inteligência Artificial (IA) informou que o Claude oferecerá mais flexibilidade ao usar o Claude Cowork, já que será possível atribuir uma tarefa com base no conhecimento que o “chatbot” tem armazenado das conversas anteriores.
Isso significa que o usuário não precisará repetir determinadas informações, já que o Claude retém o contexto a partir da memória que agora está unificada, conforme divulgado no X.
Essa novidade surge após o lançamento da extensão Claude for Chrome, que permitiu ativar o Cowork no navegador do Google; assim, agora, todas as conversas na barra lateral do navegador passarão a fazer parte dessa memória unificada.
Além disso, a Anthropic está dando aos usuários mais controle sobre a memória que o Claude armazena. As informações são organizadas por tópicos, que podem ser revisados, editados ou excluídos; agora, há a opção de incluir tópicos sensíveis na memória.
Na verdade, essa opção pode ser ativada na tela de boas-vindas com as novidades da memória do Claude ao abrir o “app”, ou nas configurações de memória, na seção de ajustes.
“Por padrão, o Claude não armazena assuntos relacionados a temas pessoais ou sensíveis, como saúde, raça, etnia, crenças religiosas, política ou identidade de gênero e outras áreas semelhantes”, explica a Anthropic no anúncio publicado em seu blog.
O laboratório de IA destaca que uma notificação será enviada ao usuário sempre que o Claude salvar um tema sensível e que, para proteger a segurança e a privacidade, há alguns dados que nunca serão salvos na memória, como números de identificação, antecedentes criminais, status migratório ou qualquer coisa que viole a Política de Uso Aceitável (AUP) da Anthropic.
A memória está ativada por padrão nas contas gratuitas, Pro e Max na versão web, no desktop e nos aplicativos para celular. Nas versões Team e Enterprise, são os administradores que controlam sua disponibilidade.
