A OpenAI lançará o Astra em breve, mas com um “botão do pânico” que não esperávamos

A OpenAI está preparando o lançamento de Astra, seu modelo mais avançado, e desta vez a potência vem acompanhada de um sistema de segurança especialmente chamativo. Depois do incidente em que um modelo da OpenAI atacou o Hugging Face, a companhia reforçou consideravelmente seus controles e sistemas. Quando for público, Astra vai se deter automaticamente diante de determinadas ações quando o subsistema de segurança considerar apropriado. Uma espécie de botão de pânico para manter sob controle suas capacidades mais avançadas.

ChatGPT Download

O primeiro modelo da OpenAI com risco “Critical”

Segundo recolhem na Axios, a OpenAI considera que Astra é o primeiro modelo a alcançar o nível Critical dentro de seu framework de preparação. Ele pode encontrar vulnerabilidades desconhecidas e desenvolver formas de explorá-las de forma totalmente autônoma. Durante os testes, Astra chegou a descobrir e encadear duas vulnerabilidades zero-day, um salto muito considerável dentro da evolução que já vimos com o lançamento do GPT-5.6 e em relação às ferramentas de cibersegurança da OpenAI que ajudaram a melhorar a segurança do Google Chrome.

Se considerarmos agentes como o ChatGPT Work, capazes de manter a execução de tarefas durante horas, o novo enfoque, mais centrado em um controle sustentado e não no prompt inicial nem nos resultados, é interessante. Quanto mais tempo um agente trabalha, mais caminhos ele pode tomar e mais importante é que o sistema possa supervisionar cada ação que executa dentro do seu trabalho.

Com esse enfoque, a OpenAI preparou as salvaguardas para serem capazes de desacelerar, pausar ou diretamente deter uma tarefa diante de certos sinais de atividade. No ChatGPT ou no Codex poderemos responder com um pedido para revisar a ação detida, enquanto na API a tarefa ficará detida automaticamente naquele ponto. Em ambos os casos, no entanto, as maiores capacidades ficarão inicialmente nas mãos de um grupo reduzido de testers enquanto as novas proteções são ajustadas.