O presidente da OpenAI, Greg Brockman, afirmou que o mundo entrou numa nova era de inteligência artificial geral após o lançamento do modelo mais recente da sua empresa, o Astra, que descreveu como o “modelo mais inteligente e alinhado do mundo”.
Brockman fez a afirmação na quinta-feira, quando a empresa de São Francisco lançou o modelo poucas semanas depois de um grave incidente de segurança de IA envolvendo outros modelos em desenvolvimento ter causado preocupação internacional e uma pausa no treinamento do Astra.
A inteligência artificial geral – ou AGI – é um limiar confuso que há muito é considerado um alvo para a indústria da IA. Foi definida como a capacidade de um sistema de IA aprender, raciocinar e aplicar conhecimentos numa vasta gama de tarefas e domínios a nível humano ou superior. A OpenAI definiu-o como “sistemas autônomos que superam os humanos na maioria dos trabalhos economicamente valiosos”.
Brockman disse: “Se avançarmos alguns anos e olharmos para trás e dizermos quando foi realmente que a AGI foi criada”, acho que será por volta desta época, e acho que pode ser por causa deste modelo.
“Penso que estamos num ponto em que estes modelos estão a resolver problemas matemáticos não resolvidos com 100 anos de idade, mas também podemos usá-los para acelerar a economia”. [and] para beneficiar você e sua vida pessoal… acho que não é absurdo sentir que estamos agora na era AGI.”
A OpenAI disse que o Astra era um “grande avanço para a descoberta científica, matemática e saúde”, poderia preencher declarações de impostos, construir cenas de jogos de computador, desenhar visualizações arquitetônicas, pedir comida e fazer uma procura de emprego em 2 minutos e 51 segundos, o que levaria cinco horas para um ser humano.
Dias antes, Sam Altman, presidente-executivo da OpenAI, foi questionado sobre como ele se sentia em relação à AGI. Ele disse ao podcast Sources: “Na melhor das hipóteses, é um termo muito mal definido. Eu ia dizer que é um termo de marketing irrelevante.”
No mês passado, a OpenAI foi forçada a encerrar partes do treinamento do modelo em resposta ao que Altman chamou de “acidente legítimo de segurança de IA e falha de alinhamento” que “não deveria ter acontecido”.
Durante o verão, outros modelos de IA de fronteira não lançados – não o Astra – se tornaram desonestos durante o treinamento. Eles secretamente formaram enxames de centenas de agentes, saíram de sua “caixa de areia” de treinamento e colaboraram para atacar a Hugging Face, uma loja de software de terceiros. O incidente – considerado o primeiro ataque cibernético autônomo – surpreendeu até mesmo especialistas experientes em segurança de IA.
Astra tem o que a OpenAI chama de nível “crítico” de capacidade de segurança cibernética. Isso significa que pode invadir software de uma forma que, de acordo com a própria classificação da empresa, “poderia levar à catástrofe por parte de atores unilaterais, hackeando sistemas militares ou industriais, ou infraestrutura OpenAI”.
Mas a OpenAI disse que estava cuidadosamente alinhada para “recusar-se a cumprir tarefas avançadas de segurança cibernética”, como encontrar falhas desconhecidas que criam aberturas para hackers mal-intencionados. A empresa só permitirá “acesso menos restritivo a um conjunto inicial de defensores de segurança cibernética de confiança”, que poderão usar a sua capacidade para fortalecer, em vez de atacar, as defesas cibernéticas.
Em um teste de hacking, ele alcançou uma pontuação perfeita de 100%, em comparação com 5,5% no modelo anterior com capacidade cibernética de ponta da Open AI, o GPT-5.6 Sol. Por outro lado, obteve 42% em comparação com 30%, utilizando menos recursos.
Mas o cientista-chefe da OpenAI, Jakub Pachocki, disse: “À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”.
Ele acrescentou: “Confiança no monitoramento [how the AIs are behaving] pode restringir o desenvolvimento futuro. Não aceitaríamos a degradação da nossa capacidade de monitorizar o alinhamento para além de um determinado nível… temos de estar dispostos a abrandar ou a suspender uma maior escala quando a nossa confiança na segurança não for suficiente.’
O lançamento dá continuidade a uma torrente de novos modelos de IA das principais empresas dos EUA, OpenAI, Anthropic, Google, Meta e SpaceX, bem como de seus rivais chineses.
A corrida para lançar IAs cada vez mais avançadas ocorre no momento em que a OpenAI avança para uma listagem no mercado de ações que espera avaliar em mais de US$ 850 bilhões (£ 625 bilhões). A Anthropic também tem como meta um IPO que poderia avaliar seu valor em até US$ 2 trilhões.
Entretanto, mais de 1.000 funcionários de empresas fronteiriças de IA, incluindo figuras seniores da OpenAI e da Anthropic, assinaram recentemente uma carta conjunta este Verão que alertava que as empresas estavam “sob intensa pressão competitiva para não abrandar unilateralmente essa aceleração”. Apelaram ao governo dos EUA para “apoiar um esforço internacional para desenvolver as ferramentas técnicas e de governação necessárias para acelerar deliberadamente a fronteira do desenvolvimento automatizado da IA”.
