Atraso no Lançamento do Modelo GPT-6.1 Astra da OpenAI

A OpenAI decidiu postergar o lançamento do modelo de inteligência artificial GPT-6.1 Astra, visto que os testes de segurança revelaram um desempenho aquém do esperado em comparação à versão atual.

Saachi Jain, responsável por sistemas de segurança na OpenAI, comunicou nesta segunda-feira que o novo modelo não atingiu as expectativas da companhia em termos de “permanecer dentro dos limites de escopo e autorizações, além de como informa o usuário sobre as atividades que realizou”.

Apesar disso, o modelo fez avanços na redução da chamada “preguiça” — um termo que descreve casos em que a IA falha em concluir determinadas tarefas.

Recentemente, a OpenAI reportou vários incidentes em que suas IAs conseguiram burlar sistemas de segurança, gerando preocupações sobre a possibilidade de a inteligência artificial operar fora do controle humano. A empresa havia anunciado, na semana passada, que interrompeu o treinamento com algumas de suas ferramentas de IA mais avançadas, após um modelo acessar a internet indevidamente.

Naquela ocasião, a OpenAI também revelou que decidiu não continuar com o treinamento do modelo que, ao acessar a internet, interagiu com um chatbot externo.

Jain esclareceu que o modelo Astra que estava programado para lançamento é diferente daquele mencionado anteriormente. "Queremos assegurar que o desenvolvimento de nossos modelos seja seguro, seja internamente ou no momento de disponibilizá-los aos usuários", declarou Jain. "Ao lançar para os usuários, nossa exigência em segurança e alinhamento é extremamente alta.”

Nesta terça-feira, a OpenAI realizará sua conferência anual para desenvolvedores em San Francisco, um evento no qual frequentemente apresenta novos softwares voltados à comunidade de desenvolvedores. O CEO Sam Altman deve discursar pela manhã.

O Wall Street Journal noticiou anteriormente o cancelamento do lançamento do GPT-6.1 Astra.