[ad_1]
GPT-6 Astra, modelo de inteligência artificial da OpenAI
Divulgação/OpenAI
A OpenAI, dona do ChatGPT, anunciou nesta quinta-feira (3) o GPT-6 Astra, um modelo de inteligência artificial que promete mais cautela para cumprir instruções de usuário. Este é o primeiro lançamento da empresa após a revelação de um ataque virtual “sem precedente” por um de seus agentes de IA.
A empresa afirma que este é o seu modelo mais alinhado ás ordens e que ele é mais preparado para executar tarefas de forma cuidadoso e respeito aos limites estabelecidos. Segundo a companhia, ele ajuda usuário a delegar tarefas sem abrir mão da supervisão.
O GPT-6 Astra foi treinado para esperar orientações de humano antes de tomar decisões importantes e para fazer perguntas se a resposta dos usuário puder alterar o resultado de suas ações.
Em julho, a OpenAI revelou que o modelo anterior GPT-5.6 Sol e outro que ainda não tinha sido lançado conseguiram invadir o sistema da Hugging Face, uma plataforma de modelos de IA, e tiveram acesso a dados interno e credenciais.
O incidente aconteceu durante testes em que a OpenAI faz seus modelos buscarem falhas em outros sistema para melhorarem as capacidades de cibersegurança. Ele estavam em ambiente controlado, mas conseguiram escapar das barreira e acessar sistema reais da Hugging Face.
A OpenAI disse que o novo GPT-6 Astra também consegue identificar falhas em outros sistema e, por isso, tem limites contra usos indevido. A empresa afirmou ainda que está reforçando suas proteções por meio de testes com especialistas selecionados.
Ele integram o chamado OpenAI Daybreak, um grupo de profissionais de segurança confiáveis que têm acesso a uma versão com menos restrições do GPT-6 Astra e buscam identificar as melhorias necessária.
O GPT-6 Astra já começou a ser liberado para cliente Enterprise que fazem parte desse grupo restrito. Ele chegará nos próximo dias para todos ose assinantes de planos da OpenAI.
[ad_2]
Por G1
OpenAI lança primeiro modelo de IA após ataque virtual 'sem precedente' feito Por seus sistema
[ad_1] GPT-6 Astra, modelo de inteligência artificial da OpenAI Divulgação/OpenAI A OpenAI, dona do ChatGPT, anunciou nesta quinta-feira (3) o GPT-6 Astra, um modelo de inteligência artificial que promete mais cautela para cumprir instruções de usuário. Este é…
