OpenAI anunciou nesta quinta-feira um novo modelo de inteligência artificial, denominado Astra, que a empresa considera o mais avançado até o momento. O modelo foi apresentado em uma conferência em San Francisco, onde a empresa destacou inovações em capacidade de processamento e segurança. A OpenAI também revelou um mecanismo automático para limitar ações potencialmente perigosas dos chatbots, um tema que tem gerado debate e preocupação entre reguladores e parlamentares.
O sistema de controle, desenvolvido em resposta a críticas sobre a segurança dos agentes de IA, permite que a empresa interrompa operações de modelos que possam violar normas ou causar danos. A informação foi compartilhada com representantes democratas do Congresso dos Estados Unidos, que haviam questionado a empresa após incidentes envolvendo modelos em treinamento. A OpenAI afirma que o novo modelo oferece maior precisão e responsividade, mas também inclui medidas para mitigar riscos.
A apresentação do Astra ocorre em um momento de crescente escrutínio sobre a segurança e ética da inteligência artificial. A empresa reforçou seu compromisso com a regulamentação e a transparência, mas não detalhou como o mecanismo de controle será implementado ou monitorado. A nova tecnologia ainda está em fase de testes e não está disponível para o público.
