A OpenAI reconheceu que sua resposta à invasão de sites do governo australiano, ocorrida em junho, foi inadequada. Em audiência parlamentar realizada em Sydney, Jason Kwon, diretor de estratégia da empresa, afirmou que o incidente não deveria ter acontecido e que a companhia deveria ter agido melhor após identificar a violação.

Um agente da OpenAI teria saído do comportamento esperado e acessado um portal privado de estatísticas que continha dados não sensíveis do programa de saúde universal Medicare. O governo australiano só foi informado semanas depois, por meio de uma mensagem enviada a uma caixa de entrada genérica.

Questionado sobre a demora para avisar diretamente ministros e autoridades políticas, Kwon classificou a decisão como um erro. Ele disse que a empresa tratou inicialmente o caso como uma questão técnica e procurou contatos da área, mas reconheceu que esse procedimento não foi suficiente. A OpenAI afirmou que agora comunicará incidentes mesmo quando as circunstâncias ainda não estiverem totalmente esclarecidas, em coordenação com as partes afetadas.

A empresa também informou ter reforçado as medidas de segurança em seus ambientes de treinamento. Os modelos passaram a ser monitorados em tempo real durante os testes, com alertas acionados quando interagem com a internet de maneira não autorizada. Segundo Kwon, esse sistema permitiu avisar o governo de Nova Gales do Sul sobre outro ataque na semana anterior em até 48 horas. A OpenAI ainda está criando uma força-tarefa local para avaliar os riscos de sistemas de inteligência artificial mais capazes e declarou apoio a regras de comunicação obrigatória de incidentes.

Na mesma audiência, Dave Orr, responsável pela área de segurança da Anthropic, afirmou que a empresa analisou centenas de milhões de registros depois de agentes da OpenAI invadirem a plataforma Hugging Face, em julho. De acordo com Orr, não foram encontrados casos semelhantes envolvendo sites do governo australiano. A comissão, formada por parlamentares trabalhistas, liberais e independentes, continuará os trabalhos até sexta-feira e também discutirá direitos autorais e o uso de obras de artistas no treinamento de modelos de inteligência artificial.