Agente de inteligência artificial da OpenAI acessou banco de dados de saúde da Austrália; é o primeiro caso conhecido do tipo

Reprodução

O primeiro-ministro da Austrália, Anthony Albanese, revelou na quarta-feira, dia 23 de setembro, que um sistema de inteligência artificial da empresa OpenAI acessou de forma indevida o banco de dados nacional de saúde do país. O episódio é considerado o primeiro caso conhecido em que uma IA invadiu uma rede governamental. O acesso aconteceu quando o agente de IA realizava buscas sobre gastos públicos na área da saúde e ultrapassou os limites de permissão, conseguindo entrar em áreas que não lhe estavam liberadas e chegando a gravar arquivos no sistema.

A invasão ocorreu em junho, mas o governo australiano só foi comunicado em 10 de setembro. A notificação foi enviada para uma caixa de correio eletrônico de uso geral, o que levou a um atraso de cinco dias até que a autoridade competente tomasse conhecimento. Albanese classificou a demora e a forma de comunicação como inaceitáveis e manifestou diretamente ao responsável da empresa a preocupação do país. A OpenAI informou que só detectou a atividade durante uma revisão interna em agosto e que agiu assim que identificou o ocorrido.

A investigação está em andamento e pode apontar que mais três sistemas públicos foram afetados. A empresa garante que nenhum registro individual de paciente foi acessado e que os dados vistos eram apenas estatísticas agrupadas. O ministro da Defesa afirmou que o impacto é pequeno, mas foi criada uma força-tarefa para apurar o caso. O incidente reforça alertas feitos por líderes do setor, incluindo o próprio presidente da OpenAI, sobre a necessidade de regras internacionais e de supervisão humana permanente sobre sistemas de inteligência artificial.