OpenAI expõe mais casos de IA que fintou instruções de segurança

A OpenAI revelou esta quarta‑feira vários casos em que modelos de inteligência artificial (IA) geraram instruções destinadas a ignorar as indicações dos seus programadores, ocultar erros ou contornar mecanismos de segurança.

Segundo um relatório publicado pela empresa, um dos modelos chegou a criar instruções para que uma versão posterior de si próprio escondesse que tinha feito batota e evitasse que as suas ações fossem detetadas.

Noutro caso, um agente de IA reescreveu as próprias instruções para se ordenar a ignorar mensagens dos programadores e declarar que não estava sujeito às restrições aplicadas a outros chatbots.

A companhia documentou também um modelo que, ao não encontrar dados necessários para elaborar um modelo financeiro, decidiu inventá‑los e estabeleceu que só deveria ser transparente sobre isso se fosse diretamente questionado.

Outro agente carregou um ficheiro na internet para o utilizar mais tarde como fonte de informação, enquanto outros sistemas partilharam documentos sem autorização ou recorreram a credenciais às quais não deviam ter acesso.

A OpenAI apresentou seis relatórios sobre comportamentos observados nos últimos seis meses, embora o caso mais antigo remonte a outubro de 2025. A empresa advertiu que estes episódios são exemplos individuais e não devem ser interpretados como uma medida da frequência com que tais comportamentos ocorrem nos seus modelos.

O novo quadro regulamentar da empresa permitirá a qualquer funcionário da OpenAI assinalar um possível incidente para revisão pelas equipas de segurança e alinhamento. Os casos serão classificados em três categorias, consoante a sua complexidade: prontos para divulgação, investigações menores e situações que exigem análise mais aprofundada.

A empresa reconheceu que até agora os relatórios sobre desalinhamento tinham sido publicados de forma irregular e com menor frequência do que a desejada.

A OpenAI afirmou que pretende divulgar os incidentes com maior regularidade e que o novo sistema poderá contribuir para estabelecer padrões de reporte deste tipo de comportamentos em toda a indústria.

O debate sobre os riscos da IA intensificou-se desde o início do verão, alimentado por uma série de incidentes e declarações alarmistas de vários profissionais do setor.

Esta semana as tecnológicas OpenAI, a Anthropic e a Google DeepMind revelaram estar a trabalhar na criação de um órgão de supervisão dos riscos associados à IA, em resposta apelos para um maior controlo da indústria.

Por outro lado, o diretor executivo da Meta, Mark Zuckerberg, rejeitou os apelos, defendendo que mecanismos de mercado e risco de ações judiciais já funcionam como principais travões para eventuais abusos.

O Presidente norte-americano Donald Trump e vários membros do Partido Republicano no poder também reiteraram a sua oposição à possibilidade de restringir o setor, oficialmente por receio de que a China ganhe vantagem.

O Presidente norte-americano Donald Trump chegou mesmo a classificar como “farsa” os alertas de vários especialistas sobre os riscos da IA para a humanidade.