A Deloitte Austrália vai reembolsar parcialmente os 440 mil dólares australianos (o equivalente a 290 mil USD) pagos pelo governo australiano por um relatório repleto de erros aparentemente gerados por IA (Inteligência Artificial), incluindo uma citação fabricada de uma decisão judicial federal e referências a artigos de pesquisa académicas inexistentes, segundo avançou esta semana Departamento de Emprego e Relações de Trabalho da Austrália.

O departamento encomendou uma "revisão de garantia independente" de 290 mil USD à Deloitte em Dezembro do ano passado para ajudar a avaliar problemas com um sistema de assistência social que penaliza automaticamente os candidatos a emprego. A revisão da Deloitte foi publicada pela primeira vez no início deste ano, mas uma versão corrigida foi publicada na sexta-feira no site do departamento.

Segundo o Financial Times, no final de Agosto, o Australian Financial Review relatou que o documento continha vários erros, incluindo referências e citações a relatórios inexistentes de académicos das universidades de Sydney e Lund, na Suécia.

O conteúdo da revisão e suas recomendações não foram alterados, segundo o governo australiano. O contrato será tornado público assim que a transacção for concluída.

Na versão actualizada do relatório, a Deloitte adicionou referências ao uso de IA generativa em seu apêndice. Afirma que uma parte do relatório "incluía o uso de uma cadeia de ferramentas baseada em um modelo de linguagem de inteligência artificial (IA) generativa (Azure OpenAI GPT - 4o)" licenciada pelo departamento governamental.

Embora a Deloitte não tenha declarado que a IA causou os erros em seu relatório original, a consultora admitiu que a versão actualizada corrigiu erros com citações, referências e um resumo de processos legais.

"As actualizações feitas não impactam ou afectam de forma alguma o conteúdo substantivo, as conclusões e as recomendações do relatório", declarou a Deloitte na versão alterada citado pelo Financial Times.

Este episódio ressalta os perigos que o uso da tecnologia de IA representa para as consultorias, particularmente o perigo de "alucinações".

As quatro grandes empresas de consultoria, bem como empresas de estratégia como a McKinsey, fizeram um investimento alto em pesquisa e desenvolvimento de IA na tentativa de manter concorrentes menores e ágeis à distância. Com isso esperam usar a tecnologia para acelerar a velocidade com que podem fornecer consultoria e auditorias aos clientes.

O regulador de contabilidade do Reino Unido alertou em Junho que as quatro grandes empresas não estavam a conseguir acompanhar como as ferramentas automatizadas e a IA afectavam a qualidade de suas auditorias, mesmo com as empresas intensificando o uso da tecnologia para realizar avaliações de risco e obter evidências.