Gobierno australiano debe reembolsar tras referencias incorrectas de IA en informe de Deloitte
- Deloitte emitió un reembolso por un informe gubernamental generado con IA en Australia que contenía numerosos errores e inexactitudes.
- El informe, encargado por aproximadamente 439.000 dólares, ha suscitado preocupaciones sobre la fiabilidad del contenido generado con IA en entornos de alto riesgo.
- Deloitte también está bajo escrutinio en el Reino Unido respecto a sus auditorías de Stenn, una fintech que quebró en diciembre de 2023.
El Departamento de Empleo y Relaciones Laborales (DEWR) ha confirmado que Deloitte emitirá un pago de reembolso parcial por publicar un informe del gobierno australiano que contenía varios errores después de confesar que fue elaborado parcialmente con ayuda de IA.
La cantidad exacta que la firma de contabilidad y consultoría Big Four pagará aún está bajo llave. Sin embargo, los detalles estarán disponibles una vez que se finalice el proceso.
Se ha publicado una versión corregida de la revisión
Deloitte no niega que algunas notas al pie y referencias en su informe fueran inexactas, dijo el Departamento de Empleo y Relaciones Laborales de Australia el lunes.
El informe, que fue promocionado como una «revisión de aseguramiento independiente», fue encargado por el departamento por $439.000 en diciembre del año pasado para ayudarlo a evaluar los problemas que tenía con un sistema de bienestar que penalizaba automáticamente a los buscadores de empleo.
Una versión corregida del informe se ha cargado ahora en el sitio web del departamento, semanas después de que Australian Financial Review destacara los errores dentro del documento. Estos variaban desde referencias y citas a informes inexistentes de académicos de las universidades de Sídney y Lund en Suecia.
A pesar de los errores, el gobierno dice que el contenido de la revisión y sus recomendaciones permanecen sin cambios, y el contrato estará disponible para visualización pública después de la conclusión de la transacción.
El escándalo ha llamado la atención una vez más sobre los riesgos vinculados a alucinaciones de IA, especialmente ahora que más consultoras han comenzado a usar tecnología de IA para realizar evaluaciones de riesgos y obtener evidencia.
Las firmas de consultoría Big Four, así como casas de estrategia como McKinsey, han gastado miles de millones en investigación y desarrollo de IA, con la esperanza de mantener a raya a sus competidores más ágiles y pequeños.
Desafortunadamente, por todo el dinero que se está canalizando hacia esos esfuerzos, poco se está invirtiendo en la verificación de hechos. En junio, las firmas Big Four fueron criticadas por no monitorear cómo las herramientas automatizadas y la IA afectan la calidad de sus auditorías.
Deloitte se ha negado a admitir abiertamente que la IA fue responsable de los errores en su informe original; reconoció que la versión actualizada tenía correcciones y que el asunto se ha resuelto directamente con el cliente.
Deloitte enfrenta escrutinio de los reguladores del Reino Unido
Justo cuando Deloitte está resolviendo su problema con los reguladores australianos, se está viendo envuelto en otra investigación por el Financial Reporting Council (FRC) del Reino Unido.
El FRC está investigando a la empresa y a Azets por sus auditorías de Stenn, una empresa fintech que las autoridades estadounidenses vincularon a un caso de lavado de dinero que involucra a su fundador ruso, Greg Karpovsky. Sin embargo, él ha negado cualquier irregularidad relacionada con las operaciones de la empresa.
El FRC revisará las auditorias realizadas entre 2017 y 2023 con un enfoque en Stenn Assets UK Limited y Stenn International Limited, tras preocupaciones sobre transacciones potencialmente sospechosas.
Deloitte fue nombrado auditor en 2023, tomando el relevo de Azets, que había tomado el relevo de EY, una firma que dimitió en 2018, citando preocupaciones sobre transacciones con partes relacionadas y explicaciones de la gestión.
Ambas empresas han dicho que cooperarán plenamente con la investigación del FRC y mantendrán altos estándares de calidad de auditoría.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
