MELBOURNE, Australia (AP) – Deloitte Australia está reembolsando parcialmente el AUD 440,000 del gobierno australiano ($ 290,000) pagado en parte por un informe aparentemente disperso. Generación de IA Errores que incluyen referencias hechas de decisiones de la corte federal o referencias a trabajos de investigación académicos que no existen.
El informe de la Compañía de Servicios Financieros al Ministerio de Empleo y Relaciones en el lugar de trabajo se publicó originalmente en el sitio web del departamento en julio. Chris Ludge, investigador de la Ley de Salud y Bienestar de la Universidad de Sydney, dijo que fue lanzado el viernes.
Deloitte revisó el informe de 237 páginas y “confirmó que algunas notas al pie y referencias eran incorrectas”, dijo el departamento en un comunicado el martes.
“Deloitte había acordado pagar las cuotas finales bajo el contrato”, dijo el departamento. Después de reembolsar el reembolso, el monto se hará público.
Cuando se le pidió que comentara sobre la inexactitud del informe, Deloitte le dijo a Associated Press que “el problema se resolvió directamente con el cliente”.
Deloitte no respondió cuando se le preguntó si el error fue generado por la IA.
La tendencia de generar sistemas de IA para crear información es: Alucinaciones.
Este informe revisó el uso de sistemas de TI de división de penalización automatizada en los sistemas de bienestar de Australia. El departamento dijo que se mantuvo la “consistencia” del informe y que no hubo cambios en sus recomendaciones.
La versión revisada incluía revelaciones que Azure OpenAI, un sistema de lenguaje de IA generativo, se utilizó para escribir el informe.
Se han eliminado las citas que surgen de jueces de la corte federal, así como referencias a informes inexistentes que surgen de expertos en ingeniería legal y de software.
Ludge dijo que encontró hasta 20 errores en la primera versión del informe.
El primer error que apareció en él fue Lisa Burton Crawford, profesora de derecho en el público y la constitución de la Universidad de Sydney, declaró falsamente que había escrito un libro inexistente sin título que sugirió que estaba fuera de su campo de experiencia.
“Nunca había oído hablar de un libro y sonaba ridículo, así que supe de inmediato que la IA estaba alucinada o el mejor secreto del mundo”, dijo Rudge.
El trabajo de sus colegas académicos se utilizó como una “muestra de justificación” citada pero no leída por los autores del informe, Ludge agregó que consideraba citar erróneamente a un juez un error más grave en el informe, una auditoría del cumplimiento legal del departamento.
“Citaron mal el juicio por completo y formaron una cita del juez. Pensé que en realidad era un poco más grande que el ego de los académicos. Eso está malinterpretando la ley al gobierno australiano con los informes en los que confían.
La senadora Barbara Pocock, portavoz del sector público del Partido Verde de Australia, dijo que Deloitte debería reembolsar los $ 440,000 completos ($ 290,000).
“Utilizamos mal la IA y la usamos de manera muy inapropiada. Citamos mal al juez y usamos referencias inexistentes”, dijo Pocock a Australian Broadcasting Corporation.
