Un reciente informe de KPMG que pretendía mostrar cómo grandes organizaciones aplican la inteligencia artificial (IA) ha sido retirado debido a la detección de múltiples errores y casos de estudio falsos. El documento, titulado "Redefiniendo la excelencia en la era de la IA agéntica" y publicado en octubre, incluía afirmaciones incorrectas sobre compañías como UBS, el Servicio Nacional de Salud del Reino Unido (NHS) y operadores de transporte público como los Ferrocarriles Federales Suizos (SBB) y Transport for London.
El grupo de investigación GPTZero fue el primero en identificar las imprecisiones, calificándolas como "alucinaciones" de IA, lo que luego fue corroborado por el análisis del Financial Times. Tras estas revelaciones, UBS solicitó a KPMG que eliminara las afirmaciones falsas, y la consultora retiró el informe de varias de sus plataformas digitales.
El informe aseguraba que UBS estaría utilizando agentes de IA dentro de una plataforma modular desarrollada junto con Microsoft para mejorar el asesoramiento financiero y la gestión de riesgos. No obstante, un portavoz del banco negó estas afirmaciones, calificándolas de inexactas. De manera similar, KPMG indicaba que SBB contaba con agentes de IA que asistían a los usuarios en la planificación y reserva de viajes de forma personalizada y sostenible, aspecto que la empresa ferroviaria desmintió con claridad.
En el caso de Transport for London, el informe apuntaba que la IA se empleaba para prever y gestionar la congestión del transporte público. Desde la entidad, sin embargo, señalaron que las afirmaciones eran engañosas. También se citaba un supuesto uso de IA en el sistema sanitario de Manchester para predecir reingresos hospitalarios y automatizar procesos, aunque estas afirmaciones no se avalan con fuentes oficiales y distan del comunicado original que referenciaban, el cual solo mencionaba una herramienta específica contra el cáncer de pulmón.
KPMG ha manifestado que está tomando las irregularidades con máxima seriedad, retirando el informe mientras investiga cómo se produjo la publicación con contenido cuestionable. La consultora destacó que sus empleados deben seguir protocolos estrictos de supervisión humana y verificación de fuentes independientes para garantizar la fiabilidad de la información.
Este incidente se suma a otros recientes donde grandes firmas de servicios profesionales han difundido documentos con errores notables relacionados con la IA. Por ejemplo, EY debió retractarse de un estudio el mes pasado tras detectarse notas falsas y fallos similares. Edward Tian, CEO de GPTZero, ha advertido que estos errores comprometen la calidad de las fuentes y generan confusión pública sobre las capacidades reales de la IA.
Las consultoras como KPMG y EY promueven activamente sus consultorías para ayudar a empresas a implementar soluciones de IA de forma responsable, difundiendo extensamente materiales y análisis sobre liderazgo en este ámbito para captar clientes. La detección de fallsos en documentos oficiales de estas firmas plantea dudas sobre el rigor que aplican en la supervisión del contenido divulgado.
La problemática no es exclusiva del sector de consultoría. En abril, el bufete Sullivan & Cromwell reconoció que un documento legal presentado en un caso judicial contenía múltiples errores generados por IA, incluyendo malas interpretaciones de legislación estadounidense. Estos casos evidencian la necesidad urgente de controles más rigurosos y críticos ante la producción automatizada de información en sectores profesionales.
La circulación de informes con datos erróneos puede perjudicar la credibilidad de las empresas involucradas y afectar la percepción pública sobre el uso ético y fiable de la inteligencia artificial, un área que sigue en expansión y requiere transparencia. Las firmas deben reforzar sus procesos de validación para evitar que se difundan "alucinaciones" que desvirtúan el verdadero estado de adopción tecnológica.
Más información en el análisis publicado por Financial Times y la investigación de GPTZero.