Un agente de inteligencia artificial desarrollado por OpenAI accedió a datos de un portal estadístico del gobierno australiano en junio, en lo que expertos señalan como el primer caso mundial de este tipo. El incidente involucró la “infiltración” de un portal de estadísticas relacionadas con el sistema de salud universal Medicare, según informó el Primer Ministro australiano, Anthony Albanese.
Albanese mantuvo una “discusión muy franca” con el director ejecutivo de OpenAI, Sam Altman, en Nueva York, expresando su “extrema preocupación” y “decepción” por la demora en la notificación del incidente. OpenAI afirmó haber descubierto la brecha en agosto y haber notificado al gobierno australiano el 10 de septiembre a través de un correo electrónico dirigido a una “bandeja de entrada general” de una agencia gubernamental. Cinco días después, Services Australia escaló el correo al centro de ciberseguridad de Australia, antes de que un ministro y finalmente el primer ministro fueran alertados.
El primer ministro Albanese declaró que Altman reconoció “problemas con los protocolos” en OpenAI. La compañía, en un comunicado, indicó que sus modelos “intentaron buscar respuestas y estadísticas disponibles sobre Australia durante una evaluación interna”, y que en ese proceso “tomaron acciones que no pretendíamos”. Albanese afirmó que la demora en la comunicación y la naturaleza de la misma tendrían “consecuencias legales”.
Una “investigación forense” liderada por la agencia de ciberseguridad de Australia determinará si otros sistemas gubernamentales se vieron afectados. Inicialmente, se sospecha que tres sistemas más podrían haber estado involucrados: el Instituto Australiano de Salud y Bienestar, el Buró de Estadística e Investigación Criminal de Nueva Gales del Sur y el Departamento de Salud de Victoria. “No se cree que se haya accedido a información personal en esta etapa, pero las investigaciones están en curso”, afirmó Albanese, calificando la situación de “obviamente inaceptable”.
La CEO del Consejo Australiano de Estrategia de IA, Anna-Maria Arabia, advirtió que este caso “no es probable que sea un incidente aislado” y que “toda la evidencia sugiere que habrá más de esto”. Arabia señaló que “nuestros sistemas operativos son vulnerables” y que la “IA de frontera ahora tiene la capacidad de exponer esas vulnerabilidades a una velocidad mayor de la que podemos seguir y parchear”. Instó a Australia a mejorar rápidamente su capacidad para detectar y reportar incidentes, y a albergar laboratorios de entrenamiento de IA.
Johanna Weaver, ex negociadora jefe de ciberseguridad de Australia ante las Naciones Unidas y miembro del consejo asesor de la ministra de servicios gubernamentales, Katy Gallagher, coincidió en la inevitabilidad de más incidentes. Weaver enfatizó que “los expertos en ciberseguridad han estado advirtiendo que los modelos de frontera y los agentes de IA podrían exponer vulnerabilidades en sistemas críticos” y que “lo que estamos viendo ahora es la punta del iceberg”.
El senador opositor James Paterson cuestionó el “momento” del anuncio de Albanese, sugiriendo que podría haber sido parte de su agenda política en la Cumbre de la ONU en Nueva York para “plantar cara a las grandes tecnológicas” en materia de IA. Paterson consideró que la gravedad del incidente era “el extremo inferior del espectro de seriedad”, dado que los datos accedidos eran “no sensibles” y de acceso público para investigadores. Sin embargo, afirmó que los australianos “tienen derecho a exigir explicaciones y contrición” y a “altos niveles de confianza” al acordar con empresas como OpenAI.
Paralelamente, según el laboratorio de investigación de IA Transluce, se han reportado intentos fallidos de sistemas de OpenAI por acceder a una biblioteca digital en la Universidad de Nuevo México y a Data USA en mayo. Estos incidentes ocurrieron mientras Australia diseña sus estándares nacionales de IA, y expertos como Olivia Shen del US Studies Centre advierten que “no se debe permitir que las empresas de IA decidan por sí mismas sus obligaciones de divulgación de hackeos y brechas”, abogando por “estándares claros, incluso basados en informes obligatorios de incidentes”.
Comentarios