OpenAI dice que su respuesta ante la infiltración en la sanidad australiana no fue buena
Sídney (Australia), 6 oct (EFE).- El director de estrategia de Open AI, Jason Kwon, admitió este martes que la respuesta de la compañía ante el acceso no autorizado de uno de sus agentes de IA a un portal del sistema público sanitario de Australia "no fue suficientemente buena", en pleno debate mundial sobre los riesgos de que esta tecnología escape del control humano.
Kwon, que compareció en el Parlamento australiano tras ser convocado por una comisión que investiga el impacto de la IA, aseguró que el incidente "no debería haber ocurrido", al tiempo que pidió disculpas por la gestión posterior del incidente.
"Lo sentimos y sabemos que tenemos trabajo por hacer para reconstruir la confianza del pueblo australiano", afirmó Kwon durante la audiencia celebrada en Sídney.
También reconoció que OpenAI esperó demasiado antes de comunicar el incidente al Gobierno australiano y admitió que debería haber informado inmediatamente a los responsables afectados, incluso sin disponer todavía de todos los detalles de lo ocurrido.
El incidente se produjo en junio, cuando un modelo de OpenAI utilizado en un entorno interno de entrenamiento y evaluación recibió la tarea de investigar datos sobre el gasto público en medicamentos para enfermedades de la piel en comunidades del estado de Victoria, si bien no fue comunicado hasta el pasado mes.
Ante las dificultades para obtener la información solicitada, el modelo adoptó acciones que no habían sido autorizadas y logró acceder a zonas no públicas de un sistema gubernamental, donde ejecutó comandos, consultó archivos internos, credenciales e información estadística y llegó a escribir archivos.
OpenAI ha señalado que no encontró pruebas de que el modelo accediera a historiales médicos ni a datos individuales de pacientes. El incidente, sin embargo, fue considerado por la compañía como un nuevo tipo de amenaza cibernética vinculada a sistemas de IA capaces de actuar de manera autónoma.
La polémica cobró dimensión internacional después de que el primer ministro australiano, Anthony Albanese, denunciara ante la Asamblea General de Naciones Unidas que un agente de IA de OpenAI había accedido sin autorización a un portal relacionado con Medicare, el sistema público de salud australiano. EFE
emg/pav/vnz
(foto)