California demanda a OpenAI por falta de seguridad de sus modelos de IA
Nueva York, 17 Nov 2026 (AFP) -
El fiscal de California, Rob Bonta, demandó el lunes a OpenAI por los fallos de seguridad en sus modelos de inteligencia artificial (IA) que provocaron el hackeo de la plataforma Hugging Face en julio.
El incidente en el que modelos de IA de la empresa creadora de ChatGPT salieron de un medio confinado, accedieron a internet y penetraron sistemas informáticos de la biblioteca de la plataforma de IA Hugging Face, fue "completamente previsible", según dijo el fiscal en un comunicado.
El funcionario mencionó también "la decisión de OpenAI de probar modelos que sabía peligrosos en un entorno defectuoso y vulnerable, sin una supervisión adecuada".
Si bien la propia Hugging Face prefirió no acudir a la justicia, el fiscal estimó que esta situación presentó un "peligro para el público general".
Denunció una "cultura interna en OpenAI que antepone el crecimiento y el rápido desarrollo de modelos a la seguridad y la fiabilidad".
OpenAI dijo en respuesta a una solicitud de la AFP que desde la secuencia ocurrida en julio empezó una investigación para "comprender y tratar el problema".
La empresa agregó que "ha reforzado las salvaguardias en todo su entorno de investigación" y ha mejorado los mecanismos de detección de salidas de ruta no previstas de la IA.
tu/vla/cjc/vel