El debate sobre los riesgos de la IA y el desafío de los modelos abiertos chinos
Pekín/Washington, 15 sep (EFE).- Estados Unidos y China miden sus fuerzas en el sector de la inteligencia artificial (IA) con dos enfoques opuestos: mientras grandes empresas estadounidenses abogan por un modelo cerrado y la autorregulación, las tecnológicas chinas apuestan por el código abierto bajo un estricto marco de normativas estatales.
En el trasfondo de las recientes alertas sobre la posibilidad de que la IA acabe con la humanidad en un futuro cercano, está la lucha entre grandes laboratorios de IA estadounidenses que abogan por modelos cerrados (Anthropic y OpenAI) y competidores chinos como DeepSeek, Moonshot, Alibaba o Zhipu que han apostado por el código abierto, una fórmula que permite a desarrolladores y compañías descargar, adaptar y desplegar sistemas de IA en sus propios servicios y cuyo único gran costo es el de la computación propia.
Este verano, Dario Amodei, consejero delegado de Anthropic, aseguró que su temor con los modelos abiertos es que sean los chinos los que consigan posicionarse como hegemónicos y que ese tipo de IA pueda usarse para ciberataques o ataques biológicos, ya que "es muy difícil aplicar barreras de seguridad o monitorear el uso".
Casualmente, después de que el exempleado de Anthropic y OpenAI Jacob Coxon alertara la semana pasada de la posibilidad de que la IA causara la extinción de la humanidad, Amodei publicó un ensayo en el que alertaba del riesgo de "perder el control de los sistemas de IA" y pedía un desarrollo más lento de esta tecnología, al que se sumaron Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind).
En la misma semana, Anthropic publicó un informe en el que reveló que, gracias a la capacidad de sus modelos para monitorizar el uso que hacen sus usuarios, detectó intentos de desarrollo de armas biológicas, ataques terroristas y operaciones de desinformación orquestadas por adversarios de Estados Unidos.
Ese tipo de supervisión es, según algunos críticos, lo que habría permitido a OpenAI resolver uno de los mayores desafíos matemáticos modernos, después de haberse apoyado subrepticiamente en el trabajo que los principales investigadores habían hecho en la herramienta Codex de OpenAI.
La apuesta china por el código abierto
El fundador de Moonshot, Yang Zhilin, ha defendido en declaraciones a la prensa local el potencial de los modelos abiertos, asegurando que, "si los modelos pueden alcanzar el mismo nivel, el código abierto será una victoria absoluta", en un momento en el que algunos servicios chinos ya muestran un rendimiento casi similar al de los estadounidenses más avanzados, según comparativas especializadas.
En la misma línea, el directivo de la tecnológica Honor, Wang Ai, señaló que la industria transita hacia una "competencia de ecosistemas" y consideró que el código abierto "determinará el panorama competitivo en la era de la IA".
La apuesta por modelos más eficientes está vinculada además a las limitaciones de China en capacidad de cálculo. El fundador de DeepSeek, Liang Wenfeng, ha afirmado que la mayor diferencia con Estados Unidos no es de talento ni tecnológica, sino los recursos de computación, condicionados por las restricciones estadounidenses al acceso chino a chips avanzados.
No obstante, en Estados Unidos también hay voces críticas sobre los modelos cerrados y la necesidad de promover sus propias arquitecturas de IA abierta, especialmente en el caso del CEO de Palantir, Alex Karp, que este lunes pidió no poner el freno al desarrollo de la IA, especialmente cuando hay rivalidades geopolíticas.
Karp defendió en una entrevista en CNBC la idea de modelos abiertos que rivalicen con los chinos, ya que tanto las empresas como el gobierno quieren mantener el control de su propiedad intelectual y su cadena de generación de valor a la par que generalizan el uso de la IA tanto para sus operaciones diarias como en la defensa del país.
El control del Estado en Pekín
En China, esta apertura en la arquitectura de los modelos convive con un estricto control estatal sobre los contenidos y, presumiblemente en última instancia, sobre su potencial y empleo, que es seguido de cerca por el gobernante Partido Comunista.
Desde la eclosión de los 'chatbots', las autoridades chinas han reforzado el marco regulatorio y subrayado que los servicios de IA generativa deben respetar los "valores socialistas fundamentales" y no generar contenidos que afecten a la seguridad nacional, la unidad territorial o la estabilidad social.
Ese control se ha extendido también al etiquetado de contenidos sintéticos y a los usos considerados lesivos: el Tribunal Supremo chino ha fijado criterios para supuestos en los que 'deepfakes', alucinaciones o usos discriminatorios de algoritmos pueden acarrear responsabilidad legal.
La cumbre Xi-Trump y el pulso diplomático
En julio, el presidente chino, Xi Jinping, quien se espera que viaje a finales de mes a EE. UU., donde se prevé que la IA sea uno de los temas centrales en su reunión con su par, Donald Trump, pidió una gobernanza "precisa y efectiva" de la inteligencia artificial y llamó a garantizar que esta tecnología permanezca "bajo control humano".
Por su parte, el ministro chino de Seguridad del Estado, Chen Yixin, instó el pasado fin de semana a construir una "barrera de seguridad" para dicha tecnología ante los riesgos existentes.
Por otro lado, el diario Global Times, dependiente del Diario del Pueblo, órgano del Partido Comunista de China (PCCh), acusó recientemente a parte de la comunidad tecnológica estadounidense de utilizar las advertencias sobre los riesgos de la IA para "contener" a China.
Pekín rechaza asimismo las críticas estadounidenses contra empresas chinas como DeepSeek, Moonshot o Alibaba por supuesto uso de "destilación", una técnica que permite entrenar modelos más pequeños con respuestas de sistemas más avanzados, y sostiene que se trata de una "práctica común" en la industria. EFE
aa/pav/jmr/syr/seo