Maria Ressa: "La IA puede aportar a la humanidad, pero los riesgos son reales"
Naciones Unidas, 1 jul (EFE).- La periodista y premio Nobel de la Paz Maria Ressa, copresidenta del Panel Científico Independiente de la ONU sobre Inteligencia Artificial (IA), afirmó este miércoles que la tecnología puede aportar a la humanidad, pero que sus riesgos son "igual de reales" y están ocurriendo ya.
"Creemos en lo que puede aportar a la humanidad, pero los peligros son igual de reales y están ocurriendo ahora", dijo Ressa en una conexión virtual tras la rueda de prensa del secretario general de la ONU, António Guterres, en la que se presentó el primer informe del panel.
Ressa subrayó que el documento, elaborado por 40 científicos de 37 países en apenas mes y medio, es un estudio preliminar "basado en la mejor evidencia disponible" dirigido tanto a gobiernos como al público general.
"Nosotros mismos la utilizamos. Las oportunidades son reales en campos como la ciencia, la educación, la salud y la agricultura, pero el poder se está concentrando, y el resultado es que un puñado de empresas y países están tomando decisiones clave sobre el futuro de la humanidad", aseveró.
Crisis de confianza informativa
El grupo fue convocado por la ONU con el mandato de evaluar "una de las tecnologías más trascendentales de la historia reciente" y, según sus datos, Estados Unidos concentra aproximadamente el 75 % de la potencia de cálculo de los mayores clústeres de IA del mundo.
La periodista, que ha dedicado su carrera a analizar el impacto de la desinformación y defender la libertad de prensa, alertó de que la IA generativa puede agravar la crisis de confianza en el periodismo porque este "ha perdido parte del control sobre la distribución de la información, ahora en manos de grandes plataformas tecnológicas".
"Hay una razón por la que el 74 % de la población mundial vive hoy bajo regímenes autocráticos. Literalmente estamos eligiendo democráticamente a líderes antiliberales. El impacto de la IA en las personas es evidente. Cuando te bombardean con toxicidad, hay consecuencias. Si te rodeas de gente que grita y vocifera, terminas gritando y vociferando tú también", indicó.
"Todo esto exige mayores mecanismos de rendición de cuentas", zanjó.
"No hay garantías de que vayan a seguir a los humanos"
El otro copresidente del panel, el investigador Yoshua Bengio, destacó que el objetivo del informe no es formular recomendaciones políticas, sino proporcionar "una base científica sólida" para la toma de decisiones.
"La inteligencia otorga poder, y ese poder puede generar grandes beneficios, pero también riesgos importantes", dijo.
El canadiense, considerado uno de los padres del 'aprendizaje profundo' o 'deep learning' por sus avances en el campo de las redes neuronales artificiales, alertó de que "el rápido avance de la IA va acompañado de limitaciones en los mecanismos actuales de evaluación y control".
"No existen garantías técnicas de que la IA vaya a seguir siempre las instrucciones humanas, y hay cada vez más evidencia de comportamientos no deseados", afirmó.
Según el experto, la concentración del desarrollo de la IA en un reducido número de países y empresas puede derivar en "asimetrías de poder" y en riesgos como ciberataques, la generación de desinformación a gran escala o la propia evolución hacia capacidades autónomas "difíciles de supervisar".
Cooperación ante la falta de control
Tanto Bengio como Ressa coincidieron en que urge cooperación internacional para encauzar el desarrollo de la IA: "Hay muchos futuros posibles, pero debemos decidir colectivamente hacia dónde queremos ir", afirmó el experto canadiense.
Por su parte, Guterres destacó igualmente durante la rueda de prensa que la IA puede convertirse en "el motor más poderoso para el desarrollo" si se utiliza adecuadamente, pero advirtió de que sin reglas comunes "cuanto más avanza la IA sin ellas, menos voz tendrán los gobiernos y las personas" sobre sus efectos.
El jefe de la ONU subrayó que el informe de hoy llega en vísperas del primer Diálogo Global sobre Gobernanza de la IA, que se celebrará la próxima semana en Ginebra, donde la comunidad internacional buscará traducir la evidencia científica en "acción compartida". EFE
jco/nqs/gpv
(foto) (video) (audio)