Hinton, padre de la IA: No entenderemos la IA, como las ratas no entienden números primos
Arona (España), 19 oct (EFE).- El premio Nobel Geoffrey Hinton, uno de los pioneros de la inteligencia artificial (IA), afirmó este lunes que llegará un momento en el que los humanos no entiendan cosas que afirma la IA, "del mismo modo que las ratas no entienden el funcionamiento de los números primos".
Hinton se expresó así durante la apertura del programa principal de conferencias de Starmus que se celebra en Arona, Tenerife, España, en una mesa redonda junto al psicólogo cognitivo y profesor de Harvard Steven Pinker y la exresponsable de Naciones Unidas para el clima Christiana Figueres.
En ella debatieron en el inicio de Starmus sobre la búsqueda de la verdad en una mesa moderada por el astrofísico y fundador del evento, Garik Israelian, que planteó una pregunta que atraviesa la inteligencia artificial, la ciencia y la política: cómo distinguir lo verdadero en un mundo en el que máquinas y seres humanos pueden equivocarse, confabular o seleccionar las pruebas que encajan con sus propias convicciones.
Hinton recordó cómo algunos especialistas en lingüística rechazaron inicialmente que los grandes modelos de lenguaje (LLM en inglés) pudieran comprender y generar lenguaje de manera sofisticada incluso cuando sus capacidades empezaban a ser observables, y citó a Noam Chomsky como ejemplo de un investigador al que, en su opinión, las pruebas no hicieron revisar suficientemente sus posiciones.
Hinton planteó además que la inteligencia artificial llegará a comprender cuestiones que pueden quedar fuera del alcance cognitivo humano.
"De igual modo que las ratas nunca comprenderán los números primos", ahondó, los seres humanos podrían encontrarse ante sistemas capaces de entender cosas que ellos nunca llegarán a comprender.
En ese escenario, si una IA muy superior afirma que algo es cierto "es mejor que te lo creas", apostilló.
Las alucinaciones de la IA
Sobre las llamadas "alucinaciones" de la IA, Hinton advirtió de que su existencia no demuestra que las máquinas carezcan de comprensión, pues los propios seres humanos también reconstruyen recuerdos y confabulan acerca de hechos que creen conocer.
Así, recordó, los modelos de lenguaje aprenden de la actividad humana, por lo que es normal que repitan ese tipo de patrones.
Durante el debate, Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje (LLM en sus siglas en inglés) y las implicaciones que plantean para el estudio de la cognición humana.
Pinker insistió, no obstante, en que la utilidad de estos sistemas dependerá de su capacidad para ofrecer respuestas correctas y someterlas a mecanismos de comprobación, en lugar de optimizar únicamente la interacción con el usuario.
Asimismo, Figueres planteó una perspectiva diferente al preguntarse por "mi verdad", entendida como el conjunto de principios y hechos aceptados con los que cada persona orienta su vida, aunque reconoció la dificultad de hacer convivir esas distintas percepciones.
Enamorarse de la incertidumbre
También propuso, frente a la búsqueda de certezas absolutas, "enamorarse de la incertidumbre" y utilizarla como una herramienta para someter a examen aquello que se presenta como verdadero.
Hinton discrepó de esa formulación y defendió la existencia de una verdad objetiva: "Las personas o las culturas pueden manejar conceptos distintos pero una vez acordados los términos, determinar si una afirmación es verdadera deja de ser una cuestión de opinión", esgrimió.
Hinton cerró esa discusión con una distinción: el poder puede controlar lo que una sociedad percibe como verdadero, pero no puede controlar la verdad misma.
El debate derivó entonces hacia por qué las pruebas no siempre consiguen modificar las creencias.
Pinker señaló que las personas suelen comportarse racionalmente en cuestiones inmediatas de su vida cotidiana, pero tienen más dificultades ante preguntas complejas o alejadas de la experiencia directa, para las que durante siglos tampoco existieron procedimientos fiables de comprobación.
Por ello Pinker situó precisamente ahí la fortaleza de la ciencia, el periodismo responsable o la democracia: no en ser infalibles, sino en disponer de mecanismos para que una afirmación pueda ser cuestionada y corregida, con instituciones capaces de mantener la confianza mostrando cómo llegan a sus conclusiones, aceptando la posibilidad de corregirse y evitando identificarse con "tribus políticas".
El cambio climático, ejemplo entre evidencia y acción
Figueres utilizó el cambio climático como ejemplo de esa distancia entre evidencia y acción, pues existe un amplio consenso científico, indicó, pero quienes rechazan sus conclusiones pueden concentrarse en el margen de incertidumbre y utilizarlo para sembrar dudas.
A su juicio, disponer de pruebas tampoco basta si no existen las condiciones sociales, políticas y psicológicas necesarias para actuar a partir de ellas.
Por último, Pinker añadió sobre las resistencias respecto al cambio climático, que la aceptación de la evidencia científica en este tema se ha vinculado estrechamente con la identidad ideológica, en su opinión por la influencia de Al Gore, vicepresidente de Bill Clinton, y avisó de que la politización de una cuestión científica facilita que las personas rechacen evidencias asociadas al grupo político contrario. EFE
cmg/spf/icn
(foto)(vídeo)