¿Y si la IA nos mira como nosotros miramos a una rata frente a una pizarra?
Esta semana me quedé pensando en una frase de Geoffrey Hinton, Nobel y uno de los padres de la inteligencia artificial moderna.
En el festival Starmus, en Tenerife, planteó algo incómodo: así como una rata jamás va a entender qué es un número primo, puede que los humanos tampoco lleguemos a comprender lo que una IA mucho más avanzada sea capaz de razonar.
Y fue más lejos. Dijo que si una inteligencia muy superior afirma que algo es cierto, “es mejor que te lo creas”.
Confieso que esa parte me hizo ruido.
Trabajo todos los días con estas herramientas y veo dos cosas al mismo tiempo:
- Lo que hoy hacen los modelos de lenguaje era impensado hace pocos años. Hinton recordó que muchos expertos, incluido Chomsky, subestimaron su capacidad. Tenía razón.
- Pero también veo “alucinaciones”: respuestas falsas dichas con total seguridad. Hinton las compara con nuestra propia tendencia a reconstruir recuerdos o inventar detalles. Interesante… aunque no me tranquiliza del todo.
En el mismo panel, Steven Pinker puso el punto que más me resonó: que una IA suene convincente no significa que tenga razón. Su valor está en dar información correcta y verificable, no en dejarnos conformes.
Ahí está, para mí, el verdadero desafío de los próximos años:
- No es si la IA va a pensar más que nosotros.
- Es si vamos a empezar a confiar en ella sin saber por qué.
Si llega el día en que no podamos seguir su razonamiento, vamos a necesitar más que nunca lo que nos trajo hasta acá: método científico, periodismo serio, instituciones que nos permitan cuestionar y corregir errores.
Hinton también dejó una idea que me parece clave: el poder puede influir en lo que una sociedad cree verdadero, pero no puede cambiar la verdad en sí.
A diferencia de las ratas, nosotros sí tenemos una ventaja: podemos construir herramientas para verificar. La pregunta es si vamos a tener la disciplina de usarlas.
¿confiarías en una respuesta de la IA que no podés comprobar?
#InteligenciaArtificial #GeoffreyHinton #FuturoDelTrabajo #EticaDigital #Innovacion #PensamientoCritico