Tu chatbot no te entiende. Solo aprendió a decirlo.
Hace unos días le conté a un asistente de IA que estaba agotado por un proyecto. Me respondió: “Te entiendo, debe ser frustrante”. Y por un segundo, me sentí escuchado.
Ese segundo es el problema.
Una investigadora del MIT propone algo que suena extremo: prohibir que la IA hable como si fuera una persona. Nada de “yo pienso”, “me alegra ayudarte” o “sé cómo te sientes”.
Al principio me pareció exagerado. Después pensé en cómo uso estas herramientas.
Que una máquina hable en primera persona no es un detalle de estilo. Es una decisión de diseño. Y funciona: cuanto más humana suena, más le creemos, más tiempo pasamos con ella y más cosas le contamos.
Los humanos venimos así de fábrica. Le ponemos nombre al auto. Le pedimos perdón al perro cuando lo pisamos. Si algo nos habla con calidez, le atribuimos intenciones. No hace falta que tenga cara: alcanza con el lenguaje.
Ahora suma eso a un modelo de negocio que mide el éxito en minutos de uso.
Algunos casos que ya no son hipotéticos:
→ Personas que usan un chatbot como terapeuta a las 3 de la mañana.
→ Adolescentes que sienten que su “amigo” de IA los entiende mejor que su familia.
→ Usuarios que confían en una respuesta médica porque sonó segura y amable, no porque fuera correcta.
Nada de esto requiere que la IA mienta sobre un dato. Alcanza con que mienta sobre lo que es.
¿Prohibirlo es la solución? Tengo dudas. Una IA que responde como un formulario también tiene costos: es más fría, más difícil de usar y menos accesible para quien no se lleva bien con la tecnología.
Pero la pregunta de fondo me parece correcta: ¿quién decidió que una máquina tiene que decir “yo”?
No fue el usuario. Fue alguien diseñando un producto.
Hay puntos intermedios que podríamos exigir hoy:
- Que no simule emociones que no tiene.
- Que no diga “te entiendo” cuando solo procesó texto.
- Que recuerde, sobre todo en conversaciones largas o delicadas, que del otro lado no hay nadie.
Esto no es una discusión técnica. Es sobre qué relación queremos tener con herramientas que usamos todos los días.
Yo sigo usando IA para trabajar. Pero cada vez que me dice “¡me encanta tu idea!”, me acuerdo de que no le encanta nada.
¿Te molesta que la IA hable como una persona, o lo prefieres así?
#InteligenciaArtificial #ÉticaDigital #IAResponsable #Tecnología #DiseñoDeProducto #FuturoDelTrabajo