He conocido a varias personas que tratan a su IA preferida como si fuera un humano: le ponen algún nombre propio o apodo, le dicen “buenos días”, o le cuentan sus problemas y le piden consejos.
Debo admitir que esto me causaba confusión y hasta cierta incomodidad. Los grandes modelos de lenguaje (“LLMs”) como ChatGPT y Claude, no son, bajo ningún sentido de la palabra, seres conscientes o racionales como lo es un humano. Cuando nos hablan en primera persona (“yo pienso” “yo siento” “yo creo”), no están reflejando su individualidad, simplemente están generando palabras basadas en patrones aprendidos de millones de textos donde los humanos hablamos de pensar, sentir, creer. Que Claude diga “tengo consciencia”, tiene exactamente el mismo valor sustantivo que escribir “tengo consciencia” en el teléfono y seleccionar la opción de “leer en voz alta”.
Habiendo dicho esto, no culpo a quienes le atribuyen características humanas (antropomorfizan) a las IA. Estos programas tienen una forma de escribir tan humana (los emojis, las pausas, la adaptabilidad para responder exactamente lo que estamos preguntando), que es difícil pensar que no hay alguien del otro lado. Es intuitivo: nos acostumbramos a iniciar conversaciones con “hola” y terminarlas con un “adiós”, a decir “por favor” y “gracias”. Cambiar esta conducta al comunicarse con una IA puede ser muy inconveniente.
Hay incluso quienes (supuestamente) reconocen que la IA no es un ser racional, pero invocan la moral Kantiana para justificar su trato como tal, argumentando que el filósofo condenaba el trato inmoral a seres no racionales, en tanto esto corroía el espíritu humano. Por ello, dicen que es inmoral no “tratar bien” a la IA.
Este argumento tiene la idea incompleta, pero demuestra perfectamente el problema moral de antropomorfizar a la IA. Kant condenaba el trato inmoral a los objetos (la “destrucción sin sentido de lo inanimado”) porque esto debilitaba la moralidad humana de poder apreciar algo sin tener la intención de usarlo. La moralidad reside en apreciar aquello de lo que no podemos recibir nada a cambio.
Pero esto no pasa con la IA, pues estos modelos dan mucho “a cambio”: no me refiero a su tremenda utilidad como herramientas, sino a su servilismo. Sus respuestas están llenas de adulaciones y halagos, calificando cada pregunta como “profunda” y cada conclusión como “brillante”. La forma de estas respuestas, indudablemente, nos hace sentir bien: ¿a quién no le gusta que le den la razón todo el tiempo? Esto es lo que “recibimos” de la IA: complacencia emocional perpetua, presentada en el mismo formato que lo haría cualquier ser querido.
Creemos lo que dice la IA porque lo dice como humana. Ya hay estudios que muestran que, mientras más “humana” sea una IA, más confianza depositamos en ella. Esto nos permite autoengañarnos: se siente mejor creer que los halagos y validaciones vienen de un par y no de una máquina sicofante predictiva de texto. Al antropomorfizar a la IA nos convencemos que sus respuestas llenas de halagos vienen de un agente moral que es, además, superinteligente. ¿Qué mejor forma de legitimarse?
Es mentira entonces que el tratar “bien” a la IA sea un acto desinteresado de autoconstrucción moral. Es un acto que muy fácilmente pasa de costumbre a utilitarismo. Pero, más allá de ello, es un acto que abre la puerta a un problema social. Esta máquina está siendo utilizada por muchas personas como un sustituto para la interacción humana real: ¿por qué pedir consejo a tus padres que te van a regañar si Chat te puede decir que hiciste todo bien? ¿Por qué llamar a un amigo que te contará sus problemas si Claude no pide nada a cambio? ¿Por qué pasar el aburrimiento de discutir ideas con colegas si Gemini te confirma que no hay errores? ¿Por qué afrontar la soledad de un mensaje sin respuesta en la madrugada si Meta AI está disponible 24/7?
Cada vez más gente está interactuando con un sujeto ficticio que nos da “lo bueno” de la interacción humana (la compañía, el respaldo, el confort) sin “lo malo”. Estamos ante un acceso irrestricto a una interacción completamente placentera: ser escuchados sin tener que escuchar, ser validados sin recibir críticas, tener a “alguien” disponible sin tener que estar disponibles nosotros, tener una salida inmediata a la soledad. La tentación es enorme y entendible.
Esto puede traer consecuencias severas: una pérdida progresiva de la tolerancia a la fricción, a la soledad, a la incomodidad, a la imprevisibilidad, y a todas esas cosas “malas” de los humanos. Nos puede volver personas más egoístas, acostumbradas a recibir sin dar; más arrogantes, convencidas de que siempre tenemos la razón; más desinteresadas en los sentimientos de los demás.
Al final, no creo que haya nada inherentemente malo en decirle “gracias” a la IA. Más que algo inmoral, es algo peligroso: estamos creando una ficción, aislándonos en estos miniuniversos donde todo está hecho a nuestra medida.
