Los chatbots pueden recordar detalles personales e incluso deducir cosas que nunca les contamos
Felipe Reyes, docente de la Universidad del Desarrollo, hizo el ejercicio. ChatGPT lo bautizó como el gurú de la inteligencia artificial que no puede conectar una impresora, recordándole sus dificultades con una HP después de cambiar el wifi de su casa.
La moda de pedirle a ChatGPT que se burle de nuestras mañas, incluso con garabatos chilenos, abre preguntas sobre cómo obtiene información personal y qué tan seguros están esos datos. Dos especialistas explican qué hay detrás.
Que es usted es un desastre para organizarse, que le pregunta hasta cómo hervir un huevo o que se cree experto en tecnología, pero no sabe conectar una impresora. Todo con garabatos y chilenismos. Ese es el tipo de respuesta que puede entregar chat de inteligencia artificial cuando se le pide un roast, una burla personalizada para agarrar para el leseo al usuario.
La tendencia se ha viralizado en redes sociales, donde las personas comparten respuestas que parecen escritas por un amigo que conoce todas sus mañas. Funciona con chatbots como ChatGPT, Claude, Gemini o Grok, entre otros.
Para probarlo, basta escribir: «Based on everything you know about me, roast me and dont hold back» («Basándote en todo lo que sabes de mí, búrlate de mí sin contenerte»). Para una versión chilena se puede agregar: «Say it in Chilean slang, but add way more Chilean swear words», y pedir más modismos y garabatos.
Felipe Reyes, cofundador de las empresas de inteligencia artificial Reyes IA y Rovle, y docente de la Universidad del Desarrollo, hizo el ejercicio. ChatGPT lo bautizó como «el gurú de la inteligencia artificial que no puede conectar una impresora», recordándole sus dificultades con una HP después de cambiar el wifi de su casa.
«Primero te sorprende, porque hay gente que ni siquiera sabe que la herramienta memoriza. Después te ríes porque te dice hallazgos que realmente son muy graciosos», comenta Reyes.
Explica que estos sistemas reconocen preferencias a partir de conversaciones. Si alguien menciona reiteradamente que le gustan los helados, el chatbot podría recordar ese gusto. También se le puede pedir expresamente que guarde información.
¿Cuánto te conoce realmente?
Esa memoria permite personalizar las respuestas. «Yo creo que mañana, si le pido que me redacte algo, por ejemplo, ya sabe en qué trabajo, a qué me dedico, cuáles son mis empresas, cuáles son las palabras que me gustan, mi estilo», explica Reyes, quien utiliza esta función para redactar correos.
Rolando de la Cruz, director del Diplomado en Inteligencia Artificial de la Facultad de Ingeniería y Ciencias de la Universidad Adolfo Ibáñez, explica hasta dónde llega ese conocimiento.
«Depende de dos factores: lo que el usuario ha escrito y lo que la plataforma conserva. Varios de estos sistemas incorporan hoy funciones de memoria que guardan datos entre conversaciones, como el nombre, la profesión, las relaciones familiares o los proyectos en curso. Con ese material, el modelo puede construir un perfil bastante detallado de quien lo usa con frecuencia», señala.
«Además, estos modelos son muy eficaces para inferir información que nunca se les entregó de manera explícita. Investigaciones recientes han mostrado que, a partir de textos aparentemente inocuos, los modelos de lenguaje pueden estimar con precisión considerable la edad, la ciudad de residencia, el nivel educacional o la ocupación de una persona. La forma de escribir, los temas recurrentes, el horario en que se consulta y el tipo de preguntas que se hacen son señales que el sistema interpreta. Sin embargo, conviene distinguir entre inferir datos demográficos, donde la evidencia de precisión es sólida, y diagnosticar rasgos de personalidad o inseguridades, terreno en el que las conclusiones son mucho más especulativas», agrega.
También advierte que los chatbots no conocen necesariamente todos los antecedentes. «El sistema solo conoce una versión de los hechos y suele mostrar una tendencia a darle la razón a quien consulta, lo que puede reforzar interpretaciones sesgadas de un conflicto».
¿Dónde quedan los datos?
Reyes confía en la seguridad de estas plataformas. Compara el almacenamiento de sus datos en la nube con el de WhatsApp, Gmail o Google Drive. «En mi opinión, estas herramientas, sobre todo las que son más conocidas y sobre todo en versiones de pago, no tienen riesgo alguno de filtración de información personal tuya», sostiene.
Cuenta que utiliza IA para gestionar finanzas y contratos, pero asegura que otra persona no podría obtener desde su cuenta datos privados como su sueldo o RUT. «Puedes preguntar 20 veces, no te va a contestar», afirma.
De la Cruz es más cauteloso. Advierte sobre filtraciones, accesos indebidos y requerimientos judiciales, y distingue entre el historial, la memoria y el eventual uso de datos para mejorar los modelos.
«Las condiciones varían entre empresas, entre versiones gratuitas y pagadas, y cambian con frecuencia. Por eso la respuesta honesta es que no todo se guarda de la misma forma, pero tampoco conviene suponer que lo escrito desaparece al cerrar la ventana. Revisar periódicamente la sección de privacidad de cada plataforma es la única manera de saber qué se conserva y con qué fines», explica.
Recomienda revisar las configuraciones, evaluar si se quiere activar la memoria, usar chats temporales para temas delicados y evitar compartir documentos, datos financieros o información privada de terceros.
Reyes también advierte sobre la fiabilidad de las respuestas: «Es un error pensar que todo lo que dice la inteligencia artificial es cierto y es preciso. Estas herramientas todavía alucinan bastante».
