Cristóbal Joannon, filósofo y académico de la UAI, expondrá en el Festival Cultural de Vitacura
Que te den la razón o que te digan lo que quieres escuchar, no es gratuito, dice Joannon.
Para aprovechar todo el potencial que tienen los agentes conversacionales que usan inteligencia artificial, como Chat GPT o Perplexity, entre otros, es esencial entender tres cosas: son empresas, fueron creadas por humanos y requieren que el usuario tenga un cierto nivel de capacidad crítica que le permita distinguir el contenido. De lo anterior hablará precisamente este viernes a las 11 horas, en la Biblioteca de Vitacura, el filósofo y teórico de la argumentación Cristóbal Joannon, director del Magíster en Artes Liberales de la Universidad Adolfo Ibáñez (UAI), quien dará la charla «Pensamiento crítico y creativo en la era de la inteligencia artificial», en el Festival Cultural de la comuna. La entrada es liberada.
¿Por qué es importante saber que son empresas?
«Porque mientras más lo uses, más ganan ellos. Por lo tanto, que te den la razón o que te digan lo que quieres escuchar, no es gratuito. Es importante tener eso bien claro porque justamente en este punto opera la capacidad crítica de uno, que tiene que ver con el nivel de preparación que tengas para poder darte cuenta de que te está entregando la información que quieres escuchar o leer, que no necesariamente es real».
¿A qué se refiere con capacidad crítica?
«Existe algo en IA que se llama alucinación y se refiere a los errores que comete la IA porque debe analizar millones y millones de patrones para entregar una información. Lo último que leí es que la tasa de alucinación de OpenIA (Chat GPT) es de 4%. Entonces, para sacarle el máximo provecho a la IA es necesario el pensamiento crítico. Uno necesita entender el mundo para poder juzgar si la respuesta de la IA tiene sentido o no. Si tú no sabes nada de la realidad, es imposible que notes las respuestas extrañas que a veces entrega».
¿Algún ejemplo?
«Ocurre mucho con fechas y datos concretos. Por ejemplo, si le preguntas en qué año nació Cristóbal Colón y te responde que en 1820, puedes quedarte con eso o dudar, porque tu experiencia te indica que es imposible que haya nacido ese año. Esa capacidad de dudar, en este caso, solo te lo entrega el pensamiento crítico o el nivel de reflexión que tengas».
¿Cómo manejan las IA el tema del sufrimiento humano?
«El sufrimiento es una palabra para la IA, igual que la amistad. Sabe que son importantes para los seres humanos, pero jamás podrá reemplazar a una persona porque simplemente no siente, sino que manipula signos y no tiene comprensión de los significados. Ese es uno de los temas que más se ha discutido en filosofía de la mente. Las IA conversacionales o de generación de texto (Chat GPT) son suerte de saberes estadísticos. Tú le haces una pregunta y construye su respuesta en base a patrones. Por eso es importante entender que estas IA conversacionales no reemplazan el consejo que te puede entregar un humano».
El filósofo estadounidense John Searle dice que un computador puede simular comprensión, pero que no posee conciencia.
«Un artículo célebre suyo se llama La habitación china. Imagínate que tienes una habitación cerrada, con un lugar donde se ingresan preguntas y otro en el que salen respuestas. Ahora imagínate que le escribes una pregunta en chino a alguien que está dentro de esa habitación. Esa persona, que no habla chino como tú, tiene un montón de manuales que indican que si alguien pregunta tal cosa (en chino), debe responder con equis cosa (en chino). Por eso, cuando le llega tu pregunta, sabe perfectamente qué responderte. Tú, al recibir la respuesta, piensas que te respondió alguien que sabe chino porque el contenido tiene cierta lógica y fue en idioma chino. Pero resulta que la persona que te respondió no entendió lo que le preguntaste, no hizo ninguna reflexión y solo te entregó una respuesta basada en un patrón, según un manual. Esa persona te convenció que sabe chino, pero no lo comprende. Searle sostuvo que la IA es eso y nadie lo movió de esa posición».
