Académico explica por que las máquinas están aprendiendo los postulados de Aristóteles y Kant
Un ejemplo: esta semana un modelo de prueba se descontroló y realizó un ciberataque en Estados Unidos.
«Probablemente este sea el mejor momento de la historia para ser filósofo desde Aristóteles», dijo -medio en broma, medio en serio- Henry Ajder, asesor en filosofía del gobierno británico a la revista «Wired», en alusión a la venganza de las humanidades: en esta época tecnológica, cuando se suponía que las profesiones relacionadas con ciencias y matemática iban a monopolizar el mercado, resulta que los filósofos tienen más trabajo que nunca.
Según «The Economist», las propias empresas que desarrollan inteligencia artificial (IA) están llevándose a los egresados estadounidenses de filosofía, incluso antes de su graduación. Lo mismo ocurre con académicos que son tentados por compañías como Google DeepMind o Anthropic.
¿El motivo? Entrenar a la IA para definir la moral y el comportamiento de los modelos. También, para evitar descalabros como el ocurrido la semana pasada en Estados Unidos, donde un modelo que estaba probando la compañía OpenAI se descontroló, se conectó a internet a la mala y hackeó por su cuenta los servidores de la empresa Hugging Face, un repositorio de modelos de IA.
«Están contratando profesores principalmente vinculados al ámbito de la ética», aclara Sebastián Buzeta, director de Licenciatura en Filosofía de la Universidad Gabriela Mistral (advance.ugm.cl, https://s.lun.com/ugm945).
«Hay una preocupación importante de parte de las empresas por ver cuál es el criterio que debe tener la IA. Se dieron cuenta de que está afectando la dimensión moral, porque la inteligencia artificial está tomando decisiones que tienen que ver con el bien humano», agrega.
Tres corrientes
Hoy las máquinas están recibiendo un baño de tres grandes corrientes filosóficas: Kant, el consecuencialismo y Aristóteles. «La diferencia entre una y otra es lo que establece cada una como el bien moral», comenta el académico.
«Por un lado la teoría kantiana se centra en el deber y, por lo tanto, si configuramos una IA según el criterio de Kant, le tendríamos que decir que tiene el deber de jamás mentir» detalla. «Si lo hiciéramos de acuerdo al consecuencialismo es distinto, porque el bien tiene que ver con las eventuales consecuencias que pudiese tener tal o cual decisión. Entonces, podría estar permitido mentir en la medida en que se minimicen los daños», puntualiza.
Aristóteles plantea un foco distinto. «No es bueno para el hombre mentir, pero no por un acuerdo, sino porque es por naturaleza un bien decir la verdad», define Buzeta.
Estas variantes se ponen en juego cada día. «Si en vez de pensar qué tengo que decirle a mi jefe o qué palabra le digo a mi amigo ante una situación específica, empiezo a preguntarle eso a la IA, va a traer problemas porque las personas no van a desarrollar sus facultades como la inteligencia, la voluntad, una serie de cosas», señala.
Respuesta justa
«El punto está en cómo responde la IA dentro de una pregunta el contexto valórico. No basta con tener la respuesta correcta, hay que tener la respuesta justa, y eso requiere de un cierto enfoque», opina Alfredo Barriga, académico de la UDP, consultor de transformación digital y autor del libro «Presente Futuro: la Sociedad de la Inteligencia Artificial y el Urgente Rediseño de lo Humano», publicado en Amazon.
«No es integrar la filosofía a la tecnología, sino que el uso de la tecnología debe tomar en cuenta la filosofía para poder funcionar correctamente de acuerdo con lo que fue creado, para ayudar a la humanidad y no para dañarla», advierte.
«Cuando uno hace una consulta porque quiere tomar una decisión la IA recoge esa pregunta y en la parte valórica toma lo que ya tiene, el punto de vista que le ingresó su creador y del conocimiento per se. No necesariamente está tomando todas las opciones posibles, está cometiendo un sesgo valórico, y eso es lo que está contratación de filósofos pretende abordar: que esté abierta a distintas formas de verlo y que la persona después decida la más acorde a sus valores», destaca.
