Detecta detalles como orejas desproporcionadas o anomalías en las hebras del cabello
En los últimos años hemos visto ejemplos bastante burdos de personas estafadas a través de la inteligencia artificial. Una mujer francesa se enamoró de un falso Brad Pitt; otra, inglesa, creyó estar en una relación con Kevin Costner. Aunque a simple vista parezca pura ingenuidad, lo cierto es que la tecnología detrás de los deepfakes ha avanzado lo suficiente como para engañar incluso a personas razonablemente informadas.
Estas herramientas no solo replican rostros en video con una precisión inquietante, sino que también imitan gestos, expresiones y hasta patrones de voz, abriendo un terreno fértil para el fraude emocional y financiero.
El smartphone tope de línea de Honor, el Magic7 Pro, incluye una tecnología para protegerse: Deepfake Detection. Andrea Molina, gerente de Marketing y Comunicaciones de la marca, explica que el sistema utiliza algoritmos avanzados de IA para detectar pequeñas incoherencias difíciles de percibir por el ojo humano en videos modificados digitalmente.
«Entre ellas se incluyen defectos a nivel de pixeles, problemas con la composición de bordes, irregularidades entre fotogramas de video y rasgos faciales inusuales, como proporciones de cara, orejas o anomalías en las hebras de cabello. Cuando el sistema detecta contenidos manipulados, envía una alerta para que los usuarios puedan evitar posibles riesgos», detalla.
Molina explica que la función «Detección de suplantación facial mediante IA» se activa en el menú Ajustes. Durante el año debería llegar a celulares de otras gamas de la marca. «Desarrollamos tecnologías centradas en el ser humano. Con el boom de la IA y todas las posibilidades que ofrece, también surgen los temores de los usuarios respecto a su seguridad. La tecnología deepfake utiliza IA para producir medios altamente realistas pero falsos», recalca.
¿No suena algo alarmista integrar esta tecnología de fábrica? César Silva, director del medio especializado en tecnología Supergeek, aclara que si bien no hemos conocido casos de chilenas estafadas por pololos creados por IA, el deepfake abarca mucho más que eso.
«Se puede pensar que en Asia es más común este tipo de estafas, pero las estamos viendo cada vez más seguido en Chile. Principalmente se usan a figuras reconocidas -como Don Francisco o los animadores del Festival de Viña- con el objetivo de estafar mediante supuestas inversiones, usando la IA para clonar la voz. En otros países esta técnica se usa en falsos secuestros para pedir dinero a cambio. Y no hay que olvidar que este es un año de elecciones en Chile: también podría llegar a utilizarse para difundir mensajes falsos que afecten a alguno de los candidatos».
Perfección ontológica
Daniel Molina, vicepresidente de iProov para Latinoamérica, advierte que los deepfakes ya no son videos protagonizados por criaturas con seis dedos y rostros de goma: crear un video falso perfecto aún requiere hardware especializado y un know-how considerable, indica, «pero la producción de falsificaciones con un nivel suficiente para el engaño es factible con un teléfono de gama media y un manejo básico junto con datasets preentrenados».
¿Cuáles son los errores más comunes de los deepfakes, incluso los más avanzados?
«A pesar de los avances, la perfección ontológica sigue siendo esquiva. ¿Por ejemplo? Los artefactos comunes incluyen inconsistencias espacio-temporales en la iluminación y las sombras, anomalías en la representación de detalles finos como el cabello o los poros de la piel, parpadeos no naturales o asincronías labio-audio. La representación precisa de oclusiones y la coherencia tridimensional de los objetos generados sintéticamente aún presentan desafíos. Estos tics digitales, aunque sutiles, pueden ser detectados mediante un análisis forense exhaustivo y la aplicación de algoritmos diseñados para identificar patrones anómalos en la estructura de los datos visuales y auditivos».
¿En qué contextos los deepfakes van a proliferar con más fuerza?
«Las redes sociales, dada su ubicuidad y su papel como vectores de información -y desinformación-, seguirán siendo un terreno fértil para la diseminación de deepfakes con fines de manipulación o influencia. La industria del contenido para adultos ya ha experimentado un uso indebido y es probable que esta tendencia persista. En esencia, cualquier plataforma donde la percepción de la realidad se vea mediada por contenido digital es susceptible a la infiltración y el uso malicioso de deepfakes. La vigilancia y la implementación de mecanismos de autenticación robustos serán cruciales».
Rodrigo Moyano, CGO de Grupo Raya, cree que la posibilidad de crear videos realistas al gusto personal no es inherentemente negativa: «Cuando se usa con un propósito, transparencia y una buena idea creativa detrás, lo que estamos haciendo no es falsificar, sino abrir nuevas posibilidades narrativas. Estamos usando tecnología para conectar mejor, para emocionar, para contar historias de formas que antes eran impensables. Y eso no es engañar, eso es evolucionar».
La clave, recalca, es el uso ético de las plataformas: «Los deepfakes tienen potencial de convertirse creativamente en acciones interesantes. La clave está en el consentimiento y en mantener una narrativa transparente».
¿Dónde está el límite ético en el uso de rostros o voces generadas por IA en campañas publicitarias? ¿Importa si el consumidor sabe o no que está viendo un deepfake?
«El límite ético comienza con el consentimiento de las personas involucradas, incluso si se trata de una figura pública. Usar un rostro o una voz sin permiso, aunque sea virtualmente recreado, puede ser percibido como manipulación o incluso suplantación. Y sí, importa mucho que el consumidor sepa que está viendo un contenido generado por IA. La transparencia genera confianza. Ocultar que es un deepfake puede generar un efecto contrario: en vez de innovar, la marca puede parecer engañosa. Las personas valoran la autenticidad, incluso cuando proviene de una tecnología».
«La producción de falsificaciones con un nivel suficiente para el engaño es factible con un teléfono de gama media» Daniel Molina
