Manu Fernández explica cómo los delincuentes aprovechan la IA
Afirma que usan los datos que las personas van dejando en sus redes sociales.
En media hora Manu Fernández expuso una realidad que preocupa. «El lado práctico del crimen con IA», se llamó su charla en el 9° Seminario Internacional de Cyberseguridad, organizado por la PDI.
Él tiene experiencia en la materia. Fue agente de la Unidad Central de Cyberdelincuencia de la policía catalana Mossos dEsquadra y colaboró con la Fiscalía de Cybercrimen de Madrid. Actualmente está especializado en rastreo de criptomonedas, recuperación de activos digitales, persecución de delitos financieros complejos y trabaja en la compañía TRM Labs.
Para Fernández la principal amenaza es que el crimen organizado sabe aprovechar muy bien los agentes de IA, que son los sistemas informáticos autónomos capaces de utilizar distintas herramientas tecnológicas para resolver tareas complejas.
«Al igual que nosotros lo podemos utilizar en un sentido, los criminales lo pueden utilizar en el contrario. Si nosotros, desde la función pública, no dotamos a los investigadores de esas capacidades, hay un problema de escala. Ellos escalan mucho más rápido que cualquier humano que pueda investigar de manera tradicional. Por eso es bien importante que nos igualemos con agentes investigativos. Ahora los delincuentes van en un Ferrari y nosotros en un monopatín», afirma.
¿De qué manera ellos usan los agentes de IA?
«De muchas maneras. Imaginemos que el límite es la imaginación del criminal. Por ejemplo, rastrean los perfiles de LinkedIn buscando los CEO de las marcas y luego a sus redes de contacto. Estamos luchando contra un crimen transfronterizo, que ya no necesita estar ubicado en el país para cometer ese crimen, pues está potenciado con IA, y la contraparte es que la lucha se está haciendo con herramientas tradicionales».
«La censura»
Fernández pone atención también en lo que denomina «la fragilidad de la censura en la IA».
¿A qué se refiere?
«Los criminales intentan manejar toda la información que hay en la red. La información que nosotros, probablemente de manera inconsciente, muchas veces brindamos, hace que puedan hacer un perfilado de cualquier persona, básicamente mirando su LinkedIn, su Facebook, etcétera. Es una fuente rica de información que no tiene censura. Si yo voy a un organismo público y pido información de una persona, probablemente existen mecanismos legales que no lo permiten, pues existe una protección de datos. En cambio, en las redes sociales, es el lejano oeste. Ahí vale la censura que tú hayas implementado en tus redes. Y, por desgracia, muchas personas no lo hacen. Es una fuente de información vasta y sin ningún tipo de control, porque el propio usuario está generando esa información».
¿De qué manera nos podemos proteger?
«La autoprotección es básica. También creo que los organismos gubernamentales tienen que hacer campañas de difusión explicando los riesgos de compartir información. Es complejo. Hay multigeneraciones utilizando la tecnología. Un nativo digital probablemente no tenga conciencia de lo valioso que son sus datos en la red. En cambio, la gente que es agnóstica al uso de esas herramientas, tiene una protección adicional».
¿Cómo se puede activar una censura en cuanto los datos que entrega la IA?
«En mi imaginario creo que tiene que ser a nivel de consensos internacionales. La jurisdicción local que podamos desarrollar en Chile, Perú, España o Francia no va a incidir en cómo se desarrolle un modelo en Estados Unidos, o en China. Tienen que ser esfuerzos globales de buscar acuerdos internacionales acerca de cómo se debe desarrollar la IA con mecanismos de seguridad».
Pero la tecnología no sólo les proporciona información de otras personas: «Ahora mismo están haciendo lo que se llama lavado programático, que les permite generar direcciones aleatorias con IA, hacer pequeños envíos, dispersar los fondos, y todos estos movimientos, que son ciertamente manuales, los automatizan con la IA. Todo esto acaba desembocando en que mueven el dinero de manera programática. Entonces le dan a un botón, se generan cuentas de criptomonedas y eso permite que la trazabilidad de esos fondos, el follow the money, sea bien complicada».
