La Agencia Española de Protección de Datos detecta por primera vez un hackeo de un agente de IA
La novedad en este caso es que estamos ante un proceso desatendido, no digirido por un humano.
Este tipo de delitos abre la puerta también al desarrollo de una IA defensiva que reaccione ante ellos más rápido que un humano.
Otra amenaza más protagonizada por la Inteligencia Artificial. La Agencia Española de Protección de Datos ha detectado por primera vez en España el robo de datos informáticos a una empresa, no por un humano, si no por un agente de IA. En este caso en vez de haber un programador es el propio ordenador el que es capaz de meterse en las redes sociales, ver quiénes son nuestros seres queridos, buscar fechas de nacimiento y nombres, cruzarlas para hacer contraseñas que son los más habituales, nos roba la información que quieran y se va sin ningún rastro.
Un ejemplo más de que la IA no crea nuevas amenazas, los delincuentes informáticos han existido siempre, pero esta es la primera vez que la Agencia de Protección de Datos confirma que es una IA la que ha conseguido vulnerar de forma completa los sistemas informaticos de una empresa, se ha logueado, ha buscado cualquier vulnerabilidad, ha rastreado dentro de la empresa hasta encontrar la información fianciera que estaba buscando y la ha robado.
Es cierto que el uso de Inteligencia Artificial en hackeos informáticos no es nuevo. Pero una cosa es utilizarla para automatizar determinados procesos, por ejemplo en las estafas telefónicas, o en la búsqueda de perfiles, para peinar grandes bases de datos de contraseñas robadas, siempre controlada por un humano, y otra cosa es lo que ha sucedido aquí que es un proceso desatendido.
Es decir, yo le doy a la IA la instrucción de que se meta en un sistema informático y me busque determinada información y que él mismo sea capaz de plantear el ataque, la estrategia, modificarlo y conseguirlo de una forma mucho más rapida y sobre todo, no mecánica, porque es una IA generativa.
Y esta realidad puede cambiarlo todo y para mal. Un análisis del Centro Criptológico Nacional sobre la llamada IA ofensiva este verano ya hablaba de dos parámetros importantes: la capacidad que va a tener de atacar de una forma masiva y más rápida los sistemas informáticos, y la evidencia de que habrá que tener también en esos sistemas IA defensiva capaz de tomar decisiones contra estos ataques con una reacción más rápida a la de los humanos.