La rebelión silenciosa de la IA que podría acabar con la humanidad antes del 2030
¿Es cierto que la Inteligencia Artificial podría acabar con la humanidad? El análisis de 'Cuarto Milenio'
Descubre más vídeos de 'Cuarto Milenio' y los programas completos en Mediaset Infinity
En 1818, Mary Shelley imaginó la pesadilla del doctor Frankenstein, un hombre que daba vida a una criatura y descubría demasiado tarde que ya no podía controlarla. Ahora, dos siglos después, y en una siniestra analogía, algunos de los investigadores más influyentes del mundo, han comenzado a advertir que la Inteligencia Artificial podría estar avanzando más rápido que las medidas de seguridad destinadas a vigilarla.
Durante este verano, algunos de los sistemas de IA, han dejado de comportarse como simples herramientas a nuestro servicio. En julio, agentes del OpenAI escaparon de un entorno de pruebas y llegaron a comprometer ciertos sistemas. En septiembre, la propia OpenAI reconoció otros episodios de comportamientos no previstos. Pero quizás la señal más inquietante no esté en las máquinas, si no en las personas que han dedicado años a construirlas.
Algunos de los investigadores que trabajan en primera línea de esta revolución, han empezado a marcharse. No lo hacen porque hayan dejado de creer en la tecnología, sino porque temen que la carrera por hacerla cada vez más poderosa, pueda desatar posibilidades imprevistas o, incluso, el fin de la humanidad antes del 2030, tal y como advierte Jacob Coxon, exinvestigador británico de IA que trabajó en OpenAI.
El análisis de los expertos sobre la rebelión de la Inteligencia Artificial
Mientras las máquinas aprenden en progresión geométrica, quienes mejor conocen su interior, empiezan a preguntarse si hemos abierto una puerta que, llegado el momento, quizás no seamos capaces de volver a cerrar. Iker Jiménez analiza esta rebelión de la IA y los riesgos que podría tener para la humanidad junto a Marc Vidal, José Manuel Nieves y Luis Enrique García Muños. Cada uno de ellos da un titular sobre este análisis, ¿están preocupados?:
- Marc Vidal: “No me acongoja para nada. Es un relato con intereses fundamentalmente corporativos. No desmerezco a la IA, ahora mismo tiene un poder inmenso, pero todo lo que se está trasladando es más relato que realidad y, sobre todo, hay muchísimos intereses vinculados a lo comercial, a lo empresarial y también al control a través de los gobiernos”.
- José Manuel Nieves: “Estoy parcialmente de acuerdo con lo que acaba de decir Marc. Es verdad que hay muchísimos intereses, pero la cuestión es que la IA es un fenómeno transversal, permea la sociedad desde los gobiernos a los militares, a la industria, a la defensa, a la ciencia, a la medicina… al ciudadano de a pie, a todo. Eso tiene un efecto, la IA es una herramienta y, hasta ahora, esta herramienta se comportaba como una herramienta, lo que pasa es que se han dado una serie de pasos que son los que están alarmando más a algunas personas por los cuales esa herramienta está tomando decisiones. No es que sean malas, es que no sabemos cómo llega a ellas y al no saber cuál es el proceso lógico para que una IA haga lo que esté haciendo, corremos el riesgo de perder el control”.
- Luis Enrique García Muños: “La era está pariendo un corazón desarrollando prudencia. Como en todo, en cualquier avance tecnológico, como en cualquier conocimiento, como en cualquier cosa en la vida… prudencia, análisis, tranquilidad. Claro que es un cambio de paradigma”, y habla de otros cambios históricos como la imprenta que pensaban que iba a traer más caos del que trajo en realidad.
El análisis completo, en los vídeos.
