Más de 1.000 gurús tecnológicos han pedido paralizar los proyectos de Inteligencia Artificial más potentes por sus posibles efectos catastróficos. Consideran que puede ser “una amenaza para la Humanidad”. En dicha carta, hablan de una carrera fuera de control con las mentes digitales y han pedido una pausa de al menos seis meses para reglarlo y poder adaptarnos a esos grandes avances.
Carles Sierra, director del Instituto de Inteligencia Artificial del CSIC, es uno de los firmantes de la carta y ha explicado en ‘Todo es mentira’ las razones que han llevado a los científicos a intentar poner freno a esta nueva tecnología.
“No se solicita que se detenga la investigación en Inteligencia Artificial, sino de inteligencia como el Chart GPT. Están diseñadas para construir texto que parezca humano, no se que sea cierto. Es el gran problema que planteamos y que puede tener consecuencias negativas: la gente considera que lo que genera el sistema es cierto y no es así”, ha explicado. Lo que piden en la carta es “parar esta carrera de armamentos que tienen las compañías sacando sistemas cada vez más evolucionados hasta conseguir seguridad”.
Carles Sierra ha aclarado que la Inteligencia Artificial no es en sí peligrosa, pero “este tipo de sistemas son incapaces de distinguir cosas que para nosotros son fáciles. El sistema puede dar respuestas a preguntas que haga la gente y pueden tomar decisiones basadas en esas respuestas y pueden ser muy erróneas”.
También ha hablado de que la tecnología supone una automatización de procesos, lo que puede afectar directamente al mercado laboral. Por lo que uno de los debates que habría que tener es decidir qué procesos son los que tienen que automatizarse.
Una de las grandes dudas es cómo controlar este tipo de tecnología. “La Unión Europea, con los temas de privacidad de datos, reaccionó. Con la Inteligencia Artificial está haciendo una ley que entrará en vigor a finales de este año. Ahora tenemos una nueva vuelta de tuerca con sistemas mucho más sofisticados y tenemos que reaccionar”, ha explicado el científico.