El freno a la IA impacta en los mercados: ¿conciencia o truco para potenciar el sector de ciberseguridad?

Hay consenso en frenar ante las últimas amenazas que puede generar la Inteligencia Artificial, pero también dudas sobre este movimiento del sector de forma unánime. El acuerdo llega tras casos de descontrol de esta tecnología y advertencias de trabajadores, pero también en medio de un creciente sentimiento negativo contra esta tecnología y con mayores tensiones en los mercados financieros y no olvidemos que la IA sigue necesitando tiempo y dinero para ser rentable.

Algunas voces dicen que estos avisos catastrofistas son interesados. Que las propias empresas pueden frenar si consideran que hay peligros, sin necesidad de nueva regulación. Y hasta el jefe de los chips de Nvidia ha dicho que las grandes advertencias lo que están es diseñando un nuevo mercado para vender ciberseguridad.

En los últimos días las cuatro gigantes de la IA han pedido echar el freno. Las propias empresas, algo bastante inaudito, piden más controles y alertan de los riesgos de avanzar tan rápido. La última en hacerlo ha sido OpenAI que ha decidido retrasar su salida a bolsa. Y como contrapeso a esto, China, que cree que este tipo de afirmaciones son simplemente tácticas de guerra fría.

Lo cierto es que el freno a la Inteligencia Artificial ha provocado que esta noche las asiáticas, ahora las europeas, y en un rato, Wall Street abrirá a la baja. Las bolsas caen arrastradas por las pérdidas de los sectores tecnológicos más vinculados a la inteligencia artificial: Por una parte, las empresas de chips y los fabricantes de memoria y, por otra, las que han hecho grandes inversiones en las compañías de IA.Y es que estos planes para ralentizarla llegan a unos mercados, que se han apoyado en ella para crecer y que también han mostrado dudas también de si estábamos ante una burbuja.

Dario Amodei, de Anthropic ha dicho que se seguirán lanzando modelos más y más avanzados, pero que deben asegurarse de que se someten a las pruebas adecuadas. Sam Altaman, ha dicho que gestionar el ritmo no es detenerlo, que el progreso ha sido rápido y seguirá siéndolo, pero que debería avanzarse más despacio de lo posible porque la seguridad y la supervisión llevan costes significativos.

Musk se suma a la iniciativa de frenar con la IA y Trump no lo comparte

Por su parte Donald Trump rechaza todas estas afirmaciones y anima a seguir en la carrera como hasta ahora. Elon Musk xAI coincide con sus rivales, Dario Amodei de Anthropic, Sam Altman de OpenAI y Demis Hassabis de Google DeepMind en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) por los riesgos de seguridad que representa.

Musk, creador de la compañía xAI de inteligencia artificial, ha respaldado en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria "un ritmo más lento" en el desarrollo de esta tecnología por riesgos como perder el control de los sistemas de IA y disrupción económica. "Dario tiene razón", ha escrito este sábado Musk en su red social, X. Con ello, el fundador de Tesla se ha sumado a Altman, quien este sábado también apoyó el llamamiento de Amodei para moderar la velocidad de la IA.

Los líderes de OpenAI y Anthropic anunciaron que sus compañías permitirán que evaluadores independientes auditen sus sistemas, algo que Musk no indicó de manera expresa para su empresa.

En su ensayo, Amodei advirtió del mal uso de la IA para posibles ciberataques y bioterrorismo al considerar que, "desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA".

El creador de Anthropic se refirió en concreto al incidente de los agentes de OpenAI contra la empresa Hugging Face, en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso".

Para atajar la amenaza, Amodei planteó una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China.

El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizar un debate público adecuado y reducir el riesgo de que la tecnología escape al control de la sociedad.

El escrutinio sobre la IA creció esta semana, cuando un investigador de Anthropic renunció por la preocupación de que la empresa y sus competidores no estuvieran desarrollando modelos de IA de manera responsable. El investigador, Jacob Coxon, quien también trabajó para OpenAI, competidora de Anthropic, afirmó que dichas compañías estaban más centradas en superarse mutuamente que en la seguridad de sus productos.