La carrera de la IA: todos quieren frenar, pero nadie quiere bajarse
Los mismos que construyeron el acelerador acaban de descubrir que existe el freno
Algo raro está pasando en Silicon Valley. Las personas que dirigen las empresas más importantes de inteligencia artificial —las mismas que llevan años compitiendo para sacar máquinas cada vez más rápidas y más autónomas— ahora dicen que hay que bajar la velocidad.
No hablan de apagar nada. Solo dicen: frenemos un poco. Y ahí está lo curioso: lo piden mientras siguen acelerando, porque ninguno quiere ser el primero en soltar el pie del acelerador si sospecha que el otro va a seguir pisándolo a fondo.
¿Quiénes son los que piden frenar?
Esta semana, cuatro de los hombres más poderosos de la industria coincidieron públicamente en algo que hace apenas un año hubiera sonado extraño: Dario Amodei, director ejecutivo de Anthropic; Sam Altman, director ejecutivo de OpenAI (la empresa de ChatGPT); Elon Musk, dueño de xAI; y Demis Hassabis, director de Google DeepMind.
Todo empezó con un texto de Amodei en el que pidió reducir la velocidad a la que se entrenan los nuevos modelos de IA, para dar tiempo a que los controles de seguridad no se queden atrás. Altman y Hassabis respondieron a favor, pidiendo más evaluaciones independientes. Musk lo resumió en pocas palabras: «Dario tiene razón».
¿Qué es exactamente lo que los asustó?
No es la típica escena de ciencia ficción, con robots caminando por la calle. Lo que preocupa a estos ejecutivos es algo más aburrido, pero más real. Se resume en tres puntos:
- Perder el control de los sistemas. Hoy existen inteligencias artificiales capaces de programar, investigar y tomar decisiones encadenadas durante horas, sin que una persona revise cada paso. El miedo es que, si algo sale mal, la máquina puede repetir el error miles de veces antes de que un humano se dé cuenta.
- Ciberataques y bioterrorismo. Amodei advirtió que una IA usada con mala intención podría facilitar ataques informáticos masivos o incluso ayudar a fabricar armas biológicas. También mencionó un escenario concreto: que en los próximos meses una red de programas automáticos (lo que él llama un «enjambre») intente tomar el control de partes de internet.
- Un golpe económico serio. Si algo de esto llegara a pasar a gran escala, hablan de pérdidas que se cuentan en cientos de miles de millones de dólares.
El problema de fondo: nadie quiere frenar solo
Aquí aparece la trampa. Frenar solo tiene sentido si todos frenan al mismo tiempo. Pero apenas se habla de bajar el ritmo, aparece la palabra que arruina la conversación: China. Si Estados Unidos frena y China no, Estados Unidos queda atrás. Por eso, aunque las empresas pidan más controles, ninguna quiere quedarse rezagada frente a sus competidores, ni el país quiere quedar rezagado frente al resto del mundo.
De hecho, el gobierno de Donald Trump ya dijo que no piensa frenar el desarrollo de la IA, justamente por temor a perder terreno frente a China. Es decir: los que fabrican la tecnología piden un límite, pero quien tiene el poder de imponerlo políticamente, por ahora, no está dispuesto a hacerlo.
Una regulación que también les conviene
Hay otra cara de esta historia. Pedir reglas no es solo un gesto de responsabilidad: también puede ser un buen negocio para quien ya es grande. Cumplir con controles, auditorías y equipos de seguridad cuesta mucho dinero. Una empresa gigante lo puede pagar sin problema. Una empresa chica, recién nacida, quizás no. Entonces una regulación pensada para frenar a los gigantes puede terminar, sin querer, dejando afuera a los que recién empiezan.
Mientras tanto, nosotros seguimos pidiéndole que nos escriba el correo
Y acá está lo más llamativo de todo. Mientras los dueños de esta tecnología discuten escenarios de control global, ciberataques y bioterrorismo, la mayoría de nosotros la usamos para cosas mucho más simples: escribir un mail, resumir una reunión, traducir una receta, o decidir cómo responderle a alguien que puso apenas un «ok» y no sabemos si está enojado.
Tenemos entre manos algo que puede cambiar el mundo, y todavía estamos aprendiendo a usarlo para que nos ordene la lista del supermercado.
¿Y ahora quién frena primero?
Nadie sabe cuánto habría que frenar, ni quién debería dar el primer paso, ni cómo controlar al que decida no hacerlo. Los que inventaron el acelerador ahora buscan el freno. Los gobiernos quieren poner límites, pero temen quedarse atrás.
Las empresas piden reglas, pero no demasiadas. Y nosotros, los pasajeros, seguimos mirando por la ventanilla, tratando de entender si esto es una autopista hacia el futuro o una ruta sin ninguna señal.