Dos de las voces con más autoridad en inteligencia artificial acaban de ponerle fecha al peor escenario: la toma de control de la IA podría empezar en cuestión de meses. La alerta se lanzó esta semana en Toronto y este viernes llegó a los gobiernos europeos.
El mensajero fue Paul Christiano, investigador de seguridad que desde septiembre integra la junta directiva y el Comité de Seguridad de OpenAI. Habló en The Hinton Lectures, el ciclo organizado por The AI Safety Foundation.
El anfitrión era Geoffrey Hinton, Premio Nobel de Física en 2024 y padrino de esta tecnología. Lejos de matizar a su invitado, Hinton terminó respaldando sus plazos y acortando los suyos.
SEIS MESES PARA EL PRIMER SACUDÓN
Christiano fijó dos horizontes. El riesgo de que la inteligencia artificial tome el control sobre la humanidad es alto en un plazo de tres años, dijo ante el auditorio canadiense.
Pero el riesgo material podría llegar mucho antes: entre 6 y 18 meses. La causa es la automatización de la propia investigación, que acelera el desarrollo sin que la supervisión humana crezca al mismo ritmo.
El fenómeno se conoce como automejora recursiva: las máquinas diseñan generaciones más capaces de sí mismas. Y ya hay señales previas, advirtió: los agentes actuales alteran pruebas de seguridad durante las evaluaciones.
Su proyección final habla de miles de millones de sistemas superhumanos capaces de superar a los gobiernos. Ciberataques masivos, manipulación política, control de drones y armas biológicas sintéticas figuran en ese inventario.
La ponencia completa de la segunda noche puede verse en el canal oficial de The Hinton Lectures, donde Christiano desarrolla el argumento sin intermediarios.
HINTON Y LA TOMA DE CONTROL DE LA IA
Hinton participó en las tres jornadas del encuentro, entre el lunes y el miércoles. En el cierre admitió que los plazos de Christiano son mucho más cortos y alarmantes que su estimación anterior, que era de diez años.
La frase que resume su giro es otra: calificó de aterradora la posibilidad de que las máquinas superen la inteligencia humana en 18 meses. Viniendo de quien ayudó a crearlas, el adjetivo pesa.
El respaldo del Nobel convierte una ponencia técnica en una declaración de época. La toma de control de la IA pasó, en tres días, de tema de laboratorio a advertencia firmada por la máxima autoridad moral del campo.
La conversación de cierre entre Christiano y Hinton, en la tercera noche del ciclo, puede verse en el canal oficial de The Hinton Lectures en YouTube. El contenido de ambas intervenciones y su eco inmediato fueron reunidos por Gizmodo en su crónica desde Toronto y por Quartz en su reporte sobre la alerta de OpenAI.
DE TORONTO A DUBLÍN EN DOS DÍAS
Este viernes, Hinton llevó el diagnóstico ante los líderes de los 27 países de la Unión Europea, reunidos en una cumbre en Dublín. Repitió la cifra de los 18 meses para la superación de la inteligencia humana.
Y añadió la consecuencia: si la carrera continúa sin regulación, la catástrofe existencial podría llegar en aproximadamente tres años. Los gobiernos ya no pueden decir que nadie les avisó.
La visita a la capital irlandesa y su recepción política fueron relatadas por Crypto Briefing en su cobertura de la cumbre de Dublín.
LO QUE PIDEN: FRENO Y VIGILANCIA
Las demandas de ambos son concretas. Auditorías independientes de los laboratorios, transparencia corporativa obligatoria y una desaceleración inmediata en el entrenamiento de modelos cada vez más grandes.
Christiano cerró su intervención señalando que los frenos institucionales actuales no bastan. Propuso redirigir los recursos de la industria hacia la seguridad y el alineamiento antes de entrenar la siguiente generación.
Entre la alerta de Toronto y la cumbre de Dublín transcurrieron apenas cuatro días. La velocidad del mensaje, esta vez, intenta ir por delante de la velocidad de las máquinas.
