El científico de la
computación Geoffrey Hinton, conocido globalmente como uno de los «padrinos de
la inteligencia artificial» y galardonado con el Premio Nobel de Física en
2024, reiteró una severa advertencia sobre los riesgos sistémicos del
desarrollo descontrolado de modelos avanzados de IA. En una carta abierta
internacional firmada a mediados de octubre de 2026 junto a más de 400
investigadores —entre ellos el experto en redes neuronales Yoshua Bengio—,
Hinton instó a las organizaciones multilaterales y a los gobiernos a constituir
con carácter de urgencia un organismo regulador internacional encargado de
supervisar la contención de modelos con capacidades avanzadas de
ciberseguridad, autonomía y manipulación. La iniciativa busca evitar incidentes
graves en infraestructuras críticas y establecer protocolos estrictos que
impidan el despliegue no supervisado de sistemas de inteligencia general o
superinteligente.
La declaración
colectiva de la comunidad científica se produce en un contexto de creciente
preocupación por la velocidad de avance de los modelos de lenguaje masivo (LLM)
y los agentes autónomos de software. De acuerdo con los reportes publicados por
la revista especializada Silicon Republic y el medio canadiense BetaKit el 13 y
14 de octubre de 2026, los firmantes hicieron un llamado explícito a las
empresas desarrolladoras de tecnología para que apliquen el principio de
precaución y mantengan aislados de internet (mecanismo conocido como
air-gapping) aquellos modelos con capacidades ciberofensivas avanzadas. Según
el diagnóstico suscrito por los investigadores, sin regulaciones
internacionales vinculantes, los incidentes de seguridad digital y las fallas
de contención en agentes autónomos podrían generar daños sistémicos de gran
escala en sectores energéticos, financieros e institucionales.
Entre los puntos
normativos, advertencias operativas y propuestas técnicas formuladas por
Geoffrey Hinton y los científicos participantes en la iniciativa, destacan los
siguientes elementos:
- Creación de una
agencia internacional de supervisión: Conforme a lo expuesto en el pronunciamiento
reportado por The Independent el 14 de octubre de 2026, Hinton planteó la
necesidad de establecer un organismo de gobernanza global equivalente a la
Agencia Internacional de Energía Atómica (AIEA), con facultad para inspeccionar
centros de datos de alta capacidad de cómputo y auditar los entrenamientos de
modelos frontera (frontier models).
- Rechazo a la
autorregulación corporativa: En
declaraciones recogidas por The Independent, Hinton cuestionó que las grandes
corporaciones de Silicon Valley diseñen sus propios estándares de seguridad,
comparando la situación con la industria del tabaco o del asbesto. El
científico sostuvo que permitir la autorregulación privada imposibilita
garantizar la seguridad pública cuando los incentivos comerciales priorizan la
velocidad de despliegue sobre la contención.
- Aislamiento de
modelos con potencial cibernético:
De acuerdo con la información difundida por Silicon Republic el 14 de octubre
de 2026, el manifiesto solicita que cualquier modelo capaz de ejecutar código
de explotación de vulnerabilidades de manera autónoma sea catalogado como de
alto riesgo y mantenido en entornos cerrados sin acceso a redes externas.
- Transparencia
obligatoria ante fallas de seguridad: Los más de 400 científicos e investigadores instaron
a las legislaciones nacionales a tipificar la obligación legal de hacer
públicas las brechas de seguridad, la manipulación no autorizada de agentes y
los fallos de comportamiento observados durante la fase de prueba de los
modelos.
El pronunciamiento de
Hinton ante la comunidad científica internacional le da continuidad a la
posición que ha sostenido desde su renuncia a la plantilla de investigadores de
Google en mayo de 2023. Desde entonces, el científico británico-canadiense ha dedicado
sus apariciones públicas a advertir que la brecha estimada para el surgimiento
de sistemas superinteligentes se ha reducido drásticamente de décadas a pocos
años. Asimismo, durante su intervención previa ante el Congreso de los Estados
Unidos en septiembre de 2026, reportada por la publicación económica Quartz,
Hinton advirtió a los legisladores norteamericanos que la ventana de
oportunidad política para dictar marcos regulatorios efectivos es
extremadamente estrecha, calculando un horizonte de aproximadamente un año
antes de que la complejidad técnica supere las capacidades institucionales de
control.
El debate ético
planteado por el científico también abarca las consecuencias socioeconómicas
del desarrollo tecnológico masivo. De acuerdo con análisis sobre la evolución
del mercado laboral publicados por la plataforma Medium e informes del Fondo
Monetario Internacional (FMI), Hinton sostiene que la adopción acelerada de
agentes inteligentes automatizará una fracción sustancial del trabajo cognitivo
de rutina en sectores como la atención al cliente, el análisis jurídico básico
y la gestión administrativa. El galardonado con el Premio Nobel advierte que
este proceso de sustitución de tareas incrementará la concentración de riqueza
corporativa a menos que los gobiernos adopten mecanismos de redistribución de
beneficios y fortalecimiento de las redes de protección social para los
trabajadores desplazados.
En la delimitación
técnica entre los consensos científicos confirmados dentro del manifiesto y los
desafíos regulatorios que permanecen abiertos a escala global, se destacan los
siguientes elementos:
- Lo confirmado: La publicación formal del manifiesto suscrito por
Geoffrey Hinton, Yoshua Bengio y más de 400 científicos e investigadores el 13
y 14 de octubre de 2026; la solicitud explícita de un regulador internacional
para la IA; la exigencia de aplicar aislamiento estricto a modelos con
potencial ciberofensivo; y las intervenciones previas de Hinton en órganos
legislativos como el Congreso de EE. UU.
- Lo que falta por
saber: La disposición real de
potencias tecnológicas como Estados Unidos y China para suscribir un tratado
internacional vinculante que limite el cómputo de entrenamiento; la fecha
concreta en la que los organismos multilaterales (como la ONU) someterán a votación
una resolución para la creación del regulador global; y la eficacia práctica
del aislamiento informático frente al avance exponencial de agentes autónomos.
El Premio Nobel de Física Geoffrey Hinton y más de 400 científicos pidieron la creación urgente de un regulador internacional para contener los riesgos de la inteligencia artificial.
Opinión:
El renombrado
investigador e informático Geoffrey Hinton, ha lanzado una contundente
advertencia global sobre los peligros latentes de la inteligencia artificial.
Durante su intervención, el especialista enfatizó la urgencia de regular esta
tecnología antes de que los avances se escapen del control humano, señalando
directamente los riesgos del despliegue no supervisado de agentes autónomos y
rechazando categóricamente la idea de que las grandes empresas tecnológicas se
autorregulen.
Desde un punto de vista
personal, respaldo plenamente la iniciativa donde el Premio Nobel Geoffrey
Hinton y más de 400 científicos piden un regulador internacional para la IA. La
creación de un organismo global resulta imprescindible para supervisar los avances,
fijar límites éticos claros y asegurar que el desarrollo tecnológico priorice
la seguridad colectiva.
MI interés es que el
lector comprendan la seriedad de su llamado: la proliferación descontrolada de
agentes autónomos y la falta de marcos normativos externos ponen en serio
peligro la estabilidad social y laboral. Para Hinton, confiar únicamente en la
ética o el criterio de las corporaciones privadas resulta una estrategia
insuficiente y riesgosa.
