Demis Hassabis advierte del riesgo de perder el control de la IA y propone un organismo de evaluación

Fecha:

Demis Hassabis, cofundador y consejero delegado de Google DeepMind, ha advertido públicamente que el desarrollo de la inteligencia artificial avanza a mayor velocidad de la que somos capaces de comprender. En un extenso artículo publicado en X (antes Twitter), el directivo —galardonado con el Premio Nobel de Química 2024 por sus trabajos en predicción de estructuras proteicas— plantea que la inteligencia artificial general (AGI), capaz de exhibir todas las capacidades cognitivas del cerebro humano, podría materializarse en apenas unos años.

Ilustración conceptual abstracta sobre regulación y supervisión de inteligencia artificial
Ilustración generada con IA

Según informa Xataka, Hassabis reconoce que «estamos atrapados en una carrera comercial y geopolítica extremadamente intensa» en la que «los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología». Su diagnóstico es claro: «Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo».

Un marco regulatorio antes de que sea tarde

La propuesta del directivo de Google DeepMind pasa por crear en Estados Unidos un organismo especializado en evaluar los modelos de inteligencia artificial más avanzados antes de que lleguen al mercado. Este organismo, concebido como una asociación público-privada o entidad autorregulada con supervisión federal, contaría con una junta integrada por especialistas independientes y representantes del ecosistema de código abierto.

La institución definiría qué umbrales convierten a un sistema en un modelo de frontera y diseñaría evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo. En una primera fase voluntaria, los laboratorios compartirían sus modelos hasta 30 días antes del lanzamiento; posteriormente, la cooperación podría transformarse en requisito obligatorio. Cualquier modelo considerado de frontera tendría que aprobar la evaluación antes de comercializarse en territorio estadounidense.

Contexto europeo: el AI Act ya en vigor

La preocupación por regular la inteligencia artificial no es exclusiva de Estados Unidos. En Europa, el AI Act europeo ya establece obligaciones para las empresas españolas que desarrollan o implementan sistemas de IA, con especial foco en aquellos considerados de alto riesgo. El marco normativo europeo entró en vigor de forma escalonada a lo largo de 2024 y 2025, anticipándose al debate que ahora se intensifica en la otra orilla del Atlántico.

Hassabis lleva su propuesta más allá: si la gravedad de los riesgos lo justificara, el marco podría utilizarse para coordinar una ralentización del desarrollo entre los principales laboratorios. Su planteamiento intenta sostener dos ideas simultáneas: la inteligencia artificial puede convertirse en una herramienta extraordinaria para la ciencia, la medicina y la economía, pero ese potencial no elimina la necesidad de establecer controles y mecanismos de supervisión.

Un debate abierto sin consenso

La inquietud de Hassabis no es aislada. Geoffrey Hinton, considerado uno de los padres del aprendizaje profundo, ha reconocido públicamente que desconocemos si podremos conservar el control de sistemas más inteligentes que nosotros. Yoshua Bengio, otro referente del sector, reclama más investigación y mecanismos específicos para supervisarlos. En 2023, Elon Musk firmó una carta abierta que pedía pausar durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4, aunque meses después anunció xAI y pasó a competir directamente en este mercado.

La propuesta de Hassabis añade una hoja de ruta concreta a una discusión en la que todavía abundan más las incógnitas que las certezas. Queda por ver si el organismo que propone tendría cabida, si sus evaluaciones serían realmente eficaces y si los laboratorios y los gobiernos aceptarían someterse a ellas cuando entraran en conflicto con sus propios intereses. El impacto de la inteligencia artificial en el empleo y en la estructura económica global continúa siendo uno de los temas centrales del debate tecnológico y político en 2026.

«Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta», afirmó Hassabis en su artículo.

Las grandes tecnológicas destinan inversiones multimillonarias a chips, servidores y centros de datos, mientras Estados Unidos y China compiten por el liderazgo en capacidad de computación. En este contexto de aceleración tecnológica sin precedentes, la advertencia de uno de sus principales protagonistas plantea una pregunta incómoda: ¿estamos preparados para gestionar aquello que estamos construyendo?


Compartir noticia:

Popular

Esto te interesa
Noticias

El Tesoro de EEUU duplica el volumen de recompra de bonos hasta 4.000 millones por operación

La medida entra en vigor el 9 de septiembre para reforzar la liquidez en bonos a largo plazo, mientras la rentabilidad del bono a 30 años alcanza máximos de dos décadas.

España se prepara para convertirse en el centro de producción europeo del coche chino

MG, Chery y Geely van a crear tres plantas de ensamblaje en territorio español, además de fabricar modelos en colaboración con Ford y Stellantis.

Thales Alenia Space factura 120 millones en España en 2025, un 30% más que el año previo

La filial española de la joint venture espacial registró un beneficio neto de 7,56 millones de euros, según las cuentas depositadas en el Registro Mercantil.

Suiza acumula 2.544 kilómetros de túneles para sortear los Alpes y vertebrar Europa

El país alpino cuenta con 1.852 túneles que atraviesan el 60% de su territorio montañoso. El Gotardo, con 57,1 kilómetros, es el túnel ferroviario más largo del mundo.