Demis Hassabis advierte del riesgo de perder el control de la IA y propone un organismo de evaluación

Fecha:

Demis Hassabis, cofundador y consejero delegado de Google DeepMind, ha advertido públicamente que el desarrollo de la inteligencia artificial avanza a mayor velocidad de la que somos capaces de comprender. En un extenso artículo publicado en X (antes Twitter), el directivo —galardonado con el Premio Nobel de Química 2024 por sus trabajos en predicción de estructuras proteicas— plantea que la inteligencia artificial general (AGI), capaz de exhibir todas las capacidades cognitivas del cerebro humano, podría materializarse en apenas unos años.

Ilustración conceptual abstracta sobre regulación y supervisión de inteligencia artificial
Ilustración generada con IA

Según informa Xataka, Hassabis reconoce que «estamos atrapados en una carrera comercial y geopolítica extremadamente intensa» en la que «los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología». Su diagnóstico es claro: «Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo».

Un marco regulatorio antes de que sea tarde

La propuesta del directivo de Google DeepMind pasa por crear en Estados Unidos un organismo especializado en evaluar los modelos de inteligencia artificial más avanzados antes de que lleguen al mercado. Este organismo, concebido como una asociación público-privada o entidad autorregulada con supervisión federal, contaría con una junta integrada por especialistas independientes y representantes del ecosistema de código abierto.

La institución definiría qué umbrales convierten a un sistema en un modelo de frontera y diseñaría evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo. En una primera fase voluntaria, los laboratorios compartirían sus modelos hasta 30 días antes del lanzamiento; posteriormente, la cooperación podría transformarse en requisito obligatorio. Cualquier modelo considerado de frontera tendría que aprobar la evaluación antes de comercializarse en territorio estadounidense.

Contexto europeo: el AI Act ya en vigor

La preocupación por regular la inteligencia artificial no es exclusiva de Estados Unidos. En Europa, el AI Act europeo ya establece obligaciones para las empresas españolas que desarrollan o implementan sistemas de IA, con especial foco en aquellos considerados de alto riesgo. El marco normativo europeo entró en vigor de forma escalonada a lo largo de 2024 y 2025, anticipándose al debate que ahora se intensifica en la otra orilla del Atlántico.

Hassabis lleva su propuesta más allá: si la gravedad de los riesgos lo justificara, el marco podría utilizarse para coordinar una ralentización del desarrollo entre los principales laboratorios. Su planteamiento intenta sostener dos ideas simultáneas: la inteligencia artificial puede convertirse en una herramienta extraordinaria para la ciencia, la medicina y la economía, pero ese potencial no elimina la necesidad de establecer controles y mecanismos de supervisión.

Un debate abierto sin consenso

La inquietud de Hassabis no es aislada. Geoffrey Hinton, considerado uno de los padres del aprendizaje profundo, ha reconocido públicamente que desconocemos si podremos conservar el control de sistemas más inteligentes que nosotros. Yoshua Bengio, otro referente del sector, reclama más investigación y mecanismos específicos para supervisarlos. En 2023, Elon Musk firmó una carta abierta que pedía pausar durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4, aunque meses después anunció xAI y pasó a competir directamente en este mercado.

La propuesta de Hassabis añade una hoja de ruta concreta a una discusión en la que todavía abundan más las incógnitas que las certezas. Queda por ver si el organismo que propone tendría cabida, si sus evaluaciones serían realmente eficaces y si los laboratorios y los gobiernos aceptarían someterse a ellas cuando entraran en conflicto con sus propios intereses. El impacto de la inteligencia artificial en el empleo y en la estructura económica global continúa siendo uno de los temas centrales del debate tecnológico y político en 2026.

«Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta», afirmó Hassabis en su artículo.

Las grandes tecnológicas destinan inversiones multimillonarias a chips, servidores y centros de datos, mientras Estados Unidos y China compiten por el liderazgo en capacidad de computación. En este contexto de aceleración tecnológica sin precedentes, la advertencia de uno de sus principales protagonistas plantea una pregunta incómoda: ¿estamos preparados para gestionar aquello que estamos construyendo?


Compartir noticia:

Popular

Esto te interesa
Noticias

Burger King cancela su colaboración con el streamer El Xokas por comentarios polémicos

La cadena de comida rápida retira el menú del creador de contenido gallego tras una oleada de críticas en redes por sus declaraciones machistas y salidas de tono.

Naturgy invierte 300 millones en Australia para su mayor proyecto renovable

La energética española desarrollará una planta híbrida solar-batería de 330 MW en Queensland, la segunda mayor de Australia en su categoría.

Cómo tributan las inversiones en el IRPF: acciones, fondos y criptomonedas

Invertir en bolsa, fondos de inversión o criptomonedas tiene implicaciones fiscales que muchos inversores desconocen. Explicamos cómo tributan las plusvalías, los dividendos y los rendimientos en la declaración de la renta española.

Plan de pensiones o PIAS: cómo complementar la jubilación en España

La pensión pública española difícilmente cubrirá sola las necesidades de la jubilación. Planes de pensiones privados y PIAS son las dos herramientas más populares para construir un complemento. Te explicamos sus diferencias y ventajas fiscales.