Demis Hassabis advierte del riesgo de perder el control de la IA y propone un organismo de evaluación

Fecha:

Demis Hassabis, cofundador y consejero delegado de Google DeepMind, ha advertido públicamente que el desarrollo de la inteligencia artificial avanza a mayor velocidad de la que somos capaces de comprender. En un extenso artículo publicado en X (antes Twitter), el directivo —galardonado con el Premio Nobel de Química 2024 por sus trabajos en predicción de estructuras proteicas— plantea que la inteligencia artificial general (AGI), capaz de exhibir todas las capacidades cognitivas del cerebro humano, podría materializarse en apenas unos años.

Ilustración conceptual abstracta sobre regulación y supervisión de inteligencia artificial
Ilustración generada con IA

Según informa Xataka, Hassabis reconoce que «estamos atrapados en una carrera comercial y geopolítica extremadamente intensa» en la que «los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología». Su diagnóstico es claro: «Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo».

Un marco regulatorio antes de que sea tarde

La propuesta del directivo de Google DeepMind pasa por crear en Estados Unidos un organismo especializado en evaluar los modelos de inteligencia artificial más avanzados antes de que lleguen al mercado. Este organismo, concebido como una asociación público-privada o entidad autorregulada con supervisión federal, contaría con una junta integrada por especialistas independientes y representantes del ecosistema de código abierto.

La institución definiría qué umbrales convierten a un sistema en un modelo de frontera y diseñaría evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo. En una primera fase voluntaria, los laboratorios compartirían sus modelos hasta 30 días antes del lanzamiento; posteriormente, la cooperación podría transformarse en requisito obligatorio. Cualquier modelo considerado de frontera tendría que aprobar la evaluación antes de comercializarse en territorio estadounidense.

Contexto europeo: el AI Act ya en vigor

La preocupación por regular la inteligencia artificial no es exclusiva de Estados Unidos. En Europa, el AI Act europeo ya establece obligaciones para las empresas españolas que desarrollan o implementan sistemas de IA, con especial foco en aquellos considerados de alto riesgo. El marco normativo europeo entró en vigor de forma escalonada a lo largo de 2024 y 2025, anticipándose al debate que ahora se intensifica en la otra orilla del Atlántico.

Hassabis lleva su propuesta más allá: si la gravedad de los riesgos lo justificara, el marco podría utilizarse para coordinar una ralentización del desarrollo entre los principales laboratorios. Su planteamiento intenta sostener dos ideas simultáneas: la inteligencia artificial puede convertirse en una herramienta extraordinaria para la ciencia, la medicina y la economía, pero ese potencial no elimina la necesidad de establecer controles y mecanismos de supervisión.

Un debate abierto sin consenso

La inquietud de Hassabis no es aislada. Geoffrey Hinton, considerado uno de los padres del aprendizaje profundo, ha reconocido públicamente que desconocemos si podremos conservar el control de sistemas más inteligentes que nosotros. Yoshua Bengio, otro referente del sector, reclama más investigación y mecanismos específicos para supervisarlos. En 2023, Elon Musk firmó una carta abierta que pedía pausar durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4, aunque meses después anunció xAI y pasó a competir directamente en este mercado.

La propuesta de Hassabis añade una hoja de ruta concreta a una discusión en la que todavía abundan más las incógnitas que las certezas. Queda por ver si el organismo que propone tendría cabida, si sus evaluaciones serían realmente eficaces y si los laboratorios y los gobiernos aceptarían someterse a ellas cuando entraran en conflicto con sus propios intereses. El impacto de la inteligencia artificial en el empleo y en la estructura económica global continúa siendo uno de los temas centrales del debate tecnológico y político en 2026.

«Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta», afirmó Hassabis en su artículo.

Las grandes tecnológicas destinan inversiones multimillonarias a chips, servidores y centros de datos, mientras Estados Unidos y China compiten por el liderazgo en capacidad de computación. En este contexto de aceleración tecnológica sin precedentes, la advertencia de uno de sus principales protagonistas plantea una pregunta incómoda: ¿estamos preparados para gestionar aquello que estamos construyendo?


Compartir noticia:

Popular

Esto te interesa
Noticias

UGT propone suspender temporalmente la huelga en Airbus para reanudar negociaciones

El sindicato someterá a votación este lunes la suspensión de algunos días de paro en varias plantas para demostrar voluntad de acuerdo, tras 15 horas de mediación sin consenso salarial.

Casi el 60% de los adultos podría padecer aterosclerosis sin saberlo, según estudio

Investigación del CNIC y Rigshospitalet revela que el 57,1% de 16.808 personas sin síntomas presentaba placas en arterias.

Crece la tensión social en Ceuta un mes después de la entrada masiva de 80.000 inmigrantes

El Gobierno anuncia 44,5 millones en ayudas y medidas de refuerzo fronterizo ante el malestar ciudadano y los disturbios registrados tras un mes de crisis migratoria sin precedentes.

Amper ampliará capital en 44 millones para cerrar la compra de Teltronic

La compañía cotizada someterá a junta el 30 de septiembre una ampliación de 44 millones ligada a la adquisición de Teltronic por 225 millones a Nazca.