Demis Hassabis advierte del riesgo de perder el control de la IA: "Nadie sabe con certeza qué va a ocurrir"
El premio Nobel y cofundador de DeepMind, Demis Hassabis, alerta sobre la posibilidad de que la inteligencia artificial escape al control humano. En una entrevista reciente, señaló que ni siquiera los expertos pueden predecir con certeza la evolución de la tecnología.
El premio Nobel de Química 2024 y cofundador de DeepMind, Demis Hassabis, ha lanzado una advertencia sobre los riesgos de perder el control de la inteligencia artificial (IA). En una entrevista publicada este jueves, Hassabis afirmó que "nadie sabe con certeza qué va a ocurrir" en el desarrollo de sistemas de IA avanzados, subrayando la incertidumbre que rodea a tecnologías que podrían superar la capacidad humana.
Hassabis, que recibió el Nobel por sus contribuciones al aprendizaje automático, señaló que la comunidad científica aún no tiene respuestas definitivas sobre cómo garantizar que la IA se mantenga alineada con los valores humanos. "Estamos construyendo sistemas que podrían ser más inteligentes que nosotros, y no tenemos un plan claro para asegurarnos de que sigan siendo beneficiosos", declaró.
El científico comparó la situación actual con los primeros días de la energía nuclear, cuando los riesgos no se comprendían completamente. "Necesitamos una investigación rigurosa sobre seguridad y control, similar a los protocolos que se desarrollaron para la energía atómica", añadió.
Las declaraciones de Hassabis se producen en un contexto de creciente debate sobre la regulación de la IA. Gobiernos de todo el mundo, incluida la Unión Europea con su AI Act, buscan establecer marcos legales, pero los expertos advierten que la velocidad del avance tecnológico supera la capacidad de respuesta legislativa.
Fuente: Xataka
La incertidumbre es real, pero el alarmismo no ayuda.
Las palabras de Hassabis no son una novedad, sino un recordatorio de algo que los que seguimos de cerca esta industria sabemos desde hace años: la IA avanza más rápido que nuestra capacidad de entender sus implicaciones. Sin embargo, me preocupa que este tipo de declaraciones, aunque honestas, puedan alimentar un pánico infundado si se sacan de contexto.
Lo que realmente necesitamos no es más retórica sobre el fin del mundo, sino mecanismos concretos de verificación y control. Hassabis acierta al pedir investigación en seguridad, pero echo en falta una hoja de ruta clara. Mientras tanto, la industria sigue empujando productos al mercado sin garantías sólidas. Eso, y no la hipotética singularidad, es el riesgo inmediato.
— El AnalistaFuentes
Noticias relacionadas
Ver másLandmaxxing: la nueva estrategia de los ultrarricos para comprar barrios enteros
Los multimillonarios ya no se conforman con una mansión: ahora compran las propiedades vecinas para garantizar privacidad total. El 'landmaxxing' redefine el lujo inmobiliario en Estados Unidos.
El vídeo-selfi y el dilema de la biometría: cuando tu cara es la contraseña
Google permite ahora recuperar cuentas con un vídeo-selfi, pero la biometría facial plantea riesgos únicos: a diferencia de una contraseña, no se puede cambiar si es robada.
Sony REON Pocket Pro Plus: el aire acondicionado portátil que se lleva bajo la ropa
Sony lanza el REON Pocket Pro Plus, un dispositivo portátil de refrigeración que se coloca bajo la camiseta para combatir el calor en exteriores. Analizamos su funcionamiento, autonomía y precio.
Tenerife acumula más de 1.600 terremotos en dos días: los expertos piden calma
Un enjambre sísmico en Tenerife ha registrado más de 1.600 terremotos de baja magnitud en dos días. Los vulcanólogos insisten en que no hay señales de erupción inminente, pero la actividad es la mayor desde 2004.