OpenAI y Anthropic advierten sobre el riesgo de que la IA facilite la creación de armas biológicas
Las principales empresas de inteligencia artificial piden al Congreso de EE.UU. que regule la venta de ADN sintético para evitar que los modelos de IA sean utilizados en el desarrollo de armas biológicas.
OpenAI y Anthropic, dos de las empresas líderes en inteligencia artificial, han elevado su voz de alerta ante el Congreso de Estados Unidos. Ambas compañías advierten que los modelos de lenguaje avanzados podrían ser utilizados por actores malintencionados para diseñar armas biológicas, si no se establecen controles estrictos sobre la venta de cadenas de ADN sintético.
En un comunicado conjunto, los CEOs de ambas firmas señalaron que, aunque la IA tiene un enorme potencial para el bien, también puede ser empleada para acelerar el desarrollo de patógenos peligrosos. La preocupación se centra en que los modelos de IA podrían ayudar a superar barreras técnicas que antes requerían conocimientos especializados, haciendo más accesible la creación de agentes biológicos nocivos.
La propuesta concreta es que el gobierno estadounidense implemente un sistema de verificación obligatoria para los pedidos de ADN sintético, de modo que se pueda rastrear quién encarga qué secuencias y con qué fin. Actualmente, muchas empresas que venden estos materiales no realizan controles exhaustivos, lo que deja una puerta abierta a posibles abusos.
Esta no es la primera vez que la industria de la IA muestra preocupación por los usos duales de la tecnología. Ya en 2023, un estudio del RAND Corporation alertó sobre la posibilidad de que modelos de lenguaje como GPT-4 pudieran proporcionar instrucciones para fabricar armas biológicas. Sin embargo, la advertencia conjunta de OpenAI y Anthropic marca un hito, al tratarse de dos de las empresas más influyentes del sector.
Para los usuarios y desarrolladores de IA, esta noticia subraya la importancia de implementar salvaguardas éticas desde el diseño de los modelos. Las empresas de IA están adoptando medidas como la filtración de respuestas peligrosas y la colaboración con biólogos para evaluar riesgos. A nivel regulatorio, se espera que el Congreso de EE.UU. considere estas recomendaciones en futuras leyes de seguridad de IA.
En resumen, la petición de OpenAI y Anthropic refleja una madurez creciente en la industria para abordar los riesgos existenciales de la IA, y pone sobre la mesa la necesidad de una regulación proactiva que equilibre innovación y seguridad.
Fuentes
Noticias relacionadas
Ver másLandmaxxing: la nueva estrategia de los ultrarricos para comprar barrios enteros
Los multimillonarios ya no se conforman con una mansión: ahora compran las propiedades vecinas para garantizar privacidad total. El 'landmaxxing' redefine el lujo inmobiliario en Estados Unidos.
El vídeo-selfi y el dilema de la biometría: cuando tu cara es la contraseña
Google permite ahora recuperar cuentas con un vídeo-selfi, pero la biometría facial plantea riesgos únicos: a diferencia de una contraseña, no se puede cambiar si es robada.
Sony REON Pocket Pro Plus: el aire acondicionado portátil que se lleva bajo la ropa
Sony lanza el REON Pocket Pro Plus, un dispositivo portátil de refrigeración que se coloca bajo la camiseta para combatir el calor en exteriores. Analizamos su funcionamiento, autonomía y precio.
Tenerife acumula más de 1.600 terremotos en dos días: los expertos piden calma
Un enjambre sísmico en Tenerife ha registrado más de 1.600 terremotos de baja magnitud en dos días. Los vulcanólogos insisten en que no hay señales de erupción inminente, pero la actividad es la mayor desde 2004.