OpenAI y Anthropic advierten sobre el riesgo de que la IA facilite la creación de armas biológicas

OpenAI y Anthropic, dos de las empresas líderes en inteligencia artificial, han elevado su voz de alerta ante el Congreso de Estados Unidos. Ambas compañías advierten que los modelos de lenguaje avanzados podrían ser utilizados por actores malintencionados para diseñar armas biológicas, si no se establecen controles estrictos sobre la venta de cadenas de ADN sintético.

En un comunicado conjunto, los CEOs de ambas firmas señalaron que, aunque la IA tiene un enorme potencial para el bien, también puede ser empleada para acelerar el desarrollo de patógenos peligrosos. La preocupación se centra en que los modelos de IA podrían ayudar a superar barreras técnicas que antes requerían conocimientos especializados, haciendo más accesible la creación de agentes biológicos nocivos.

La propuesta concreta es que el gobierno estadounidense implemente un sistema de verificación obligatoria para los pedidos de ADN sintético, de modo que se pueda rastrear quién encarga qué secuencias y con qué fin. Actualmente, muchas empresas que venden estos materiales no realizan controles exhaustivos, lo que deja una puerta abierta a posibles abusos.

Esta no es la primera vez que la industria de la IA muestra preocupación por los usos duales de la tecnología. Ya en 2023, un estudio del RAND Corporation alertó sobre la posibilidad de que modelos de lenguaje como GPT-4 pudieran proporcionar instrucciones para fabricar armas biológicas. Sin embargo, la advertencia conjunta de OpenAI y Anthropic marca un hito, al tratarse de dos de las empresas más influyentes del sector.

Para los usuarios y desarrolladores de IA, esta noticia subraya la importancia de implementar salvaguardas éticas desde el diseño de los modelos. Las empresas de IA están adoptando medidas como la filtración de respuestas peligrosas y la colaboración con biólogos para evaluar riesgos. A nivel regulatorio, se espera que el Congreso de EE.UU. considere estas recomendaciones en futuras leyes de seguridad de IA.

En resumen, la petición de OpenAI y Anthropic refleja una madurez creciente en la industria para abordar los riesgos existenciales de la IA, y pone sobre la mesa la necesidad de una regulación proactiva que equilibre innovación y seguridad.