El dilema de Fable 5: cuando la IA se niega a crear contenido violento

La IA debe adaptarse al contexto, no imponer una moral universal.

Este caso me parece un ejemplo perfecto de cómo la seguridad mal entendida puede convertirse en un lastre para la innovación. No critico que Anthropic quiera evitar usos dañinos de su modelo, pero imponer un veto absoluto a la violencia en un videojuego de fantasía es, cuanto menos, desproporcionado. La industria del entretenimiento lleva décadas manejando la violencia ficcional con códigos de autorregulación y clasificaciones por edades; no necesitamos que una IA decida por nosotros lo que es aceptable.

Lo preocupante es que este tipo de restricciones, si se generalizan, podrían limitar el potencial creativo de la IA generativa. Los desarrolladores se verán obligados a buscar alternativas o a invertir recursos en sortear filtros que, en lugar de proteger, entorpecen. Anthropic debería ofrecer configuraciones ajustables al contexto, permitiendo que cada estudio decida el nivel de restricción según su público objetivo. De lo contrario, corremos el riesgo de que la inteligencia artificial se convierta en un 'Bartleby' digital que, por miedo a equivocarse, prefiera no hacer nada.