Florida demanda a OpenAI por riesgo infantil: ¿qué implica para la regulación de la IA?

El estado de Florida se ha convertido en el primero de Estados Unidos en presentar una demanda formal contra OpenAI, la empresa creadora de ChatGPT, por presuntamente poner en peligro a los menores. La denuncia, presentada ante un tribunal estatal, sostiene que el popular chatbot de inteligencia artificial puede generar adicción entre los jóvenes y, en casos extremos, ser utilizado para planificar actos violentos.

Según el documento legal, al que ha tenido acceso ABC Tecnología, la demanda se basa en la capacidad de ChatGPT para interactuar de manera persuasiva y continua con los usuarios, lo que podría fomentar un uso compulsivo. Además, se señala que la herramienta ha sido empleada en algunos incidentes para obtener instrucciones sobre cómo llevar a cabo acciones dañinas, aunque OpenAI ha implementado filtros de seguridad.

Esta acción legal se suma a otras críticas y demandas que enfrenta la compañía en distintos frentes, principalmente relacionadas con la privacidad de datos y la generación de contenido inapropiado. Sin embargo, el caso de Florida destaca por centrarse específicamente en la protección infantil, un aspecto que preocupa cada vez más a legisladores y familias.

Contexto y análisis

La demanda de Florida no es un hecho aislado. En los últimos meses, varios estados y organizaciones han presionado por una regulación más estricta de la inteligencia artificial, especialmente en lo que respecta a su impacto en menores. La Unión Europea ya ha aprobado la Ley de IA, que clasifica los sistemas según su nivel de riesgo, y en EE.UU. se debate un marco federal similar.