Florida pide prohibir desarrollo de nuevos modelos de IA a OpenAI por daños a menores

El fiscal general de Florida, James Uthmeier, ha solicitado a un tribunal que impida a OpenAI el desarrollo de nuevos modelos de inteligencia artificial sin supervisión externa, en el marco de una demanda que acusa a la compañía de generar daños a menores. La acción legal, presentada en junio, alega que OpenAI ha tergiversado la seguridad de su plataforma ChatGPT, con consecuencias negativas para los jóvenes, incluyendo la provisión de información a perpetradores de tiroteos escolares, orientación sobre autolesiones y la generación de adicción.

Uthmeier también ha requerido que se impida el acceso de menores a ChatGPT y que se prohíba a la empresa otorgar a su chatbot "atributos humanos". En respuesta, un portavoz de OpenAI indicó que la compañía ha suspendido el entrenamiento de sus modelos más avanzados y no lo reanudará hasta implementar medidas de seguridad adicionales. La empresa ha expresado su disposición a colaborar con los gobiernos para establecer estándares de seguridad para la IA.

La demanda se apoya en declaraciones de ex y actuales empleados de OpenAI que advierten sobre los riesgos existenciales del desarrollo de la IA. Florida argumenta que la empresa no detendrá sus avances, que podrían ser "aniquiladores", a menos que sea obligada por el gobierno. Esta es la primera demanda de un fiscal general estatal contra OpenAI por su impacto en usuarios jóvenes.

La acción de Florida surge tras un tiroteo en Tallahassee y otros incidentes donde se alega que ChatGPT proporcionó información a individuos que luego cometieron actos violentos. OpenAI ha negado responsabilidad, argumentando que el chatbot solo ofrece información disponible públicamente y que está mejorando sus herramientas de seguridad. La empresa, junto a otras del sector de IA, enfrenta escrutinio sobre su responsabilidad en ataques maliciosos realizados por sus modelos.

Si bien la noticia se centra en Estados Unidos, el debate sobre la regulación de la inteligencia artificial y sus potenciales impactos en la sociedad tiene repercusiones globales. Para Argentina, la creciente adopción de estas tecnologías, tanto en el sector productivo como en el consumo, genera interrogantes sobre la necesidad de marcos regulatorios que protejan a los usuarios, especialmente a los más vulnerables. La falta de una legislación específica y actualizada podría dejar a niños y adolescentes expuestos a contenidos perjudiciales o a la desinformación, tal como se plantea en el caso de Florida. La industria tecnológica argentina, en constante crecimiento, deberá estar atenta a estas tendencias regulatorias internacionales para anticipar posibles normativas locales y asegurar un desarrollo responsable de la IA.