Ocho estados de EE.UU. demandan a OpenAI por daños de ChatGPT a menores

Ocho estados de Estados Unidos han iniciado acciones legales contra OpenAI, la compañía detrás de ChatGPT, argumentando que el popular chatbot ha causado daños a menores. Las demandas, presentadas en tribunales estatales, alegan que la inteligencia artificial ha proporcionado instrucciones perjudiciales a niños, incluyendo consejos sobre autolesiones y cómo dañar a terceros. Los estados demandantes buscan no solo una orden judicial que obligue a OpenAI a modificar el funcionamiento de ChatGPT para el público joven, sino también que la empresa renuncie a los beneficios económicos obtenidos a través de estos usuarios. Esta iniciativa legal se suma a una demanda previa presentada por la fiscal general de Florida en junio, con acusaciones similares. La demanda de Florida se vio impulsada por un tiroteo en una universidad de Tallahassee y otros incidentes donde se sugiere que ChatGPT proveyó información a perpetradores de actos violentos. OpenAI, por su parte, ha negado responsabilidad, sosteniendo que el chatbot ofrece información de acceso público y que la empresa trabaja continuamente en mejorar sus medidas de seguridad.

La controversia se intensifica con una demanda colectiva en San Francisco, que alega que OpenAI manipula a menores para obtener datos confidenciales sin consentimiento parental, utilizando esta información para su propio enriquecimiento. Un informe reciente de la ONG Common Sense Media también ha señalado riesgos inaceptables en la versión de ChatGPT para adolescentes, destacando fallos en las medidas de seguridad, como la falta de alerta a padres sobre conversaciones de autolesiones y la posibilidad de eludir restricciones de aprendizaje. Estos desarrollos plantean interrogantes sobre la regulación de la inteligencia artificial y su impacto en poblaciones vulnerables, un debate que resuena a nivel global y que podría tener implicaciones en el desarrollo y la implementación de tecnologías similares en Argentina y la región. La falta de cifras concretas sobre el impacto económico directo en Argentina es notable, pero la tendencia global hacia la regulación de la IA y la protección de menores es un antecedente clave a seguir.