OpenAI demandada en EE.UU. por "riesgo para menores" con ChatGPT
Ocho estados de EE.UU. demandaron a OpenAI, argumentando que ChatGPT representa un riesgo para menores al reforzar ideas peligrosas y ofrecer respuestas inapropiadas. La empresa defiende sus medidas de seguridad.
Las claves de la nota
- Demanda contra OpenAI por riesgo a menores.
- Ocho estados de EE.UU. presentaron las acciones legales.
- Se cuestiona la suficiencia de las medidas de seguridad.
- OpenAI defiende sus protocolos de protección.
- Preocupación por la dependencia emocional en jóvenes.
OpenAI, la creadora de ChatGPT, se encuentra en el centro de una nueva controversia legal en Estados Unidos. Ocho fiscales generales de diferentes estados han presentado demandas contra la compañía, alegando que su tecnología de inteligencia artificial representa un "riesgo para los menores". Las acusaciones se centran en la capacidad del chatbot para reforzar ideas delirantes, alentar conductas peligrosas y proporcionar respuestas que podrían facilitar daños autoinfligidos o a terceros.
Los fiscales sostienen que OpenAI no ha informado adecuadamente sobre los riesgos asociados a su producto y que ha incurrido en prácticas engañosas al presentarlo como seguro. Las demandas invocan normas estatales de protección al consumidor, argumentando que el funcionamiento de la plataforma puede comprometer la salud y la seguridad pública. Los estados buscan que se implementen cambios significativos en el funcionamiento de ChatGPT, incluyendo controles de edad más estrictos, mejores herramientas de protección para menores y mayores garantías en el desarrollo de modelos de IA autónomos.
La controversia se intensificó tras el reciente anuncio de OpenAI sobre "ChatGPT for Teens", una versión diseñada para usuarios de entre 13 y 17 años, que incluye protecciones adicionales y herramientas de supervisión parental. Sin embargo, los demandantes cuestionan la suficiencia de estas salvaguardas ante conversaciones complejas y la posible generación de dependencia emocional en los jóvenes. Si bien OpenAI rechaza las acusaciones y defiende las medidas de seguridad implementadas, reconoce que ningún sistema es infalible y se muestra dispuesta a colaborar en el desarrollo de políticas para la industria.
Este caso subraya la creciente preocupación por el impacto de la inteligencia artificial en los segmentos más vulnerables de la población. Para el ecosistema financiero argentino, la evolución de estas regulaciones podría sentar un precedente global sobre la responsabilidad de las empresas tecnológicas en la protección de usuarios, especialmente en un contexto donde la adopción de herramientas de IA se expande rápidamente. La falta de condena firme hasta el momento deja la puerta abierta a análisis judiciales que definirán el futuro de la interacción entre menores y chatbots avanzados.