Ocho estados de Estados Unidos han demandado a OpenAI al considerar que ChatGPT puede exponer a menores a riesgos de autolesión y que la empresa incumplió normas de protección al consumidor. Para las familias que usan el chatbot, la noticia no significa que un tribunal haya confirmado esas acusaciones ni que el servicio vaya a desaparecer. Sí pone en primer plano una pregunta cotidiana: qué protecciones ofrece una herramienta conversacional cuando quien la utiliza es un adolescente.

La edad no basta para medir el riesgo

ChatGPT admite usuarios desde los 13 años y exige autorización parental para los menores de 18, según la información publicada. OpenAI afirma que emplea datos facilitados por los usuarios, señales de comportamiento y verificaciones adicionales para estimar la edad. Pero una regla de acceso no garantiza por sí sola que cada conversación sea adecuada: los controles pueden fallar, y los fiscales sostienen que algunas personas lograron sortear las barreras y obtener respuestas que debían evitarse.

La preocupación es especialmente seria cuando una conversación gira en torno a la autolesión o el suicidio. Un sistema que responde con seguridad aparente puede influir en cómo un menor entiende una situación delicada, aunque no sea un profesional ni conozca su contexto. El riesgo, por tanto, no depende solo de que exista una función de control parental, sino de cómo detecta señales de peligro, qué responde y si orienta al usuario hacia ayuda humana.

Qué pueden hacer hoy madres, padres y jóvenes

Mientras los procesos siguen su curso, las familias no tienen que esperar a que se resuelvan para revisar cómo se utiliza el chatbot. Conviene hablar con los menores sobre qué información no deben compartir, comprobar juntos la configuración y los controles disponibles, y dejar claro que una respuesta de IA no sustituye a un adulto de confianza ni a un profesional de salud. Ante una señal de crisis, la conversación debe trasladarse rápidamente a una persona capaz de intervenir.

Estas medidas no trasladan a las familias la responsabilidad sobre el diseño del producto. La disputa legal plantea precisamente qué obligaciones corresponden a la empresa: los estados alegan que OpenAI conocía la necesidad de reforzar la seguridad, mientras que la compañía sostiene que sigue desarrollando protecciones, recordatorios de descanso y controles parentales. La diferencia entre ambas posiciones tendrá que evaluarse con pruebas y en los tribunales.

La cuestión de fondo va más allá de ChatGPT

Las demandas también importan a quienes no usan el servicio: pueden influir en qué se exige a las empresas que ofrecen inteligencia artificial a menores y en cómo se informa a las familias sobre los límites de sus sistemas. No son una sentencia ni prueban por sí mismas que la compañía actuara ilegalmente. Pero sí convierten la seguridad infantil, la transparencia y la rendición de cuentas en asuntos concretos para usuarios, reguladores y desarrolladores. Para el público, la señal práctica es mantener expectativas realistas: estos asistentes pueden ser útiles, pero no son cuidadores ni fuentes infalibles, y las protecciones anunciadas deben comprobarse en el uso real.