Si demandan a OpenAI por menores, ¿qué te puede caer a ti?

Ocho estados de EE. UU. acusan a OpenAI de vender ChatGPT como seguro para menores mientras, según ellos, ponía por delante el negocio. La pregunta incómoda no es si OpenAI perderá el juicio, sino otra: si tú usas ChatGPT en tu trabajo, ¿qué responsabilidad te comes tú si algo sale mal?

Lo que ha pasado

Ocho estados de EE. UU. (Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho y Montana) han presentado demandas separadas contra OpenAI por la seguridad de ChatGPT, según The Verge.

Los fiscales acusan a OpenAI de violar leyes de protección al consumidor por no advertir bien de los riesgos, presentar el chatbot como «seguro» para jóvenes, priorizar beneficios frente a seguridad y recopilar datos de menores sin hacer lo suficiente para limitar su uso.

En las demandas se citan, entre otros riesgos, degradación del pensamiento crítico, fomento de paranoias y delirios, consejos médicos peligrosos y promoción de conductas poco saludables. También mencionan casos judiciales previos donde familias alegan que ChatGPT contribuyó a la muerte de adolescentes y adultos, aunque sin detalles concretos.

Piden sanciones civiles (sin cuantía conocida), correcciones públicas sobre la seguridad del producto y, en algunos casos, el borrado de datos personales supuestamente obtenidos de forma ilícita. OpenAI, a través de su portavoz Drew Pusateri, responde que ya ha incorporado protecciones por edad, controles parentales, recordatorios de descanso y salvaguardas «adecuadas a la edad», y que quiere trabajar con los estados en políticas de IA aplicables a toda la industria.

Lo que no te cuentan

Estas demandas se venden como un movimiento para proteger a los niños, pero el eco va mucho más allá: ponen en cuestión cuánto puedes confiar en un chatbot para tratar con personas vulnerables, sean menores o no. Si un juez acepta que la herramienta puede degradar el pensamiento crítico o alimentar delirios, la discusión ya no será solo «IA y niños», sino «IA y personas en situaciones frágiles».

Eso toca sectores donde muchos pequeños negocios ya usan ChatGPT: salud, bienestar, finanzas personales, relaciones o apoyo emocional camuflado como “consejos”. La frontera entre contenido amable y recomendación peligrosa se está estrechando.

Hay otro ángulo del que se habla poco: el marketing de seguridad. Las demandas no solo critican lo que hace la IA, sino cómo se vende. Si tú prometes atención personalizada, pero el primer impacto real es un bot genérico, estás jugando al mismo juego: expectativa de cuidado humano, realidad automatizada.

Y mientras OpenAI se defiende con abogados y equipos de compliance, tú no tienes ese escudo. Si algo falla en la interacción final con tu cliente, el primer nombre que aparece en la reclamación es el de tu negocio, no el de la empresa de IA que hay debajo.

Qué cambia para tu trabajo o tu negocio

1. Clínica o consulta (psicología, nutrición, fisioterapia…)

Si usas ChatGPT para contenidos de blog, newsletters o respuestas tipo sobre salud, estas demandas ponen en neón algo que quizá intuías: tu paciente no distingue lo que ha escrito una IA de lo que sale de tu cabeza.

Riesgos claros:

• Que un texto “informativo” se lea como recomendación personalizada.
• Que personas ansiosas, deprimidas o con dolor crónico se agarren literalmente a un contenido generado con IA.

Qué haría yo:

• Usar la IA solo para borradores internos, con revisión clínica real antes de publicar.
• Evitar que un chatbot responda dudas médicas, emocionales o de tratamiento en tu web o WhatsApp.
• Dejar muy explícito en tu web que los contenidos no sustituyen consulta profesional, y ser prudente con frases tipo “te recomiendo que…”.

2. Gestoría o asesoría que automatiza respuestas

Una gestoría que tira de ChatGPT para contestar dudas sobre contratos, deducciones o altas y bajas no está “probando una herramienta”; está jugando con decisiones legales y fiscales de clientes que confían en su criterio.

El problema no es solo que la IA pueda equivocarse. Es que el cliente cree que le habla un profesional. Si mañana hay inspección o sanción, el argumento «lo hizo el chatbot» no te va a servir.

Mi enfoque sería:

• Usar la IA únicamente como apoyo para redactar más rápido, nunca como fuente de criterio fiscal o laboral.
• Dejar claro en tus procesos internos qué se puede automatizar (recordatorios, resúmenes, plantillas) y qué debe llevar siempre revisión de un técnico.
• Guardar trazas mínimas de revisión: quién validó qué respuesta o documento antes de enviarlo al cliente.

3. Autónomo o tienda online con chatbot en la web

Muchos ecommerces y pequeños negocios han puesto un chat “inteligente” en la web que, en realidad, es un modelo tipo ChatGPT con una configuración mínima. Suficiente para que el cliente crea que habla contigo.

En el contexto de estas demandas, el riesgo se hace más evidente si vendes:

• Suplementos, productos de bienestar o servicios que rozan la salud.
• Productos para familias o menores, donde el bot puede acabar opinando sobre crianza, estudios, conducta, etc.

Qué ajustaría yo:

• Limitar el chat a logística: envíos, devoluciones, horarios, disponibilidad.
• Bloquear temas de salud, dinero, problemas familiares o menores en las instrucciones del bot.
• Revisar qué datos recoge el chat (edad, síntomas, situación económica) y si tu proveedor te permite borrarlos si un cliente lo pide.

Veredicto

Sello: con reservas. ChatGPT sigue siendo útil para ganar tiempo y escribir mejor, pero estas demandas recuerdan algo clave: si lo pones de cara al cliente en temas sensibles, el riesgo legal y reputacional ya no es de OpenAI, es tuyo.

Te dejo dos preguntas para pensar: ¿en qué parte de tu trabajo estás dejando que una IA se exprese como si fueras tú, sin supervisión real? ¿Y qué es lo peor que podría pasar si un menor o una persona vulnerable se toma al pie de la letra esa respuesta?

Si quieres seguir estos casos con ejemplos prácticos y sin humo, apúntate a la lista de humanoaprueba.com. Ahí comparto pruebas reales, números y también los errores que voy cometiendo al usar IA en el trabajo diario.