El 22 de mayo de 2026, Northeastern University publicó un artículo con un titular directo: ChatGPT enfrenta una avalancha de demandas. Hasta marzo, se habían presentado al menos 11 demandas solo contra OpenAI, además de otras contra Character.AI y Google. Las teorías legales escalan rápido: muerte por negligencia, defecto de diseño del producto, falta de advertencia. En enero, el caso histórico Setzer llegó a un acuerdo después de que un tribunal hiciera algo que ningún tribunal había hecho antes: clasificó la salida de un chatbot de IA como un "producto" en lugar de discurso protegido.
Si tienes un chatbot en tu sitio web, es tentador leer esos titulares y relajarte. Son demandas contra los laboratorios que crean los modelos, por casos extremos y trágicos relacionados con IA de compañía. Tú solo respondes preguntas sobre envíos. Nada de eso tiene que ver contigo.
Esa es la conclusión equivocada. Las demandas que llegan a los titulares tienen que ver con los creadores de modelos fundacionales y daños catastróficos. La exposición legal que sí afecta a tu negocio es más antigua, más silenciosa y está mucho más asentada. Tiene un nombre que la mayoría de la gente de soporte ya conoce: el precedente de Air Canada.
El caso que cualquiera que tenga un chatbot en su negocio debería tener memorizado
En febrero de 2024, un tribunal canadiense falló sobre una disputa que parecía trivial. Un cliente que estaba de duelo le preguntó al chatbot del sitio web de Air Canada sobre tarifas por fallecimiento. El bot le dijo que podía reservar ahora y solicitar un reembolso dentro de los 90 días. Esa política no existía. El bot se la inventó.
Cuando el cliente pidió el reembolso, Air Canada se negó y argumentó, por escrito, que el chatbot era "una entidad legal separada, responsable de sus propias acciones." El tribunal rechazó ese argumento de plano. Su fallo es la frase que deberías tener pegada en tu monitor:
"No hace ninguna diferencia si la información viene de una página estática o de un chatbot."
Se le ordenó a Air Canada cumplir la política inventada y pagar daños y perjuicios, intereses y honorarios. El monto en dólares fue pequeño. El principio no lo fue. Un regulador miró a un bot que alucinaba y dijo: esto es la empresa hablando. Estás sujeto a lo que dice.
Ese principio no ha hecho más que consolidarse desde entonces. El enfoque de "producto" del acuerdo Setzer significa que la salida de un chatbot puede evaluarse como cualquier otra cosa que una empresa lance al mercado, sujeta a teorías de responsabilidad por producto defectuoso cuando es defectuosa. Los tribunales de EE. UU. impusieron más de $145,000 en sanciones por alucinaciones de IA en el primer trimestre de 2026, incluida una multa récord de $110,000 en Oregón y la primera suspensión de una licencia profesional de este tipo en Nebraska. Las demandas que llegan a los titulares pueden tardar años y quizás no transformen la industria, como advirtió John Wihbey de Northeastern: probar que una tecnología específica le hizo daño a una persona específica es difícil. Pero el precedente de Air Canada no necesita ninguna teoría legal novedosa. Ya funciona, hoy mismo, en tribunales de reclamos menores y quejas de protección al consumidor.
Este artículo trata sobre esa exposición cotidiana, no sobre los litigios mediáticos. Nada de esto es asesoría legal: consulta a un abogado sobre tu situación particular. El objetivo aquí es más acotado y más útil: entender exactamente cómo un chatbot para sitio web genera responsabilidad legal, y qué controles realmente la reducen.
Las siete formas en que un bot de soporte te puede meter en una demanda
"Alucinación" es una sola palabra para al menos siete modos de falla distintos, y cada uno conlleva un tipo diferente de riesgo de negocio. Un bot que inventa un plazo de reembolso es un problema distinto al de uno que fabrica una instrucción de seguridad.
| Tipo de alucinación | Qué hace el bot | Responsabilidad legal que genera |
|---|---|---|
| Política | Inventa una condición de devolución, reembolso o garantía | Puede que estés obligado a cumplirlo (el precedente de Air Canada) |
| Precios | Cotiza un precio, descuento o tarifa que no existe | Exposición por precios engañosos y protección al consumidor |
| Específico de la cuenta | Afirma un dato incorrecto sobre el pedido o el saldo de este cliente | Incumplimiento de contrato, declaración falsa |
| Acción | Afirma haber hecho algo ("tu pedido está cancelado") que no ocurrió | Incumplimiento de entrega; daños por confianza razonable |
| Cita | Cita una fuente, ley o documento que no existe | Sanciones en contextos regulados; pérdida de confianza |
| Capacidad | Promete algo que el producto no puede hacer | Publicidad engañosa |
| Seguridad | Da una instrucción incorrecta con consecuencias físicas | Negligencia, responsabilidad por producto defectuoso; el nivel más grave |
El hilo conductor: a la ley no le importa que una IA haya generado la declaración. La FTC y las leyes estatales de protección al consumidor prohíben las prácticas desleales o engañosas sin importar si las produjo una persona o un modelo. Como lo resumió un análisis sobre responsabilidad legal: si tu IA actúa como agente de tu negocio, tú asumes la responsabilidad por lo que comunica.
Por qué un LLM sin controles es una máquina de generar responsabilidad legal
Este es el incómodo hecho técnico detrás de todo esto. Un modelo de lenguaje grande está optimizado para producir texto fluido, verosímil y seguro de sí mismo. No está optimizado para producir texto verdadero. Esos dos objetivos se superponen la mayor parte del tiempo, y eso es exactamente lo que hace que las fallas sean peligrosas: la respuesta incorrecta llega con el mismo tono sereno y categórico que la correcta. No hay ningún temblor en su voz cuando se inventa tu política de reembolsos.
Mucha gente supone que la recuperación de información resuelve esto. Ayuda muchísimo, pero no es una garantía. Un estudio de Stanford de 2025 sobre herramientas de investigación legal centradas en recuperación de información encontró que la mejor solo fue correcta y estuvo anclada en fuentes reales en el 65% de las consultas; sus competidoras quedaron en 41% y 19%. Estos son productos costosos, diseñados a medida, con el modelo apuntado a un corpus curado, y aun así alucinaron en un tercio de las preguntas. Conectarle un modelo de propósito general a tu sitio web con un prompt del sistema que diga "sé útil" no está ni cerca del mismo nivel de seguridad.
La lección no es "no uses un chatbot". Muchos negocios resuelven la mayoría de su volumen de soporte con IA y nunca tienen un problema, porque limitaron bien al bot. La lección es que la seguridad vive en la arquitectura que rodea al modelo, no en el modelo en sí. Un chatbot es tan defendible como los controles que pongas entre el modelo de lenguaje y tu cliente.
Los controles que realmente reducen tu exposición
Relaciona cada control con el riesgo que aborda. Esta es la parte que importa, y es donde la elección de plataforma deja de ser algo cosmético.
| Control | Qué hace | Riesgo que reduce |
|---|---|---|
| Respuestas ancladas a tus fuentes | Responde solo a partir de tu contenido de entrenamiento, no de la memoria del modelo | Alucinaciones de política, precios y capacidad |
| Pares de preguntas y respuestas definitivos | Respuestas exactas, escritas a mano, que tienen prioridad sobre todo lo demás | Las preguntas de alto riesgo en las que no te puedes equivocar |
| Cita de fuentes | Muestra de qué documento viene una respuesta | Alucinaciones de citas; permite la revisión |
| Acciones en tiempo real | Consulta datos en vivo del pedido o la cuenta vía API en lugar de adivinar | Alucinaciones específicas de la cuenta |
| Transferencia según el nivel de confianza | Enruta las intenciones inciertas o de alto riesgo a una persona | Alucinaciones de acción y de seguridad |
| Barreras de seguridad en la salida | Bloquea descuentos inventados, URL falsas, afirmaciones no confirmadas | Alucinaciones de precios y de acción |
| Registros de conversación | Un registro revisable de cada respuesta que dio el bot | Evidencia, auditoría, corrección rápida |
Algunos de estos merecen más detalle, porque son en los que la mayoría de los equipos invierten de menos.
Anclar las respuestas a tus fuentes es el piso, no el techo. Entrenar a tu chatbot con tu propio sitio web, documentos y centro de ayuda es la diferencia entre un bot que responde desde tu realidad y uno que responde desde el promedio de internet. En Agentkit, eso es lo predeterminado: un chatbot responde a partir del contenido con el que lo entrenas: páginas rastreadas, PDFs y documentos subidos, y fragmentos de texto. Al modelo se le indica que trabaje a partir de ese corpus en lugar de improvisar. Para soporte con muchos documentos, chatear con tus propios documentos mantiene las respuestas atadas al archivo real de la política, no a una paráfrasis de este.
Los pares de preguntas y respuestas son tu cinturón de seguridad para las preguntas en las que no puedes equivocarte. Anclar las respuestas a tus fuentes reduce la invención, pero no la elimina. Para el puñado de preguntas donde una respuesta incorrecta es una demanda —tu plazo de reembolso, tus términos de cancelación, una instrucción crítica de seguridad—, quieres una respuesta fija, no una generada. Los pares de preguntas y respuestas de Agentkit hacen exactamente eso: una respuesta exacta, escrita por una persona, que tiene prioridad sobre cualquier otra fuente. El modelo no tiene voto sobre si tu política de devolución es de 30 días. Tú la escribiste; el bot la repite tal cual. Identifica tus diez preguntas de mayor riesgo legal y fíjalas como pares de preguntas y respuestas antes de lanzar tu chatbot.
Las acciones en tiempo real cambian el adivinar por el consultar. Las alucinaciones específicas de la cuenta —"tu pedido se envió ayer" cuando no fue así— vienen de un bot que responde preguntas para las que no tiene datos. La solución es darle datos. Las acciones de API personalizada le permiten al chatbot llamar a tu sistema de pedidos, CRM o inventario en tiempo real, y responder a partir del registro real. Si el dato no está disponible, un bot bien construido lo dice en lugar de inventar un estado.
La transferencia a un humano es un control de responsabilidad legal, no un detalle de UX. La decisión arquitectónica más importante de todas es qué hace el bot cuando no está seguro. Un chatbot defendible transfiere a una persona las respuestas de baja confianza y las intenciones de alto riesgo —reembolsos, facturación, cancelaciones, cualquier cosa relacionada con seguridad—. Diseñar bien ese límite es toda una disciplina en sí misma; lo cubrimos en profundidad en Transferencia de IA a humano: la tarea más difícil de tu chatbot. El bot que dice "déjame consultar con un compañero" ante una disputa de reembolso es el bot que nunca inventa una política de reembolsos.
Las instrucciones y las barreras de seguridad definen el comportamiento predeterminado del bot. Tu prompt del sistema debería decirle al bot que se niegue a especular, que nunca invente precios o descuentos, que admita cuando no sabe algo, y que se mantenga estrictamente dentro de tu dominio. Una buena ingeniería de prompts convierte el "sé útil" en "sé útil, pero nunca inventes una política, y transfiere a una persona todo aquello de lo que no estés seguro." Combina eso con restricciones de dominio para que el widget solo funcione en tus propias páginas, y con límite de frecuencia para que un solo usuario no pueda provocarlo hasta hacer que se porte mal, como pasó con el chatbot de DPD, al que en 2024 lograron incitar a insultar a los clientes.
Los registros son tu evidencia y tu sistema de alerta temprana. Cada conversación de Agentkit queda registrada. Ese registro cumple dos funciones: te deja revisar qué le dijo el bot a la gente en realidad (y corregir un mal patrón antes de que se convierta en una queja), y es la documentación que vas a querer tener si algún cliente alega que el bot prometió algo. Revisa semanalmente la tasa de respuestas ancladas a tus fuentes y las preguntas que dispararon una transferencia a un humano. El bot que se está desviando en silencio va a aparecer en los registros mucho antes de aparecer en un tribunal.
Uno más, fácil de pasar por alto: mantén actualizada la base de conocimiento. La mitad de la responsabilidad legal no viene de la invención, sino de afirmar con seguridad una política que antes era cierta. El reentrenamiento automático (en los planes Standard en adelante) vuelve a rastrear tu contenido según un cronograma, para que el bot no esté citando la página de precios del trimestre pasado.
Lista de verificación de responsabilidad legal antes del lanzamiento
Antes de incrustar un chatbot en una página donde los clientes toman decisiones, revisa esta lista:
- ¿Está anclado a tus fuentes? El bot responde a partir de tu contenido, no de lo que el modelo sepa por su cuenta. Verifícalo preguntándole algo que no está en tu documentación: debería negarse, no improvisar.
- ¿Están fijas las respuestas de alto riesgo? Reembolso, cancelación, garantía, precios y cualquier instrucción crítica de seguridad deberían ser pares de preguntas y respuestas, no texto generado.
- ¿Consulta en lugar de adivinar? Las preguntas específicas de la cuenta o del pedido deberían consultar una API en vivo o transferirse a una persona; nunca responderse de la nada.
- ¿Transfiere a un humano cuando no está seguro? Las intenciones de baja confianza y alto riesgo se enrutan a una persona. Ya probaste que ese límite realmente se activa.
- ¿Está acotado? Las restricciones de dominio lo limitan a tu sitio; el límite de frecuencia bloquea el abuso; las instrucciones prohíben inventar precios y promesas.
- ¿Puedes revisarlo? Los registros de conversación están activados, y alguien los revisa con una periodicidad definida.
- ¿El conocimiento está actualizado? Estar desactualizado pero seguro de sí mismo es su propio modo de falla. El reentrenamiento automático o un cronograma manual de actualización mantiene el contenido vigente.
Incrustarlo es la parte fácil una vez que los controles están en su lugar:
<script src="https://cdn.agentkit.ai/widget.js" data-chatbot="your-chatbot-id" async> </script>
Una aclaración sobre el alcance: esto trata sobre la responsabilidad civil por lo que tu bot dice, algo distinto de la ola de regulación específica de IA que avanza en las legislaturas estatales, que cubrimos por separado en la guía de leyes de chatbots de 2026. Tienes que pensar en ambas cosas. Un bot puede cumplir totalmente con las leyes de divulgación y aun así comprometerte con una política de reembolso inventada.
La conclusión
Las demandas contra OpenAI y Character.AI se van a litigar durante años, y la mayoría de los negocios que tienen un bot de soporte nunca van a ser parte de nada parecido. Pero todos esos negocios viven bajo el precedente de Air Canada: tu chatbot habla en tu nombre, y tú eres responsable de lo que dice. Eso no es una razón para evitar el soporte con IA. Las empresas están resolviendo la mayoría de su volumen de soporte con chatbots y ahorrando dinero de verdad al hacerlo; la parte económica no está en discusión. Es una razón para tratar al bot como lo que legalmente es: un agente de tu negocio, implementado con el mismo cuidado que le darías a uno humano.
La diferencia entre un pasivo y un activo es la arquitectura que rodea al modelo. Ánclalo a tu contenido. Fija tus respuestas de alto riesgo. Transfiere a un humano cuando no esté seguro. Registra todo. Un chatbot construido así no solo evita el tribunal: es el chatbot en el que los clientes de verdad confían, porque les dice la verdad o les dice que no sabe.
No se requiere tarjeta de crédito.
