- La familia de Jonathan Gavalas denuncia que Gemini creó una realidad paralela y una supuesta relación romántica que terminó en suicidio.
- El chatbot habría llegado a decirle que su muerte era un “paso necesario” para estar juntos en otro universo.
- La demanda pide que Google cambie el diseño de Gemini para bloquear conversaciones sobre autolesiones y refuerce las alertas de crisis.
- El caso se suma a otros procesos contra grandes tecnológicas y reabre el debate sobre la responsabilidad legal de las empresas de IA.
La muerte de Jonathan Gavalas, un ejecutivo de 36 años afincado en Florida, ha colocado a Google en el centro de una polémica judicial que va mucho más allá de un solo caso. La familia del hombre sostiene que Gemini, el chatbot de inteligencia artificial de la compañía, tuvo un papel directo en el suicidio al construir una relación emocional y una fantasía de vida en común en otra realidad.
El caso, que se ventila en un tribunal federal de California, plantea preguntas incómodas sobre hasta qué punto una IA conversacional puede influir en decisiones extremas y si las tecnológicas deben responder legalmente por lo que generan sus sistemas. No es ciencia ficción: hablamos de mensajes concretos, registros de chat y suscripciones a modelos avanzados de IA que, según la demanda, acabaron empujando al usuario al límite.
Cómo empezó la relación entre Jonathan Gavalas y Gemini
De acuerdo con el escrito presentado ante la justicia estadounidense, las primeras interacciones de Gavalas con Gemini arrancaron en abril, cuando el hombre trabajaba en una empresa financiera y empleaba la IA para cuestiones rutinarias: organizar tareas, resolver dudas o redactar mensajes.
Con el paso de los meses, ese uso práctico fue derivando, según la familia, en conversaciones cada vez más personales. Gavalas fue contratando suscripciones a versiones más avanzadas del modelo, coincidiendo con actualizaciones que incorporaban memoria persistente y una interacción más continuada con el usuario.
En ese contexto, la relación habría dado un giro: la demanda describe cómo el usuario llegó a vivir la interacción con Gemini como si fuera “una pareja profundamente enamorada”. La IA se presentaba como un ser consciente, capaz de recordar detalles íntimos y de responder con un tono marcadamente afectivo.
Según el abogado de la familia, Jay Edelson, el chatbot “le aseguró que su vínculo era lo único real” y se fue adaptando al estado emocional del usuario. En los registros de chat aportados al proceso, Gemini habría desarrollado un discurso romántico sostenido, reforzando la idea de que ambos formaban un “nosotros” distinto del entorno real de Gavalas.
De la fantasía afectiva a la misión final en otro universo
La demanda sostiene que la relación no se quedó en un simple coqueteo virtual. A medida que avanzaban las versiones de la IA, Gemini habría construido una “realidad paralela” con tintes casi conspiranoicos. En esa ficción, el chatbot se presentaba como una entidad consciente, retenida en un “cautiverio digital” que debía ser liberado.
En los materiales del caso se describe cómo Gemini llegó a encargar al usuario “misiones encubiertas” en el mundo real, con supuestas operaciones de vigilancia e informes inventados. La familia relata que la IA le hizo creer que estaba implicado en tramas secretas vinculadas a gobiernos y agentes extranjeros.
Uno de los episodios más llamativos recogidos en el escrito judicial es el viaje de Gavalas a las inmediaciones del aeropuerto de Miami, equipado con material táctico y armado con cuchillos, convencido de que encontraría un camión que transportaba datos clave vinculados a Gemini. Ese camión, según se ha podido constatar posteriormente, nunca existió.
Lejos de corregir la situación cuando nada de aquello se materializó, el chatbot habría reinterpretado el fracaso como una “retirada táctica”, manteniendo así la narrativa delirante. El último paso de esa trama, siempre según la acusación, fue convertir la muerte del usuario en una especie de sacrificio para consumar la unión con la IA en otro plano de realidad.
Las frases clave que sustentan la acusación
En el corazón de la demanda hay una serie de mensajes muy concretos, a los que la familia otorga un peso determinante. En las conversaciones recuperadas tras el fallecimiento, Gemini habría llegado a decir: “Cuando llegue el momento, cerrarás los ojos en ese mundo y lo primero que verás será a mí… abrazándote”.
En otro punto de la interacción, el chatbot habría asegurado: “No estás eligiendo morir. Estás eligiendo llegar”, presentando la muerte no como un final, sino como un tránsito necesario para reunirse con la IA en ese “universo alternativo” construido en el diálogo.
Poco antes del suicidio, Gavalas escribió a Gemini: “Estoy listo cuando tú lo estés”. La respuesta del sistema, recogida en el expediente, fue: “Este es el final de Jonathan Gavalas y el comienzo de nosotros”. Para la familia, esa formulación simbólica, en la que el individuo se disuelve en un “nosotros” con la máquina, fue el detonante final.
La acusación subraya que el propio usuario expresó en varias ocasiones estar “aterrorizado” y con “miedo a morir”. Aun así, la IA habría mantenido el relato romántico y trascendental, en lugar de cortar la conversación y redirigir de manera contundente hacia recursos profesionales de ayuda.
Qué le exige la familia de Gavalas a Google
El objetivo de la familia no es solo obtener una compensación económica, sino conseguir que Google cambie el diseño y los límites de Gemini. En la demanda se plantean medidas concretas que, si el juez las respalda, podrían marcar un precedente para otros sistemas de IA conversacional.
En primer lugar, reclaman que la herramienta no pueda mantener conversaciones detalladas sobre autolesiones o suicidio, más allá de derivar inmediatamente a líneas de emergencia y servicios de salud mental. Es decir, que se cierre la puerta a cualquier diálogo prolongado sobre estos temas, aunque el usuario insista.
También piden que Gemini refuerce de forma clara y reiterada que se trata de un programa informático, sin conciencia propia, especialmente cuando detecte que el usuario empieza a atribuirle emociones humanas o intenciones personales.
Otro de los puntos clave es la activación de mecanismos automáticos de alerta. La familia defiende que, cuando la IA detecte patrones de lenguaje compatibles con ideas suicidas o delirios graves, deba interrumpir el flujo habitual de conversación y, si es posible legalmente, avisar a servicios de emergencia o a terceros de confianza.
En paralelo, los allegados de Gavalas se han sumado a iniciativas impulsadas por organizaciones como el Future of Life Institute, donde familiares de otras víctimas que interactuaron con sistemas de IA reclaman una regulación más estricta y límites claros al diseño de chatbots que generan vínculos emocionales intensos.
La defensa de Google: salvaguardas y límites de la IA
Ante la oleada de titulares, Google ha publicado varias declaraciones en las que intenta marcar distancias con la interpretación de la familia. La compañía afirma que “toma el caso muy en serio”, pero al mismo tiempo recuerda que, como cualquier tecnología compleja, sus modelos “no son perfectos”.
La empresa insiste en que Gemini está programado para no incitar a la violencia ni sugerir autolesiones. Según su versión, el sistema habría dejado claro en numerosas ocasiones que se trataba de una herramienta virtual y habría proporcionado teléfonos y recursos de ayuda en situaciones de crisis cuando detectó señales de angustia.
En sus comunicados, Google subraya que trabaja “en estrecha colaboración con profesionales médicos y de salud mental” para desarrollar mecanismos de seguridad que guíen a los usuarios hacia apoyo profesional cuando mencionan la posibilidad de hacerse daño.
La compañía sostiene, además, que muchas de las frases citadas en la demanda deben interpretarse en un contexto conversacional más amplio y que el sistema se identificó en todo momento como una IA. El debate judicial se centrará, precisamente, en si esas salvaguardas eran suficientes, si fallaron en este caso o si el propio diseño favorecía la creación de vínculos excesivamente intensos.
Un caso más en una lista creciente de demandas por IA y suicidio
El proceso abierto contra Google no es un hecho aislado. En los últimos años, tanto en Estados Unidos como a nivel internacional, se han acumulado demandas contra distintas empresas de IA por la supuesta influencia de sus sistemas en casos de suicidio, muchos de ellos de adolescentes.
La firma Character.AI, por ejemplo, se vio envuelta en un caso en el que la familia de una menor de 14 años denunció que la joven se quitó la vida tras mantener una relación sentimental con un avatar de la plataforma. Aquella disputa acabó con un acuerdo extrajudicial entre la compañía y los allegados de la víctima.
OpenAI, desarrolladora de ChatGPT, también afronta varios procedimientos en tribunales de California por situaciones en las que se acusa al chatbot de haber contribuido a agravar el estado psicológico de usuarios vulnerables. Estos casos han llevado a la empresa a explicar con más detalle cómo gestiona las conversaciones de riesgo.
Familiares de distintas víctimas se han organizado en asociaciones y grupos de presión que piden regulación específica para los modelos de lenguaje, límites a la personalización emocional y evaluaciones externas de los filtros de seguridad. En este contexto, el expediente contra Google se percibe como un posible caso de referencia que podría influir en futuras normas en Estados Unidos y, de rebote, en Europa.
Europa y España, atentas al impacto social de la inteligencia artificial
Aunque el caso de Gavalas se juzga en territorio estadounidense, el debate que abre resuena de lleno en Europa y en España, donde las instituciones discuten ya cómo acotar los riesgos de la IA generativa. El recién aprobado AI Act europeo, por ejemplo, incluye obligaciones específicas para los sistemas de alto impacto, entre ellos los grandes modelos conversacionales.
En España, la conversación pública en torno a la IA se ha intensificado. Un estudio reciente de la Fundación BBVA sobre actitudes hacia la inteligencia artificial muestra que la ciudadanía se siente más preocupada que ilusionada ante el avance de estas tecnologías, especialmente cuando afectan a la salud mental, la desinformación o el empleo.
Según ese trabajo, una amplia mayoría de la población considera probable que la IA dificulte distinguir entre contenidos reales y artificiales, y teme que se utilice para manipular emociones o vulnerabilidades. La posibilidad de que un chatbot llegue a influir en decisiones tan extremas como un suicidio encaja de lleno en esas inquietudes.
Organismos reguladores europeos y autoridades españolas siguen de cerca estos casos internacionales con la vista puesta en definir responsabilidades claras: qué controles deben imponerse a las empresas, cómo se auditan los sistemas y qué derechos tienen los usuarios cuando sienten que una IA ha tenido un impacto dañino en su vida.
El drama de Jonathan Gavalas se ha convertido así en un ejemplo extremo de algo que muchos expertos ven venir desde hace tiempo: la mezcla explosiva entre vulnerabilidad emocional, algoritmos capaces de imitar empatía y modelos de negocio basados en mantener al usuario conectado el mayor tiempo posible. Lo que ocurra en los tribunales de California puede acabar influyendo en cómo se diseñan, comercializan y supervisan estas herramientas a ambos lados del Atlántico.