Un avatar de IA habló en un juicio: ¿cruzó la línea?

Un avatar de IA de una víctima se proyectó en un juicio en Arizona, hablando en primera persona y perdonando al condenado. La culpabilidad se mantiene, pero el tribunal de apelación ha anulado la pena porque ese vídeo no reflejaba hechos reales y contaminó el proceso.

¿Qué ha pasado con el avatar de IA en el juicio de Arizona?

En 2021, en Arizona, una discusión al volante terminó con la muerte de Christopher Pelkey. Un jurado declaró culpable a Gabriel Orcasitas de homicidio involuntario y un juez fijó después la pena.

La parte distinta del caso no está en el delito, sino en la audiencia en la que se decide cuánto tiempo de cárcel debe cumplir. En Estados Unidos, la familia de la víctima puede intervenir en esa fase con lo que se llama una declaración de impacto: explican qué ha supuesto la muerte en sus vidas.

La hermana de Christopher, Stacy Wales, dio un paso que nadie había dado hasta entonces: usó inteligencia artificial para crear un vídeo en el que aparecía su hermano, con su cara y su voz, hablando en primera persona. Ese avatar miraba al acusado y le decía que lo perdonaba, que en otra vida incluso podrían haber sido amigos.

El guion lo escribió ella. La tecnología puso la cara y la voz de Christopher sobre esas palabras. El vídeo se proyectó en la sala, el juez dijo que le había encantado… y después impuso la pena máxima que la ley permitía.

Años después, un tribunal de apelación de Arizona ha revisado el caso. Mantiene la declaración de culpabilidad, pero anula la pena y ordena que se vuelva a fijar porque ese vídeo de IA, según los documentos que recoge 404 Media, “cruzó esa línea”, “no refleja hechos reales” y perjudicó tanto al condenado que el proceso fue “fundamentalmente injusto”.

¿Por qué el tribunal dice que el vídeo no refleja hechos reales?

La clave no es que el vídeo fuera agresivo o pidiera más castigo. Todo lo contrario: el avatar perdonaba. Lo que el tribunal ve problemático es el tipo de influencia que introduce en la decisión.

Hay tres ideas de fondo:

1. Peso emocional desproporcionado
   Un vídeo con la víctima “viva” en pantalla, mirando al acusado y hablándole con su propia voz, tiene un impacto emocional incomparable a una carta o a un testimonio leído. La apelación concluye que esa carga emocional fue tan intensa que contaminó la decisión sobre la pena, aunque el mensaje fuera de perdón.

2. No era una prueba… pero sí influyó
   La familia insiste en que el vídeo no fue una prueba del juicio: el jurado no lo vio y se mostró después del veredicto. Su objetivo declarado era conmover al juez. Ese matiz es importante, pero el tribunal recuerda que incluso en esa fase hay límites a lo que se puede presentar, porque sigue siendo un procedimiento judicial donde se decide cuántos años de cárcel va a pasar una persona.

3. Precedente previo: la “línea” ya estaba dibujada
   Desde 2007, con el llamado caso Rose, el propio sistema de Arizona ya había marcado un borde. En aquel caso, la familia de un policía asesinado enseñó fotos de sus hijos. El tribunal dijo que esas fotos casi cruzaban la línea de lo aceptable. En el caso del avatar, la apelación no dice “casi”: afirma que el vídeo sí cruzó esa línea.

Cuando el tribunal afirma que el vídeo no refleja hechos reales, está diciendo, en la práctica: lo que vemos no es algo que la víctima haya dicho ni hecho, es una construcción creada después por otra persona, usando su imagen y su voz como vehículo para un mensaje ajeno.

¿Qué diferencia hay entre una foto y un avatar de IA en un juicio?

La hermana de Christopher defendió el vídeo con un argumento serio: lo compara con el momento en que se permitió a las familias mostrar fotos en los tribunales. Una imagen también emociona. ¿Por qué entonces el avatar sí cruza la línea?

Aquí está la diferencia clave:

• Una foto muestra un hecho pasado: una graduación, una boda, un cumpleaños. No dice nada por sí misma sobre el acusado ni sobre la pena. Muestra contexto, emoción, pérdida.
• Un avatar pone palabras nuevas en boca de alguien que no está: ya no ves solo a la persona, la escuchas decir algo que nunca dijo. Donde una hermana podría declarar “creo que él te perdonaría”, el avatar afirma “yo te perdono”. Esa transformación es enorme.

Lo que antes era la opinión de un vivo se convierte en el testimonio en primera persona de un muerto, con su cara y su voz. Y ese testimonio no se puede contrastar, ni repreguntar, ni matizar.

El problema no es el dolor de la familia. El problema es que la tecnología permite que alguien asigne palabras, emociones y decisiones morales a una persona ausente, y las vista con su identidad visual y sonora como si fueran hechos.

¿Sería justo si lo hiciera la defensa? La prueba de la simetría

Para ver si una regla es justa, me gusta usar la prueba de la simetría: ¿aceptarías lo mismo si lo hiciera la otra parte?

Imagina que la defensa hace lo siguiente: recrea con IA a la madre del acusado, quizá ya fallecida, con su cara y su voz, pidiéndole clemencia al juez, contando lo buen hijo que era y suplicando que no le impongan la pena máxima.

La mayoría de la gente vería eso como una manipulación inaceptable: un intento de presionar al juez usando a alguien que no puede hablar por sí misma. Si consideramos inaceptable ese vídeo a favor del acusado, la misma regla debe aplicarse a un avatar de la víctima, aunque el mensaje sea de perdón.

La justicia no puede cambiar de criterio según a quién beneficie el efecto emocional.

¿Qué cambia esto para ti y para tu vida digital?

Este caso no va solo de tribunales. Va de algo mucho más cotidiano: hoy ya es técnicamente posible recrear tu cara y tu voz con unas pocas fotos y un par de audios de WhatsApp. Lo que en 2021 sonaba a ciencia ficción, en 2025 se está proyectando en una sala de vistas.

Hasta ahora, cuando alguien moría, los vivos hablaban sobre él: “él habría querido esto”, “ella diría aquello”. Sabíamos que eran interpretaciones en tercera persona. Con la IA, los vivos pueden hablar en primera persona en nombre de los muertos. Y lo que dice el avatar suena a verdad, aunque lo haya escrito otro.

En España, la ley de protección de datos de 2018 ya habla del testamento digital: puedes decidir qué pasa con tus cuentas cuando mueras. Según lo que cuento en el episodio, no hay todavía una regulación tan concreta sobre recrear tu cara y tu voz con IA.

Eso deja un hueco importante: legalmente no está claro quién puede decidir si se te recrea o no, ni en qué contextos. Éticamente, en cambio, la pregunta sí es nítida y personal: ¿quién quieres que hable por ti cuando ya no estés?

Mi recomendación práctica es muy simple y muy poco tecnológica: habla de esto con los tuyos. Diles si quieres que algún día te recreen con IA o si no quieres en absoluto. Es una conversación rara, sí, pero mejor decidirlo tú en vida que dejar esa decisión en manos de otros cuando no puedas opinar.

Veredicto

En este episodio no hay un sello nuevo que añadir: el veredicto ya está dicho en la propia resolución. El avatar de IA no supera la prueba porque, en palabras del tribunal, el vídeo no refleja hechos reales y ha hecho que una pena de diez años y medio tenga que volver a decidirse. Lo que sí supera la prueba, esta vez, es que un tribunal humano haya revisado y corregido esa decisión inicial.