Una declaración de víctima generada por IA da un vuelco a la sentencia en Arizona
Un caso de homicidio involuntario en Arizona vuelve ante un juez de sentencia después de que un tribunal de apelaciones determinara que un video generado por IA de la víctima tenía un 'peso emocional indebido'. El fallo no anula la condena, pero reconfigura cómo el tribunal debe considerar una imagen sintética de un hombre fallecido que parecía hablar desde ultratumba. El caso se ha convertido en un punto álgido para los debates sobre el duelo, los derechos de las víctimas, la inteligencia artificial y los límites de la prueba emocional en los tribunales.
El caso de un vistazo
- En 2021, Gabriel Horcasitas disparó y mató a Christopher Pelkey durante un incidente de furia al volante.
- Un jurado condenó a Horcasitas por homicidio involuntario.
- En la sentencia, la hermana de Pelkey, Stacey Wales, presentó un video generado por IA como parte de su declaración de impacto de la víctima.
- Wales escribió el guion de las palabras, y una imagen de IA de Pelkey parecía perdonar a su asesino y decir que podrían haber sido amigos en otra vida.
- El juez impuso la pena máxima de 10 años y medio y habló positivamente del video.
- Un tribunal de apelaciones de Arizona mantuvo el cargo de homicidio involuntario pero ordenó al juez reconsiderar la duración de la pena de prisión debido al video de IA.
Por qué el tribunal trazó una línea
La decisión de apelación no dijo que las declaraciones de impacto de las víctimas sean ilegítimas. Se centró en cómo se presentó esta declaración en particular. Los tribunales generalmente permiten que las víctimas y sus familias describan la pérdida, pero la sentencia debe basarse en información fiable y no puede estar impulsada por material inflamatorio o engañoso. Un avatar sintético no es la víctima. Es una actuación construida a partir del guion de otra persona. Los jueces de apelación concluyeron que la fuerza emocional del video de IA iba más allá de lo que la ley permite, dándole un 'peso emocional indebido'. Esa frase importa porque distingue la emoción judicial ordinaria de la persuasión fabricada.
La intención de la hermana: influir en el juez
El colaborador de 404 Media, Matthew Gault, habló extensamente con Wales, quien dijo que su objetivo era influir en el juez. Describió el video como un intento de conexión humana, argumentando que una vida no puede comprimirse fácilmente en un solo evento de sentencia y que las familias de las víctimas deberían tener todas las oportunidades para comunicar su pérdida. Su argumento plantea una pregunta difícil: si un miembro de la familia escribe las palabras y genera la imagen, ¿el resultado es una expresión legítima de duelo o una simulación engañosa del fallecido? Los partidarios ven una nueva herramienta para las víctimas. Los críticos ven a un juez al que se le pide que reaccione ante una persona que nunca pronunció realmente esas palabras.
Declaraciones de impacto de las víctimas y los límites de la emoción
Las declaraciones de impacto de las víctimas están destinadas a mostrar el daño causado por un delito. No se supone que introduzcan nuevos hechos ni determinen la culpabilidad. En la práctica, pueden ser profundamente emocionales, y los tribunales les dan espacio porque las víctimas merecen ser escuchadas. Sin embargo, ese espacio no es ilimitado. Si una declaración se vuelve tan poderosa que abruma una sentencia razonada, los tribunales de apelación pueden intervenir. El fallo de Arizona sugiere que se cruzó la línea no simplemente porque el video fuera emocional, sino porque utilizó una imagen de IA para amplificar esa emoción mientras ocultaba la autoría. La reacción cálida del juez al video puede haber hecho que el tribunal de apelación se preocupara más, no menos: indicaba que los medios sintéticos podían moldear una decisión de sentencia de maneras que el acusado no podía impugnar eficazmente.
Resurrección por IA y consentimiento
No existe un marco legal establecido para la imagen digital póstuma. El caso de Arizona pone a prueba si un miembro de la familia puede usar una recreación por IA de una persona fallecida para hablar en el tribunal. Incluso si Wales tenía una conexión familiar cercana, las palabras eran suyas, no de su hermano. Las preguntas sobre el consentimiento, los derechos del patrimonio y los deseos de la persona fallecida siguen sin resolverse. Algunas personas ven la resurrección por IA como una forma de narración o memorial. Otras advierten que puede poner palabras en la boca de una persona muerta, especialmente en un entorno legal donde la credibilidad y la autenticidad tienen un peso enorme. A medida que las herramientas de IA se vuelven más baratas y realistas, es probable que estas disputas se multipliquen en los tribunales, los medios y la vida privada.
Qué significa el fallo para casos futuros
La decisión de apelación no es una prohibición nacional de la IA en las salas de justicia. Se aplica a esta sentencia y ordena una nueva revisión de la pena de prisión. Aun así, ofrece una advertencia a jueces, abogados y defensores de las víctimas. Es posible que los tribunales deban evaluar los medios sintéticos en cuanto a fiabilidad, autoría y efecto perjudicial antes de permitir su entrada en un procedimiento. Los abogados defensores pueden impugnar las declaraciones de víctimas mejoradas con IA. Los fiscales pueden preocuparse por las apelaciones. Las familias de las víctimas pueden buscar reglas más claras para que sus declaraciones no sean rechazadas simplemente porque utilizan nueva tecnología.
Posibles estándares judiciales
- Exigir la divulgación cuando una declaración utilice voces, rostros o imágenes generadas por IA.
- Identificar quién escribió las palabras sintéticas y si la persona fallecida dio su consentimiento.
- Limitar los videos de IA que simulan el punto de vista de la víctima de maneras que inflaman el procedimiento.
- Permitir que las familias presenten declaraciones escritas o habladas sin recreaciones sintéticas.
- Proteger el derecho del acusado a una sentencia basada en información fiable en lugar de un espectáculo.
Por separado, proyectos de ley de vigilancia citan la cobertura de 404 Media
En el mismo boletín, 404 Media señaló que varias nuevas piezas legislativas, si se aprobaran, limitarían el acceso de las agencias federales a las cámaras Flock. Los legisladores citaron la cobertura de 404 Media al explicar por qué se necesitan los proyectos de ley. El senador Bernie Sanders argumentó que Flock está socavando la privacidad al instalar decenas de miles de cámaras en comunidades sin su consentimiento. Los proyectos de ley de vigilancia son independientes del caso de sentencia de Arizona, pero reflejan una ansiedad relacionada: los sistemas automatizados e impulsados por IA se están extendiendo más rápido que las reglas destinadas a gobernarlos. Una historia trata sobre una imagen de IA que influye en un juez. La otra trata sobre una red de cámaras que influye en la vigilancia policial. Ambas plantean preguntas sobre quién controla las representaciones digitales y qué recurso tienen las personas comunes cuando esos sistemas moldean decisiones oficiales.
Las preguntas más grandes
El caso de Arizona puede convertirse en un punto de referencia sobre cómo los tribunales manejan la emoción generada por IA. Pregunta si una víctima sintética puede dar una declaración de impacto de la víctima, si el perdón generado por IA debería influir en una sentencia y si los jueces están equipados para evaluar la autenticidad en una era de imitación fácil. La condena por homicidio involuntario se mantiene, pero Horcasitas será resentenciado. El juez debe reconsiderar la pena de prisión sin dar al video de IA un peso indebido. Para Wales, el video fue un intento de transmitir pérdida y humanidad. Para el tribunal, fue un paso demasiado lejos. Para todos los demás, es un avance de las disputas venideras a medida que la IA facilita resucitar a los muertos, simular sentimientos y poner a prueba los límites legales de la prueba y la empatía.
Este artículo se basa en reportajes de 404 Media. Lea el artículo original.
Originally published on 404media.co