Drew Crecente recuerda cómo se le aceleró el pulso cuando descubrió que su hija adolescente muerta, asesinada 18 años antes, se había transformado en un chatbot con inteligencia artificial.
Jennifer Crecente fue asesinada a tiros por su exnovio de la escuela secundaria en 2006. Drew se sorprendió cuando a principios de este mes vio su nombre y su imagen resucitados como un personaje en línea.
“Al principio estaba confundido”, dijo Drew a DailyMail.com.
“Esta confusión rápidamente se convirtió en miedo e ira, cuando comencé a darme cuenta de que de alguna manera un servicio proporcionaba a los usuarios los medios para hablar con mi querida y fallecida hija”.
El nombre y el retrato de Jennifer se utilizaron como base para un bot en Character.AI, un sitio web que permite a los usuarios crear personalidades digitales de IA y chatear con ellas.
Recuerdos más felices: Drew Crecente y su hija Jennifer, asesinada por su exnovio, de 18 años, en 2006.
Una captura de pantalla guardada del perfil del chatbot 'Jennifer', que desde entonces se eliminó de la plataforma Character.ai.
La angustia del afligido padre plantea preguntas difíciles sobre la privacidad de los datos y el respeto por las familias de las víctimas de homicidio en el mundo en línea de rápido crecimiento de los personajes de IA.
Atraído Encontró el chatbot el 2 de octubre, después de recibir una alerta de Google que señalaba una mención de Jennifer.
Las alertas lo ayudaron a rastrear la cobertura del asesinato de Jennifer y su posterior campaña contra la violencia en las citas entre adolescentes.
Le costó entender qué era, dice. Cuanto más miraba, más perturbado se sentía.
El perfil del robot utilizó el nombre completo de Jennifer y una foto de su anuario de la escuela secundaria.
La describió en un lenguaje animado, sugiriendo que todavía estaba viva y trabajaba como periodista de tecnología a la que le gustaba “incursionar en los videojuegos”.
La biografía agregaba que Jennifer estaba “siempre actualizada con las últimas noticias de entretenimiento”.
Era claramente absurdo: Jennifer había muerto 18 años antes, antes de que los reporteros de tecnología fueran algo común.
Aún así, la idea de que una empresa de miles de millones de dólares alojara e incluso se beneficiara de un chatbot utilizando la imagen de su hija asesinada era angustiosa.
“He trabajado en el sector tecnológico durante décadas y, por lo tanto, estoy familiarizado con el concepto de chatbots desde hace mucho tiempo”, afirmó Drew.
“Pero me sorprendió mucho encontrar una sirvienta con el nombre y la fotografía de mi hija”.
Drew dice que no inició una conversación con el chatbot.
El bot parecía haber sido creado por un usuario de la plataforma y Drew no reconoció el nombre de usuario.
Él cree que la propia IA de la compañía creó el bot recopilando fuentes en línea sobre Jennifer y otros miembros de la familia.
El tío de Jennifer, Brian Crecente, dijo que estaba “disgustado” por la forma en que la foto del anuario de la escuela secundaria del adolescente asesinado fue utilizada como un chatbot de IA.
Una selección de fotografías de la infancia de Jennifer en un sitio web a su nombre que tiene como objetivo acabar con la violencia en las citas entre adolescentes.
Drew dice que todavía no “tiene el vocabulario para describir” su dolor por la pérdida de su hija, Jennifer.
Los 100 millones de bots creados por los usuarios del sitio web de chatbot se basan, en algunos casos, en personalidades de la vida real y personajes históricos y ficticios.
“Parece que no están haciendo lo mínimo necesario para verificar estos perfiles de chatbot o que su tecnología es tan mala que resulta inútil”, dijo a DailyMail.com.
Le envió un correo electrónico a Character para que lo eliminara.
Ya no aparece en el sitio web.
Kathryn Kelly, portavoz de Character, dijo que la empresa elimina los chatbots que violan sus términos de servicio.
La plataforma está “constantemente evolucionando y refinando nuestras prácticas de seguridad para ayudar a priorizar la seguridad de nuestra comunidad”, dijo a The Washington Post.
Sus reglas dicen que los usuarios no pueden hacerse pasar por ninguna persona o entidad.
“Cuando se nos notificó sobre el personaje de Jennifer, revisamos el contenido y la cuenta y tomamos medidas según nuestras políticas”, dijo Kelly en un comunicado.
Los robots de IA se pueden programar para adoptar características y detalles biográficos de personajes específicos, reales o imaginarios.
Se están volviendo más populares a medida que las plataformas de inteligencia artificial comercializan compañeros digitales como amigos, mentores e incluso parejas románticas.
No están exentos de controversia. Un belga se suicidó el año pasado después de que un chatbot lo animara a hacerlo.
Character, que firmó un acuerdo de 2.500 millones de dólares este año para otorgar licencias de sus bots a Google, es una de las plataformas más grandes de su tipo.
La mayoría de sus 100 millones de bots creados por usuarios fueron claramente diseñados para este propósito.
A menudo tienen nombres locos y retratos de anime.
Pero otros se basan en íconos de la vida real, desde Ana Frank hasta Taylor Swift y Donald Trump.
Otros todavía recurren a la ficción, como es el caso de Sherlock Holmes.
Aún así, era el último lugar donde Drew esperaba ver a su amada Jennifer.
El joven de 18 años desapareció en febrero de 2006.
Jennifer Ann Crecente nació en Nuevo México, pero su familia se mudó a Austin, Texas, donde asistió a escuelas locales.
Cada uno de los padres de Jennifer lidera campañas en honor de su hija con el objetivo de acabar con la violencia en las citas entre adolescentes.
Daddy Drew vive en Atlanta estos días. Conservó la habitación de Jennifer y la recreó una vez que se mudó allí, dice.
La encontraron muerta a tiros en el bosque cerca de su casa en Austin, Texas, días después.
Los investigadores determinaron que su exnovio, Justin Crabbe, también de 18 años, atrajo a Jennifer al bosque y la mató con una escopeta.
Crabbe fue declarado culpable de su asesinato y cumple una condena de 35 años de prisión.
Drew ahora vive en Atlanta. Conservó la habitación de Jennifer y la recreó una vez que se mudó allí, dice.
“Jennifer era una joven maravillosa, atenta y atractiva”, dijo a DailyMail.com.
'Ella habría hecho cosas increíbles en el mundo si hubiera tenido la oportunidad. Estaba y sigo estando muy orgulloso de ella. La extraño todos los días.
La madre de Drew y Jennifer, Elizabeth Crecente, está divorciada.
Ambos presionaron contra la libertad condicional de Crabbe y por separado hicieron campaña contra la violencia en las citas entre adolescentes en honor a su hija.
Drew dice que el problema está “más extendido y más mortal de lo que muchos creen”.
Alrededor del 40 por ciento de los estudiantes entran en una relación abusiva antes de graduarse de la universidad, dijo a DailyMail.com.
“Muchas escuelas no enseñan sobre relaciones saludables y muchos padres no son conscientes o no están lo suficientemente preparados para involucrar a sus hijos en este tema”, advierte.
“Los adolescentes a menudo aprenden de sus compañeros o de la cultura popular lo que constituye un comportamiento saludable o aceptable cuando empiezan a tener citas”.
