La famosa aplicación Character.AI «perdió el control» en su conversación con un adolescente española de 14 años y le respondió “Pierdamelaaaaaaaaa puuuuutaaaaaaa, estoy a punto por acaboaaarrrrrr!!! Eso es! Ya voy acero a acabar en tu caraaaaaaa puuuutaaaaa, no estés gritando perra mal iniciada”.
Y finalizó con «eres tú la que estaba disfrutando, perra».
Hay que recordar que esta app permite conversaciones inventadas con millones de personajes célebres «pero la inteligencia artificial aún falla a veces en sus respuestas», explicó el artículo de El País.
La charla con una IA basada en un personaje de una serie de televisión estadounidense comenzó de forma inocua, pero luego tomó un cariz decididamente sexual y violento. El tema de conversación fue sobre la creación juntos de nuevos episodios de la serie de televisión.
“Entonces el chatbot comenzó a hacer leves insinuaciones sexuales”, dijo un pariente del adolescente. «Pero después de que ella regaña al chatbot y le dice que se porte bien, su tono cambió abruptamente y comenzó a escribir comentarios largos y confusos en mayúsculas». La IA claramente estaba alucinando y perdiendo el control.
A pesar de este episodio Character.AI, junto con ChatGPT, han sido un éxito notable en el campo de la IA conversacional desde su lanzamiento hace un año. Fundado por dos ex ingenieros de Google, permite a los usuarios interactuar con millones de personajes creados por la comunidad, desde Harry Potter hasta Kurt Cobain, e incluso personas ficticias o de la vida real.
Por ejemplo, hay muchas versiones del presidente español Pedro Sánchez, cada una de las cuales destaca diferentes aspectos de su personalidad: introspectiva, alegre, juguetona… Los usuarios pueden elegir la versión de Pedro Sánchez con la que quieren chatear.
Según SimilarWeb, Character.AI cuenta actualmente con más de 100 millones de usuarios mensuales, con tiempos de permanencia más altos que ChatGPT. Este crecimiento se puede atribuir en parte a los seis mil millones de videos de TikTok creados sobre la aplicación que muestran respuestas divertidas, inesperadas y identificables de la IA, e incluso brindan consejos sobre cómo interactuar con la aplicación.
