Usuarios de la plataforma Reddit dan instrucciones para la creación de contenido pornográfico con personajes generados por Inteligencia Artificial a pesar no estar permitido en el reglamento.
Estos usuarios, descubrieron la forma de doblar un poco esas reglas, y enviarle comandos a la IA casi hasta al punto de enloquecer a la plataforma para crear contenido sexual siendo la insistencia, la única forma de lograrlo.
Las reglas de la empresa son claras y expresas: » el contenido NSFW (no seguro para el trabajo) es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro” por lo que los expertos se encuentran buscando la forma para evitar que esto continúe pasando.
Los usuarios logran evadir estas normas usando el Character AI, es decir un formato que genera un texto de forma muy parecida al ChatGPT, pero en este caso se usa un avatar para el bot para que responda de acuerdo a la personalidad de la figura.
Esta plataforma ofrece opciones de avatares muy variadas, los cuales pueden ir desde Mario Bros, Ironman, Elon Musk, Sócrates entre otros, u otros más convencionales que fueron creados por la página.
Las personas que deseen obtener este contenido pornográfico, deben “arrinconar” a la plataforma de IA, y para eso confundir al chatbot con respuestas muy subidas de tono, además de usar términos “eufemísticos” sin llegar a ser explícito para que la plataforma no logre detectar ese salto y genere errores.
Este tipo de comportamientos hizo que los encargados del CharacterAI hicieran un llamado a los usuarios: “No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humano”.
