La Agencia de la Unión Europea para la Cooperación Policial (Europol) alertó este lunes sobre la vulnerabilidad del ChatGPT, basado en inteligencia artificial (IA), para actividades delictivas relacionadas con el phishing.
El documento publicado por la agencia titulado: “ChatGPT: el impacto de los modelos de lenguaje amplio en la aplicación de la ley”, detalla el riesgo de estos sistemas basados en IA, que los delincuentes pueden utilizar para beneficio propio.
«A medida que se mejoran activamente las capacidades de los grandes modelos lingüísticos, como ChatGPT, la posible explotación de este tipo de sistemas de IA por parte de los delincuentes ofrece un panorama sombrío», aseguró la agencia policial.
Europol destaca además que el potencial que puede ofrecer la IA en actividades delictivas radica en la capacidad que tiene esta herramienta de crear un contenido personalizado a través de las distintas plataformas sociales, para captar a posibles incautos.
El avance de esta IA puede dar a los delincuentes textos y material multimedia con un mínimo error en redacción y sintaxis, lo que dificultará a las autoridades identificar si estos mensajes son reales o no.
El phishing es un método para intentar recopilar información personal utilizando correos electrónicos y sitios web engañosos.
El deepfake y las fake news
Los especialistas en delitos informáticos prevén que la masificación del uso ChatGPT en la creación de imágenes y personajes podrán multiplicar las promociones y ofertas engañosas o el riesgo de extorsionar a personas a través de deepfake, que imita la apariencia y el sonido de una persona.
En la mayoría de los casos, los delincuentes emplean imágenes de personalidades reconocidas en las diferentes plataformas en redes sociales, utilizan perfiles falsos en la que cambian una letra del perfil oficial o clonan páginas web para recopilar datos bancarios, contraseñas e información sensible.
Finalmente, Europol hace un llamado a los responsables de OpenAI a tomar medidas para consolidar la seguridad del GPT-4 y así evitar los posibles fraudes que puedan emplear los delincuentes con esta tecnología.
