Las empresas OpenAI y Bugcrowd Inc. anunciaron un programa de recompensas por detección de fallos en los productos de IA incluido el popular chatbot ChatGPT, que va desde 200 dólares por hallazgos de baja gravedad y 20.000 dólares por descubrimientos excepcionales.
“Esta iniciativa es una parte esencial de nuestro compromiso con el desarrollo de una IA segura y avanzada”, afirmó Matthew Knight, responsable de seguridad de OpenAI.
Subrayó que la transparencia y la colaboración son fundamentales para encontrar vulnerabilidades en su tecnología. Por ello, cree que el programa de recompensas animará a los usuarios a informar a la empresa para mejorar la seguridad y fiabilidad de sus sistemas de IA.
Hay que recordar que los programas de recompensas por fallos son habituales en el sector tecnológico.
Sin embargo, el anuncio no es una completa sorpresa ya que Greg Brockman, presidente y cofundador de la empresa con sede en San Francisco, mencionó recientemente en Twitter que OpenAI había estado “considerando iniciar un programa de recompensas” para detectar puntos débiles.
Hizo este comentario en respuesta a un post escrito por Alex Albert, un joven de 22 años aficionado a escribir instrucciones para eludir las salvaguardias que los chatbots como ChatGPT tienen instaladas.
No es un dato menor que el ChatGPT es la aplicación de inteligencia artificial más usada. Este sistema de chat basado en el modelo de lenguaje de la Inteligencia Artificial GPT-3, ha juntado más de 175 millones de parámetros que permiten responder casi a cualquier interrogante que tenga el usuario, brindando las mejores respuestas gracias a este compilado de información.
