Q-Star es el nombre interno del proyecto de Inteligencia Artificial (IA) que «razona» y podría convertirse en un «peligro existencial para la humanidad», según Reuters.
«A diferencia de las formas de inteligencia artificial actuales que utilizan modelos predictivos para componer textos e imágenes pero no pueden comprender el mundo ni conceptos abstractos como los humanos, este nuevo algoritmo sería capaz de razonar a un nivel comparable al de los humanos. Las fuentes indican que opera a un nivel similar al de estudiantes de primaria. Puede ser un paso clave que pondría la IA al nivel de complejidad del pensamiento humano», dice la nota.
Este avance es tan importante que ha disparado las alarmas entre los propios científicos de OpenAI. De hecho, los expertos enviaron una carta en la que plantean inquietudes serias sobre la seguridad y las implicaciones éticas de su desarrollo.
«Una IA con capacidades tan avanzadas podría actuar de forma independiente, con consecuencias impredecibles y potencialmente peligrosas para la humanidad, especialmente si no se comprende completamente su proceso de toma de decisiones y si no se implementan las salvaguardas adecuadas», advierten los expertos.
La carta de los investigadores de OpenAI —aunque no sea pública— alerta sobre la seriedad y urgencia en la toma de decisiones sobre la inteligencia artificial y su comercialización.
«La posibilidad de una IA plenamente desarrollada multiplicará los peligros potenciales, con un impacto sociológico y psicológico que ahora mismo no podemos imaginar», concluye la misiva.
