Por primera vez, líderes tecnológicos como el cofundador de Apple, Steve Wozniak; el director ejecutivo de Tesla y SpaceX y Twitter, Elon Musk; el cofundador de Skype, Jaan Tallinn y el director ejecutivo de Stability AI, Emad Mostaque, se unieron a una petición para detener temporalmente los grandes experimentos con inteligencia artificial (IA) “por los riesgos que pueden entrañar para la sociedad”.
«Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes», matizan en la carta publicada en el Future of Life Institute.
Estos líderes tecnológicos solicitan que la paralización de los entrenamientos se aproveche para desarrollar e implementar un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA», que sean auditados y supervisados por expertos externos independientes.
También destacan la necesidad de trabajar de forma conjunta con los legisladores “para avanzar en el desarrollo de sistemas sólidos de gobierno de IA”, que además de garantizar un desarrollo seguro de esta tecnología, permita su auditoría y supervisión y el seguimiento de los responsables en caso de fugas o daños, para que puedan responder por ellos.
Cabe destacar que más de 1,100 personas han firmado ya una petición que busca que los laboratorios de IA detengan «de inmediato y durante al menos durante seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4».
Detrás de esta petición se encuentra la preocupación que suscita el desarrollo de sistemas de IA con inteligencia humana-competitiva, principalmente por los riesgos que pueden suponer para la sociedad y la humanidad, ya que consideran que su desarrollo no se está realizando con planificación ni gestión.
