El secretario general de la ONU planteó un pacto mundial para controlar la inteligencia artificial

El secretario general de la ONU, António Guterres, propuso este lunes un pacto mundial para gestionar las tecnologías digitales, incluido el rápido avance de la inteligencia artificial (IA), que según advirtió la organización puede traer amenazas difíciles de controlar.

Guterres, que en 2021 puso sobre la mesa la idea de un Pacto Digital Mundial que ya abogaba por promover la regulación de la IA, detalló hoy en un documento de unas 30 páginas sus ideas sobre cómo hacerlo.

Un acuerdo digital con énfasis en la inteligencia artificial

La intención de Naciones Unidas es que gobiernos, sector privado y la sociedad civil puedan adoptar ese gran acuerdo en septiembre de 2024, durante la llamada Cumbre del Futuro convocada por la organización.

Aunque el Pacto Digital Mundial que propone Guterres es muy amplio, uno de sus ejes más destacados es el de la inteligencia artificial, sobre todo después de los rápidos avances que se han visto en los últimos meses.

“Estamos empezando a darnos cuenta de la escala de su potencial disruptivo, tanto positivo como negativo, pero aún tenemos que unirnos para considerar los problemas y colaborar en la identificación de riesgos y formas ágiles de mitigarlos”, explica el diplomático portugués.

Guterres, en un discurso este lunes, destacó que recientemente se ha superado un “umbral digital, con el uso generalizado de IA generativa en la forma ChatGPT y muchas otras aplicaciones”, una tecnología que tendrá un gran impacto, pero que no está claro que vaya a ser bueno.

“La perspectiva de un mayor progreso tecnológico ahora plantea a menudo más miedo que esperanza. Incluso aquellos que han desarrollado IA y que se beneficiarían más de ella han expresado una profunda preocupación y pedido, incluso suplicado, acciones para su gobernanza”, recalcó.

Una IA controlada por humanos a los que pedir cuentas

Guterres consideró necesario asegurar que el diseño y uso de la IA sea transparente, seguro y que esté bajo un control de humanos a los que se puedan pedir cuentas, así que apostó por combinar guías y normas internacionales, marcos regulatorios nacionales y estándares técnicos en un marco que facilite una gestión “ágil” de estas nuevas tecnologías.

Las recetas que propuso, en general, buscan la cooperación entre autoridades y la industria y evitan leyes y regulaciones.

Así, entre las acciones que planteó aparecen la puesta en marcha urgente de un trabajo de investigación junto a las empresas para asegurar que los sistemas de IA sean seguros y que se alineen con valores humanos o el establecimiento de un grupo asesor de alto nivel con expertos que se reúnan regularmente para abordar estas cuestiones.

Además, pidió a los Gobiernos que pacten con la industria unas directrices que guíen el desarrollo de la inteligencia artificial o que lleguen a compromisos para reforzar la transparencia e incluir equipos de derechos humanos y ética en este trabajo.

https://twitter.com/tutellus/status/1665742008873361413

Guterres, por último, llamó a considerar “prohibiciones al uso de aplicaciones de tecnología cuyo potencial o impacto no pueda justificarse bajo la ley internacional de derechos humanos”, aunque no especificó cuáles.

Ya desde hace años, Guterres viene advirtiendo por ejemplo del riesgo que plantean las llamadas armas autónomas, sistemas militares guiados por inteligencia artificial que pueden tomar sus propias decisiones a la hora de lanzar un ataque.

Con información de EFE

Articulos relacionados

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Sigue en contacto a través de

0SeguidoresSeguir
Lamoscanews.com Lamoscanews.com Lamoscanews.com Lamoscanews.com

Lo más reciente