El secretario general de la ONU, Antonio Guterres, advirtió este lunes que la inteligencia artificial (IA) se está desarrollando más rápido de lo que cualquiera puede seguir su ritmo, e hizo un llamado a establecer normas armonizadas a nivel mundial para reducir sus riesgos potenciales, especialmente para los niños.
"Una tecnología que puede transformar las economías, cambiar el mundo del trabajo, influir en las elecciones y alterar el equilibrio de la seguridad se está desplegando más rápido de lo que cualquiera, incluidas las personas que la están desarrollando, puede seguir", dijo Guterres a los delegados durante el primer diálogo global sobre IA a nivel gubernamental, realizado en Ginebra.
"La innovación necesita salvaguardias... Si la IA va a ser poderosa, debe estar gobernada", afirmó Guterres.
El primer Diálogo Global de la ONU sobre Gobernanza de la IA, que se extenderá por dos días, no busca negociar un tratado, sino debatir cómo establecer reglas para mitigar los posibles daños de la IA y aprovechar sus oportunidades.
Los delegados analizarán un informe elaborado por un panel científico independiente respaldado por la ONU, integrado por 40 expertos, que presentará las conclusiones de la primera evaluación científica global e independiente sobre IA.
Está previsto que el próximo año se publique un informe más amplio, junto con una segunda reunión global que se celebrará en Nueva York.
Necesidad de reglas globales para la IA
Guterres enfatizó que las normas armonizadas a nivel mundial sobre IA deben priorizar la seguridad de los niños, tras conocerse casos de menores inducidos al autolesionarse o engañados por máquinas que se hacían pasar por amigos.
"No permitimos que un medicamento llegue a un niño hasta que se demuestre que es seguro. Probamos cada juguete. Sin embargo, la IA ya llegó a nuestros niños -a su aprendizaje, sus amistades y sus preguntas más privadas- antes de que alguien se preguntara qué efectos tendría sobre ellos", señaló.
También propuso un Compromiso por la Seguridad Infantil en la IA, mediante el cual las empresas que desarrollan estos sistemas deban demostrar que son seguros antes de ponerlos a disposición de los menores.
Además, sostuvo que estos sistemas no deberían poder generar imágenes sexuales de niños y que, cuando un menor muestre señales de angustia, el sistema debería detener la interacción y derivarlo a una persona para que reciba ayuda.
Si bien reconoció que la IA ofrece oportunidades significativas, por ejemplo en el ámbito de la salud, Guterres afirmó que las instituciones del mundo no están preparadas para máquinas que toman decisiones, y que la velocidad vertiginosa del desarrollo de esta tecnología está haciendo que los sistemas adopten cada vez más decisiones con escasa supervisión humana o gubernamental.
"A internet le tomó 15 años llegar a mil millones de personas. La IA lo logró en dos", dijo Guterres a los asistentes.
También advirtió sobre la concentración de los sistemas de IA más avanzados en un pequeño grupo de empresas y países, lo que deja a las naciones en desarrollo con poca capacidad de influir en la evolución de esta tecnología y con el riesgo de quedar rezagadas.
El informe independiente elaborado por el panel científico concluyó que el desarrollo de la IA está aún más concentrado: Estados Unidos concentra el 75% de la capacidad de cómputo de las 500 principales supercomputadoras para IA del mundo, mientras que China representa el 15%.
Asimismo, el documento señala que, aunque más de mil millones de personas utilizan semanalmente herramientas de IA conversacional en todo el mundo, su adopción sigue siendo más lenta en los países en desarrollo.
Cerrar la brecha en IA
Guterres afirmó que, si se utiliza adecuadamente, la IA podría condensar décadas de desarrollo en apenas unos años y convertirse potencialmente en "el gran igualador del siglo XXI".
El presidente del Consejo Presidencial de Libia, Mohamed al-Menfi, instó a reducir la brecha en IA que enfrenta África, continente que representa el 10% de la población mundial, pero cuenta con menos del 2% de los centros de datos del planeta.
"La IA no puede ser un recurso legítimo si los países africanos no pueden hacer uso de ella", afirmó, al tiempo que pidió una mayor participación de los Estados africanos en el diseño de las normas que regirán esta tecnología.
Por su parte, el presidente de Georgia, Mikheil Kavelashvili, señaló a los delegados que los líderes mundiales comparten la responsabilidad de crear un marco jurídico internacional sólido para evitar que el poder de la IA se convierta en un "instrumento de control totalitario y de una nueva tiranía digital".
VER MÁS
MARKET DATA
<%userdata?.email%>
Editar perfil
Credencial
Salir
(Twitter)
Instagram
Facebook
LinkedIn
YouTube
TikTok
Alto contraste
IA
