Inteligencia artificial es una amenaza para la humanidad

Una nueva carrera armamentista en la inteligencia artificial (AI, su sigla en inglés) y robótica corre el riesgo de salirse de control humano, según un reporte preparado para el Foro Económico Mundial en Davos esta semana.

El estudio de riesgos globales de la instancia subraya la creciente preocupación por las bajas barreras regulatorias sobre la tecnología AI, cada vez más usada en defensa y en otros aspectos de la vida, que pronto podría llegar a superar la capacidad humana de pensamiento. Aunque destaca que reducir la supervisión humana puede aumentar la eficiencia y es necesario para aplicaciones como los autos sin conductor, el reporte advierte los “peligros en pasar a depender completamente en las decisiones de sistemas de AI cuando no entendemos completamente cómo los sistemas toman esas decisiones”.

Las aplicaciones de AI han sido limitadas a resolver problemas específicos como las transacciones bursátiles, pero es un campo en rápido desarrollo y las tecnologías ya están comenzando a implementarse en áreas donde hay más preocupaciones éticas y de seguridad.

El reporte subraya los riesgos en el campo de sistemas de armas autónomos, un sector que atrae grandes cantidades de inversión.

Declarando que “una nueva carrera armamentista se está desarrollando en la robótica armada”, alerta que a medida que el uso de AI se vuelve más común, “también lo hacen los riesgos de que estas aplicaciones operen de maneras imprevisibles o fuera del control de los humanos”.

Añade: “Algunos pensadores serios temen que la AI podría ofrecer una amenaza existencial: una ‘súper inteligencia’ podría no estar alineada con la existencia de la raza humana”. Según el informe, la AI tiene el potencial para mejorar la productividad en muchas áreas, pero subraya que hay peligros por la insuficiencia de controles.