Guterres advierte que la IA podría convertirse en un arma

El Secretario General de la ONU, António Guterres, advirtió el miércoles que la Inteligencia Artificial (IA) podría convertirse en un arma si no se implementan barreras, y pidió a los gobiernos que regulen esta tecnología.

En un debate de alto nivel del Consejo de Seguridad de las Naciones Unidas centrado en la IA, Guterres admitió que la cuestión ahora ya no es si la IA influirá en la paz y la seguridad internacionales, sino más bien cómo se configurará esa influencia.

Si se utiliza de manera responsable, la IA puede fortalecer la prevención y la protección, dijo Guterres, citando ejemplos como anticipar la inseguridad alimentaria y el desplazamiento, apoyar el desminado y ayudar a identificar posibles brotes de violencia, entre otros.

"Pero, sin barreras, también puede convertirse en un arma. Los conflictos recientes se han convertido en campos de pruebas para la focalización y la autonomía de la IA ", afirmó.

El líder de las Naciones Unidas señaló que los ciberataques impulsados ​​por IA pueden interrumpir o destruir infraestructura crítica en minutos, y que la capacidad de fabricar y manipular audio y video a través de IA "amenaza la integridad de la información, alimenta la polarización y puede desencadenar crisis diplomáticas".

“ La innovación debe servir a la humanidad, no socavarla ”, insistió el ex primer ministro portugués.

El mes pasado, la Asamblea General de las Naciones Unidas estableció un Panel Científico Internacional Independiente sobre Inteligencia Artificial y un Diálogo Anual de Gobernanza Global sobre el tema.

Según el Secretario General, esto es un reconocimiento del poder de convocatoria único de las Naciones Unidas y, en conjunto, estas iniciativas apuntan a conectar la ciencia, la política y la práctica.

"Próximamente lanzaré una convocatoria abierta de nominaciones para el Panel Científico. Insto a todos los Estados Miembros a que nominen a expertos eminentes y diversos y a que apoyen la experiencia, la independencia y el equilibrio regional del Panel", instó.

"También hago un llamamiento a los gobiernos y a las partes interesadas para que participen plenamente en el Diálogo Global y formulen normas globales inclusivas y basadas en los derechos humanos", añadió.

Siguiendo con el tema de la IA, el ex primer ministro portugués describió cuatro prioridades, empezando por garantizar el control humano sobre el uso de la fuerza.

Seamos claros: el destino de la humanidad no puede dejarse en manos de un algoritmo. Los humanos siempre deben conservar la autoridad sobre decisiones de vida o muerte», enfatizó. En este sentido, António Guterres reiteró su llamado a la prohibición de los sistemas de armas autónomas letales que operan sin control humano.

En segundo lugar, Guterres instó al desarrollo de marcos regulatorios globales y coherentes, enfatizando que, desde el diseño hasta el despliegue y el desmantelamiento, los sistemas de IA deben cumplir siempre con el derecho internacional. "Los usos militares deben estar claramente regulados: mediante revisiones legales, rendición de cuentas humana y sólidas salvaguardias contra el uso indebido", insistió.

En tercer lugar, el Secretario General pidió que se proteja la integridad de la información en situaciones de conflicto e inseguridad.

El líder de la ONU argumentó que los gobiernos, las plataformas, los medios de comunicación y la sociedad civil deben cooperar para detectar y prevenir las falsedades generadas por la IA, desde campañas de desinformación hasta deepfakes que afectan los procesos de paz, el acceso humanitario y las elecciones.

"Necesitamos transparencia en todo el ciclo de vida de la IA, atribución rápida y verificada de las fuentes de información y su difusión, y salvaguardas sistémicas para evitar que los sistemas de IA difundan desinformación e inciten a la violencia", reforzó.

Finalmente, Guterres destacó la necesidad de cerrar la brecha de capacidades en IA, enfatizando que esta tecnología puede acelerar el desarrollo sostenible y promover la estabilidad y la paz. También argumentó que todas las naciones deberían poder contribuir al futuro de la IA.

El jefe de Estado surcoreano, Lee Jae Myung, presidió el debate, al que también asistió el presidente portugués, Marcelo Rebelo de Sousa. El debate se centró en las implicaciones de la IA para la paz y la seguridad internacionales.

Uno de los principales objetivos del evento es fomentar el debate sobre la mitigación de riesgos y la maximización de los beneficios de la IA en el contexto de la paz y la seguridad internacionales, considerando también el papel del Consejo de Seguridad en este proceso. Otro objetivo es invitar a los Estados miembros a compartir las mejores prácticas en el uso de la IA, incluyendo sus aplicaciones militares.

Si tiene una historia que le gustaría compartir sobre irregularidades en su municipio, complete este formulario anónimo .