China exige mayor control sobre el entrenamiento de modelos con algoritmos de IA

En un comunicado publicado en la red social WeChat, el Ministerio de Seguridad del Estado advirtió que la proliferación de textos, imágenes y vídeos generados por IA está aumentando la probabilidad de que se incluya contenido "falsificado, sesgado o repetitivo" en nuevos conjuntos de datos de entrenamiento, lo que podría resultar en errores de juicio, "decisiones automáticas erróneas" o "manipulación de la opinión pública".

Las autoridades citan estudios que demuestran que bastaría con que una de cada 10.000 muestras fuera falsa para que el número de respuestas perjudiciales de un modelo aumentara significativamente. Este "efecto cascada", en el que contenido generado artificialmente alimenta nuevos sistemas, es motivo de preocupación en sectores sensibles como la sanidad, las finanzas o la seguridad pública, donde las decisiones basadas en datos inexactos tendrían un impacto directo en la población.

Para mitigar estos riesgos, el Ministerio recordó que desde enero está vigente una normativa que obliga a las plataformas de IA generativa a realizar auditorías de seguridad, identificar claramente el contenido producido por la inteligencia artificial y eliminar periódicamente los datos que violen la normativa vigente.

La organización ya había advertido en julio que el uso de IA podría suponer una amenaza para la "estabilidad social", la protección de datos sensibles y la seguridad nacional si la tecnología cayera en manos de "fuerzas hostiles a China".

Desde 2023, los servicios de inteligencia artificial del país deben seguir "valores socialistas fundamentales" y tienen prohibido "generar contenido que socave la seguridad nacional, la unidad territorial y la estabilidad social".

A pesar del lanzamiento de chatbots por parte de grandes grupos tecnológicos chinos como Alibaba, DeepSeek, Tencent y ByteDance, persisten dudas sobre el desarrollo de la IA en un entorno sujeto a una fuerte censura estatal.

Desde 2023, el Ministerio de Seguridad del Estado publica periódicamente casos de presunto espionaje en su cuenta oficial de WeChat y aconseja al público tener cuidado con las ofertas de trabajo o las solicitudes de información del extranjero.

Al mismo tiempo, el Ministerio llama a una "movilización de toda la sociedad" para "prevenir y combatir el espionaje" y "fortalecer la defensa nacional", advirtiendo de los riesgos del envío de datos sensibles a través de internet.

Lea también: ¿Son los chips un riesgo para la seguridad? Nvidia niega las acusaciones contra China.