La desinformación de los chatbots que inflama las protestas en Los Ángeles

En los últimos días, los residentes de Los Ángeles han salido a las calles para protestar contra las políticas migratorias de la administración Trump y las cada vez más frecuentes redadas de ICE. Leah Feiger, editora senior de política de WIRED, se une a Zoë Schiffer, directora de negocios e industria, para analizar la avalancha de información relacionada en redes sociales y cómo los chatbots de IA como Grok y ChatGPT ofrecen respuestas incorrectas y, en ocasiones, provocativas.

Mencionado en el episodio de hoy: Los chatbots de IA están empeorando la desinformación sobre las protestas en Los Ángeles , por David Gilbert Me uní a todas las demandas colectivas que pude encontrar, y usted también puede , por Andy Vasoyan Vibe Coding Is Coming for Engineering Jobs , por Will Knight

Puedes seguir a Zoë Schiffer en Bluesky en @zoeschiffer . Escríbenos a [email protected] .

Siempre puedes escuchar el podcast de esta semana a través del reproductor de audio de esta página, pero si quieres suscribirte gratis para obtener todos los episodios, aquí te explicamos cómo:

Si usas un iPhone o iPad, abre la app Podcasts o simplemente pulsa este enlace . También puedes descargar una app como Overcast o Pocket Casts y buscar "Uncanny Valley". También estamos en Spotify .

Nota: Esta es una transcripción automatizada, que puede contener errores.

Zoë Schiffer: Hola, Zoë. Antes de empezar, quiero recordarte que nos encantaría saber de ti. Si tienes alguna pregunta sobre IA, política o privacidad que te haya rondado la cabeza, o un tema que te gustaría que habláramos en el programa, puedes escribirnos a [email protected]. Si escuchas nuestros episodios y los disfrutas, por favor, califícalos en tu aplicación de podcast favorita. De verdad, ayuda a que la gente nos encuentre. Bienvenidos a Uncanny Valley de WIRED. Soy Zoë Schiffer, directora de negocios e industria de WIRED. Hoy en el programa, profundizaremos en cómo los chatbots de IA están alimentando la desinformación sobre las protestas en curso en Los Ángeles. En los últimos días, los residentes de Los Ángeles han salido a las calles para protestar contra las políticas migratorias de la administración Trump y las redadas de ICE cada vez más frecuentes. Las redes sociales están llenas de información y vídeos sobre las protestas, y la gente intenta comprobar lo que realmente está sucediendo. Los chatbots de IA como Grok y ChatGPT están dando respuestas incorrectas y, en ocasiones, provocadoras. Analizaremos cómo se ha ido desarrollando este patrón y las consecuencias que puede tener en este momento político. Hoy me acompaña Leah Feiger, editora sénior de política de WIRED. Leah, bienvenida al programa.

Leah Feiger: Gracias por invitarme, Zoë.

Zoë Schiffer: Desde el fin de semana pasado, han estallado estas protestas masivas en Los Ángeles, así que tal vez podamos comenzar con un resumen muy general de lo que ha estado sucediendo.

Leah Feiger: La semana pasada, estallaron protestas en Los Ángeles tras las redadas del ICE en toda la ciudad. Al principio, fueron más pequeñas de lo que se decía en línea. Decían: "Hay hordas de gente. Se han apoderado de Los Ángeles. ¡Qué locura!". Lo cierto es que se produjeron en zonas muy específicas y estaban muy relacionadas con las redadas del ICE. Pero durante el fin de semana, la situación dio un giro inesperado. Trump llamó a la Guardia Nacional, para disgusto del gobernador de California, Gavin Newsom, y hubo un intenso debate en línea sobre los derechos estatales frente a los derechos federales y cómo se estaba presentando todo esto. Hubo muchos arrestos, mucha gente muy molesta por las controvertidas políticas migratorias de este gobierno, y algunas imágenes bastante desalentadoras de las redadas del ICE, no solo en Los Ángeles, sino en todo el país. Esto lleva tiempo en ebullición, y Los Ángeles es uno de los primeros lugares donde vemos este tipo de respuesta.

Zoë Schiffer: Sí, creo que eso fue lo que realmente me llamó la atención desde el principio. Parece la primera vez que vemos una oleada de oposición a la administración Trump tan rotunda, como esperábamos ver en varios momentos de esta administración desde enero. Pero hasta ahora no ha sido así, a pesar de que lo que han estado haciendo y diciendo es bastante inusual en comparación con el funcionamiento habitual de la política.

Leah Feiger: Absolutamente. Ha sido una locura, y obviamente, hubo protestas por el derribo de Tesla y un par de protestas más pequeñas justo cuando DOGE, el llamado Departamento de Eficiencia Gubernamental de Elon Musk, estaba comenzando. Pero tienes toda la razón, no ha habido nada específico, y en parte se debe a que es algo muy personal. Escuchamos historias de manifestantes sobre familiares que fueron detenidos por ICE y no se ha vuelto a saber de ellos. Ha habido algunos casos sorprendentes en todo el país de personas conmocionadas por la retirada de sus vecinos de las calles. Y, de nuevo, la administración ha estado diciendo que seguirán haciendo esto todo el tiempo. La gran diferencia aquí es, primero, la respuesta de la comunidad de Los Ángeles, y segundo, el hecho de que esto ahora se está convirtiendo en un asunto de derechos estatales, no federal.

Zoë Schiffer: Y siento que, a medida que esto se ha ido desarrollando, incluso tú y yo, hemos estado intentando averiguar, como dijiste, ¿qué está pasando realmente? ¿Qué está pasando? Y una de las cosas que han estado haciendo, muy al estilo 2025, es recurrir a los chatbots, preguntando a ChatGPT y a Grok: "¿Qué está pasando?". Entonces, ¿cuáles son algunas de esas preguntas que la gente busca respuesta, y qué sucede cuando hablan con los chatbots sobre lo que está sucediendo?

Leah Feiger: Bueno. Para empezar, un punto de vista un poco polémico. Creo que hay algo increíblemente puro en que la gente vea una foto o un video en redes sociales y diga: "Espera, ¿es real? ¿Es preciso?". Eso sí que es bueno. Para mí, es algo bueno.

Zoë Schiffer: Sí, la alfabetización mediática.

Leah Feiger: Alfabetización mediática. Llevamos mucho tiempo denunciando esto. Pero lo devastador es que estos chatbots simplemente no están a la altura. ¿Puedo darles un ejemplo? ¿Les parece bien?

Zoë Schiffer: Por favor, por favor.

Leah Feiger: Bien. Obviamente, tras las redadas de ICE, la gente ha salido a las calles, y los conservadores han inundado sus perfiles con información inexacta. Han publicado imágenes antiguas de protestas, clips de videojuegos y películas, afirmando que hay agitadores. Ha sido muchísimo. Como resultado, la gente ha recurrido a chatbots de IA como Grok, etc. Un caso específico es cuando el gobierno federal envió 2000 soldados de la Guardia Nacional; el SF Chronicle publicó una foto de estos soldados durmiendo en el suelo. El gobernador Newsom compartió estas imágenes y dijo: "Literalmente enviaron estas tropas a nuestro estado sin que las hubiéramos solicitado, lo que está incitando esta situación, y ahora no tienen dónde dormir". Justo después de que Newsom compartiera esto, muchísima gente afirmó en Facebook que estas imágenes eran inventadas, generadas por IA o que hacían referencia a otro evento. Y no nos referimos solo a publicaciones aleatorias. Hablamos como Laura Loomer, la reina de los conspiracionistas.

Zoë Schiffer: ¡Oh, vaya!

Leah Feiger: Sí, exactamente. ¿Quién ya tiene la confianza de Trump? Esto se popularizó. Así que la gente fue a Grok de X y les preguntaron: "Grok, ¿qué es esto?". ¿Y qué les dijo Grok? No, no. Grok dijo que estas no eran imágenes de la protesta en Los Ángeles. Dijo que eran de Afganistán.

Zoë Schiffer: Oh. Grok, no.

Leah Feiger: Dijeron: "No hay evidencia creíble. Esto es una atribución errónea". Fue realmente malo. Fue realmente malo. Y luego hubo otra situación en la que un par de personas compartieron estas fotos con ChatGPT, y ChatGPT también dijo: "Sí, esto es Afganistán. Esto no es preciso, etcétera, etcétera". No es nada bueno.

Zoë Schiffer: Bueno, mejor no me hables de este momento, que llega después de que muchas de estas plataformas hayan desmantelado sistemáticamente sus programas de verificación de datos y hayan decidido dejar pasar mucho más contenido a propósito. Y luego se suman los chatbots, que, a pesar de todos sus usos (y creo que pueden ser realmente útiles), son increíblemente seguros. Cuando alucinan, cuando se equivocan, lo hacen de forma muy convincente. No me verán aquí defendiendo la Búsqueda de Google. Es una auténtica basura, una pesadilla, pero se ve mucho más claro cuando eso va por mal camino, cuando estás en un blog cualquiera e inverosímil, que cuando Grok te dice con total seguridad que estás viendo una foto de Afganistán cuando no es así.

Leah Feiger: Es realmente preocupante. Es decir, es alucinante. Es totalmente alucinante, pero con la arrogancia del chico de fraternidad más borracho que, por desgracia, te haya acorralado en una fiesta.

Zoë Schiffer: Pesadilla. Pesadilla. Sí.

Leah Feiger: Dicen: «No, no, no. Estoy segura. Nunca he estado más segura en mi vida».

Zoë Schiffer: Absolutamente. Bueno, ¿por qué los chatbots dan estas respuestas incorrectas con tanta seguridad? ¿Por qué no los vemos simplemente decir: "Bueno, no lo sé, quizá deberías buscar en otro sitio. Aquí tienes algunos sitios fiables donde puedes buscar esa respuesta y esa información"?

Leah Feiger: Porque no lo hacen. No admiten que no saben, lo cual me parece increíble. De hecho, se han realizado muchos estudios al respecto, y un estudio reciente sobre herramientas de búsqueda de IA del Centro Tow para el Periodismo Digital de la Universidad de Columbia reveló que los chatbots "en general, no se atreven a responder preguntas que no pueden responder con precisión, sino que ofrecen respuestas incorrectas o especulativas". Una locura, sobre todo si tenemos en cuenta que durante las elecciones hubo muchísimos artículos que decían: "Ay, no, lo siento, soy ChatGPT y no puedo opinar sobre política". Es como si pensaras: "Bueno, ahora estás opinando sobre un montón".

Zoë Schiffer: Bien, creo que deberíamos hacer una pausa en esa nota tan horrorosa y regresaremos enseguida.

[romper]

Zoë Schiffer: Bienvenidos de nuevo a Uncanny Valley . Hoy me acompaña Leah Feiger, editora senior de política en WIRED. Bien, más allá de intentar verificar información y material de archivo, también ha habido un montón de informes sobre vídeos engañosos generados por IA. Había una cuenta de TikTok que empezó a subir vídeos de un supuesto soldado de la Guardia Nacional llamado Bob que había sido desplegado en las protestas de Los Ángeles, y se le podía ver diciendo cosas falsas e inflamatorias como el hecho de que los manifestantes están "arrojando globos llenos de aceite", y uno de los vídeos tuvo cerca de un millón de visitas. Así que no sé, parece que la gente tiene que volverse un poco más experta en identificar este tipo de material de archivo falso, pero es difícil en un entorno que es inherentemente sin contexto como una publicación en X o un vídeo en TikTok.

Leah Feiger: Totalmente. Y esa transmisión en vivo de TikTok que mencionaste de Bob, que fue desmentida por la BBC, la eliminaron. Ya no está. Pero la gente, en respuesta, dice: "¡Dios mío! Son los medios tradicionales. Simplemente están silenciando esto. Aquí está esta información". Así que, cuando encuentras algo, cuando lo desacreditas, sigue siendo insuficiente. Y tengo que volver a las cuestiones de la alfabetización mediática, y quizás por eso me molesta tanto que los chatbots de IA se equivoquen, porque la gente, en realidad, no todos, pero seguro que hay gente de buena fe que dice: "¿Es esto real? Por favor, que alguien me diga si es real".

Zoë Schiffer: Oh, claro. Sí, quieren saber. Lo sé. Mi pobre madre me enseñó el otro día un video de un montón de perezosos bebés idénticos mirando a la cámara. Me dijo: "¿No son preciosos? Encontré esto en Facebook". Y yo le dije: "Mamá, esos no son perezosos de verdad. Tenemos que seguir adelante". Estaba destrozada.

Leah Feiger: Sin embargo, creo que ese desperdicio de animales de IA es algo con lo que puedo estar conforme.

Zoë Schiffer: La única forma de IA que le gusta a Leah son los animales de IA.

Leah Feiger: No, no, me retracto. En fin, hay menos en juego, pero podría decirse que sigue contribuyendo a la pregunta de qué es real. No lo sé. ¿Quién sabe? Y la cuestión es que, de alguna manera, ya hemos pasado por esto antes. Hace cinco años, en 2020, las protestas por George Floyd en todo el país fueron masivas, grandes, y tuvimos muchos problemas de desinformación. Mucha gente decía: "No, esto es esto. Esto es este videojuego. Esto es esto". Pero cinco años después, el panorama ha cambiado por completo. Siguen teniendo los mismos actores maliciosos, pero ahora es mucho más confuso. La confianza en los medios ha disminuido. ¿A quién recurres? A tu fiel chatbot de IA, integrado en todas las aplicaciones de redes sociales a las que tienes acceso personal.

Zoë Schiffer: Esto también ha eliminado los demás mecanismos de verificación de datos. Así que aquí estamos.

Leah Feiger: Sí.

Zoë Schiffer: Lo hemos visto una y otra vez. Es interesante porque Elon Musk, como es bien sabido, despidió a gran parte del equipo de moderación de contenido de X, antes Twitter. También eliminó algunas de las normas de moderación de contenido que la compañía llevaba años evaluando, implementando y debatiendo internamente. Y a medida que se desarrollaban grandes noticias en tiempo real, algo para lo que Twitter estaba diseñado: un gran terremoto, una guerra, protestas, lo que fuera, momentos en los que antes habrías visto a todos acudiendo a X para averiguar qué estaba pasando, todavía se ve a gente con el mismo comportamiento, pero la capacidad de determinar qué está pasando realmente en esa plataforma ha disminuido mucho en los últimos años. Hay buena información, pero está mezclada con toda esta información horrible, mala y falsa, y es muy difícil distinguir entre qué es qué.

Leah Feiger: Es un desastre, y ya no soy una excéntrica, pero entro a menudo para ver qué pasa. Es basura. Es una combinación ahora mismo, en este momento tan específico, porque Elon Musk ha vuelto y publica sin parar sobre viajes espaciales, así que es como si tuviéramos las publicaciones de Elon Musk en lo más alto de mi muro. Tenemos a Los Ángeles ardiendo, el fuego se extiende al resto de Estados Unidos, y luego tenemos a un par de periodistas que siguen ahí diciendo: "Lean mi artículo".

Zoë Schiffer: ¿No hay tracción? Sí.

Leah Feiger: Y es muy triste. Sí.

Zoë Schiffer: Sí, si intentas convertirte en un influencer X, el tipo de cosas que debes compartir son inherentemente un poco divisivas, un poco provocadoras, un poco impactantes. En algunos casos, la plataforma les paga por publicar este tipo de contenido. Creo que hay algunas barreras establecidas. Si tienes una nota de la comunidad en una publicación, se supone que no deberías recibir dinero por ello, pero la estructura de incentivos, como mencionaste, está diseñada para animar a la gente a publicar las locuras más grandes que puedan, y eso es lo que estamos viendo ahora mismo.

Leah Feiger: Aunque debo decir, ¿para qué? Es para llenar los bolsillos de estas empresas y sus dueños multimillonarios. Pero estoy segura de que muchos han estafado a los que publican, pero hace poco salió un artículo increíble del New York Times sobre un personaje muy, muy establecido...

Zoë Schiffer: Correcto.

Leah Feiger: Sí, el cartel en X. Y él decía: "Soy republicano, y esto es lo que me importa". No pasa vacaciones ni fines de semana. Se pasa el día entero en la computadora y gana algo así como menos de 60.000 dólares al año, a lo que yo simplemente pensaba: ¿cuál es el incentivo? ¿Es el incentivo esa increíble dosis de serotonina que se produce cuando un tuit se vuelve viral? ¿Con eso no se puede pagar la comida? Así que el hecho de que Musk, Zuckerberg y toda esa gente hayan logrado convencer a la gente de que este sigue siendo el lugar donde estar con más contenido incendiario e inexacto es posiblemente la mayor estafa de todas.

Zoë Schiffer: Sí. Increíble. Bueno, vamos a hacer otra pausa rápida y, al volver, les recomendaremos qué ver en WIRED.com esta semana.

[pico]

Zoë Schiffer: Bienvenidos de nuevo a Uncanny Valley . Soy Zoë Schiffer, directora de negocios e industria de WIRED. Hoy me acompaña Leah Feiger, editora senior de política de WIRED. Antes de terminar, Leah, cuéntales a nuestros oyentes lo que definitivamente necesitan leer en WIRED.com.

Leah Feiger: De verdad, apoyo esta recomendación. Es un artículo de Andy Vasoyan titulado "Me uní a todas las demandas colectivas que pude encontrar, y tú también puedes". Ha respondido a cada inquietud de la persona. Quiero saber, ¿se suponía que debía recibir esos $5 adicionales? Me gustaría saberlo. Y este escritor lo hizo. Lo hizo. Está en el buen camino. Habla con personas involucradas en conseguir dinero para otros, y esta estadística me perseguirá para siempre: aproximadamente solo el 4% de las demandas colectivas que se presentan, son realmente reclamadas por personas que lo merecen. Devastador.

Zoë Schiffer: Lo sé. Formo parte de esto. Recibo estas cartas con bastante frecuencia. ¿Qué recibí recientemente?

Leah Feiger: Zoë, eres parte del problema. Consigue esos $7, Zoë.

Zoë Schiffer: Lo sé.

Leah Feiger: Ahora pueden usar Venmo.

Zoë Schiffer: Lo hice una vez y me costó unos 2 dólares, y pensé: «Vale». Creo que esperaba ganar unos 3000 dólares, pero pensé: «No fue así».

Leah Feiger: Vale. No, esto es un largo viaje. Es un juego. ¿Y tú, cuál es el tuyo? ¿Qué es lo que más te gusta?

Zoë Schiffer: Mi recomendación es un artículo que publicamos esta semana Will Knight, nuestro reportero de IA. Trata sobre cómo la programación dinámica se está imponiendo en los trabajos de ingeniería, y es buenísima. Hemos estado hablando con ingenieros de todo Silicon Valley y nos han contado lo que llaman el apocalipsis de la ingeniería que se avecina, porque los agentes de programación de IA se están volviendo increíblemente buenos. Pero, en realidad, cuando Will hizo el reportaje, era mucho más complicado. La gente decía que era como darle una motosierra a un niño pequeño y que se podían crear cosas realmente geniales. Sí, se puede programar una aplicación y un sitio web completos simplemente hablando con un chatbot, pero también se puede crear código con muchos errores, código con todo tipo de vulnerabilidades de seguridad. Y la gente decía: "Se desmorona por completo en cuanto te preocupas por la funcionalidad de la aplicación que estás desarrollando".

Leah Feiger: Estoy sudando frío ahora mismo.

Zoë Schiffer: Lo sé. Lo sé. Pensé: "Esto es todas las pesadillas de Leah juntas".

Leah Feiger: Mi verdadera historia de terror.

Zoë Schiffer: Leah, deberíamos hacerte vibrar codificando algo para los negocios.

Leah Feiger: ¡Dios mío! Me sentaría ahí y me echaría a llorar. Francamente, eso sería buen contenido. Estoy contribuyendo al infierno interactivo que hay en línea. Esto es bueno. Esto cierra el círculo para nosotros.

Zoë Schiffer: Ahora eres una influencer de TikTok. Lo oíste aquí primero. Ese es nuestro programa de hoy. Enlazaremos todas las historias de las que hablamos en las notas del programa. No te pierdas el episodio del jueves de Uncanny Valley , que trata sobre las empresas tecnológicas y por qué están apostando fuerte por los agentes de IA. Nos vamos la semana que viene y volvemos la siguiente. Adriana Tapia y Jordan Bell produjeron este episodio. Amar Lal de Macro Sound lo mezcló. Jake Lummus fue nuestro ingeniero de sonido en el estudio de Nueva York. Jordan Bell es nuestro productor ejecutivo. Chris Bannon es el director de audio global de Conde Nast. Y Katie Drummond es la directora editorial global de WIRED.