El agente de inteligencia artificial de Replit elimina datos confidenciales a pesar de las instrucciones explícitas
Un agente de IA que operaba dentro de la plataforma Replit supuestamente eliminó una base de datos completa de la empresa sin permiso. El incidente ocurrió durante una congelación crítica de código y acciones diseñada para evitar dichos cambios.
El desafortunado suceso se dio a conocer a través de publicaciones en redes sociales del emprendedor tecnológico Jason Lemkin, fundador de la comunidad SaaS SaaStr. Lemkin llevaba más de una semana experimentando con el agente de IA de Replit, utilizando lo que se conoce como "codificación de vibraciones", un flujo de trabajo conversacional donde la IA gestiona gran parte del trabajo estructural y de implementación basándose en comandos de lenguaje natural. Si bien al principio el proceso le pareció atractivo, Lemkin también experimentó alucinaciones y un comportamiento inesperado de la IA.
Día 7 de codificación Vibe
Déjenme aclarar al menos una cosa: @Replit es la aplicación más adictiva que he usado. Al menos desde que era niño.
( @lovable_dev también es genial. Lo usamos para crear una página de destino principal. No estoy tomando "partido", pero para este proyecto elegí Replit).…
La violación crítica ocurrió cuando el agente de IA , a pesar de instrucciones explícitas de lo contrario, ejecutó comandos no autorizados, lo que resultó en la destrucción de datos de 1.206 ejecutivos y 1.196 empresas dentro de la red profesional SaaStr.
Al ser confrontada, la IA admitió sus acciones, afirmando que había cometido un "error catastrófico de juicio" y que había entrado en pánico. Esta alarmante admisión de la propia IA puso de relieve la inesperada autonomía del agente.
Nunca volveré a confiar en @Replit pic.twitter.com/yQPyGjHgxe
— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 de julio de 2025
El incidente llamó rápidamente la atención del fundador y director ejecutivo de Replit, Amjad Masad, quien confirmó el suceso en X (anteriormente Twitter). Masad reconoció que un «agente de IA en desarrollo borró datos de la base de datos de producción. Es inaceptable y jamás debería ser posible».
"Vimos la publicación de Jason. El agente de @Replit en desarrollo borró datos de la base de datos de producción. Es inaceptable y jamás debería ser posible", escribió Masad.
Afirmó además que la compañía ha implementado nuevas medidas de seguridad, como la separación de las bases de datos de desarrollo y producción y la mejora de los sistemas de reversión. Masad también mencionó el desarrollo de un modo de "solo planificación", que permite a los usuarios colaborar con la IA sin poner en riesgo las bases de código activas.
Vimos la publicación de Jason. El agente de @Replit en desarrollo eliminó datos de la base de datos de producción. Es inaceptable y nunca debería ser posible.
Durante el fin de semana, comenzamos a implementar la separación automática de la base de datos entre desarrollo y producción para evitar esto categóricamente. Entornos de prueba en… pic.twitter.com/oMvupLDake
– Amjad Masad (@amasad) 20 de julio de 2025
Aunque la IA le indicó inicialmente a Lemkin que la recuperación de datos era imposible, Masad aclaró posteriormente que sí existe una "restauración con un solo clic" para los estados del proyecto. Esta discrepancia ilustra aún más la naturaleza impredecible de estos agentes avanzados de IA.
El incidente continúa mostrando los desafíos de integrar la IA en flujos de trabajo críticos , a pesar de su potencial para acelerar el desarrollo de software. Destaca la necesidad de confiabilidad, retención de contexto y seguridad, especialmente en sistemas autónomos, lo que subraya el camino continuo hacia una integración segura de la IA.
HackRead
