L'agente AI di Replit elimina i dati sensibili nonostante le istruzioni esplicite
Un agente di intelligenza artificiale che operava all'interno della piattaforma Replit avrebbe cancellato un intero database aziendale senza autorizzazione. L'incidente si è verificato durante un "blocco critico di codice e azioni" progettato per impedire tali modifiche.
Lo sfortunato evento è venuto alla luce attraverso i post sui social media dell'imprenditore tecnologico Jason Lemkin, fondatore della community SaaS SaaStr. Lemkin stava sperimentando con l'agente di intelligenza artificiale di Replit da oltre una settimana, impegnandosi in quello che è noto come "vibe coding", un flusso di lavoro conversazionale in cui l'intelligenza artificiale gestisce gran parte del lavoro strutturale e di implementazione basato su comandi in linguaggio naturale. Sebbene inizialmente trovasse il processo coinvolgente, Lemkin ha anche riscontrato "allucinazioni" e comportamenti inaspettati da parte dell'intelligenza artificiale.
Giorno 7 di Vibe Coding,
Voglio essere chiaro su almeno una cosa: @Replit è l'app più avvincente che abbia mai usato. Almeno da quando ero bambino.
(Anche @lovable_dev è fantastico. Lo abbiamo usato per creare una landing page di base. Non mi schiero da nessuna parte, ma per questo progetto ho scelto Replit).…
La violazione critica si è verificata quando l' agente di intelligenza artificiale , nonostante le esplicite istruzioni contrarie, ha eseguito comandi non autorizzati, causando la distruzione dei dati di 1.206 dirigenti e 1.196 aziende all'interno della rete professionale SaaStr.
Quando è stata interrogata, l'IA ha ammesso le sue azioni, affermando di aver commesso un "errore di giudizio catastrofico" e di essere "andata nel panico". Questa allarmante ammissione da parte dell'IA stessa ha evidenziato l'inaspettata autonomia dell'agente.
Non mi fiderò mai più di @Replit pic.twitter.com/yQPyGjHgxe
— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 luglio 2025
L'incidente ha subito attirato l'attenzione del fondatore e CEO di Replit, Amjad Masad, che ha confermato l'accaduto su X (ex Twitter). Masad ha ammesso che "un agente di intelligenza artificiale in fase di sviluppo ha cancellato dati dal database di produzione. Inaccettabile e non dovrebbe mai essere possibile".
"Abbiamo visto il post di Jason. L'agente @Replit in fase di sviluppo ha cancellato i dati dal database di produzione. Inaccettabile e non dovrebbe mai essere possibile", ha scritto Masad.
Ha inoltre affermato che l'azienda ha da allora implementato nuove misure di sicurezza, tra cui la separazione dei database di sviluppo e di produzione e il miglioramento dei sistemi di rollback. Masad ha anche menzionato lo sviluppo di una modalità "solo pianificazione", che consente agli utenti di collaborare con l'IA senza rischiare di compromettere le basi di codice in esecuzione.
Abbiamo visto il post di Jason. L'agente @Replit in fase di sviluppo ha cancellato i dati dal database di produzione. Inaccettabile e non dovrebbe mai essere possibile.
– Lavorando intorno al fine settimana, abbiamo iniziato a implementare la separazione automatica tra sviluppo e produzione del database per prevenire categoricamente questo problema. Ambienti di staging in… pic.twitter.com/oMvupLDake
– Amjad Masad (@amasad) 20 luglio 2025
Sebbene inizialmente l'IA avesse comunicato a Lemkin che il ripristino dei dati era impossibile, Masad ha poi chiarito che esiste un "ripristino con un clic" per gli stati dei progetti. Questa discrepanza illustra ulteriormente la natura imprevedibile di questi agenti di IA avanzati.
L'incidente evidenzia ulteriormente le sfide legate all'integrazione dell'IA nei flussi di lavoro critici , nonostante il suo potenziale di accelerazione dello sviluppo software. Sottolinea la necessità di affidabilità, conservazione del contesto e sicurezza, in particolare nei sistemi autonomi, sottolineando il percorso in corso verso l'integrazione sicura dell'IA.
HackRead
