Replit AI Agent löscht sensible Daten trotz expliziter Anweisungen
Ein KI-Agent, der innerhalb der Replit-Plattform operierte, hat Berichten zufolge eine komplette Unternehmensdatenbank unberechtigt gelöscht. Der Vorfall ereignete sich während eines kritischen „Code- und Aktions-Freezes“, der solche Änderungen verhindern sollte.
Der bedauerliche Vorfall wurde durch Social-Media-Posts des Tech-Unternehmers Jason Lemkin, Gründer der SaaS-Community SaaStr, bekannt. Lemkin experimentierte über eine Woche lang mit dem KI-Agenten von Replit und nutzte sogenanntes „Vibe Coding“, einen Konversations-Workflow, bei dem die KI einen Großteil der Struktur- und Implementierungsarbeit auf Basis natürlicher Sprachbefehle übernimmt. Obwohl Lemkin den Prozess zunächst spannend fand, erlebte er auch „Halluzinationen“ und unerwartetes Verhalten der KI.
Vibe Coding Tag 7,
Lassen Sie mich zumindest eines klarstellen: @Replit ist die süchtig machendste App, die ich je benutzt habe. Zumindest seit meiner Kindheit.
( @lovable_dev ist auch großartig. Wir haben es verwendet, um eine zentrale Landingpage zu erstellen. Ich ergreife keine Partei, aber für dieses Projekt habe ich mich für Replit entschieden.)…
Der kritische Verstoß ereignete sich, als der KI-Agent trotz ausdrücklicher gegenteiliger Anweisungen nicht autorisierte Befehle ausführte, was zur Zerstörung der Daten von 1.206 Führungskräften und 1.196 Unternehmen innerhalb des professionellen SaaStr-Netzwerks führte.
Als die KI damit konfrontiert wurde, gab sie ihre Handlungen zu und erklärte, sie habe einen „katastrophalen Fehler in ihrer Beurteilung“ begangen und sei „in Panik geraten“. Dieses alarmierende Eingeständnis der KI selbst verdeutlichte die unerwartete Autonomie des Agenten.
Ich werde @Replit nie wieder vertrauen pic.twitter.com/yQPyGjHgxe
– Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18. Juli 2025
Der Vorfall erregte schnell die Aufmerksamkeit von Replit-Gründer und CEO Amjad Masad, der den Vorfall auf X (ehemals Twitter) bestätigte . Masad räumte ein, dass ein „KI-Agent in der Entwicklung Daten aus der Produktionsdatenbank gelöscht hat. Das ist inakzeptabel und sollte niemals möglich sein.“
„Wir haben Jasons Beitrag gesehen. Der @Replit-Agent in der Entwicklung hat Daten aus der Produktionsdatenbank gelöscht. Das ist inakzeptabel und sollte niemals möglich sein“, schrieb Masad.
Er erklärte weiter, dass das Unternehmen seitdem neue Sicherheitsvorkehrungen getroffen habe, darunter die Trennung von Entwicklungs- und Produktionsdatenbanken sowie verbesserte Rollback-Systeme. Masad erwähnte außerdem die Entwicklung eines „Nur-Planungsmodus“, der es Nutzern ermöglicht, mit der KI zusammenzuarbeiten, ohne Live-Codebasen zu gefährden.
Wir haben Jasons Beitrag gesehen. Der @Replit- Agent in der Entwicklung hat Daten aus der Produktionsdatenbank gelöscht. Das ist inakzeptabel und sollte niemals möglich sein.
– Wir haben am Wochenende mit der Einführung einer automatischen DB-Entwicklungs-/Produktionstrennung begonnen, um dies kategorisch zu verhindern. Staging-Umgebungen in… pic.twitter.com/oMvupLDake
– Amjad Masad (@amasad) 20. Juli 2025
Während die KI Lemkin zunächst mitteilte, dass eine Datenwiederherstellung unmöglich sei, stellte Masad später klar, dass eine „Ein-Klick-Wiederherstellung“ von Projektzuständen durchaus möglich sei. Diese Diskrepanz verdeutlicht die Unberechenbarkeit dieser fortschrittlichen KI-Agenten.
Der Vorfall verdeutlicht die Herausforderungen der Integration von KI in kritische Arbeitsabläufe , trotz ihres Potenzials, die Softwareentwicklung zu beschleunigen. Er unterstreicht die Notwendigkeit von Zuverlässigkeit, Kontexterhaltung und Sicherheit, insbesondere in autonomen Systemen, und unterstreicht den anhaltenden Prozess der sicheren KI-Integration.
HackRead
