Er eröffnete mit den Fotos seiner Ex-Freundin einen Erotik-Account und verdiente Tausende von Dollar.

Der Deepfake-Skandal in Indien hat die Grenzen der Privatsphäre und der digitalen Sicherheit im Zeitalter künstlicher Intelligenz erneut in den Vordergrund gerückt.

Eine gefälschte Instagram-Influencerin, die unter dem Benutzernamen „Babydoll Archi“ Beiträge teilt, erreichte mit Videos, in denen sie in einem roten Sari tanzt und mit einem Pornostar posiert, schnell 1,4 Millionen Follower.

Das durch künstliche Intelligenz geschaffene Phänomen war jedoch dem von Sanchi, einer Hausfrau aus Dibrugarh, Assam, sehr ähnlich.

FREUND EINES INGENIEURS VERHAFTET Laut BBC wurde die unberechtigte Verwendung von Sanchis Identität mittels Deepfake-Technologie durch die Anzeige ihrer Familie bei der Polizei aufgedeckt. Im Anschluss an die Ermittlungen wurde Sanchis Ex-Freund Pratim Bora verhaftet. Es wurde festgestellt, dass Bora, der Ingenieurwesen studierte und sich angeblich für künstliche Intelligenz interessierte, anhand von Sanchis privaten Fotos eine gefälschte Social-Media-Persona erstellt hatte. Der die Ermittlungen durchführende Polizeibeamte gab an, dass Bora aus Rache handelte und Inhalte mithilfe von künstlichen Intelligenztools wie ChatGPT und Dzine produzierte. Das Konto generierte Berichten zufolge allein über Linktree einen Umsatz von ungefähr 1 Million Rupien (ca. 12.000 US-Dollar) und erzielte in den Tagen vor seiner Verhaftung einen Gewinn von 300.000 Rupien.

Sanchi, die ihre Familie blockiert hatte , war keine Social-Media-Nutzerin und erfuhr erst durch die zunehmende Medienaufmerksamkeit von der Existenz des Influencer-Kontos. Es wurde bekannt, dass ihre Familie für das Konto gesperrt wurde und Berichten zufolge psychologische Unterstützung erhält, um den Schock des Vorfalls zu verarbeiten. Experten zufolge ist dieser Vorfall ein eindringliches Beispiel für den potenziellen Missbrauch künstlicher Intelligenz. Anwältin Meghna Bal warnte: „Deepfake-Inhalte können heute leichter erstellt werden, und solche Vorfälle könnten häufiger vorkommen als bisher angenommen. Viele werden jedoch nicht gemeldet oder die Opfer wissen nichts davon.“ Die Polizei hat Anklage gegen Bora wegen sexueller Belästigung , Cyberbetrug und Rufschädigung erhoben. Im Falle einer Verurteilung drohen ihm bis zu zehn Jahre Haft.