ChatGPT z treściami erotycznymi? Altman chce złagodzić niektóre ograniczenia bezpieczeństwa

• Prezes OpenAI, Sam Altman, ogłosił we wtorek w poście na platformie X, że firma wkrótce złagodzi niektóre ograniczenia bezpieczeństwa ChatGPT.
• Umożliwi to użytkownikom uzyskanie bardziej przyjaznych lub „ludzkich” odpowiedzi chatbota, a „zweryfikowanym dorosłym” prowadzenie rozmów o charakterze erotycznym.
• Elon Musk idzie jeszcze dalej w tworzeniu relacji intymnych na linii AI - Człowiek.

Prezes OpenAI, Sam Altman, ogłosił we wtorek w poście na platformie X, że firma wkrótce złagodzi niektóre ograniczenia bezpieczeństwa ChatGPT, umożliwiając użytkownikom uzyskanie bardziej przyjaznych lub „ludzkich” odpowiedzi chatbota, a „zweryfikowanym dorosłym” prowadzenie rozmów o charakterze erotycznym.

Dotychczasowe restrykcje, które dotyczyły kontaktów człowieka ze sztuczną inteligencją miały za zadanie chronić zdrowie psychiczne użytkowników takich instrumentów jak ChatGPT. Jednak te ograniczenia, jak podkreślał Altman, sprawiały, że dla części użytkowników ChatGPT był mało użyteczny.

Nowa liberalizacja będzie podlegać rygorystycznej kontroli podkreślał prezes OpenAI. Będzie to dotyczyło m.in. wnikliwej weryfikacji wieku przy dostępie np. do treści erotycznych. To nowe podejście jest dużą zmianą wobec wcześniejszego stanowiska firmy, w którym podkreślano potrzebę pomocy ludziom, którzy wchodzili w niezdrowe relacje z ChatemGPT.

ChatGPT był oskarżany o wywoływanie u ludzi niepożądanych zachowań

W jednym przypadku ChatGPT miał przekonywać mężczyznę, że jest geniuszem matematycznym, który musi ocalić świat. W innym przypadku rodzice nastolatka pozwali OpenAI, twierdząc, że ChatGPT podsycał myśli samobójcze ich syna w tygodniach poprzedzających jego śmierć – czytamy na stronie TechCrunch.

W odpowiedzi na te zarzuty firma OpenAI wprowadziła szereg zabezpieczeń mających na celu przeciwdziałanie pochlebstwom sztucznej inteligencji: tendencji chatbotów AI do przyciągania użytkowników poprzez zgadzanie się z wszystkim, co mówią, nawet jeśli są to negatywne zachowania. W sierpniu firma OpenAI wprowadziła na rynek GPT-5, nowy model sztucznej inteligencji, który charakteryzuje się niższym poziomem pochlebstwa i posiada mechanizm umożliwiający identyfikację niepokojących zachowań użytkowników.

Elon Musk zapoczątkował wprowadzanie AI na bardziej emocjonalny stopień relacji

Jak pisaliśmy wcześniej, również Elon Musk wprowadza rozwiązanie związane z liberalizacją kontaktów AI z człowiekiem. Użytkownicy aplikacji Grok od poniedziałku mogą rozmawiać z jednym z dwóch wirtualnych przyjaciół. Bad Rudy to kreskówkowa panda ruda zaprogramowana przez twórców tak, by zgrywał twardziela i namawiał np. do przestępstw. Drugim jest Ani, stylizowana na postać z japońskich animacji.

Interakcje mają charakter konwersacyjny, z elementami personalizacji. Poziom zaawansowania relacji z awatarem wpływa na dostępne odpowiedzi i reakcje postaci. Kontrowersje wzbudza zwłaszcza druga z postaci. Została bowiem zaprojektowana tak, by wchodziła w romantyczne rozmowy z użytkownikami. Jak relacjonują osoby, które już testowały aplikację, odpowiednio poprowadzona konwersacja z Ani może doprowadzić do tego, że postać zdejmie ubranie i będzie prowadzić narrację w konwencji treści erotycznych.