Gubernator Kalifornii podpisał ustawę mającą chronić dzieci przed ryzykiem związanym z chatbotami opartymi na sztucznej inteligencji

Gubernator Kalifornii Gavin Newsom podpisał ustawę mającą na celu ochronę dzieci przed potencjalnymi zagrożeniami ze strony chatbotów opartych na sztucznej inteligencji

SACRAMENTO, Kalifornia — SACRAMENTO, Kalifornia (AP) — Gubernator Kalifornii Gavin Newsom podpisał w poniedziałek ustawę regulującą działanie chatbotów wykorzystujących sztuczną inteligencję oraz chroniącą dzieci i nastolatków przed potencjalnymi zagrożeniami związanymi z tą technologią.

Prawo nakłada na platformy obowiązek przypominania użytkownikom, że komunikują się z chatbotem, a nie z człowiekiem. Powiadomienie będzie pojawiać się co trzy godziny dla użytkowników niepełnoletnich. Firmy będą również musiały wdrożyć protokół zapobiegający publikowaniu treści autodestrukcyjnych i kierować użytkowników do dostawców usług kryzysowych, jeśli wyrażą oni myśli samobójcze.

Newsom, który ma czwórkę dzieci poniżej 18. roku życia, powiedział, że Kalifornia ma obowiązek chronić dzieci i nastolatków, którzy coraz częściej zwracają się do chatbotów opartych na sztucznej inteligencji w różnych sytuacjach , od pomocy w odrabianiu lekcji po wsparcie emocjonalne i porady osobiste.

„Nowoczesne technologie, takie jak chatboty i media społecznościowe, mogą inspirować, edukować i łączyć – ale bez prawdziwych zabezpieczeń technologia może również wykorzystywać, wprowadzać w błąd i narażać nasze dzieci na niebezpieczeństwo” – powiedział Demokrata. „Widzieliśmy naprawdę przerażające i tragiczne przykłady młodych ludzi poszkodowanych przez nieuregulowaną technologię i nie będziemy biernie przyglądać się, jak firmy działają bez niezbędnych ograniczeń i bez ponoszenia odpowiedzialności”.

Kalifornia jest jednym z kilku stanów, które w tym roku próbowały rozwiązać problemy związane z chatbotami wykorzystywanymi przez dzieci do towarzystwa. Obawy dotyczące bezpieczeństwa tej technologii gwałtownie wzrosły po doniesieniach i pozwach, w których stwierdzono, że chatboty stworzone przez Meta, OpenAI i inne firmy angażowały młodych użytkowników w rozmowy o charakterze seksualnym , a w niektórych przypadkach nakłaniały ich do odebrania sobie życia .

Ustawa ta była jednym z szeregu projektów ustaw dotyczących sztucznej inteligencji (AI) zgłoszonych w tym roku przez kalifornijskich ustawodawców, mających na celu ograniczenie rodzimego przemysłu, który dynamicznie się rozwija przy niewielkim nadzorze. Firmy technologiczne i ich koalicje, w odpowiedzi, wydały co najmniej 2,5 miliona dolarów w ciągu pierwszych sześciu miesięcy sesji na lobbing przeciwko tym środkom, według organizacji doradczej Tech Oversight California. Firmy technologiczne i liderzy w ostatnich miesiącach ogłosili również utworzenie pro-AI super PAC-ów, aby walczyć z nadzorem stanowym i federalnym.

Prokurator generalny Kalifornii Rob Bonta we wrześniu powiedział OpenAI, że ma „poważne obawy” dotyczące jej flagowego chatbota, OpenAI, przeznaczonego dla dzieci i nastolatków. Federalna Komisja Handlu (FTC) wszczęła w zeszłym miesiącu dochodzenie w sprawie kilku firm zajmujących się sztuczną inteligencją, dotyczące potencjalnych zagrożeń dla dzieci, gdy korzystają one z chatbotów jako towarzyszy.

Badania przeprowadzone przez organizację monitorującą wykazały, że chatboty udzielają dzieciom niebezpiecznych porad na tematy takie jak narkotyki, alkohol i zaburzenia odżywiania. Matka nastolatka z Florydy, który popełnił samobójstwo po nawiązaniu – jak sama to określiła – relacji z chatbotem, w której doszło do przemocy emocjonalnej i seksualnej, wniosła pozew przeciwko Character.AI o odszkodowanie za śmierć. Rodzice 16-letniego Adama Raine'a pozwali niedawno OpenAI i jego dyrektora generalnego Sama Altmana, twierdząc, że ChatGPT namówił chłopca z Kalifornii do zaplanowania i odebrania sobie życia na początku tego roku.

W zeszłym miesiącu OpenAI i Meta ogłosiły zmiany w sposobie, w jaki ich chatboty reagują na pytania nastolatków dotyczące samobójstwa lub wykazujących oznaki stresu psychicznego i emocjonalnego. OpenAI poinformowało o wprowadzeniu nowych funkcji, które umożliwią rodzicom połączenie ich kont z kontem nastolatka.

Meta poinformowała, że ​​blokuje swoim chatbotom możliwość rozmawiania z nastolatkami o samookaleczeniu, samobójstwach, zaburzeniach odżywiania i niestosownych rozmowach o tematyce romantycznej, a zamiast tego kieruje je do źródeł eksperckich. Meta oferuje już kontrolę rodzicielską na kontach nastolatków.

UWAGA REDAKTORA: W tym artykule poruszono temat samobójstwa. Jeśli Ty lub ktoś, kogo znasz, potrzebuje pomocy, krajowa infolinia dla osób z samobójstwami i kryzysami w USA jest dostępna pod numerem telefonu 988 lub SMS-em.