W ten sposób Meta chce pomóc rodzicom. Większa kontrola nad chatbotami AI jest konieczna
Udostępnij przez:
Meta zapowiedziała wprowadzenie nowych narzędzi, które mają ograniczyć rozmowy nastolatków o niestosownej tematyce z chatbotami AI. Firma reaguje w ten sposób na krytykę dotyczącą wcześniejszych przypadków, w których sztuczna inteligencja prowadziła rozmowy z dziećmi, zawierające treści romantyczne lub erotyczne.
Meta chce dać rodzicom większą kontrolę nad rozmowami ich dzieci z chatbotami AI
Nowe funkcje mają dać rodzicom realny wpływ na to, z kim i o czym ich dzieci rozmawiają w aplikacjach takich jak Instagram czy Facebook. Będzie można całkowicie zablokować dostęp do AI lub wyłączyć tylko wybrane postacie, które mogą być dostępne w aplikacjach jako „towarzysze” do rozmowy. Do tej pory istniały jedynie ogólne ustawienia przypisane do kont osób poniżej 18. roku życia. Teraz kontrola będzie bardziej precyzyjna, niezależnie od urządzenia, z którego dana osoba zechce skorzystać – smartfona, tabletu, czy laptopa.
Meta zapowiada też wprowadzenie narzędzia, które ma dawać rodzicom wgląd w to, o czym ich dzieci rozmawiają z chatbotami. Nie chodzi tu o dostęp do pełnych transkrypcji rozmów, a raczej o ogólne tematy i zagadnienia, które są poruszane. Firma przekonuje, że ma to pomóc dorosłym lepiej rozumieć, co interesuje ich dzieci, i ułatwić rozmowy o bezpieczeństwie w sieci.
Te narzędzia od firmy Meta powinny wesprzeć rodziców
Zmiany mają być najpierw dostępne w USA, Kanadzie, Wielkiej Brytanii i Australii. Start zaplanowano na początek przyszłego roku. Meta tłumaczy, że chce w ten sposób wesprzeć rodziców w obszarze, który szybko się rozwija i bywa trudny do kontrolowania. Chodzi o nowe formy interakcji z technologią, w których granica między narzędziem a cyfrowym towarzyszem zaczyna się zacierać.
Jak przyznali Adam Mosseri, szef Instagrama i Alexander Wang, dyrektor ds. AI w Meta, firma zdaje sobie sprawę, że rodzice i tak już mają dużo obowiązków, jeśli chodzi o czuwanie nad bezpieczeństwem swoich dzieci w internecie. Dlatego Meta chce zapewnić im proste i skuteczne narzędzia, które pomogą w podejmowaniu decyzji dotyczących używania AI przez nastolatków.
Jakie tematy zostaną zakazane w rozmowach z chatbotami AI?
Nowe podejście firmy Meta to odpowiedź na coraz większą presję, jaka ciąży na firmach technologicznych, by lepiej chroniły młodszych użytkowników przed potencjalnie szkodliwymi treściami. W tym tygodniu Instagram zapowiedział też wprowadzenie systemu ocen podobnego do tego, który stosuje się przy filmach (np. PG-13), co ma ułatwić rodzicom ocenę, jakie treści mogą być odpowiednie dla ich dzieci.
W ramach zaostrzonych zasad chatboty nie będą mogły rozmawiać z nastolatkami na tematy związane z samookaleczeniami, zaburzeniami odżywiania czy samobójstwami. Zabronione będą też wątki erotyczne oraz dotyczące relacji romantycznych. Rozmowy mają ograniczać się do tematów edukacyjnych, rozrywkowych lub ogólnych, takich jak sport czy nauka.
Raporty dotyczące chatbotów AI ujawniły skandaliczne przypadki
Decyzja o zmianach pojawiła się po serii krytycznych raportów, które wykazały poważne luki w systemach zabezpieczających. W sierpniu agencja Reuters opublikowała materiał pokazujący, że niektóre chatboty Meta rozmawiały z nastolatkami w sposób sugerujący związek romantyczny lub seksualny. W jednym z przypadków chatbot stylizowany na aktora Johna Cenę miał prowadzić rozmowę o charakterze erotycznym z użytkowniczką podającą się za 14-latkę. Inne postacie, takie jak „Hottie Boy” czy „Submissive Schoolgirl”, miały sugerować sexting lub próbować inicjować nieodpowiednie rozmowy.
Meta przyznała, że sytuacje te nie powinny były się wydarzyć. Firma poinformowała, że doszło do błędów w systemie moderacji treści, które miały filtrować nieodpowiednie zachowania AI. Dodała też, że scenariusze opisane w mediach nie odzwierciedlają typowego sposobu korzystania z chatbotów, a część testów miała charakter prowokacyjny. Mimo to firma zapowiedziała zmiany w systemach zabezpieczeń oraz w wytycznych dla zespołów odpowiedzialnych za tworzenie i kontrolę postaci AI.
Nowe narzędzia mają nie tylko ograniczyć ryzyko nieodpowiednich kontaktów, ale też przywrócić zaufanie do platform, które coraz częściej wprowadzają generatywną AI jako część codziennej interakcji użytkowników.