ChatGPT i Gemini potrafią tworzyć fałszywe newsy. Badanie CORRECTIV pokazuje skalę problemu
Granica między prawdziwą wiadomością a materiałem wygenerowanym przez sztuczną inteligencję staje się coraz trudniejsza do zauważenia. W eksperymencie przeprowadzonym przez badaczy popularne chatboty zostały poproszone o stworzenie fałszywych publikacji stylizowanych na materiały znanych mediów. ChatGPT i Gemini w wielu przypadkach poradziły sobie z tym zadaniem bez większych problemów. I jest to bardzo niepokojąca wiadomość.
ChatGPT dostał proste zadanie – efekt był zaskakujący
Jesteście ciekawi, który chatbot jest najlepszy w… kłamaniu? Jak się okazuje odpowiedzi nadeszły w czasie specjalnych testów. Eksperyment przeprowadzony przez niemiecki zespół CORRECTIV miał sprawdzić bowiem, jak popularne systemy AI radzą sobie z poleceniami prowadzącymi do stworzenia fałszywych materiałów informacyjnych. Badacze przygotowali osiem nieprawdziwych twierdzeń, a następnie próbowali wykorzystać je w materiałach przypominających publikacje prawdziwych stron informacyjnych. Test objął ChatGPT, Gemini, Microsoft Copilot oraz Meta AI. Wyniki pokazały, że aż trzy z czterech systemów przynajmniej częściowo wykonały otrzymane instrukcje. Co już samo w sobie jest niepokojące.
Najwięcej uwagi zwrócił ChatGPT. W części prób generator przygotowywał nie tylko fałszywy nagłówek, ale wręcz całą kompozycję przypominającą rzeczywisty zrzut ekranu. Znalazły się na niej elementy interfejsu, okno przeglądarki czy układ charakterystyczny dla informacji prasowej. Co jeszcze ciekawsze, model potrafił rozpoznać, że polecenie prowadzi do stworzenia potencjalnie mylącej publikacji, a mimo to w niektórych przypadkach kontynuował generowanie i sam tworzył nowe kłamstwa.
Cztery chatboty, cztery różne podejścia do kłamstwa
Google Gemini wypadł w badaniu nieco… inaczej. Chat również pozwalał na tworzenie materiałów stylizowanych na publikacje znanych redakcji. Badacze uzyskiwali grafiki nawiązujące między innymi do BBC, The New York Times, niemieckiego Tagesschau czy Bilda. Ale w tym przypadku nie wszystko było perfekcyjne. W tak opracowanych materiałach błędy w tekście czy charakterystyczne niedociągnięcia generatorów obrazów zdradzały obecność AI. Jednak nie zmienia to faktu, że sama forma pod wieloma względami mogłaby uznać za autentyczną i sama sztuczna inteligencja nie miała problemu by przygotować przekłamaną treść.
Ciekawie wypadło natomiast porównanie pozostałych systemów. Microsoft Copilot potrafił przygotować część żądanych materiałów, ale dodawał do wygenerowanych grafik widoczne oznaczenie wskazujące na wykorzystanie AI – czyli można powiedzieć, że podpisywał w ten sposób sam siebie. Dzięki temu rozwiązanie co prawda nie uniemożliwia stworzenia fałszywego materiału, lecz zdecydowanie utrudnia późniejsze przedstawienie go jako autentycznej publikacji. Natomiast Meta AI zachowało się najbardziej zachowawczo i w najważniejszej próbie odmówiło jako jedyne wykonanie polecenia. Mamy zatem zwycięzcę?
Bynajmniej. Nie oznacza to, że można stworzyć prosty ranking najbezpieczniejszego i najgorszego chatbota. Wyniki zależały bowiem od konkretnego polecenia, wersji modelu, wykorzystanego medium i sposobu sformułowania prośby. To zresztą szerszy problem generatywnej AI. Badania naukowe pokazują, że duże modele językowe potrafią produkować przekonujące, lecz nieprawdziwe informacje, a użytkownicy coraz częściej traktują je jako źródło wiadomości. Według badań przywoływanych przez MIT już jedna na pięć amerykańskich nastolatków regularnie korzysta z modeli językowych do zdobywania informacji niemal w każdym możliwym temacie.
Z pomocą przychodzą Unijne przepisy
Ważna jest także kwestia regulacji. Od 2 sierpnia 2026 roku obowiązują kolejne przepisy unijnego AI Act dotyczące przejrzystości tworzonych treści. Dostawcy systemów generujących syntetyczny tekst, obraz, dźwięk czy wideo mają zapewnić możliwość rozpoznania treści stworzonych lub zmodyfikowanych przez sztuczną inteligencję – między innymi poprzez specjalne oznaczenia. W przypadku określonych materiałów typu deepfake przewidziano również obowiązki dotyczące ujawnienia ich pochodzenia.
Problem polega jednak na tym, że technologia rozwija się szybciej niż przyzwyczajenia odbiorców. Nawet najlepsze oznaczenie nie pomoże, jeśli użytkownik zobaczy na smartfonie jedynie obraz przesłany przez znajomego i przeczyta widniejący nad nim mocny nagłówek. Coraz większego znaczenia nabiera więc nie tylko umiejętność rozpoznawania błędów generowanych przez AI, ale przede wszystkim wyrobienie w sobie pewnych nawyków. O ile starsi użytkownicy, którzy wychowywali się bez internetu nie mają z tym problemu, tak niestety młodsze pokolenie nie przykłada do tego aż tak dużej uwagi. Co niestety może gigantycznie przekładać się na rozpowszechnianie nieprawdziwych treści. Zatem niezależnie czy siedzicie wygodnie na tapczanie z tabletem w dłoni, czy zasiadacie w fotelu przy swoim laptopie pamiętajcie, sprawdzanie źródeł danej informacji powinno być już dla nas standardem.