Wykorzystaj samą sztuczną inteligencję do wykrywania fałszywych wiadomości tworzonych przez sztuczną inteligencję

Niedawno naukowcy z Uniwersytetu Harvarda i laboratorium AI-MIT Watson w MIT stworzyli narzędzie GLTR (Giant Language Model Test Room – Giant Language Model Test Room) do wykrywania stronniczości informacji powodowanej przez sztuczną inteligencję, przy użyciu samej sztucznej inteligencji.

Narzędzie GLTR doskonale rozumie, jak działa sztuczna inteligencja, a następnie analizuje treść informacji. To narzędzie wykrywa fałszywe wiadomości stworzone przez technologię AI poprzez zaznaczenie fragmentu tekstu. Czytelnicy mogą prześledzić możliwości analityczne GLTP na poniższej ilustracji. Słowa podświetlone na zielono oznaczają, że są one najbardziej przewidywalne, kolory czerwony i żółty są mniej przewidywalne, a najmniej przewidywalne są fioletowe.

Naukowcy opierają się na kolorach każdego fragmentu tekstu i analizie, aby ocenić autentyczność informacji, niezależnie od tego, czy została ona utworzona przez algorytmy, czy nie. Tekst zaznaczony na czerwono, fioletowo i żółto będzie rzadziej generowany przez sztuczną inteligencję ze względu na użycie wielu trudnych słów. Jeśli tekst jest pokryty dużą ilością koloru niebieskiego, oznacza to, że zawiera wiele popularnych słów i prawdopodobnie został stworzony przez bota. To narzędzie pomaga zwiększyć współczynnik wykrywania fałszywych tekstów o około 72%.

Zasadniczo zdania napisane przez generator tekstu AI mogą być poprawne gramatycznie, ale z pewnością będą powodować problemy semantyczne, a w wielu przypadkach nawet pozbawione prawdziwego znaczenia, z dowolnego powodu.

Obecnie wykorzystywanie sztucznej inteligencji i modeli generowania nienaturalnego języka do tworzenia fałszywych wiadomości i rozpowszechniania fałszywych informacji staje się coraz powszechniejsze, co prowadzi do poważnych konsekwencji dla społeczeństwa. Te fałszywe teksty są czasami niezwykle skomplikowane, przez co czytelnikom trudno jest zorientować się, że zostały napisane przez maszynę, a nie przez człowieka. Tymczasem narzędzie GLTR zostało wyposażone w możliwość dokładnego rozróżnienia powyższego rodzaju fałszywego tekstu, pełniąc rolę skutecznego narzędzia AI „naturalnego wroga”. Taka jest również główna idea badaczy biorących udział w projekcie GLTR.

Już wkrótce powinny być promowane i szeroko stosowane w praktyce inicjatywy na wzór GLTR. Są cenne nie tylko w wykrywaniu fałszywych tekstów, ale także odgrywają szczególnie skuteczną rolę w identyfikacji botów na Twitterze, które często są wykorzystywane do zakłócania wyborów w Stanach Zjednoczonych i wielu innych krajach.

Wykorzystywanie samej sztucznej inteligencji do wykrywania sztucznej inteligencji jest skutecznym środkiem „naturalnego wroga”.

Zanim narodził się GLTR, istniało szeroko stosowane i stosunkowo skuteczne narzędzie do rozpoznawania oparte na sztucznej inteligencji, zwane Botometrem. Zasadniczo Botometr wykorzystuje techniki uczenia maszynowego w celu ustalenia, czy dane konto jest obsługiwane przez człowieka, czy algorytm oprogramowania. Narzędzie to jest w stanie zidentyfikować konta botów i fałszywe konta, które nie są obsługiwane przez człowieka, z dokładnością do 95%.

Po raz kolejny wskazano i podkreślono potrzebę tworzenia współpracujących systemów AI-człowiek w celu rozwiązywania wspólnych problemów technologicznych/społecznych. To trudne, ale niezwykle pilne zadanie stojące przed ludzkością w obecnej erze cyfrowej i sztucznej inteligencji.

Zobacz więcej:

• Sztuczna inteligencja potrafi już z kilku informacji napisać cały artykuł
• Sztuczna inteligencja stworzyła twarze, które wyglądają jak prawdziwi ludzie, fałszywe samochody, domy, a nawet zwierzęta
• Sztuczna inteligencja uczy się, jak stworzyć kolejną sztuczną inteligencję, która w przyszłości zastąpi człowieka
• 6 kroków, aby rozpocząć naukę programowania sztucznej inteligencji (AI).