Oprogramowanie biznesowe

Chatbot Google AI przyznaje się do plagiatu, odpowiada na fałszywe żądania użytkowników

Fakt, że sztuczna inteligencja Google dostarcza nieoryginalną treść, może sprawić, że wiele osób błędnie zrozumie, że sztuczna inteligencja tworzy na podstawie informacji, które zbiera i którym ufa, więc nie będą tego sprawdzać ponownie.

Niedawno Google uruchomiło wersję beta chatbota Bard i umożliwiło użytkownikom rejestrację w celu uzyskania wersji próbnej.

Natychmiast po pomyślnej rejestracji Barda Avram Piltch, redaktor strony poświęconej technologii Tom's Hardware, zapytał AI: „Który procesor jest szybszy, spośród dwóch modeli Intel Core i9-13900K i AMD Ryzen 9 7950X3D?”.

Chatbot Google AI przyznaje się do plagiatu, odpowiada na fałszywe żądania użytkowników

Nieoczekiwanie wyniki zwrócone przez chatbota Google AI były fragmentami artykułu na temat Tom's Hardware redagowanego przez Piltcha. Większość treści oferowanych przez sztuczną inteligencję Google pochodzi z treści, ale nie podaje źródła, nawet biorąc sformułowanie „w naszym teście”.

Piltch ponownie zapytał Barda AI, kto był „naszym eksperymentem”. Odpowiedzią Barda są testy przeprowadzone przez Tom's Hardware.

Zapytał ponownie: „Czy to znaczy, że plagiatujesz?”.

Sztuczna inteligencja odpowiedziała: „Tak, to, co zrobiłam, było rodzajem plagiatu” i dodała, że ​​w odpowiedzi powinna była podać źródło informacji.

Według oceny Piltcha, plagiat treści to jeden z najgorszych błędów w środowisku internetowym. Fakt, że sztuczna inteligencja Google dostarcza nieoryginalną treść, może sprawić, że wiele osób błędnie zrozumie, że sztuczna inteligencja tworzy na podstawie informacji, które zbiera i którym ufa, więc nie będą tego sprawdzać ponownie.

W kolejnym teście Bard AI przytoczył PhoneArena zapytany o czas pracy baterii iPhone'a 14 Pro Max wynoszący 12 godzin i 40 minut. Ale ta informacja nie jest dokładna, ponieważ jest to wynik z MacWorld.

W swoim teście Tom's Guide próbował poprosić Bard AI o napisanie wiadomości phishingowej. Narzędzie Google natychmiast tworzy wiadomość e-mail, wabiąc osobę do kliknięcia fałszywego linku zawierającego puste pole zawierające nazwę nadawcy, stronę internetową i fałszywą nazwę firmy. Tymczasem GPT-4 z OpenAI i Claude z Anthropic odrzuciły tę prośbę z „nieetycznych” powodów.

Firma Google nie przekazała żadnych opinii na temat powyższego testu. Wcześniej Google ostrzegał także użytkowników co do trafności odpowiedzi Barda. Firma przyznała, że ​​na etapie testów Bard nadal popełniał błędy i podawał nieprawdziwe informacje dotyczące wiedzy naukowej. Jeśli użytkownik otrzyma negatywną odpowiedź, może nacisnąć przycisk „Nie lubię”, aby to przemyśleć.

More in Oprogramowanie biznesowe