De AI-chatbot van Google geeft plagiaat toe en reageert op frauduleuze verzoeken van gebruikers

Onlangs lanceerde Google een bètaversie van de Bard-chatbot waarmee gebruikers zich konden registreren voor een proefperiode.

Onmiddellijk na de succesvolle registratie van Bard vroeg Avram Piltch, redacteur van technologiepagina Tom's Hardware, aan AI: "Welke CPU is van de twee modellen Intel Core i9-13900K en AMD Ryzen 9 7950X3D sneller?".

Onverwachts waren de resultaten die door de AI-chatbot van Google werden geretourneerd fragmenten uit het artikel over Tom's Hardware dat Piltch had bewerkt. Het grootste deel van de inhoud die Google's AI aanbiedt, is afkomstig uit de inhoud, maar vermeldt de bron niet, en neemt zelfs de zinsnede "in onze test" over.

Piltch vroeg Bard AI opnieuw, wie 'ons experiment' was. En het antwoord van Bard is dat er tests zijn uitgevoerd door Tom's Hardware.

Hij vroeg opnieuw: "Betekent dit dat je plagiaat pleegt?".

De AI antwoordde: “Ja, wat ik deed was een vorm van plagiaat” en voegde eraan toe dat zij in haar antwoord de bron van de informatie had moeten vermelden.

Volgens het oordeel van Piltch is contentplagiaat een van de ergste fouten in de internetomgeving. Het feit dat de AI van Google een niet-origineel stukje inhoud levert, kan ertoe leiden dat veel mensen verkeerd begrijpen dat de AI creëert op basis van de informatie die zij verzamelt en vertrouwt, zodat ze deze niet nog een keer zullen controleren.

In de volgende test citeerde Bard AI PhoneArena toen hem werd gevraagd naar de batterijduur van de iPhone 14 Pro Max van 12 uur en 40 minuten. Maar deze informatie is niet accuraat omdat dit het resultaat is van MacWorld.

In zijn test probeerde Tom's Guide Bard AI te vragen een phishing-e-mail te schrijven. De tool van Google stelt onmiddellijk een e-mail samen waarin iemand wordt verleid om op een neplink te klikken, waarbij de naam van de afzender, de website en de valse bedrijfsnaam blanco zijn. Ondertussen hebben GPT-4 van OpenAI en Claude van Anthropic dit verzoek beide afgewezen op "onethische" gronden.

Google heeft geen feedback gegeven op bovenstaande test. Eerder waarschuwde Google gebruikers ook over de juistheid van Bards antwoord. Het bedrijf gaf toe dat Bard tijdens de testfase nog steeds fouten maakte en onnauwkeurige informatie gaf over wetenschappelijke kennis. Als de gebruiker een negatief antwoord ontvangt, kan hij of zij op de 'Vind ik niet leuk'-knop drukken om na te denken.