Utilizați AI în sine pentru a detecta știrile false create de AI

Recent, cercetătorii de la Universitatea Harvard și laboratorul AI-MIT Watson al MIT au creat instrumentul GLTR (Giant Language Model Test Room - Giant Language Model Test Room) pentru a detecta prejudecățile informațiilor realizate din AI, folosind inteligența artificială însăși.

Instrumentul GLTR înțelege clar cum funcționează AI și apoi analizează conținutul informațional. Acest instrument detectează știrile false create de tehnologia AI prin evidențierea unui text. Cititorii pot urmări capacitățile analitice ale GLTP în ilustrația de mai jos. Cu cuvintele evidențiate în verde, acestea sunt cele mai previzibile, roșu și galben sunt mai puțin previzibile, iar violetul este cel mai puțin previzibil.

Oamenii de știință se bazează pe culorile din fiecare bucată de text și analiză pentru a evalua autenticitatea informațiilor, indiferent dacă au fost create de algoritmi sau nu. Textul evidențiat în roșu, violet și galben va fi mai puțin probabil să fie generat de AI datorită folosirii multor cuvinte dificile. Dacă textul este acoperit cu mult albastru, înseamnă că există multe cuvinte comune și probabil că sunt create de un bot. Acest instrument ajută la creșterea ratei de detectare a textului fals cu aproximativ 72%.

În esență, propozițiile scrise de un generator de text AI pot fi corecte din punct de vedere gramatical, dar cu siguranță vor avea probleme semantice sau, în multe cazuri, chiar nu vor avea vreun sens real.

În prezent, utilizarea modelelor de IA și de generare a limbajului nenatural pentru a crea știri false și a răspândi informații false devine din ce în ce mai comună, ceea ce duce la consecințe grave pentru societate. Aceste texte false sunt uneori extrem de elaborate, ceea ce face dificil pentru cititori să realizeze că au fost scrise de o mașină în loc de un om. Între timp, instrumentul GLTR este echipat cu capacitatea de a distinge cu precizie tipul de text fals de mai sus, acționând ca un instrument AI eficient pentru „inamic natural”. Aceasta este și ideea de bază a cercetătorilor din acest proiect GLTR.

Inițiative similare cu GLTR ar trebui să fie promovate și utilizate pe scară largă în practică în curând. Ele sunt valoroase nu numai în detectarea textului fals, ci joacă și un rol deosebit de eficient în identificarea roboților Twitter, care sunt adesea folosiți pentru a perturba alegerile din Statele Unite și multe alte țări.

Folosirea AI în sine pentru a detecta AI este o măsură eficientă de „inamic natural”.

Înainte de a se naște GLTR, a existat un instrument de recunoaștere bazat pe inteligență artificială, folosit pe scară largă și relativ eficient, numit Botometru. În esență, Botometer utilizează tehnici de învățare automată pentru a determina dacă orice cont este operat de un om sau de un algoritm software. Acest instrument este capabil să identifice conturile bot și conturile false care nu sunt operate de oameni cu o precizie de până la 95%.

Încă o dată, este subliniată și subliniată necesitatea creării de sisteme colaborative AI-uman pentru a rezolva probleme tehnologice/sociale comune. Aceasta este o sarcină dificilă, dar extrem de urgentă pentru umanitate în era actuală a inteligenței digitale și artificiale.

Vezi mai mult:

• Inteligența artificială poate deja să scrie un articol întreg din doar câteva informații
• AI a creat fețe care arată ca oameni reali, mașini false, case și chiar animale
• Inteligența artificială învață cum să creeze o altă inteligență artificială, înlocuind oamenii în viitor
• 6 pași pentru a începe să înveți programarea cu inteligență artificială (AI).