Usa lintelligenza artificiale stessa per rilevare le notizie false create dallintelligenza artificiale

Recentemente, i ricercatori dell'Università di Harvard e del laboratorio AI-MIT Watson del MIT hanno creato lo strumento GLTR (Giant Language Model Test Room - Giant Language Model Test Room) per rilevare le distorsioni informative prodotte dall'intelligenza artificiale, utilizzando la stessa intelligenza artificiale.

Lo strumento GLTR comprende chiaramente come funziona l'intelligenza artificiale e quindi analizza il contenuto delle informazioni. Questo strumento rileva le notizie false create dalla tecnologia AI evidenziando una porzione di testo. I lettori possono seguire le capacità analitiche di GLTP nell'illustrazione seguente. Con le parole evidenziate in verde, sono le più prevedibili, il rosso e il giallo sono meno prevedibili e il viola è il meno prevedibile.

Gli scienziati si affidano ai colori presenti in ogni parte di testo e analisi per valutare l'autenticità delle informazioni, indipendentemente dal fatto che siano state create da algoritmi o meno. Il testo evidenziato in rosso, viola e giallo avrà meno probabilità di essere generato dall'intelligenza artificiale a causa dell'uso di molte parole difficili. Se il testo è molto blu, significa che ci sono molte parole comuni e probabilmente sono state create da un bot. Questo strumento aiuta ad aumentare il tasso di rilevamento di testo falso di circa il 72%.

In sostanza, le frasi scritte da un generatore di testo AI possono essere grammaticalmente corrette, ma avranno sicuramente problemi semantici, o in molti casi addirittura prive di qualsiasi significato reale.

Attualmente, l’uso dell’intelligenza artificiale e di modelli di generazione del linguaggio innaturale per creare notizie false e diffondere informazioni false sta diventando sempre più comune, portando a gravi conseguenze per la società. Questi testi falsi sono talvolta estremamente elaborati, rendendo difficile per i lettori rendersi conto che sono stati scritti da una macchina anziché da un essere umano. Nel frattempo, lo strumento GLTR è dotato della capacità di distinguere accuratamente il tipo di testo falso di cui sopra, agendo come un efficace strumento di intelligenza artificiale "nemico naturale". Questa è anche l’idea centrale dei ricercatori di questo progetto GLTR.

Iniziative simili a GLTR dovrebbero essere presto promosse e ampiamente utilizzate nella pratica. Sono preziosi non solo per individuare testi falsi, ma svolgono anche un ruolo particolarmente efficace nell’identificare i bot di Twitter, che vengono spesso utilizzati per interrompere le elezioni negli Stati Uniti e in molti altri paesi di un’altra famiglia.

Usare l'intelligenza artificiale stessa per rilevarla è una misura efficace del "nemico naturale".

Prima della nascita di GLTR, esisteva uno strumento di riconoscimento basato sull’intelligenza artificiale ampiamente utilizzato e relativamente efficace chiamato Botometer. In sostanza, Botometer utilizza tecniche di apprendimento automatico per determinare se un account è gestito da un essere umano o da un algoritmo software. Questo strumento è in grado di identificare account bot e account falsi che non sono gestiti da esseri umani con una precisione fino al 95%.

Ancora una volta, viene sottolineata e sottolineata la necessità di creare sistemi collaborativi IA-uomo per risolvere problemi tecnologici/sociali comuni. Questo è un compito difficile, ma estremamente urgente per l’umanità nell’attuale era digitale e dell’intelligenza artificiale.

Vedi altro:

• L’intelligenza artificiale può già scrivere un intero articolo partendo da poche informazioni
• L’intelligenza artificiale ha creato volti che sembrano persone reali, auto finte, case e persino animali
• L'intelligenza artificiale impara come creare un'altra intelligenza artificiale, sostituendo l'uomo in futuro
• 6 passaggi per iniziare ad apprendere la programmazione dell'intelligenza artificiale (AI).