Gebruik AI zelf om door AI gecreëerd nepnieuws te detecteren

Onlangs hebben onderzoekers van de Harvard University en het AI-MIT Watson-laboratorium van MIT de GLTR-tool (Giant Language Model Test Room - Giant Language Model Test Room) gecreëerd om te detecteren dat informatievooroordelen afkomstig zijn van AI, met behulp van kunstmatige intelligentie zelf.

De GLTR-tool begrijpt duidelijk hoe AI werkt en analyseert vervolgens de informatie-inhoud. Deze tool detecteert nepnieuws gecreëerd door AI-technologie door een stukje tekst te markeren. Lezers kunnen de analytische mogelijkheden van GLTP volgen in de onderstaande afbeelding. Met groen gemarkeerde woorden zijn ze het meest voorspelbaar, rood en geel zijn minder voorspelbaar en paars is het minst voorspelbaar.

Wetenschappers vertrouwen op de kleuren in elk stuk tekst en analyses om de authenticiteit van de informatie te beoordelen, of deze nu door algoritmen is gecreëerd of niet. Tekst die rood, paars en geel is gemarkeerd, zal minder snel door AI worden gegenereerd vanwege het gebruik van veel moeilijke woorden. Als de tekst veel blauw bevat, betekent dit dat er veel veel voorkomende woorden zijn en dat deze waarschijnlijk door een bot zijn gemaakt. Deze tool helpt het detectiepercentage van valse tekst met ongeveer 72% te verhogen.

In wezen kunnen zinnen geschreven door een AI-tekstgenerator grammaticaal correct zijn, maar zullen ze zeker semantische problemen hebben, of in veel gevallen zelfs geen echte betekenis hebben.

Momenteel wordt het gebruik van AI en modellen voor het genereren van onnatuurlijke taal om nepnieuws te creëren en valse informatie te verspreiden steeds gebruikelijker, wat ernstige gevolgen heeft voor de samenleving. Deze nepteksten zijn soms extreem uitgebreid, waardoor het voor lezers moeilijk is om te beseffen dat ze door een machine zijn geschreven in plaats van door een mens. Ondertussen is de GLTR-tool uitgerust met de mogelijkheid om het bovengenoemde type neptekst nauwkeurig te onderscheiden, en fungeert als een effectieve AI-tool voor ‘natuurlijke vijanden’. Dat is ook de kerngedachte van de onderzoekers in dit GLTR-project.

Initiatieven vergelijkbaar met GLTR moeten binnenkort worden gepromoot en op grote schaal in de praktijk worden gebruikt. Ze zijn niet alleen waardevol bij het opsporen van nepteksten, maar spelen ook een bijzonder effectieve rol bij het identificeren van Twitter-bots, die vaak worden gebruikt om verkiezingen in de Verenigde Staten en veel andere landen te verstoren.

Het gebruik van AI zelf om AI te detecteren is een effectieve ‘natuurlijke vijand’-maatregel

Voordat GLTR werd geboren, was er een veelgebruikte en relatief effectieve, op AI gebaseerde herkenningstool genaamd Botometer. In wezen maakt Botometer gebruik van machine learning-technieken om te bepalen of een account wordt beheerd door een mens of een software-algoritme. Deze tool is in staat botaccounts en nepaccounts te identificeren die niet door mensen worden beheerd, met een nauwkeurigheid tot 95%.

Opnieuw wordt gewezen en benadrukt op de noodzaak om collaboratieve AI-menselijke systemen te creëren om gemeenschappelijke technologische/sociale problemen op te lossen. Dit is een moeilijke, maar uiterst urgente taak voor de mensheid in het huidige tijdperk van digitale en kunstmatige intelligentie.

Bekijk meer:

• Kunstmatige intelligentie kan met slechts enkele stukjes informatie al een heel artikel schrijven
• AI heeft gezichten gecreëerd die lijken op echte mensen, nepauto's, huizen en zelfs dieren
• Kunstmatige intelligentie leert hoe je een andere kunstmatige intelligentie kunt creëren, die in de toekomst mensen zal vervangen
• 6 stappen om te beginnen met het leren programmeren van kunstmatige intelligentie (AI).