Nutzen Sie KI selbst, um von KI erstellte Fake News zu erkennen

Kürzlich haben Forscher der Harvard University und des AI-MIT Watson-Labors des MIT das GLTR-Tool (Giant Language Model Test Room – Giant Language Model Test Room) entwickelt, um mithilfe künstlicher Intelligenz selbst zu erkennen, dass Informationsverzerrungen durch KI entstehen.

Das GLTR-Tool versteht eindeutig, wie KI funktioniert, und analysiert dann den Informationsinhalt. Dieses Tool erkennt gefälschte Nachrichten, die durch KI-Technologie erstellt wurden, indem es einen Textabschnitt hervorhebt. Leser können die Analysefähigkeiten von GLTP in der folgenden Abbildung verfolgen. Grün hervorgehobene Wörter sind am vorhersehbarsten, Rot und Gelb sind weniger vorhersehbar und Lila ist am wenigsten vorhersehbar.

Wissenschaftler verlassen sich auf die Farben in jedem Text und analysieren die Authentizität der Informationen, unabhängig davon, ob sie durch Algorithmen erstellt wurden oder nicht. Rot, lila und gelb hervorgehobener Text wird aufgrund der Verwendung vieler schwieriger Wörter mit geringerer Wahrscheinlichkeit von der KI generiert. Wenn der Text mit viel Blau bedeckt ist, bedeutet das, dass es viele gebräuchliche Wörter gibt und diese wahrscheinlich von einem Bot erstellt wurden. Dieses Tool trägt dazu bei, die Erkennungsrate gefälschter Texte um etwa 72 % zu erhöhen.

Grundsätzlich mögen Sätze, die von einem KI-Textgenerator geschrieben wurden, grammatikalisch korrekt sein, weisen aber sicherlich semantische Probleme auf oder haben in vielen Fällen sogar keine wirkliche Bedeutung. Aus irgendeinem Grund.

Derzeit wird der Einsatz von KI und unnatürlichen Sprachgenerierungsmodellen zur Erstellung von Fake News und zur Verbreitung falscher Informationen immer häufiger eingesetzt, was schwerwiegende Folgen für die Gesellschaft hat. Diese gefälschten Texte sind teilweise äußerst aufwendig, so dass der Leser nur schwer erkennen kann, dass sie von einer Maschine und nicht von einem Menschen geschrieben wurden. Mittlerweile ist das GLTR-Tool mit der Fähigkeit ausgestattet, die oben genannte Art von gefälschtem Text genau zu unterscheiden und als wirksames KI-Tool für „natürliche Feinde“ zu fungieren. Das ist auch der Kerngedanke der Forscher in diesem GLTR-Projekt.

GLTR-ähnliche Initiativen sollten bald gefördert und in der Praxis weit verbreitet eingesetzt werden. Sie sind nicht nur bei der Erkennung gefälschter Texte wertvoll, sondern spielen auch eine besonders wirksame Rolle bei der Identifizierung von Twitter-Bots, die häufig zur Störung von Wahlen in den Vereinigten Staaten und vielen anderen Ländern eingesetzt werden.

Der Einsatz von KI selbst zur Erkennung von KI ist eine wirksame Maßnahme zum Schutz vor „natürlichen Feinden“.

Bevor GLTR geboren wurde, gab es ein weit verbreitetes und relativ effektives KI-basiertes Erkennungstool namens Botometer. Im Wesentlichen verwendet Botometer Techniken des maschinellen Lernens, um festzustellen, ob ein Konto von einem Menschen oder einem Softwarealgorithmus verwaltet wird. Dieses Tool ist in der Lage, Bot-Konten und Fake-Konten, die nicht von Menschen betrieben werden, mit einer Genauigkeit von bis zu 95 % zu identifizieren.

Erneut wird auf die Notwendigkeit hingewiesen und betont, kollaborative KI-Mensch-Systeme zur Lösung gemeinsamer technologischer/sozialer Probleme zu schaffen. Dies ist eine schwierige, aber äußerst dringende Aufgabe für die Menschheit im gegenwärtigen Zeitalter der digitalen und künstlichen Intelligenz.

Mehr sehen:

• Künstliche Intelligenz kann bereits aus wenigen Informationen einen ganzen Artikel schreiben
• KI hat Gesichter geschaffen, die wie echte Menschen, gefälschte Autos, Häuser und sogar Tiere aussehen
• Künstliche Intelligenz lernt, eine andere künstliche Intelligenz zu schaffen, die in Zukunft den Menschen ersetzen kann
• 6 Schritte zum Erlernen der Programmierung mit künstlicher Intelligenz (KI).