NVIDIA findet eine neue KI-Trainingsmethode, die weniger Eingabedaten erfordert

NVIDIA hat einen neuen Ansatz zum Training generativer gegnerischer Netzwerke (GANs) entwickelt. Diese Methode erfordert deutlich weniger Eingabedaten als derzeit gängige Methoden. Dabei ist die Qualität der Ausbildung weiterhin absolut gewährleistet.

Falls Sie es nicht wissen: GAN ist ein KI-System, das aus zwei separaten Teilen besteht:

• Das erste ist das generative Netzwerk, das bei der Erstellung von Trainingsbeispielen (gefälschten Daten) hilft, mit dem Ziel, möglichst realistische Daten zu erstellen.
• Das zweite ist das Diskriminative Netzwerk: Dessen Aufgabe besteht darin, zwischen echten Daten und gefälschten Daten zu unterscheiden und diese Daten dann zu verwenden, um das Generative Netzwerk selbst „umzuschulen“.

GAN-Modell

GAN-Systeme wurden bei vielen intensiven Aufgaben eingesetzt, beispielsweise bei der Konvertierung von Bildunterschriften in Geschichten je nach Kontext, insbesondere bei der Erstellung künstlicher Fotos und Videos mit extrem hohem Realismus.

Um zuverlässige Ergebnisse mit hoher Konsistenz liefern zu können, benötigen herkömmliche GAN-Modelle im Wesentlichen mindestens 50.000 bis 100.000 Bilder als Eingabetrainingsdaten. Wenn die Menge an Trainingsdaten zu klein ist, neigt das GAN-Modell dazu, unter einem Problem zu leiden, das als „Überanpassung“ bezeichnet wird. In diesem Fall verfügt das diskriminative Netzwerk nicht über genügend Basis, um das generative Netzwerk effektiv zu trainieren und mit ihm zu interagieren.

• Künstliche Intelligenz kann bereits aus wenigen Informationen einen ganzen Artikel schreiben

In der Vergangenheit versuchten KI-Forscher häufig, das Problem fehlender Trainingsdaten mit einer Technik namens „Data Augmentation“ zu lösen. Am Beispiel des Bildalgorithmus werden Experten versuchen, das Problem zu lösen, indem sie „verzerrte“ Kopien der vorhandenen Bilder erstellen, z. B. durch Zuschneiden, Drehen oder Spiegeln eines Originalbilds, wenn nicht genügend notwendige Trainingsdaten vorliegen Erstellen Sie mehrere Bilder als zusätzliche Trainingsdaten. Die Idee hier besteht darin, zu verhindern, dass das GAN-Modell genau dasselbe Bild zweimal sieht.

Das Problem bei diesem Ansatz besteht jedoch darin, dass er dazu führen kann, dass das GAN lernt, unnatürliche Änderungen in den Trainingsdaten zu imitieren, anstatt etwas Neues zu erstellen. Um das Problem zu lösen, hat NVIDIA eine neue Methode namens „Adaptive Differentiation Augmentation (ADA)“ entwickelt. Der Kern besteht immer noch aus Datenerweiterungstechniken, die jedoch auf adaptive Weise eingesetzt werden. Anstatt Bilder während des gesamten Trainingsprozesses wahllos zu „verzerren“, führt ADA diesen Prozess selektiv und gerade so weit durch, dass GAN immer noch die beste Leistung erzielt.

Die positiven Ergebnisse der ADA-Trainingsmethode bringen viele wichtige Implikationen im Bereich der künstlichen Intelligenz mit sich. Denn die nötige Menge an Trainingsdaten zu sammeln klingt einfach, ist aber in Wirklichkeit sehr schwierig. Bei einem KI-Modell der literarischen Komposition müssen Sie sich beispielsweise keine Sorgen über fehlende Eingabe-Trainingsdaten machen. Doch im Fall eines KI-Algorithmus, der auf die Erkennung seltener neurologischer Erkrankungen spezialisiert ist, ist allein das Sammeln ausreichender Trainingsdaten ein großes Problem. Ein mit dem ADA-Ansatz von NVIDIA trainiertes GAN-Modell kann das oben genannte Problem lösen.

NVIDIA wird auf kommenden KI-Konferenzen weitere Informationen über seine neue ADA-Technik veröffentlichen.