NVIDIA găsește o nouă metodă de antrenament AI care necesită mai puține date de intrare

NVIDIA a dezvoltat o nouă abordare pentru antrenarea rețelelor generative adversarial (GAN). Această metodă necesită mult mai puține date de intrare decât metodele populare în prezent. În timp ce calitatea antrenamentului este încă absolut garantată.

Dacă nu știți, GAN este un sistem AI format din 2 părți separate:

• Prima este Rețeaua generativă, care ajută la crearea mostrelor de antrenament (date false), cu scopul de a crea cele mai realiste date.
• A doua este Rețeaua Discrimative: a cărei sarcină este să încerce să facă distincția între datele reale și datele false, apoi să folosească aceste date pentru a „reforma” Rețeaua Generativă în sine.

Model GAN

Sistemele GAN au fost aplicate în multe sarcini intensive, cum ar fi conversia subtitrărilor în povești în funcție de fiecare context, în special crearea de fotografii și videoclipuri artificiale cu un realism extrem de ridicat.

În esență, pentru a putea produce rezultate fiabile cu o consistență ridicată, modelele GAN tradiționale vor necesita un minim de 50.000 până la 100.000 de imagini ca date de antrenament de intrare. Dacă cantitatea de date de antrenament este prea mică, modelul GAN ​​tinde să sufere de o problemă numită „suprafitting”. În acest caz, rețeaua discriminativă nu va avea suficientă bază pentru a se instrui și a interacționa eficient cu rețeaua generativă.

• Inteligența artificială poate deja să scrie un articol întreg din doar câteva informații

În trecut, o metodă comună folosită de cercetătorii AI pentru a încerca să rezolve problema lipsei datelor de antrenament a fost să folosească o tehnică numită „augmentare a datelor”. Folosind din nou algoritmul de imagine ca exemplu, în absența suficiente date de antrenament necesare, experții vor încerca să rezolve problema prin crearea de copii „distorsionate” ale imaginilor existente, cum ar fi decuparea, rotirea sau răsturnarea unei imagini originale la creați mai multe imagini ca date suplimentare de antrenament. Ideea aici este să nu lăsați modelul GAN ​​să vadă exact aceeași imagine de două ori.

Cu toate acestea, problema cu această abordare este că poate determina GAN-ul să învețe să imite modificări nenaturale în datele de antrenament, în loc să creeze ceva nou. Pentru a rezolva problema, NVIDIA a dezvoltat o nouă metodă numită „Adaptive Differentiation Augmentation (ADA). De bază sunt încă tehnicile de creștere a datelor, dar implementate într-un mod adaptativ. În loc să „distorsioneze” imaginile fără discernământ pe parcursul întregului proces de instruire, ADA efectuează acest proces selectiv și suficient pentru ca GAN să obțină în continuare cea mai bună performanță.

Rezultatele pozitive ale metodei de antrenament ADA aduc multe implicații importante în domeniul inteligenței artificiale. Pentru că colectarea cantității necesare de date de antrenament sună simplă, dar în realitate este foarte dificilă. De exemplu, pentru un model AI de compoziție literară, nu va trebui să vă faceți griji cu privire la lipsa datelor de antrenament de intrare. Dar în cazul unui algoritm AI care este specializat în detectarea tulburărilor neurologice rare, pur și simplu colectarea unor date suficiente de antrenament este o mare problemă. Un model GAN ​​instruit cu abordarea ADA a NVIDIA poate rezolva problema de mai sus.

NVIDIA va împărtăși mai multe informații despre noua sa tehnică ADA la viitoarele conferințe AI.