엔비디아, 입력 데이터가 덜 필요한 새로운 AI 훈련 방법 발견

NVIDIA는 생성적 적대 네트워크(GAN)를 훈련하는 새로운 접근 방식을 개발했습니다. 이 방법은 현재 널리 사용되는 방법보다 훨씬 적은 입력 데이터를 필요로 합니다. 훈련의 질은 여전히 ​​절대적으로 보장됩니다.

모르는 경우 GAN은 두 가지 개별 부분으로 구성된 AI 시스템입니다.

• 첫 번째는 가장 현실적인 데이터 생성을 목표로 훈련 샘플(가짜 데이터) 생성을 돕는 생성 네트워크(Generative Network)입니다.
• 두 번째는 판별 네트워크입니다. 이 네트워크의 임무는 실제 데이터와 가짜 데이터를 구별한 다음 이 데이터를 사용하여 생성 네트워크 자체를 "재교육"하는 것입니다.

GAN 모델

GAN 시스템은 각 상황에 따라 캡션을 스토리로 변환하는 등 많은 집약적인 작업에 적용되었으며, 특히 현실감이 매우 높은 인공 사진과 비디오를 만드는 등 많은 집약적인 작업에 적용되었습니다.

기본적으로 높은 일관성으로 신뢰할 수 있는 결과를 생성할 수 있으려면 기존 GAN 모델에는 입력 학습 데이터로 최소 50,000~100,000개의 이미지가 필요합니다. 훈련 데이터의 양이 너무 작으면 GAN 모델은 "과적합"이라는 문제를 겪는 경향이 있습니다. 이 경우 Discriminative 네트워크는 Generative 네트워크를 효과적으로 훈련하고 상호 작용할 수 있는 충분한 기반을 갖지 못합니다.

• 인공지능은 이미 몇 가지 정보만으로 전체 기사를 작성할 수 있습니다.

과거 AI 연구자들이 훈련 데이터 부족 문제를 해결하기 위해 사용했던 일반적인 방법은 '데이터 증강(data Augmentation)'이라는 기술을 사용하는 것이었다. 이미지 알고리즘을 다시 예로 사용하면 필요한 훈련 데이터가 충분하지 않은 경우 전문가는 원본 이미지 자르기, 회전 또는 뒤집기와 같은 기존 이미지의 "왜곡된" 복사본을 생성하여 문제를 해결하려고 노력할 것입니다. 추가 훈련 데이터로 여러 이미지를 만듭니다. 여기서의 아이디어는 GAN 모델이 똑같은 이미지를 두 번 보지 않도록 하는 것입니다.

그러나 이 접근 방식의 문제점은 GAN이 새로운 것을 생성하는 대신 훈련 데이터의 부자연스러운 변화를 모방하는 방법을 학습하게 할 수 있다는 것입니다. 이 문제를 해결하기 위해 NVIDIA는 "ADA(Adaptive Differentiation Augmentation)"라는 새로운 방법을 개발했습니다. 핵심은 여전히 ​​데이터 증대 기술이지만 적응형 방식으로 배포됩니다. 전체 훈련 과정에서 이미지를 무분별하게 "왜곡"하는 대신 ADA는 이 과정을 선택적으로 수행하여 GAN이 여전히 최고의 성능을 달성할 수 있도록 합니다.

ADA 훈련 방법의 긍정적인 결과는 인공지능 분야에 많은 중요한 시사점을 가져옵니다. 필요한 양의 훈련 데이터를 수집하는 것이 간단해 보이지만 실제로는 매우 어렵기 때문입니다. 예를 들어, 문학 작품의 AI 모델의 경우 입력 훈련 데이터 부족에 대해 걱정할 필요가 없습니다. 하지만 희귀한 신경 질환을 전문적으로 탐지하는 AI 알고리즘의 경우 단순히 충분한 훈련 데이터를 수집하는 것만으로는 큰 문제가 됩니다. NVIDIA의 ADA 접근 방식으로 훈련된 GAN 모델은 위의 문제를 해결할 수 있습니다.

NVIDIA는 다가오는 AI 컨퍼런스에서 새로운 ADA 기술에 대한 자세한 정보를 공유할 예정입니다.