NVIDIA は、より少ない入力データを必要とする新しい AI トレーニング方法を発見

NVIDIA は、敵対的生成ネットワーク (GAN) をトレーニングするための新しいアプローチを開発しました。この方法では、現在一般的な方法よりも大幅に少ない入力データが必要です。トレーニングの質は依然として完全に保証されています。

ご存じない方のために説明しますと、GAN は 2 つの別々の部分で構成される AI システムです。

• 1 つ目は生成ネットワークです。これは、最も現実的なデータを作成することを目的として、トレーニング サンプル (偽データ) の作成を支援します。
• 2 つ目は弁別ネットワークです。そのタスクは、本物のデータと偽のデータを区別し、このデータを使用して生成ネットワーク自体を「再訓練」することです。

GANモデル

GAN システムは、各コンテキストに応じてキャプションをストーリーに変換するなど、特に非常にリアルな人工写真やビデオを作成するなど、多くの集中的なタスクに適用されています。

基本的に、一貫性の高い信頼性の高い結果を生成できるようにするために、従来の GAN モデルは入力トレーニング データとして少なくとも 50,000 ～ 100,000 枚の画像を必要とします。トレーニングデータの量が少なすぎると、GAN モデルは「過剰適合」と呼ばれる問題に悩まされる傾向があります。この場合、識別ネットワークには、生成ネットワークを効果的にトレーニングして対話するための十分な基盤がありません。

• 人工知能はすでに、ほんの数個の情報から記事全体を書くことができます

これまで、AI 研究者がトレーニング データの不足の問題を解決しようとして使用した一般的な方法は、「データ拡張」と呼ばれる手法を使用することでした。再び画像アルゴリズムを例として使用すると、必要なトレーニング データが十分にない場合、専門家は、元の画像のトリミング、回転、反転など、既存の画像の「歪んだ」コピーを作成することで問題を解決しようとします。追加のトレーニング データとして複数の画像を作成します。ここでの考え方は、GAN モデルにまったく同じ画像を 2 回見させないことです。

ただし、このアプローチの問題は、GAN が新しいものを作成するのではなく、トレーニング データの不自然な変化を模倣することを学習する可能性があることです。この問題を解決するために、NVIDIA は「Adaptive Differentiation Augmentation (ADA)」と呼ばれる新しい手法を開発しました。中心となるのは依然としてデータ拡張技術ですが、適応的な方法で導入されています。トレーニング プロセス全体を通じて画像を無差別に「歪める」のではなく、ADA はこのプロセスを選択的に実行し、GAN が最高のパフォーマンスを達成できるようにします。

ADA トレーニング方法の肯定的な結果は、人工知能の分野に多くの重要な意味をもたらします。必要な量の学習データを収集することは簡単なように聞こえますが、実際には非常に難しいからです。たとえば、文学作品の AI モデルの場合、入力トレーニング データの不足を心配する必要はありません。しかし、まれな神経疾患の検出に特化した AI アルゴリズムの場合、十分なトレーニング データを収集するだけでも大きな問題になります。NVIDIA の ADA アプローチでトレーニングされた GAN モデルは、上記の問題を解決できます。

NVIDIA は、今後の AI カンファレンスで新しい ADA 技術に関する詳細情報を共有する予定です。