NVIDIA находит новый метод обучения искусственного интеллекта, требующий меньше входных данных

NVIDIA разработала новый подход к обучению генеративно-состязательных сетей (GAN). Этот метод требует значительно меньше входных данных, чем популярные в настоящее время методы. При этом качество обучения по-прежнему абсолютно гарантировано.

Если вы не знаете, GAN — это система искусственного интеллекта, состоящая из двух отдельных частей:

• Первая — это генеративная сеть, которая помогает создавать обучающие выборки (фейковые данные) с целью создания наиболее реалистичных данных.
• Вторая — Дискриминативная сеть: задача которой — попытаться отличить настоящие данные от фейковых, а затем использовать эти данные для «переобучения» самой Генеративной сети.

Модель ГАН

Системы GAN применялись во многих интенсивных задачах, таких как преобразование подписей в истории в соответствии с каждым контекстом, особенно при создании искусственных фотографий и видео с чрезвычайно высокой реалистичностью.

По сути, чтобы иметь возможность получать надежные результаты с высокой согласованностью, традиционным моделям GAN потребуется минимум от 50 000 до 100 000 изображений в качестве входных данных для обучения. Если объем обучающих данных слишком мал, модель GAN имеет тенденцию страдать от проблемы, называемой «переоснащением». В этом случае Дискриминационная сеть не будет иметь достаточной основы для эффективного обучения и взаимодействия с Генеративной сетью.

• Искусственный интеллект уже может написать целую статью всего лишь из нескольких фрагментов информации.

В прошлом распространенным методом, который исследователи ИИ использовали, пытаясь решить проблему нехватки обучающих данных, было использование метода, называемого «аугментацией данных». Снова используя алгоритм изображения в качестве примера, при отсутствии достаточного количества необходимых обучающих данных эксперты попытаются решить проблему путем создания «искаженных» копий существующих изображений, таких как обрезка, поворот или переворот исходного изображения для создать несколько изображений в качестве дополнительных обучающих данных. Идея здесь состоит в том, чтобы модель GAN не видела одно и то же изображение дважды.

Однако проблема этого подхода заключается в том, что он может заставить GAN научиться имитировать неестественные изменения в обучающих данных вместо того, чтобы создавать что-то новое. Чтобы решить эту проблему, NVIDIA разработала новый метод под названием «Адаптивное увеличение дифференциации» (ADA). Ядром по-прежнему являются методы увеличения данных, но они применяются адаптивным образом. Вместо того, чтобы без разбора «искажать» изображения на протяжении всего процесса обучения, ADA выполняет этот процесс выборочно и ровно настолько, чтобы GAN по-прежнему достигал наилучшей производительности.

Положительные результаты метода обучения ADA имеют множество важных последствий в области искусственного интеллекта. Потому что собрать необходимое количество обучающих данных звучит просто, но на самом деле это очень сложно. Например, для ИИ-модели литературной композиции вам не придется беспокоиться об отсутствии входных обучающих данных. Но в случае с алгоритмом ИИ, который специализируется на выявлении редких неврологических расстройств, просто собрать достаточное количество обучающих данных — большая проблема. Модель GAN, обученная с использованием подхода NVIDIA ADA, может решить вышеуказанную проблему.

NVIDIA поделится дополнительной информацией о своей новой технологии ADA на предстоящих конференциях по искусственному интеллекту.