NVIDIA พบวิธีการฝึกอบรม AI แบบใหม่ที่ใช้ข้อมูลอินพุตน้อยลง

NVIDIA ได้พัฒนาแนวทางใหม่ในการฝึกอบรมเครือข่ายที่สร้างความขัดแย้ง (GAN) วิธีนี้ต้องการข้อมูลอินพุตน้อยกว่าวิธีที่ได้รับความนิยมในปัจจุบันอย่างมาก ในขณะที่ยังคงรับประกันคุณภาพการฝึกอบรมอย่างแน่นอน

หากคุณไม่ทราบ GAN คือระบบ AI ที่ประกอบด้วย 2 ส่วนแยกกัน:

• ประการแรกคือเครือข่าย Generative ซึ่งช่วยสร้างตัวอย่างการฝึกอบรม (ข้อมูลปลอม) โดยมีเป้าหมายเพื่อสร้างข้อมูลที่สมจริงที่สุด
• ประการที่สองคือเครือข่าย Discrimative ซึ่งมีหน้าที่พยายามแยกความแตกต่างระหว่างข้อมูลจริงและข้อมูลปลอม จากนั้นใช้ข้อมูลนี้เพื่อ "ฝึกอบรม" ตัวเครือข่ายกำเนิดใหม่

รุ่น GAN

ระบบ GAN ถูกนำไปใช้ในงานที่เข้มข้นหลายอย่าง เช่น การแปลงคำบรรยายเป็นเรื่องราวตามแต่ละบริบท โดยเฉพาะการสร้างภาพถ่ายและวิดีโอเทียมที่มีความสมจริงสูงมาก

โดยพื้นฐานแล้ว เพื่อให้สามารถสร้างผลลัพธ์ที่เชื่อถือได้และมีความสม่ำเสมอสูง โมเดล GAN แบบดั้งเดิมจะต้องมีรูปภาพอย่างน้อย 50,000 ถึง 100,000 ภาพเป็นข้อมูลการฝึกอบรมอินพุต หากปริมาณข้อมูลการฝึกน้อยเกินไป โมเดล GAN มีแนวโน้มที่จะประสบปัญหาที่เรียกว่า "การโอเวอร์ฟิต" ในกรณีนี้ เครือข่าย Discriminative จะไม่มีพื้นฐานเพียงพอที่จะฝึกอบรมและโต้ตอบกับเครือข่าย Generative ได้อย่างมีประสิทธิภาพ

• ปัญญาประดิษฐ์สามารถเขียนบทความทั้งหมดได้จากข้อมูลเพียงไม่กี่ชิ้น

ในอดีต วิธีการทั่วไปที่นักวิจัย AI ใช้พยายามแก้ไขปัญหาการขาดข้อมูลการฝึกอบรมคือการใช้เทคนิคที่เรียกว่า "data augmentation" การใช้อัลกอริธึมรูปภาพเป็นตัวอย่างอีกครั้ง หากไม่มีข้อมูลการฝึกอบรมที่จำเป็นเพียงพอ ผู้เชี่ยวชาญจะพยายามแก้ไขปัญหาด้วยการสร้างสำเนารูปภาพที่ "บิดเบี้ยว" รูปภาพที่มีอยู่ เช่น การครอบตัด การหมุน หรือการพลิกรูปภาพต้นฉบับเป็น สร้างภาพหลายภาพเป็นข้อมูลการฝึกอบรมเพิ่มเติม แนวคิดที่นี่คืออย่าให้โมเดล GAN เห็นภาพเดียวกันทุกประการสองครั้ง

อย่างไรก็ตาม ปัญหาของแนวทางนี้คืออาจทำให้ GAN เรียนรู้ที่จะเลียนแบบการเปลี่ยนแปลงที่ผิดปกติในข้อมูลการฝึกอบรม แทนที่จะสร้างสิ่งใหม่ เพื่อแก้ไขปัญหา NVIDIA ได้พัฒนาวิธีการใหม่ที่เรียกว่า "Adaptive Differentiation Augmentation (ADA) แกนกลางยังคงเป็นเทคนิคการเพิ่มข้อมูล แต่ใช้งานในลักษณะที่ปรับเปลี่ยนได้ แทนที่จะ "บิดเบือน" รูปภาพโดยไม่เลือกปฏิบัติตลอดกระบวนการฝึกอบรม ADA ดำเนินการกระบวนการนี้โดยคัดเลือกและเพียงพอเพื่อให้ GAN ยังคงได้รับประสิทธิภาพที่ดีที่สุด

ผลลัพธ์เชิงบวกของวิธีการฝึกอบรม ADA นำมาซึ่งนัยสำคัญหลายประการในด้านปัญญาประดิษฐ์ เนื่องจากการรวบรวมข้อมูลการฝึกอบรมตามจำนวนที่จำเป็นฟังดูง่าย แต่ในความเป็นจริงแล้วเป็นเรื่องยากมาก ตัวอย่างเช่น สำหรับโมเดล AI ของการเรียบเรียงวรรณกรรม คุณไม่จำเป็นต้องกังวลเกี่ยวกับการขาดข้อมูลการฝึกอบรมอินพุต แต่ในกรณีของอัลกอริธึม AI ที่เชี่ยวชาญในการตรวจจับความผิดปกติทางระบบประสาทที่พบได้ยาก การรวบรวมข้อมูลการฝึกอบรมให้เพียงพอก็เป็นปัญหาใหญ่ โมเดล GAN ที่ได้รับการฝึกด้วยวิธี ADA ของ NVIDIA สามารถแก้ปัญหาข้างต้นได้

NVIDIA จะแบ่งปันข้อมูลเพิ่มเติมเกี่ยวกับเทคนิค ADA ใหม่ในการประชุม AI ที่กำลังจะมีขึ้น