ผู้เชี่ยวชาญของ McAfee อธิบายว่า Deepfake และ AI ละเมิดกำแพงความปลอดภัยทางไซเบอร์ได้อย่างไร

“ได้ยินมาร้อยคำไม่คุ้มที่จะดู” สุภาษิตนี้อาจไม่ถูกต้องอีกต่อไปเมื่อพูดถึงเรื่องความปลอดภัยทางไซเบอร์เมื่อเผชิญกับ “ภัยคุกคาม” จาก Deepfake ในอนาคต คุณจะไม่เชื่ออะไรเลยอีกต่อไปฉันเห็นมัน ด้วยตาของฉันเอง!

เมื่อนึกถึงแนวคิดนี้ Deepfake เป็นโปรแกรมที่ใช้ปัญญาประดิษฐ์ช่วยให้ผู้ใช้สามารถสลับใบหน้าของใครบางคนในวิดีโอกับใบหน้าของบุคคลอื่นได้ ในความเป็นจริง จะช่วยให้ผู้ใช้สร้างเนื้อหาปลอมโดยการแทรกใบหน้าของบุคคลที่มีชื่อเสียงลงในวิดีโอเพื่อวัตถุประสงค์ในการหมิ่นประมาทหรือแสวงหาผลกำไรที่ผิดกฎหมาย นั่นคือเหตุผลที่ Deepfake กลายเป็นภัยคุกคามอันดับต้นๆ ต่อบริษัทบันเทิง คนดัง และเหนือสิ่งอื่นใดคือความปลอดภัยทางไซเบอร์

• Google และ DeepMind ใช้ AI เพื่อคาดการณ์ผลผลิตของฟาร์มกังหันลม

Steve Grobman ประธานเจ้าหน้าที่เทคโนโลยีของบริษัทรักษาความปลอดภัยทางไซเบอร์ McAfee และ Celeste Fralick หนึ่งในนักวิทยาศาสตร์ข้อมูลชั้นนำของโลกออกคำเตือนในการกล่าวปาฐกถาพิเศษในการประชุมด้านความปลอดภัย RSA เพิ่งเปิดเผยว่าเทคโนโลยี Deepfake มีความซับซ้อนมากกว่าที่มนุษยชาติคิดไว้มาก และถือเป็นภัยคุกคามที่สำคัญในอนาคตอย่างแท้จริง เพื่อพิสูจน์สิ่งนี้ นักวิทยาศาสตร์ทั้งสองได้ฉายวิดีโอซึ่งแสดงให้เห็นว่าคำพูดของ Celeste Fralick นั้นพูดจากภาพที่คล้ายกับใบหน้าของ Steve Grobman แม้ว่า Grobman จะยังไม่ได้กล่าวถึงก็ตาม เคยพูดคำเหล่านั้น จะเห็นได้ว่าโดน Deepfake หลอกได้ง่าย ดังนั้นในยุคนี้สิ่งที่เราเห็นและได้ยินจึงไม่จำเป็นต้องแม่นยำเสมอไป!

“ฉันใช้ความคิดเห็นสาธารณะของคุณเพื่อสร้างและฝึกอบรมโมเดลแมชชีนเลิร์นนิงที่ช่วยให้ฉันพัฒนาวิดีโอ Deepfake ได้ โดยคำพูดของฉันหลุดออกจากปากของคนอื่น นี่เป็นเพียงหนึ่งในวิธีที่นับไม่ถ้วนที่ AI และการเรียนรู้ของเครื่องสามารถใช้เพื่อวัตถุประสงค์ที่ชั่วร้ายได้ มันทำให้ฉันคิดถึงสถานการณ์ที่เลวร้ายที่สุดที่ผู้โจมตีสามารถใช้ AI ได้ เช่น วิศวกรรมสังคมและฟิชชิ่ง ซึ่งตอนนี้ฝ่ายตรงข้ามของเราสามารถสร้างการกำหนดเป้าหมายอัตโนมัติได้” Celeste Fralick กล่าว

• จีนยังคงเปิดตัวผู้ประกาศข่าวหญิงเสมือนจริงที่ขับเคลื่อนด้วย AI เครื่องแรกของโลก

ในความเป็นจริง มันคือ Deepfake และ AI ที่กลายเป็นผู้ช่วยที่ทรงพลังในการช่วยแฮกเกอร์สร้างการโจมตีแบบฟิชชิ่งออนไลน์ที่เป็นส่วนตัวและกำหนดเป้าหมายด้วยอัตราความสำเร็จที่สูงกว่า และสามารถทำการโจมตีอัตโนมัติได้

“เป็นเรื่องที่ยุติธรรมที่จะกล่าวว่าคนส่วนใหญ่ไม่ทราบว่า AI และการเรียนรู้ของเครื่องนั้นอันตรายเพียงใด และเส้นแบ่งระหว่างการใช้ความดีและความชั่วนั้นมีน้อยมาก มีพื้นที่ทางเทคนิคที่ทีมของฉันมีส่วนร่วมเรียกว่าการเรียนรู้ของเครื่องที่ขัดแย้งกัน ที่นั่น เราทำการวิจัยเกี่ยวกับวิธีที่ผู้ไม่ประสงค์ดีสามารถบุกรุกหรือวางยาพิษต่อลำดับชั้นของแมชชีนเลิร์นนิง” นาย Celeste Fralick กล่าวเสริม

ในการให้สัมภาษณ์เมื่อวันจันทร์ที่ 4 มีนาคม Steve Grobman กล่าวว่าเขาและ Celeste Fralick สามารถสร้างวิดีโอ Deepfake ได้ภายในสุดสัปดาห์เดียวโดยไม่ต้องพยายามอย่างหนักเพื่อทำให้สมบูรณ์แบบ นั่นแสดงให้เห็นว่าเมื่อผู้โจมตี Deepfake ที่ผ่านการรับรองระบุเป้าหมายแล้ว การสร้างวิดีโอประดิษฐ์ที่ซับซ้อนโดยใช้ AI นั้นไม่ใช่เรื่องยากเลย

วิธีหนึ่งที่พบบ่อยที่สุดในการหลอกลวงระหว่างคนจริงกับโมเดลที่สร้างโดย AI คือการถ่ายภาพที่เกือบจะจริงแล้วเปลี่ยนรายละเอียดส่วนเล็กๆ ในแบบที่คนทั่วไปมองเห็น มักจะจำไม่ได้ . Fralick ยกตัวอย่างว่า AI สามารถตีความและตีความภาพถ่ายของนกเพนกวินได้ว่าเป็นกระทะ ต้องขอบคุณการดำเนินการเล็กๆ น้อยๆ เพียงเล็กน้อย

สิ่งที่ Celeste Fralick สงสัยเกี่ยวกับที่นี่คือว่าเทคนิคเดียวกันที่ใช้เพื่อสร้างความสับสนให้กับตัวแยกประเภทรูปภาพยังสามารถใช้เพื่อสร้างความสับสนให้กับโมเดลเครือข่ายได้หรือไม่ โดยเฉพาะที่นี่คือ False Positive (ข้อผิดพลาดในการตรวจสอบที่ผิดพลาด)

• วิศวกร AI ของ Facebook พูดถึงการเรียนรู้เชิงลึก ภาษาการเขียนโปรแกรมใหม่ๆ และฮาร์ดแวร์สำหรับปัญญาประดิษฐ์

ผลบวกลวงมีหลายประเภท เช่น โปรแกรมป้องกันสปายแวร์ที่เลอะเทอะบางโปรแกรมทำให้ผู้ใช้เข้าใจผิดคิดว่าคอมพิวเตอร์ของตนถูกสปายแวร์โจมตี ทั้งที่จริงๆ แล้วไม่มีปัญหาเลย นอกจากนี้ยังสามารถใช้คำว่า "ผลบวกลวง" เมื่อแอปพลิเคชันป้องกันสปายแวร์ที่ถูกกฎหมายถูกระบุอย่างผิดพลาดว่าเป็นภัยคุกคาม เมื่อพูดถึงปัญหานี้มากขึ้น ศาสตราจารย์ Steve Grobman กล่าวว่าผลบวกลวงอาจส่งผลร้ายแรง ตัวอย่างที่สำคัญของเหตุการณ์นี้คือ 23 นาทีอันน่าสะพรึงกลัวเมื่อวันที่ 26 กันยายน พ.ศ. 2526 ซึ่งเป็นช่วงที่ความตึงเครียดในช่วงสงครามเย็นถึงจุดสูงสุด ศูนย์เตือนภัยระหว่างประเทศหลายแห่งรวมทั้งสหรัฐอเมริกาและสหภาพโซเวียตออกคำเตือนในระดับสูงเกี่ยวกับฟ้าผ่าที่ทำให้โลกตกใจ แต่สุดท้ายก็เป็นเพียงความผิดพลาด ผิดจริงๆ โดยเฉพาะอย่างยิ่งฝ่ายโซเวียตค้นพบขีปนาวุธนิวเคลียร์ของสหรัฐฯ 5 ลูกที่ยิงและมุ่งหน้าไปยังอาณาเขตของตนและออกคำสั่งทันทีเพื่อให้กองทัพทั้งหมดเข้าสู่ภาวะเตรียมพร้อมทำสงคราม ต่อสู้ แต่ด้วยเสียงไซเรนดังและหน้าจอกระพริบ พันโทสตานิสลาฟ เปตรอฟจึงระบุได้ในที่สุดว่าเหตุการณ์นี้เป็นเพียงความผิดปกติของระบบคอมพิวเตอร์ โดยเฉพาะอย่างยิ่ง Petrov แย้งว่าสหรัฐอเมริกาจะไม่สามารถเริ่มสงครามโลกด้วยการยิงขีปนาวุธเพียงห้าลูก เขาเพิกเฉยต่อคำแนะนำที่เขาได้รับการฝึกมา และด้วยสัญชาตญาณของเขา ผู้พันจึงตัดสินสถานการณ์ได้อย่างแม่นยำ ช่วยป้องกันสงครามนิวเคลียร์

“ปรากฎว่าต้นตอของเหตุการณ์นี้เกิดจากการจัดเรียงของแสงแดดบนเมฆสูงซึ่งพบได้ยากซึ่งทำให้เกิดเอฟเฟกต์คล้ายจรวด ดังนั้นเราจึงเห็นได้ว่าผลที่ตามมาจากความสับสนในระบบคอมพิวเตอร์นั้นเป็นอันตรายเพียงใด และยังสามารถจุดชนวนให้เกิดสงครามนิวเคลียร์ได้อีกด้วย จะเกิดอะไรขึ้นถ้าสหภาพโซเวียตยิงขีปนาวุธตอบโต้ทันที? และสิ่งสำคัญคือเราต้องตระหนักถึงพลังที่แท้จริงของ AI ในการแก้ปัญหา แต่มันจะเป็นดาบสองคมด้วยหากตกอยู่ในมือของคนร้ายที่แพร่หลายในโลกออนไลน์” Steve Grobman กล่าว

• ซูเปอร์คอมพิวเตอร์สามารถตรวจจับภัยคุกคามในโลกไซเบอร์ได้อย่างสมบูรณ์

นอกจากนี้ Grobman ยังกล่าวอีกว่าเขาเชื่อเสมอว่าเทคโนโลยีเป็นเพียงเครื่องมือที่ไม่มีชีวิต และสามารถนำมาใช้ได้ทั้งเพื่อวัตถุประสงค์ที่ดีและไม่ดี ตัวอย่างเช่น แผนที่อาชญากรรมที่มีข้อมูลเกี่ยวกับสถานที่ที่เกิดอาชญากรรมและสถานที่ที่ผู้กระทำผิดถูกจับกุมสามารถใช้เพื่อช่วยตำรวจแก้ไขอาชญากรรมได้ หรืออาชญากรอาจนำไปใช้เองเพื่อหลบเลี่ยงการจับกุมก็ได้ การตามล่าของตำรวจ อีกตัวอย่างหนึ่ง เครื่องบินถูกใช้เพื่อทิ้งระเบิดพลเรือน ส่งผลให้มีผู้เสียชีวิต 2 ล้านคนในช่วงสงครามโลกครั้งที่สอง เมื่อถูกถามว่าเขาเสียใจที่ประดิษฐ์เครื่องบินลำนี้หรือไม่ ออร์วิลล์ ไรท์ กล่าวในปี 1948 ว่าเขามองว่าเครื่องบินลำนี้เป็นการใช้ไฟ ซึ่งอาจสร้างความเสียหายมหาศาลหากเกิดเพลิงไหม้ แต่ยังคงใช้เพื่อจุดประสงค์สำคัญนับพันประการ และเอไอก็เช่นกัน

“ข้อมูลเชิงลึกของ Orville แสดงให้เราเห็นว่าเทคโนโลยีโดยธรรมชาติแล้วไม่เกี่ยวข้องกับศีลธรรม กล่าวได้เพียงว่ามีประโยชน์หรือเป็นอันตรายเท่านั้น ขึ้นอยู่กับวิธีการใช้ และนี่คือสิ่งที่อุตสาหกรรมความปลอดภัยทางไซเบอร์ของเรากำลังต่อสู้อยู่ตลอดเวลา!”