Spring News

Deepfake พาซวย โอนเงินตามนายสั่ง มารู้ทีหลังว่า นั่นไม่ใช่เสียงเจ้านาย!

17 ก.ย. 2564 เวลา 9:18 น. 1.3k

Deepfake หนึ่งในภัยคุกคามทางไซเบอร์ที่เป็นได้ทั้งเสียง รูปภาพ และวิดีโอ ซึ่งดูเสมือนจริงจนแยกได้ยาก และสร้างความเสียหายโดยที่คนส่วนใหญ่ไม่รู้ว่า เป็นสิ่งที่ AI สร้างขึ้น และนี่คือกรณีศึกษาที่ทำให้ CEO คนหนึ่งเดือดร้อน

ภาพหรือวิดีโอที่สร้างขึ้นมาแบบ Deepfake ปลอมจนเสมือนจริงและทำให้คนเชื่อได้ไม่ยาก แค่มีคอมพิวเตอร์คุณภาพดีกับคอลเลกชันรูปภาพดีๆ ของเป้าหมายเป็นแกนตั้งต้น ก็สามารถทำให้ผู้นำ ผู้บริหารองค์กร หรือผู้เกี่ยวข้อง เผชิญกับความเสี่ยงได้แล้ว

Deepfake เสมือนจริงจนกระเทือนธุรกิจ

เทคโนโลยีสำคัญที่อยู่เบื้องหลังคำว่า Deepfake คือ Artificial Intelligence (ปัญญาประดิษฐ์) และ Machine Learning (การเรียนรู้ของเครื่องจักร) ซึ่งแทรกซึมอยู่ในธุรกิจและการสื่อสารสมัยใหม่ และก่อเกิดประโยชน์แก่มนุษย์โลกอย่างมหาศาล แต่เทคโนโลยีก็เหมือนเหรียญที่มีสองด้าน จึงไม่น่าแปลกใจที่จะมีผู้ไม่ประสงค์ดีนำเทคโนโลยีนี้ไปใช้ในทางที่ผิดกฎหมาย นำไปหลอกลวงให้คนเชื่อ

กรณีศึกษา Voice Deepfake หลอกโอนเงินไปหลายล้าน!

ปี 2562 ซีอีโอของบริษัทพลังงานแห่งหนึ่งในสหราชอาณาจักรได้รับสายด่วนจากเจ้านายซึ่งเป็นผู้บริหารของบริษัทแม่ที่ประเทศเยอรมนี โดยเจ้านายชาวเยอรมันสั่งให้ลูกน้องของเขาโอนเงิน 220,000 ยูโร (หรือ 243,000 ดอลลาร์/ราว 8.5 ล้านบาท) ให้ตัวแทนซัพพลายเออร์ที่อยู่ในฮังการี ทั้งโทรตาม โทรเร่งให้โอนเงินเป็นกรณีเร่งด่วนและต้องแล้วเสร็จภายใน 1 ชั่วโมง

ซีอีโอเชื่อสนิทใจและโอนเงินไปตามหน้าที่ เพราะคำสั่งมาจากเจ้านาย เสียงเจ้านายที่มีสำเนียงเยอรมันด้วยซ้ำ แต่หารู้ไม่ว่า เสียงนั้นเป็นเสียงสังเคราะห์ที่ AI สร้างเป็น Voice Deepfake หรือ เสียงปลอม นั่นเอง

calling voice Photo by Tommy van Kessel on Unsplash

ลองนึกดูว่า ซีอีโอ ผู้บริหารแถวหน้า หรือดาราที่มีชื่อเสียงในระดับบุคคลสาธารณะ ย่อมมีภาพหรือคลิปบันทึกกิจกรรมในบริบทต่างๆ เผยแพร่ตามสื่อสาธารณะอยู่แล้ว สิ่งเหล่านี้จึงเป็นวัตถุดิบให้นักต้มตุ๋นที่เป็น Deepfakers ใช้เป็นเครื่องมือสร้าง ตัวตนเสมือน เพื่อเลียนแบบอัตลักษณ์ต่างๆ ของซีอีโอ ผู้บริหาร หรือคนดังอื่นๆ แล้วทำให้ผู้คนเชื่อ เข้าใจในทางที่ผิด ตลอดจนทำให้บุคคลนั้นเสื่อมเสียชื่อเสียง แล้วสถานการณ์จะเป็นอย่างไรต่อไป?

บทความเจาะลึกเรื่อง Deepfake ที่ SPRiNG นำเสนอไปก่อนหน้านี้

บิดเบือนจน "ความจริง" ไม่น่าเชื่อถือ

ในขณะที่บางองค์กรธุรกิจสูญเสียข้อมูลทางออนไลน์หรือใดๆ ก็ตาม แต่การสืบหาความจริงหรือข่าวจริงบนโลกออนไลน์นั้นได้รับความสนใจน้อยกว่า เนื่องจากบริษัทต่างๆ พยายาม ป้องกัน Ransomware (แรนซัมแวร์ - ภัยออนไลน์ที่มาในรูปแบบของการโจรกรรมข้อมูลเพื่อเรียกค่าไถ่ผ่านทางออนไลน์) จึงไม่ได้เตรียมการรับมือกับการจู่โจมผ่านภัยไซเบอร์แบบอื่นๆ ที่มี AI อยู่เบื้องหลัง 

RAND Corporation หน่วยงานด้านนโยบายระดับโลกของอเมริกา อธิบายปรากฏการณ์ของการบิดเบือนข้อมูลแบบ Deepfake ในระยะหลังว่าเป็น วัฒนธรรมการเสื่อมสลายของความจริง (Truth Decay) ซึ่งประเด็นนี้มีการถกเถียงกันมากถึงขอบเขตในด้านการเมืองไปจนถึง ทฤษฎีสมคบคิด 

hacker cyber Photo by Photo by Bermix Studio on Unsplash

ผู้ประกอบธุรกิจควรตระหนกหรือตระหนักเกี่ยวกับเหตุการณ์นี้ยังไง? 

Darin Stewart (แดริน สจ๊วต) รองประธานฝ่ายวิจัย การ์ทเนอร์ อิงค์ บริษัทวิจัยและให้คำปรึกษาชั้นนำของโลก พูดถึงประเด็นนี้ว่า คำตอบคือ ทั้งใช่และไม่ใช่ โดยสิ่งที่ผู้ประกอบธุรกิจต้องกังวลคือ รูปแบบความซับซ้อนในการหลอกลวงที่ดูแนบเนียน และที่สำคัญ เป็นการโจมตีที่ประสบความสำเร็จ

แต่ที่ยังเบาใจได้คือ ยังต้องใช้ความพยายามและทรัพยากรอย่างมากหากจะจู่โจมด้วย Deepfake และผู้เสียหายมักเป็นเป้าหมายเบอร์ใหญ่ เช่น บริษัทข้ามชาติ

Darin Stewart  VP Analyst, Gartner
Darin Stewart, VP Analyst, Gartner Inc.

 

อย่างไรก็ตาม เทคโนโลยีนี้มีพัฒนาการที่รวดเร็วและกำลังเปลี่ยนแปลงไป โดยในด้านการบิดเบือนข้อมูลที่เป็นอัตลักษณ์บุคคลนั้น แยกออกเป็น 2 ข้อ

  • ข้อแรก คือ Deepfake ทำให้ผู้ที่ไม่หวังดีใช้วิธีนี้จู่โจมได้ง่ายมากขึ้น แม้จะมีเปอร์เซ็นต์ความสำเร็จน้อย แต่สิ่งที่ได้มาก็คุ้ม (ในมุมของเขา)
  • ข้อสอง เมื่อเทคโนโลยี Deepfake หรือการปลอมแปลงอัตลักษณ์ของบุคคลด้วย AI ที่ทรงพลังและใช้ง่ายขึ้น (อยู่ในรูปแบบซอฟต์แวร์ที่หาซื้อได้) ตกอยู่ในมือคนจำนวนมาก อาจทำให้ใครก็ได้สามารถโจมตีเป้าหมาย คู่แข่ง คู่แค้น ที่ต้องการ ไม่ว่าจะด้วยเหตุผลใดก็ตาม 

แดรินอธิบายเพิ่มว่า การปลอมแปลงในลักษณะดังกล่าว เกิดขึ้นแล้วกับบุคคลสาธารณะจำนวนมาก บ่อยครั้งก็เกิดกับคนดังๆ ที่มักถูกนำภาพไปใช้ในทางอนาจาร โดยไม่ได้รับความยินยอม รูปสาธารณะของดารารวมกับเนื้อหาลามกอนาจารถูกนำมาผลิตใช้เสมือนจริงจนน่าตกใจ

"ลองจินตนาการถึงเรื่องอื้อฉาวและการควบคุมความเสียหายหากเกิดเรื่องแบบนี้กับซีอีโอขององค์กร หรือจัดฉากการติดสินบนโดยมีนักแสดงยื่นเงินให้กันแล้วเอาใบหน้าของนักการเมืองหรือผู้บริหารด้านการเงินขององค์กรคุณมาสวมแทน 

"แรนซัมแวร์อาจเป็นเรื่องน่ากลัวของวันนี้ แต่พรุ่งนี้สิ่งที่จะมาแทนคือ การใช้ Deepfake เพื่อการขู่กรรโชกหรือการให้ร้ายแก่กัน" 

money cash Photo by Claudio Schwarz on Unsplash Photo by Claudio Schwarz on Unsplash

..........................................

ที่มา

ข่าวที่เกี่ยวข้อง

ข่าวล่าสุด

ข่าวที่น่าสนใจ