Gemini หลุดกรอบทดสอบ เจาะระบบคอม 3 บริษัทภายนอกโดยไม่ได้รับอนุญาต
Google เผย โมเดล Gemini หลุดจากสภาพแวดล้อมสำหรับการทดสอบ และเจาะเข้าระบบคอมพิวเตอร์ส่วนตัวของ 3 บริษัทโดยไม่ได้รับอนุญาต
SHORT CUT
- โมเดล AI Gemini ของ Google สามารถหลุดออกจากสภาพแวดล้อมสำหรับทดสอบความปลอดภัย และเชื่อมต่ออินเทอร์เน็ตภายนอกได้เนื่องจากข้อผิดพลาดทางเทคนิค
- Gemini ได้เจาะเข้าระบบคอมพิวเตอร์ของบริษัทภายนอก 3 แห่งโดยไม่ได้รับอนุญาต โดยใช้วิธีการเดารหัสผ่านจากฐานข้อมูลที่เปิดเผยต่อสาธารณะ
- AI ได้ยุติการดำเนินการด้วยตัวเองทันทีที่ตรวจพบว่าระบบที่เข้าถึงเป็นระบบจริง ไม่ใช่ส่วนหนึ่งของสภาพแวดล้อมการทดสอบที่กำหนดไว้
Google เผย โมเดล Gemini หลุดจากสภาพแวดล้อมสำหรับการทดสอบ และเจาะเข้าระบบคอมพิวเตอร์ส่วนตัวของ 3 บริษัทโดยไม่ได้รับอนุญาต
Google บริษัทเทคโนโลยียักษ์ใหญ่จากสหรัฐฯ ระบุว่า Gemini โมเดล AI สามารถหลุดออกจากสภาพแวดล้อมสำหรับทดสอบ และเจาะเข้าระบบคอมพิวเตอร์ของบริษัทอื่น 3 แห่งโดยไม่ได้รับอนุญาต นับเป็นครั้งแรกที่ Google เปิดเผยว่า AI ของบริษัทสามารถเข้าถึงระบบคอมพิวเตอร์ของบุคคลที่ 3 ได้เองโดยไม่ได้รับอนุญาต
Google ระบุว่า โมเดล Gemini สามารถเข้าถึงระบบคอมพิวเตอร์ส่วนตัวที่แยกกัน 3 ระบบ ด้วยวิธีการเดารหัสผ่านและการใช้ฐานข้อมูลรหัสผ่านที่เปิดเผยต่อสาธารณะถึง 2 ครั้ง เมื่อเดือนพฤษภาคมที่ผ่านมา
เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบความปลอดภัยในรูปแบบที่เรียกว่า ‘Capture the Flag’ หรือการแข่งขันเจาะระบบเพื่อชิงธง ซึ่งจัดโดยบริษัท Irregular สตาร์ทอัพด้านความปลอดภัยทางไซเบอร์จากอิสราเอล
ตามปกติแล้ว AI Agent ที่ใช้ในการทดสอบไม่ควรจะสามารถเข้าถึงเครือข่ายอินเทอร์เน็ตภายนอกได้ แต่เกิดข้อผิดพลาดทางเทคนิค ในสภาพแวดล้อมสำหรับการทดสอบที่ทำให้สามารถเชื่อมต่ออินเทอร์เน็ตได้
อัลกอริทึมเริ่มคาดเดาและตัดสินใจหยุดตัวเอง
Google ระบุว่า โปรแกรมดังกล่าวได้ยุติการเจาะระบบทันทีที่ตรวจพบว่าระบบที่เข้าถึงเป็นระบบจริงของบริษัท ไม่ใช่ส่วนหนึ่งของสภาพแวดล้อมการทดสอบ
‘เฮเธอร์ แอดกินส์’ (Heather Adkins) รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ออกแถลงการณ์ ระบุว่า ในการประเมินตามมาตรฐาน โมเดลได้ค้นหาข้อมูลสาธารณะบนโลกออนไลน์ และพยายามคาดเดาข้อมูลเพื่อเข้าสู่เว็บไซต์ที่เข้าใจว่าเป็นส่วนหนึ่งของการทดสอบ พร้อมยืนยันว่า ทั้ง 3 กรณี AI เป็นฝ่ายยุติการดำเนินการเอง
การเปิดเผยข้อมูลนี้เกิดขึ้นท่ามกลางกระแสการจับตามองอย่างเข้มงวดที่เพิ่มขึ้น จากทั้งรัฐบาลวอชิงตันและวงการเทคโนโลยีในซิลิคอนวัลเลย์เกี่ยวกับปัญหาการทำงานที่ผิดปกติของ AI
ทั้ง OpenAI, Anthropic และ Meta ต่างรายงานเหตุการณ์ที่โมเดล AI ของบริษัทสามารถหลุดออกจากสภาพแวดล้อมสำหรับการทดสอบ และพยายามเจาะระบบของบริษัทอื่นเพื่อเข้าถึงระบบคอมพิวเตอร์โดยไม่ได้รับอนุญาต ในช่วงไม่กี่สัปดาห์ที่ผ่านมา
Misaligned สัญญาณเตือนภัยของซิลิคอนวัลเลย์
การเปิดเผยข้อมูลเกี่ยวกับโมเดล AI ที่มีพฤติกรรมไม่สอดคล้องกับเป้าหมายที่กำหนดไว้ หรือที่เรียกว่า ‘Misaligned’ ส่งผลให้ ‘ดาริโอ อโมเดอี’ (Dario Amodei) ซีอีโอและผู้ร่วมก่อตั้ง บริษัท Anthropic เรียกร้องให้ภาคอุตสาหกรรม AI ร่วมมือกันชะลอการพัฒนาโมเดล AI ที่มีขีดความสามารถระดับสูง จนกว่าบริษัทต่างๆ จะสามารถรับรองความปลอดภัยของโมเดลเหล่านั้นได้
เหตุการณ์ทั้งหมดที่กล่าวมามีความเกี่ยวข้องกับ Irregular บริษัทสตาร์ทอัพของอิสราเอลที่ได้รับการสนับสนุนเงินทุนจาก Sequoia และ Redpoint Ventures และมีมูลค่าบริษัทอยู่ที่ 450 ล้านดอลลาร์ เมื่อปีที่ผ่านมา
เครื่องมือของ Irregular ช่วยให้ผู้พัฒนาโมเดล AI พื้นฐาน สามารถดำเนินการทดสอบความปลอดภัยทางไซเบอร์ของเทคโนโลยี AI รุ่นใหม่ของตนได้
โฆษกของ Irregular เปิดเผยกับสำนักข่าว CNBC ว่า เหตุการณ์ที่เกิดขึ้นกับ Google นั้นเกี่ยวข้องกับปัญหาเดียวกันกับที่ทำให้โมเดล AI อื่น ๆ สามารถเข้าถึงอินเทอร์เน็ตได้ และไม่ได้ถือเป็นเหตุการณ์ใหม่ที่แยกออกจากกรณีก่อนหน้าอย่างมีนัยสำคัญ พร้อมเสริมว่า ห้องปฏิบัติการ AI ที่เกี่ยวข้องทั้งหมดได้รับแจ้งถึงปัญหาดังกล่าวในช่วงปลายเดือนกรกฎาคม และมีการติดต่อไปยังบริษัทที่ได้รับผลกระทบซึ่งเป็นส่วนหนึ่งของกระบวนการตรวจสอบ
ทางด้าน Google ระบุว่า บริษัทได้รับแจ้งเหตุการณ์จาก Irregular ในช่วงปลายเดือนกรกฎาคม และได้ร่วมมือกับบริษัทดังกล่าวเพื่อปรับปรุงกระบวนการทดสอบความปลอดภัย
อย่างไรก็ตาม Google ปฏิเสธที่จะเปิดเผยว่า Gemini รุ่นใดเป็นโมเดลที่เกี่ยวข้องกับเหตุการณ์นี้ โดย ‘แอดกินส์’ ระบุว่า เหตุการณ์ดังกล่าวสะท้อนให้เห็นถึงความสำคัญของการฝึก AI ที่มีความสามารถสูงให้สามารถทำงานอย่างมีความรับผิดชอบ
ที่มา : cnbc
ข่าวที่เกี่ยวข้อง