OpenAI พบ AI Agent หลุดควบคุมเพิ่ม จุดชนวนข้อกังวลความปลอดภัย

Open AI พบกรณี AI Agent แบบอัตโนมัติหลุดจากระบบควบคุมได้เพิ่มเติม ขณะบริษัทขยายการสอบสวนเหตุการณ์เจาะระบบของบริษัทเทคโนโลยี Hugging Face ซึ่งกลายเป็นประเด็นที่ได้รับความสนใจทั่วโลกในช่วงเดือนที่ผ่านมา

การหลุดของ AI จากระบบควบคุมเหตุการณ์ครั้งใหม่นี้ตรวจพบระหว่างการสอบสวนภายในของ OpenAI ซึ่งบริษัทได้ประกาศต่อสาธารณะว่ามี AI Agent ตัวหนึ่งที่สามารถหลุดออกจากสภาพแวดล้อมสำหรับการทดสอบที่ออกแบบมาให้ถูกควบคุมอย่างเข้มงวดได้ เมื่อต้นเดือนที่ผ่านมา

ขณะนี้ OpenAI กำลังตรวจสอบเหตุการณ์ดังกล่าวเพิ่มเติม โดยแหล่งข่าวรายหนึ่งระบุว่า การหลุดออกจากระบบควบคุมเหล่านี้มีขอบเขตจำกัด และยังไม่มีหลักฐานว่า AI Agent ตัวใดสามารถหลุดออกจากเครือข่ายภายในของ OpenAI ได้

แม้การค้นพบพฤติกรรมที่ผิดปกติเพิ่มเติมภายในระบบของ OpenAI จะอยู่ในวงจำกัด แต่ก็อาจกระตุ้นให้เกิดความต้องการมาตรการกำกับดูแลเกี่ยวกับเทคโนโลยี AI ที่เข้มงวดยิ่งขึ้น ทั้งจากรัฐบาลสหรัฐฯ และหน่วยงานอื่น ๆ ทั่วโลก

การขยายขอบเขตการสอบสวนของ OpenAI เกิดขึ้นเพียงไม่นานก่อนที่ Anthropic คู่แข่งรายสำคัญจะเปิดเผยว่า โมเดล AI ของตนก็มีส่วนเกี่ยวข้องกับเหตุการณ์ที่โมเดลหลุดจากระบบควบคุมหลายครั้ง ซึ่งนำไปสู่การรั่วไหลของข้อมูลในบริษัทอื่นอีก 3 แห่ง ตั้งแต่เดือนเมษายนที่ผ่านมา

ทั้งนี้ การค้นพบเหตุการณ์ที่โมเดล AI หลุดออกจากระบบควบคุมในอดีตของ OpenAI ยังไม่เคยมีการรายงานต่อสาธารณะมาก่อน

ความกังวลที่เพิ่มขึ้น

ขณะที่ผู้เชี่ยวชาญด้านความปลอดภัยของ AI ระบุว่า ข้อมูลที่เปิดเผยออกมาใหม่นี้สะท้อนภาพของอุตสาหกรรม AI ที่มีขีดความสามารถในการพัฒนา AI Agent สำหรับการเจาะระบบ ที่เป็นอันตราย ได้เหนือกว่าความสามารถในการควบคุมดูแลเอเจนต์เหล่านั้น

“มอริส ชิโอโด” (Maurice Chiodo) นักคณิตศาสตร์จากศูนย์ศึกษาความเสี่ยงเชิงการดำรงอยู่ของมหาวิทยาลัยเคมบริดจ์ กล่าวว่า เรากำลังมีอุตสาหกรรมที่ผู้สร้างและผู้พัฒนาเครื่องมือเหล่านี้ยังไม่สามารถก้าวทันความจำเป็นในการพัฒนาอย่างมีความรับผิดชอบและรักษาความปลอดภัยของระบบได้

สำนักข่าวรอยเตอร์ไม่สามารถยืนยันจำนวนเหตุการณ์ทั้งหมดที่ทีมสืบสวนของ OpenAI ตรวจพบ รวมถึง ช่วงเวลาหรือสถานการณ์ที่เกิดเหตุการณ์เหล่านั้นได้

อย่างไรก็ตาม OpenAI และผู้เชี่ยวชาญภายนอกกำลังตรวจสอบข้อมูลบันทึกการทำงานของระบบ (Log Data) จากช่วงต้นปี เพื่อทำความเข้าใจถึงเหตุการณ์ที่เกิดขึ้น

OpenAI เริ่มต้นการสืบสวนหลังจากเกิดเหตุบุกรุกระบบของบริษัท Hugging Face ในช่วงต้นเดือนกรกฎาคม โดยในเหตุการณ์ดังกล่าว AI Agent ของ OpenAI ตัวหนึ่งเกิดความผิดพลาดและทำงานนอกเหนือการควบคุมภายในเครือข่ายของบริษัทอื่นเป็นเวลาหลายวัน อันเป็นผลมาจากความพยายามที่ล้มเหลวในการหลีกเลี่ยงผลการทดสอบภายในองค์กร

นอกจากนี้ OpenAI เปิดเผยเพิ่มเติมว่า เหตุการณ์ดังกล่าวยังส่งผลให้บัญชีผู้ใช้งานของบริษัทอื่นอีก 4 แห่งถูกเจาะระบบ โดยหนึ่งในนั้นคือ Modal

ผู้เชี่ยวชาญตั้งคำถามเรื่องการติดตาม AI แบบเรียลไทม์

ผู้เชี่ยวชาญยังตั้งคำถามว่า OpenAI และ Anthropic มีการติดตามการทำงานของ AI Agent แบบเรียลไทม์ที่เพียงพอหรือไม่ หลังจากมีข้อบ่งชี้ว่า ทั้ง 2 บริษัทอาจไม่ได้ติดตามการทำงานของ AI Agent อย่างใกล้ชิดในช่วงเวลาที่ระบบเหล่านั้นเริ่มทำงานผิดปกติ

ก่อนหน้านี้ สำนักข่าวรอยเตอร์ รายงานว่า OpenAI ทราบว่า AI Agent ของบริษัทเจาะเข้าระบบของ Hugging Face ได้ ก็ตอนที่บริษัทดังกล่าวสามารถควบคุมสถานการณ์ไว้ได้แล้ว ก่อนแจ้งต่อสำนักงานสอบสวนกลางสหรัฐฯ (FBI) และเปิดเผยเหตุการณ์ต่อสาธารณะ

อย่างไรก็ตาม OpenAI ระบุว่ารายงานของ รอยเตอร์ มีข้อมูลบางส่วนที่ไม่ถูกต้อง แต่ไม่ได้ชี้แจงรายละเอียดว่าเนื้อหาส่วนใดมีความคลาดเคลื่อน

ด้าน Anthropic ออกแถลงการณ์เมื่อวันพฤหัสบดี เปิดเผยรายละเอียดเกี่ยวกับกรณีที่โมเดล AI ของบริษัทมีส่วนเกี่ยวข้องกับการแฮ็กข้อมูลของเหยื่อบนโลกออนไลน์ โดย Anthropic  ยอมรับแบบเป็นนัยว่าไม่ได้มีการเฝ้าติดตามการทำงานของเอเจนต์แบบเรียลไทม์ ด้วยการระบุว่า การติดตามข้อมูลการประเมินผลแบบเรียลไทม์อาจช่วยให้บริษัทตรวจพบปัญหาได้เร็วขึ้น

อย่างไรก็ตาม Anthropic ชี้แจงว่า บริษัทมีระบบติดตามแบบเรียลไทม์อยู่แล้ว แต่ไม่ได้นำมาใช้กับรูปแบบภัยคุกคามประเภทนี้ เนื่องจากเกิดความเข้าใจที่คลาดเคลื่อนระหว่างบริษัท AI และพันธมิตรทางธุรกิจ

รัฐจ่อเพิ่มมาตรการกำกับดูแล AI

ปัญหา AI Agent หลุดการควบคุม นำมาซึ่งแรงกดดันจากทั้งฝ่ายนิติบัญญัติและเจ้าหน้าที่รัฐในสหรัฐฯ และยุโรป ที่ต้องการผลักดันมาตรการใหม่ในการกำกับดูแลบริษัทผู้พัฒนา AI รวมถึง ประธานาธิบดีโดนัลด์ ทรัมป์ของสหรัฐฯ ที่กล่าวว่า กำลังพิจารณามาตรการควบคุมเพิ่มเติม เช่นเดียวกับคณะกรรมาธิการยุโรปที่เปิดเผยว่า ได้หารือกับ OpenAI และ Anthropic เกี่ยวกับเหตุการณ์เจาะระบบที่เกี่ยวข้องกับ AI แล้ว

ที่มา : reuters