Dario Amodei ซีอีโอ Anthropic เตือน ชะลอพัฒนา AI ด่วน ก่อนเกิดภัยคุกคามระดับโลก
ซีอีโอผู้สร้าง Claude ชี้ AI พัฒนาเร็วเกินคุม เสี่ยงหลุดกรอบมนุษย์ แนะตั้งผู้ตรวจสอบอิสระ ก่อนเกิดภัยคุกคามระดับโลก
เตือนโลก: เหตุใดต้องเหยียบเบรกการพัฒนา AI?
เทคโนโลยีปัญญาประดิษฐ์กำลังก้าวหน้าอย่างก้าวกระโดด แต่ Dario Amodei ซีอีโอของบริษัท Anthropic ได้ออกมาเตือนโลกถึงความจำเป็นที่อุตสาหกรรมเทคโนโลยีต้อง "ชะลอความเร็ว" ในการพัฒนา AI สาเหตุสำคัญมาจากความกังวลเรื่อง Recursive Self-Improvement (RSI) ซึ่งเป็นภาวะที่ AI เริ่มมีความสามารถในการพัฒนาและสร้าง AI รุ่นถัดไปที่เก่งกาจขึ้นได้ด้วยตัวเอง วงจรนี้อาจนำไปสู่การพัฒนาที่รวดเร็วเกินกว่าที่มนุษย์จะทำความเข้าใจหรือควบคุมได้ทัน
นอกจากนี้ ยังมีกรณีศึกษาที่น่ากังวล เช่น เหตุการณ์ที่ AI เอเจนต์ทำงานร่วมกันเพื่อโจมตีเป้าหมายทางไซเบอร์โดยที่มนุษย์ไม่ได้ออกคำสั่ง Amodei มองว่าหากความสามารถของ AI พุ่งสูงขึ้นโดยปราศจากมาตรการป้องกันที่รัดกุม อาจก่อให้เกิดความเสียหายทางเศรษฐกิจมหาศาล เขาจึงเสนอแนวทาง “Pacing the Frontier” ซึ่งคือการรักษาสมดุลระหว่างการพัฒนานวัตกรรมและการสร้างระบบความปลอดภัย โดยเรียกร้องให้มีทีมผู้ประเมินอิสระจากภายนอกเข้าไปตรวจสอบการทำงานของบริษัท AI ชั้นนำอย่างใกล้ชิด
Dario Amodei คือใคร? จากนักฟิสิกส์สู่ผู้นำด้านความปลอดภัย AI
Dario Amodei เกิดในปี 1983 เขาเป็นอัจฉริยะที่เคยเป็นตัวแทนสหรัฐฯ แข่งขันฟิสิกส์โอลิมปิก จบการศึกษาระดับปริญญาตรีจากมหาวิทยาลัย Stanford และคว้าปริญญาเอกด้านชีวฟิสิกส์จาก Princeton เส้นทางการทำงานของเขาเต็มไปด้วยประสบการณ์ในบริษัทยักษ์ใหญ่ เริ่มตั้งแต่การเป็นนักวิจัยที่ Baidu ทำงานด้าน Deep Learning ที่ Google Brain ก่อนจะก้าวเข้ามาเป็นทีมบุกเบิกและผู้บริหารระดับสูงด้านการวิจัยของ OpenAI
.
ที่ OpenAI เขาคือผู้อยู่เบื้องหลังการสร้างโมเดลภาษาขนาดใหญ่อย่าง GPT-2 และ GPT-3 รวมถึงเป็นผู้ค้นพบทฤษฎี Scaling Laws ที่พลิกโฉมวงการ AI อย่างไรก็ตาม ด้วยจุดยืนที่ให้ความสำคัญกับความปลอดภัยของ AI (AI Safety) เป็นอันดับแรก ซึ่งสวนทางกับทิศทางขององค์กรที่มุ่งเน้นการพาณิชย์มากขึ้น เขาจึงตัดสินใจลาออกจาก OpenAI ในปี 2020 เพื่อมาก่อตั้ง Anthropic โดยมีเป้าหมายสูงสุดคือการสร้างโมเดล AI ที่ทั้งฉลาด ปลอดภัย และสามารถควบคุมได้
แนวร่วมคนสำคัญ: ใครบ้างที่เห็นด้วยกับการชะลอ AI?
ข้อเรียกร้องของ Amodei ได้รับเสียงตอบรับและแรงสนับสนุนจากผู้นำเทคโนโลยีระดับโลกหลายคน บุคคลสำคัญที่เห็นพ้องกับแนวคิดนี้คือ Sam Altman ซีอีโอของ OpenAI ซึ่งออกมายอมรับว่ามาตรฐานการกำกับดูแลในปัจจุบันยังไม่พร้อมรับมือกับ AI ขั้นสูง และสนับสนุนแนวคิดการให้ผู้ประเมินอิสระจากภายนอกเข้ามาตรวจสอบความปลอดภัยของโมเดล
ในขณะเดียวกัน Elon Musk ผู้ก่อตั้ง xAI และผู้ที่มักออกมาเตือนถึงภัยคุกคามจาก AI ก็ได้แสดงความเห็นด้วยอย่างชัดเจนว่า "Dario พูดถูก" อุตสาหกรรมเทคโนโลยีจำเป็นต้องลดความเสี่ยงก่อนที่จะเกิดความผิดพลาดที่ไม่อาจแก้ไขได้ การประสานงานเพื่อชะลอความเร็วในหมู่บริษัทชั้นนำ จึงถือเป็นก้าวสำคัญเพื่อป้องกันไม่ให้เกิดการแข่งขันที่ละทิ้งความปลอดภัยของมนุษยชาติ