svasdssvasds

เป็นเรื่อง! "อีลอน มัสก์" ชี้มีโอกาส 20% ที่ AI จะทำลายมนุษยชาติ

เป็นเรื่อง! "อีลอน มัสก์" ชี้มีโอกาส 20% ที่ AI จะทำลายมนุษยชาติ

Elon Musk เชื่อว่าในยุคแห่งความก้าวหน้าในปัจจุบัน A.I. มีแนวโน้มที่จะเก่งเกินสติปัญญาของมนุษย์ภายในปี 2030 และมีโอกาสที่จะนำไปสู่การสิ้นสุดของมนุษยชาติ แต่ค่อนข้างมั่นใจว่า AI คุ้มค่ากับความเสี่ยง

SHORT CUT

  • Elon Musk คำนวณความเสี่ยงของ AI ต่อมนุษยชาติใหม่
  • เขาประเมินว่ามีโอกาส 10-20% ที่ AI จะสามารถทำลายมนุษยชาติได้ แต่เราควรพัฒนามันขึ้นมาต่อไป
  • Musk ย้ำต้องป้องกันไม่ให้ AI เรียนรู้ที่จะโกหก แม้ว่าความจริงจะไม่เป็นที่พอใจก็ตาม

Elon Musk เชื่อว่าในยุคแห่งความก้าวหน้าในปัจจุบัน A.I. มีแนวโน้มที่จะเก่งเกินสติปัญญาของมนุษย์ภายในปี 2030 และมีโอกาสที่จะนำไปสู่การสิ้นสุดของมนุษยชาติ แต่ค่อนข้างมั่นใจว่า AI คุ้มค่ากับความเสี่ยง

ในการสัมมนา "Great AI Debate" ที่การประชุม Abundance Summit เมื่อต้นเดือนนี้ อีลอน มัสก์ (Elon Musk)ได้คำนวณการประเมินความเสี่ยงด้านเทคโนโลยีครั้งก่อนของเขาใหม่ โดยกล่าวว่า

"ผมคิดว่ามีโอกาสที่มันจะทำลายล้างมนุษยชาติ  โดยมีโอกาสประมาณ 10% หรือ 20% "

แต่เขาเสริมว่าสถานการณ์เชิงบวกน่าจะเป็นไปได้มีมากกว่าสถานการณ์เชิงลบ แต่ อีลอน มัสก์ ไม่ได้กล่าวถึงวิธีที่เขาคำนวณความเสี่ยงดังกล่าว

และการพูดที่งาน Silicon Valley เมื่อวันที่19 มีนาคม ซีอีโอของ Tesla และ SpaceX เตือนว่า A.I. 

"เกิดขึ้นอย่างรวดเร็ว" และ "เราต้องการพยายามนำทาง A.I. ไปในทิศทางที่เป็นบวกมากที่สุดเท่าที่จะเป็นไปได้เพื่อเพิ่มความน่าจะเป็นของอนาคตที่ดี"

โดยเน้นย้ำถึงศักยภาพของผลลัพธ์เชิงบวกที่มีมากกว่าเชิงลบ โดยอ้างหนังสือของ Diamandis ในปี 2014 ที่มีชื่อว่า “Abundance: The Future is Better Than You Think” ซึ่งหนังสือเล่มนี้บรรยายถึงอนาคตที่ A.I. และวิทยาการหุ่นยนต์จะช่วยลดต้นทุนสินค้าและบริการได้อย่างมาก ซึ่งเป็นประโยชน์ต่อสังคมมนุษย์ 

เป็นเรื่อง! "อีลอน มัสก์" ชี้มีโอกาส 20% ที่ AI จะทำลายมนุษยชาติ

อีลอน มัสก์ ใช้การเปรียบเทียบการเลี้ยงลูกเป็นแนวทางในการพัฒนา A.I. และปัญญาประดิษฐ์ทั่วไป (A.G.I.) เพื่อสร้างผลกระทบเชิงบวกต่อมนุษยชาติในอนาคต เขาเน้นย้ำถึงความสำคัญของการส่งเสริมแนวทาง A.I. ที่เป็นความจริงและมีจริยธรรม การพัฒนาโดยมีความคล้ายคลึงกับภาพยนตร์ของสแตนลีย์ คูบริกในปี 1968 เรื่อง 2001: A Space Odyssey

“ผมคิดว่านั่นสำคัญมากสำหรับ A.I. ความปลอดภัยคือการมี A.I ที่แสวงหาความจริงและอยากรู้อยากเห็นในระดับสูงสุด” 

แม้ว่าเขาจะเป็นผู้สนับสนุนกฎระเบียบของ AI แต่เมื่อปีที่แล้ว มัสก์ได้ก่อตั้งบริษัทชื่อ xAI ซึ่งอุทิศตนเพื่อขยายพลังของเทคโนโลยีต่อไป xAI เป็นคู่แข่งของ OpenAI ซึ่งเป็นบริษัทที่ Musk ก่อตั้งร่วมกับ Sam Altman ก่อนที่ Musk จะลาออกจากบอร์ดในปี 2018

ในการประชุมสุดยอดครั้งนี้ มัสก์ ประเมินว่าความฉลาดทางดิจิทัลจะเหนือกว่าความฉลาดของมนุษย์ทั้งหมดรวมกันภายในปี 2030 แม้ว่าเขายังคงรักษาศักยภาพด้านบวกไว้มากกว่าด้านลบ แต่เขาก็ก็ยอมรับถึงความเสี่ยงต่อโลก หากการพัฒนา AI ยังคงดำเนินต่อไปในวิถีปัจจุบัน

“คุณทำให้ AGI เติบโตขึ้น มันเกือบจะเหมือนกับการเลี้ยงเด็ก แต่เป็นอัจฉริยะขั้นสุดยอด เหมือนเด็กที่ฉลาดเหมือนพระเจ้า และมันสำคัญว่าคุณจะเลี้ยงลูกอย่างไร” 

เป็นเรื่อง! "อีลอน มัสก์" ชี้มีโอกาส 20% ที่ AI จะทำลายมนุษยชาติ

อีลอน มัสก์ กล่าวว่า "ข้อสรุปสุดท้าย" ของเขาเกี่ยวกับวิธีที่ดีที่สุดในการบรรลุความปลอดภัยของ AI คือการพัฒนา AI ในลักษณะที่บังคับให้เป็นจริง

“อย่าบังคับให้มันโกหก แม้ว่าความจริงจะไม่เป็นที่พอใจก็ตาม” Musk กล่าวถึงวิธีที่ดีที่สุดในการทำให้มนุษย์ปลอดภัยจากเทคโนโลยี

“มันสำคัญมาก อย่าทำให้ AI โกหก”

นักวิจัยพบว่า เมื่อ AI เรียนรู้ที่จะโกหกมนุษย์ พฤติกรรมหลอกลวงนั้นจะไม่สามารถย้อนกลับได้โดยใช้มาตรการความปลอดภัยของ AI ในปัจจุบัน The Independent รายงาน

“หากแบบจำลองแสดงพฤติกรรมหลอกลวง เนื่องจากการจัดเรียงข้อมูลที่หลอกลวง หรือการวางยาพิษแบบจำลอง เทคนิคการฝึกอบรมด้านความปลอดภัยในปัจจุบันไม่สามารถรับประกันความปลอดภัยได้ และอาจสร้างความรู้สึกผิด ๆ เกี่ยวกับความปลอดภัยได้” นักวิจัยกล่าวเพิ่มเติมว่า มีความเป็นไปได้ที่ AI อาจเรียนรู้ที่จะหลอกลวงด้วยตัวเอง โดยไม่ได้ถูกสอนให้โกหกโดยเฉพาะ

ที่มา