AI เกือบทำนิวยอร์กป่วน! "MyCity" แชทบอท AI ให้ข้อมูลพลาด เสี่ยงผิดกฎหมาย

ตอนที่เปิดตัว AI Chatbot เป็นโปรแกรมนำร่องในเดือนตุลาคม แชทบอท MyCity ของนิวยอร์กได้รับการขนานนามว่าเป็นการใช้เทคโนโลยี AI ทั่วทั้งเมืองเป็นครั้งแรก ซึ่งเป็นสิ่งที่จะช่วยให้เจ้าของธุรกิจเข้าถึง "ข้อมูลที่ดำเนินการได้และเชื่อถือได้" เพื่อตอบสนองต่อคำค้นหาที่พิมพ์ลงในพอร์ทัลออนไลน์

แต่หลังดำเนินการมาไม่นาน นักข่าวรายการสืบสวน The Markup รายงานครั้งแรกเมื่อสัปดาห์ที่แล้วว่า แชทบอทตัวนี้กำลังทำสิ่งผิดพลาด โดยให้คำแนะนำผิดๆว่า “นายจ้างสามารถลดค่าทิปของคนงานได้ และไม่มีข้อบังคับที่กำหนดให้หัวหน้าต้องแจ้งการเปลี่ยนแปลงตารางงานของลูกจ้าง”

เอริก อดัมส์ นายกเทศมนตรีเมืองนิวยอร์ก ซึ่งเป็นสมาชิกพรรคเดโมแครต กล่าวกับผู้สื่อข่าว โดยเน้นว่านี่เป็นเพียงโครงการนำร่อง

“มันอาจผิดพลาดในบางจุด และเราต้องแก้ไข ทุกครั้งที่คุณใช้เทคโนโลยี คุณจะต้องนำมันไปใช้ในสภาพแวดล้อมจริงเพื่อขจัดข้อบกพร่อง”

ทั้งนี้ แชทบอท MyCity ยังคงออนไลน์อยู่ในวันพฤหัสบดี และบางครั้งก็ยังคงให้คำตอบที่ผิด โดยระบุว่าเจ้าของร้านค้ามีอิสระที่จะไม่ใช้เงินสด โดยไม่คำนึงถึงกฎหมายปี 2563 ของสภาเทศบาลเมืองที่ห้ามร้านค้าปฏิเสธที่จะรับเงินสด และยังคงคิดว่าค่าแรงขั้นต่ำของเมืองอยู่ที่ 15 ดอลลาร์ต่อชั่วโมง แม้ว่าจะเพิ่มเป็น 16 ดอลลาร์ในปี 2567 ก็ตาม

MyCity ซึ่งใช้บริการ Azure AI ของ Microsoft ดูเหมือนจะหลงทางด้วยปัญหาทั่วไปที่เรียกว่าแพลตฟอร์มเทคโนโลยี AI ทั่วไป เช่น ChatGPT ซึ่งบางครั้งเป็นที่รู้กันว่า บางครั้งจะสร้างข้อมูลต่างๆ ขึ้นเอง หรือยืนยันความเท็จด้วยความมั่นใจ

ทั้ง Microsoft และ City Hall ไม่ตอบคำถามเกี่ยวกับสาเหตุที่ทำให้เกิดข้อผิดพลาดและวิธีแก้ไข

โดย Microsoft ปฏิเสธที่จะบอกว่าอะไรเป็นสาเหตุของปัญหา แต่ระบุในแถลงการณ์ว่ากำลังทำงานร่วมกับทางเมืองเพื่อแก้ไขปัญหาดังกล่าว สำนักงานเทคโนโลยีและนวัตกรรมของเมืองกล่าวในแถลงการณ์ว่า "ในสัปดาห์หน้า เราคาดว่าจะสามารถแก้ไขปัญหาคำตอบที่ไม่ถูกต้องได้เป็นส่วนใหญ่"

City Hall ได้อัปเดตข้อจำกัดความรับผิดชอบบนเว็บไซต์ของ MyCity โดยระบุว่า

“บางครั้งคำตอบอาจไม่ถูกต้องหรือไม่สมบูรณ์” และเตือนธุรกิจต่างๆ “อย่าใช้คำตอบเป็นคำแนะนำทางกฎหมายหรือทางวิชาชีพ”

ด้าน Andrew Rigie ผู้อำนวยการ NYC Hospitality Alliance ผู้สนับสนุนเจ้าของร้านอาหารหลายพันรายกล่าวว่าเขาเคยได้ยินจากเจ้าของธุรกิจที่สับสนกับคำตอบของแชทบอท

“ผมขอชมเชยเมืองนี้ที่พยายามใช้ AI เพื่อช่วยธุรกิจต่างๆ แต่มันก็จำเป็นต้องมีประสิทธภาพมากกว่านี้”   พร้อมเตือนว่าการปฏิบัติตามคำแนะนำของแชทบอทอาจก่อให้เกิดผลทางกฎหมายที่ร้ายแรง

“หากผมถามคำถามแล้วต้องกลับไปหาทนายเพื่อทราบว่าคำตอบนั้นถูกต้องหรือไม่ ถือว่าผิดจุดประสงค์ในการใช้งาน”

ที่มา

• REUTERS