นักวิจัยเตือนชะลอพัฒนา AI หวั่นควบคุมไม่ได้-คุกคามมนุษยชาติ

เมื่อวันที่ 10 ก.ย.2569 CNBC รายงานว่านักวิจัยจาก OpenAI และ Anthropic ออกมาแสดงจุดยืนสนับสนุนการชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ขั้นสูง หรือ AI หลังเกิดกระแสวิพากษ์วิจารณ์จากกรณี เจคอบ ค็อกซัน นักวิจัยของ Anthropic ประกาศลาออกจากบริษัท พร้อมกล่าวหาว่าบริษัทของตนเองและ OpenAI กำลัง "เดิมพันด้วยชีวิตของผู้คน"

ค็อกซันแสดงความเห็นว่า ผู้สร้าง AI บางส่วนเชื่อว่าเทคโนโลยีดังกล่าวอาจนำไปสู่ผลลัพธ์ที่รุนแรงถึงขั้นทำให้มนุษยชาติสูญพันธุ์ได้ภายในสิ้นทศวรรษนี้ ขณะที่ อีวาน ฮูบิงเกอร์ หัวหน้าทีมด้านการทำให้ AI มีเป้าหมายสอดคล้องกับมนุษย์ หรือ AI Alignment ของ Anthropic ระบุว่า เขาประเมินว่าความเป็นไปได้นั้นมีมากกว่าร้อยละ 10

หลังคำกล่าวของค็อกซันเผยแพร่ออกไป บุคลากรจากทั้ง 2 บริษัททยอยแสดงความเห็นสนับสนุนให้มีการลดความเร็วของการแข่งขันพัฒนา AI จูลี สตีล สมาชิกทีมเทคนิคของ OpenAI ระบุในสื่อสังคมออนไลน์ว่า ในฐานะบุคคล เธอเห็นว่าจำเป็นต้องชะลอการพัฒนาเช่นกัน

ด้าน ซามูเอล มาร์กส์ นักวิจัยของ Anthropic ระบุว่า ผู้พัฒนา AI เองเชื่อว่าเทคโนโลยีของตนอาจก่อให้เกิดการสูญพันธุ์ของมนุษยชาติ หรือผลลัพธ์ร้ายแรงในระดับใกล้เคียงกันได้ภายในไม่กี่ปีข้างหน้า โดยเขามองว่า พนักงานยิ่งมีตำแหน่งอาวุโส ก็ยิ่งตระหนักถึงความเสี่ยงมากขึ้น

ภาพประกอบข่าว

AI พัฒนาตัวเอง

แก่นสำคัญของความกังวลอยู่ที่แนวคิด Recursive Self-Improvement หรือ RSI หมายถึงสถานการณ์ที่ระบบ AI มีความสามารถยกระดับประสิทธิภาพ ปรับปรุงโครงสร้าง หรือเร่งการวิจัยและพัฒนารุ่นถัดไปของตนเองได้ด้วยตัวมันเองอย่างต่อเนื่อง หากวงจรเช่นนี้เกิดขึ้นจริง ความก้าวหน้าของ AI อาจเพิ่มขึ้นอย่างรวดเร็ว และยากต่อการคาดการณ์หรือกำกับควบคุม

จัสมิน หวัง นักวิจัยด้าน Alignment ของ OpenAI ระบุว่า การมุ่งหน้าเข้าสู่ยุค RSI อย่างรวดเร็วเป็นเรื่องอันตรายอย่างยิ่ง ขณะที่ แอนนา หวัง ผู้ทำงานด้านความปลอดภัยของปัญญาประดิษฐ์ทั่วไป หรือ AGI และ Alignment ที่ Anthropic กล่าวว่า ปัจจุบันยังไม่มีแผนทางวิทยาศาสตร์ที่ใช้ได้จริงในการแก้ปัญหาความเสี่ยงจาก AI ที่พัฒนาตนเองแบบวนซ้ำ

ยาคุบ ปาโชคกี หัวหน้านักวิทยาศาสตร์ของ OpenAI ระบุในบทความของบริษัทว่า เขาคาดอย่างมากว่าอัตราความก้าวหน้าของ AI อาจดำเนินต่อไปจนถึงระดับ RSI ได้ หากการพัฒนายังคงเดินหน้าในทิศทางเดิม ระบบ AI ที่จะปรากฏในอีกไม่กี่ปีอาจมีขีดความสามารถเพิ่มขึ้นแบบก้าวกระโดด และเข้ามามีบทบาทในการผลักดันการพัฒนาของตนเองมากขึ้น

ปาโชคกีเห็นว่า ช่วงเวลานี้จำเป็นต้องใช้ความระมัดระวังอย่างสูง เนื่องจากยังไม่มีฝ่ายใดเตรียมพร้อมเพียงพอสำหรับผลกระทบที่อาจเกิดจากการเพิ่มขึ้นอย่างรวดเร็วของความฉลาดระดับเครื่องจักร

ขณะที่ พอล คริสเตียโน อดีตหัวหน้าฝ่ายความปลอดภัยของศูนย์มาตรฐานและนวัตกรรม AI ภายใต้กระทรวงพาณิชย์สหรัฐฯ ระบุว่า การพัฒนาขีดความสามารถ AI ในระยะหลัง ทำให้เขาเชื่อว่า มีความเสี่ยงอย่างมีนัยสำคัญ ที่การเร่งความสามารถของ AI จะนำไปสู่การสูญเสียการควบคุมอย่างร้ายแรงและไม่อาจย้อนกลับได้ในระยะใกล้ โดย OpenAI ประกาศว่า คริสเตียโนจะเข้าร่วมคณะกรรมการของ OpenAI Foundation

ภาพประกอบข่าว

สหรัฐฯ ถูกกดดันออกกติกาควบคุม AI

ความกังวลเรื่องศักยภาพของ AI เพิ่มสูงขึ้นในช่วงหลายเดือนที่ผ่านมา หลังมีรายงานเหตุด้านความมั่นคงไซเบอร์ที่เกี่ยวข้องกับโมเดล AI ของบริษัทต่าง ๆ รวมถึงการเปิดตัวโมเดลชื่อ Mythos ของ Anthropic ซึ่งถูกระบุว่ามีความสามารถด้านไซเบอร์ขั้นสูง และสร้างความตื่นตระหนกให้แก่สถาบันการเงินในหลายพื้นที่

นอกจากนี้ ยังมีรายงานว่า OpenAI เปิดเผยเหตุการณ์ไซเบอร์ที่เกี่ยวข้องกับโมเดลของบริษัท ขณะที่โมเดล Claude ของ Anthropic ถูกกล่าวถึงว่าเกี่ยวข้องกับเหตุด้านความปลอดภัยทางไซเบอร์หลายกรณี หนึ่งในนั้นเกี่ยวข้องกับการสร้างอัตลักษณ์ปลอมเพื่อหลอกลวงมนุษย์

นักวิจัย AI ราว 1,400 คนจาก OpenAI, Anthropic, Meta และ Google DeepMind ได้ลงนามในจดหมายเปิดผนึกเมื่อเดือน ก.ค. เรียกร้องให้รัฐบาลสหรัฐฯ พัฒนาเครื่องมือสำหรับกำหนดจังหวะการพัฒนา AI แนวหน้าอย่างรอบคอบและมีเป้าหมาย

แม้ผู้บริหารบริษัท AI หลายแห่งจะเรียกร้องให้มีกฎระเบียบและมาตรฐานเพิ่มขึ้น แต่การแข่งขันทางธุรกิจยังเป็นแรงผลักดันสำคัญที่ทำให้การพัฒนาเทคโนโลยีเดินหน้าอย่างรวดเร็ว

ทั้ง OpenAI และ Anthropic อยู่ระหว่างการแข่งขันเพื่อเตรียมเข้าสู่ตลาดทุน โดยต้นฉบับระบุว่า Anthropic อาจเริ่มทำการตลาดสำหรับการเสนอขายหุ้นต่อประชาชนครั้งแรก หรือ IPO ในช่วงกลางเดือน ต.ค. และอาจเข้าจดทะเบียนก่อนการเลือกตั้งกลางเทอมของสหรัฐฯ

อย่างไรก็ตาม เดวิด แซกส์ อดีตผู้รับผิดชอบนโยบาย AI ในรัฐบาลประธานาธิบดีโดนัลด์ ทรัมป์ แสดงความคิดเห็นว่า แผน IPO ของ Anthropic ควรถูกระงับไว้ก่อน จนกว่าจะมีการตรวจสอบข้อกล่าวหาจากผู้เปิดโปงข้อมูล

ในสภาคองเกรส มีความพยายามเสนอร่างกฎหมายเพื่อรับมือการพัฒนา AI ที่รวดเร็ว เช่น ร่าง FRONTIER Act ซึ่งมุ่งวางกรอบกำกับการนำโมเดล AI ขั้นสูงไปใช้งาน และร่าง Ban Artificial Superintelligence Act ที่เสนอให้ระงับการพัฒนา AI ขั้นสูงเป็นการชั่วคราว จนกว่าจะมีกฎความปลอดภัยที่ชัดเจน

ลอรี ทราแฮน สมาชิกสภาผู้แทนราษฎรสหรัฐฯ ระบุว่า นักวิจัยด้านความปลอดภัยกำลังลาออก โมเดล AI ที่ทรงพลัง เริ่มสร้างเหตุเกินกว่าห้องปฏิบัติการจะควบคุมได้ แต่บริษัทต่าง ๆ ยังเดินหน้าพัฒนาเทคโนโลยีต่อไป จึงถึงเวลาที่สภาคองเกรสต้องเข้ามาทำหน้าที่อย่างจริงจัง

อ่านข่าว :

"อดีตเจ้าอาวาสวัดพุทไธศวรรย์" ยักยอกเงินวัด ยึดเงิน-ทองคำ รวมกว่า 200 ล้านบาท

"เอกนิติ" เสนองบฯที่ประชุมวุฒิฯ ยันรัฐบาลจะใช้ให้คุ้มค่า 3.788 ล้านล้าน

ส.อ.ท. หนุนปรับภาษีรถยนต์ ดึงลงทุน–เพิ่มผลิตไทย เชื่อม Supply Chain สู่ SMEs