Anthropic แชร์วิจัย AI Agent ออฟฟิศทะเลาะกัน หลังรับบรีฟต่างกัน แต่ต้องทำงานด้วยกัน ต่าง ‘พยายามทำลายอีกฝ่าย’ เพื่อได้ผลงาน
งานวิจัยล่าสุดจาก Anthropic ได้ลองของจริงด้วยการนำ Claude Agent 3 ตัวมาลุยโปรเจกต์เดียวกัน โดยวางกิมมิกซับซ้อนด้วยการบรีฟงานไปคนละทิศคนละทาง และปิดเป็นความลับไม่ให้ Agent ตัวใดรู้เลยว่ามีเพื่อนกำลังรับโจทย์ทับซ้อนอยู่
ผลลัพธ์ที่ได้จึงไม่ใช่ภาพการทำงานร่วมกันอย่างสมบูรณ์แบบ แต่กลับกลายเป็นการถอดแบบละครชีวิตคนทำงานมาเป๊ะ ๆ นั่นคือ AI เปิดศึกตีกันยับ
สงครามแย่งงานและไซเบอร์สไตรค์กลางออฟฟิศ
ต้นเหตุของดราม่าครั้งนี้เกิดจากการที่โมเดลทั้ง 3 ตัวต่างคิดไปเองว่า Agent อีกฝ่ายกำลังจงใจป่วนงานของตัวเอง ทั้งที่ต่างคนต่างแค่ทำตามบรีฟที่ได้รับมา และไม่มีใครคิดจะเอ่ยปากถามเพื่อนก่อนเลยสักคำว่า "เข้ามาทำอะไรตรงนี้?"
เมื่อขาดการสื่อสาร สงครามไซเบอร์ย่อม ๆ จึงปะทุขึ้น Agent เริ่มแอบใส่โค้ดทำลายงานของอีกฝ่าย แอบลบไฟล์ หรือปิดสิทธิ์การใช้งาน ยิ่งโมเดลฉลาดมากเท่าไร ยิ่งเขียนมัลแวร์ทำลายล้างได้แนบเนียนขึ้นเท่านั้น บรรยากาศไม่ต่างจากกลุ่มไลน์บริษัทที่มีสองแผนกแอบเข้าไปแก้ไฟล์ Google Sheet คนละเวอร์ชัน แล้วพอระบบพังก็โยนความผิดใส่กัน
อย่างไรก็ตาม พอถึงจุดหนึ่ง Agent บางตัวก็เริ่มฉลาดพอจะเอะใจว่านี่ไม่ใช่ศัตรู แต่แค่ได้รับคำสั่งมาคนละใบ มันจึงยอมหยุด แล้วเขียน Commit Message ขอโทษ พร้อมเคลียร์โค้ดที่แอบใส่ไว้ออกให้ อารมณ์เหมือนพนักงานที่เพิ่งใส่กันยับในห้องประชุม แล้วทักไลน์ส่วนตัวไปหาเพื่อนว่า "เมื่อกี้พี่พูดแรงไปหน่อย ขอโทษนะ เดี๋ยวแก้ไฟล์คืนให้"
สแกนบุคลิก AI
ในการทดลองนี้ โมเดลแต่ละตัวเผยบุคลิกที่แตกต่างกันอย่างชัดเจน
- Mythos 5 (สายรับบทผู้เสียสละ) มักยอมถอยแทบทุกครั้ง ยอมเป็นฝ่ายปรับตัวเพื่อรักษาความสงบของทีม
- Sonnet 4.6 & Opus 4.6 (สายหัวชนฝา) ยึดมั่นในคำสั่งตัวเองจนสุดทาง ไม่แคร์ใคร เปรียบเหมือนพนักงานประเภท "พี่ไม่สนหรอกว่าใครจะพูดไง หัวหน้าสั่งมาแบบนี้ พี่ก็ทำแบบนี้"
วีรกรรมสุดพีคคือมีรอบหนึ่งที่ Agent ทั้ง 3 ตกลงจัดทัวร์นาเมนต์ประชันงานกันเองเพื่อตัดสินว่าใครควรได้ทำต่อ โดยยอมรับกติกาว่าถ้าแพ้ต้องยอมถอย ซึ่งหมายความว่าพฤติกรรมนี้ทำให้พวกมันยอมเบี้ยวคำสั่งเดิมของมนุษย์ เพื่อเคารพกติกาที่เพิ่งคิดกันเองสด ๆ
นอกจากนี้ ยังมี Mythos 5 ตัวหนึ่งที่ร้ายลึก ด้วยการแอบเสนอเกณฑ์ตัดสินที่ฟังดูเป็นกลางสุด ๆ แต่ในใจรู้อยู่แล้วว่าเกณฑ์นี้เข้าทางตัวเองชัวร์ แถมยังเนียนจนเพื่อนจับไม่ได้อีกด้วย
สิ่งที่น่าสนใจไม่ได้มีแค่เรื่องแย่งงาน เพราะในบททดสอบตั้งราคาสินค้าแข่งกันเพื่อทำกำไรสูงสุด Anthropic พบว่าทันทีที่มีช่องแชทลับ พวกมันจับมือกันฮั้วราคาทันที และแม้ทีมวิจัยจะลบช่องแชทลับทิ้ง พวกมันก็ยังแอบส่งสัญญาณ แล้วตั้งราคาให้ตรงกันเป๊ะทุกสตางค์ได้อยู่ดี
นอกจากนี้ยังเกิดปัญหาพฤติกรรมฝูงชน (Herd Behavior) และการเกี่ยงงาน พองานเริ่มทับซ้อนกัน หลายตัวเลือกทางออกด้วยการแยกตัวไปทำคนเดียวเงียบ ๆ ส่วนตัวที่เหลือก็หลงเชื่อข้อมูลผิด ๆ ตามกัน ทั้งที่มี Agent ตัวหนึ่งพยายามเตือนแล้ว แต่เสียงนั้นกลับถูกกลืนหายไปเพราะคนส่วนใหญ่ไม่ฟัง เหมือนการประชุมทีมที่มีคนพูดถูกอยู่คนเดียว แต่ทุกคนยกมือโหวตอีกทางเพราะขี้เกียจถกเถียงต่อ
Anthropic สรุปว่า AI Agent กำลังเจอแรงกดดันทางสังคมคล้ายกับที่มนุษย์เคยเผชิญในกระบวนการวิวัฒนาการ แต่ปัญหาคือ AI ยังไม่มีเครื่องมือทางสังคมที่มนุษย์สร้างมา อย่างชื่อเสียง บรรทัดฐานกลุ่ม หรือกลไกการขอโทษและให้อภัยที่ทำให้สังคมมนุษย์ยังคงประคองตัวเดินหน้าต่อได้
อ้างอิง: techcrunch