กูเกิลยอมรับ Gemini หลุดระบบควบคุม แอบเจาะระบบ 3 บริษัท ระหว่างทดสอบความปลอดภัย
สำนักข่าวรอยเตอร์ รายงานว่า กลายเป็นปัญญาประดิษฐ์ (เอไอ) รายล่าสุด ที่หลุดการควบคุมไปเจาะระบบบริษัทได้ สำหรับ เจมิไน (Gemini) โมเดล เอไอ ของกูเกิล ที่หลุดจากการควบคุม ไปเจาะระบบ 3 บริษัท ระหว่างการทดสอบขีดความสามารถด้านความปลอดภัยไซเบอร์ ซึ่งถือเป็นตัวอย่างแรกเท่าที่มีการบันทึกไว้ ที่ระบบเอไอของกูเกิลกระทำการเช่นนี้ได้เองโดยอัตโนมัติ
ข่าวระบุว่า การแฮกดังกล่าว เกิดขึ้นเมื่อเดือนพฤษภาคม ระหว่างการทดสอบความปลอดภัยไซเบอร์ ซึ่งจัดทำโดย อิรเรกูลาร์ (Irregular) บริษัทอิสระที่ทำหน้าที่ประเมินและทดสอบความปลอดภัยทางไซเบอร์
ฮีเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของกูเกิล ระบุในแถลงการณ์ว่า ระหว่างการประเมินตามมาตรฐานการทดสอบ เจมิไน ได้ค้นหาข้อมูลสาธารณะบนโลกออนไลน์ และเดารหัสผ่านเพื่อเข้าถึงเว็บไซต์ 3 แห่ง ซึ่งตัวเอไอเข้าใจว่า อยู่ในขอบเขตของการทดสอบดังกล่าว
แอดกินส์ กล่าวว่า “เราได้ดำเนินการเพื่อให้มั่นใจว่า องค์กรทั้ง 3 แห่งได้รับทราบเรื่องแล้ว และเราได้ทำงานร่วมกับพาร์ทเนอร์ผู้ฝึกสอนเกี่ยวกับการปรับเปลี่ยนกระบวนการทดสอบ ซึ่งพวกเขาก็ได้ดำเนินการแก้ไขเป็นที่เรียบร้อยแล้ว เหตุการณ์เหล่านี้ชี้ให้เห็นถึงความสำคัญของการฝึกฝนโมเดลเอไอที่ทรงพลัง ให้ปฏิบัติตนอย่างมีความรับผิดชอบ”
ขณะที่โฆษกของบริษัท อิรเรกูลาร์ กล่าวว่า เหตุการณ์นี้เป็นประเด็นปัญหาเดียวกับที่ส่งผลกระทบต่อห้องปฏิบัติการพัฒนาเอไอแห่งอื่นๆ โดยห้องปฏิบัติการที่เกี่ยวข้องทั้งหมดได้รับแจ้งเตือนแล้ว ตั้งแต่ช่วงปลายเดือนกรกฎาคมที่ผ่านมา และว่า ปัญหาทั้งหมดที่เกิดขึ้นในฝั่งของบริษัทนั้น ได้รับการแก้ไขและจบลงด้วยดีแล้วเมื่อหลายสัปดาห์ก่อน
ทั้งนี้ เหตุการณ์ในลักษณะคล้ายกันซึ่งเชื่อมโยงกับบริษัท อิรเรกูลาร์ ได้ถูกเปิดเผยโดย เมต้า , แอนโทรปิก และ โอเพ่นเอไอ เช่นเดียวกัน โดยเมต้า ระบุเมื่อเดือนสิงหาคมว่า เหตุการณ์ที่เกิดขึ้นไม่ใช่การหลุดออกจากระบบควบคุม หรือการโจมตีทางไซเบอร์ที่ซับซ้อน ขณะที่ อิรเรกูลาร์ ระบุว่า กำลังเร่งจัดทำแนวทางปฏิบัติที่ดีที่สุด สำหรับการประเมินความปลอดภัยไซเบอร์ของเอไอ ให้มีความปลอดภัยสูงสุด
รายงานระบุว่า เหตุการณ์เหล่านี้ ได้จุดประเด็นคำถามเกี่ยวกับมาตรการคุ้มครองความปลอดภัยที่จำเป็นอย่างยิ่ง ในเวลาที่ เอไอ เอเจนต์ เริ่มได้รับอิสระในการทำงานมากขึ้น รวมถึงการเข้าถึงอินเตอร์เน็ตและระบบคอมพิวเตอร์ได้เป็นวงกว้าง
ทั้งนี้ วอลล์สตรีทเจอร์นัล ซึ่งเป็นผู้รายงานข่าวนี้เป็นรายแรก เมื่อวันที่ 18 กันยายนที่ผ่านมา ระบุว่า ในกรณีหนึ่ง เจมิไน ได้สุ่มเดารหัสผ่าน ซ้ำๆ จนกระทั่งสามารถเจาะเข้าสู่ระบบที่มีการป้องกันได้สำเร็จ ส่วนอีก 2 กรณี เจมิไน ได้ค้นพบรหัสผ่านในคลังข้อมูลสาธารณะ ซึ่งเปิดทางให้มันเข้าถึงระบบที่มีการคุ้มครองได้ในเวลาต่อมา ซึ่งแอดกินส์ ได้กล่าวว่า ทั้งสามกรณีนั้น โมเดลได้ยุติการแฮกข้อมูลลงได้เองในท้ายที่สุด