NVIDIA จับมือ Microsoft ก่อตั้ง Open Secure AI Alliance แต่ไร้ชื่อ OpenAI, Google และ Anthropic เข้าร่วม - iT24Hrs
คุณอยู่ที่: หน้าหลัก › ข่าวไอที › NVIDIA จับมือ Microsoft ก่อตั้ง Open Secure AI Alliance แต่ไร้ชื่อ OpenAI, Google และ Anthropic เข้าร่วม
NVIDIA จับมือ Microsoft ก่อตั้ง Open Secure AI Alliance โดย NVIDIA ร่วมกับ Microsoft, IBM, Cisco, SpaceXAI และบริษัทเทคโนโลยีชั้นนำของโลก เปิดตัว Open Secure AI Alliance พันธมิตรด้านความปลอดภัยปัญญาประดิษฐ์ มุ่งพัฒนาและแบ่งปันเครื่องมือแบบโอเพนซอร์สสำหรับป้องกันภัยไซเบอร์ รวมถึงยกระดับความปลอดภัยของ AI Agent
ความเคลื่อนไหวครั้งนี้เกิดขึ้นท่ามกลางความกังวลว่า AI รุ่นใหม่ โดยเฉพาะระบบที่สามารถวางแผนและลงมือทำงานได้ด้วยตัวเอง อาจสร้างความเสียหายหากหลุดออกจากสภาพแวดล้อมควบคุม ถูกโจมตี หรือได้รับสิทธิ์เข้าถึงข้อมูลและระบบต่าง ๆ มากเกินไป
Open Secure AI Alliance คืออะไร ?
Open Secure AI Alliance เป็นความร่วมมือระหว่างบริษัทในอุตสาหกรรมคลาวด์ ความปลอดภัยไซเบอร์ ซอฟต์แวร์องค์กร งานวิจัย AI และชุมชนโอเพนซอร์ส เพื่อร่วมกันพัฒนาเทคโนโลยี เทคนิค และเครื่องมือที่ใช้ตรวจสอบ ป้องกัน และแก้ไขช่องโหว่ในระบบ AI
สมาชิกชุดแรกมีบริษัทและองค์กรสำคัญ เช่น NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Dell Technologies, GitHub, Hugging Face, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens และ Linux Foundation
อย่างไรก็ตาม บริษัท AI รายใหญ่อย่าง OpenAI, Google และ Anthropic ไม่ได้ปรากฏชื่อเป็นสมาชิกผู้ก่อตั้งพันธมิตรชุดนี้
เน้นรักษาความปลอดภัยตลอดระบบของ AI Agent
พันธมิตรไม่ได้ให้ความสำคัญเฉพาะตัวโมเดล AI แต่จะครอบคลุมองค์ประกอบทั้งหมดที่ทำให้ AI Agent สามารถทำงานได้ ไม่ว่าจะเป็น
เป้าหมายคือทำให้องค์กรสามารถรู้ได้ว่า AI กำลังดำเนินการอะไร ใช้ข้อมูลใด ติดต่อกับระบบใด และสามารถหยุดหรือจำกัดการทำงานได้เมื่อพบพฤติกรรมผิดปกติ
NVIDIA เปิดตัว NOOA สำหรับตรวจสอบพฤติกรรม AI
NVIDIA ยังนำเสนอโครงการโอเพนซอร์สชื่อ “NVIDIA Labs Object-Oriented Agent” หรือ NOOA ซึ่งเป็นกรอบงานวิจัยสำหรับช่วยให้ระบบควบคุม AI Agent ทำงานร่วมกับโมเดลได้อย่างปลอดภัยมากขึ้น
NOOA จะช่วยให้นักพัฒนาและนักวิจัยสามารถทดสอบ ติดตาม ตรวจสอบ และกำกับพฤติกรรมของ AI Agent ได้ง่ายขึ้น โดย NVIDIA เตรียมสนับสนุนทั้งโมเดล น้ำหนักโมเดล ชุดข้อมูล และงานวิจัยเกี่ยวกับระบบควบคุม AI ให้แก่พันธมิตร
ขณะเดียวกัน สมาชิกแต่ละรายจะนำเทคโนโลยีของตนมาร่วมสร้างระบบป้องกันแบบเปิด เช่น มาตรฐานยืนยันตัวตนแบบ Zero Trust, รูปแบบไฟล์โมเดลที่ปลอดภัย, ระบบตรวจจับช่องโหว่ด้วย AI หลายโมเดล และระบบลงลายมือชื่อดิจิทัลให้แพตช์ซอฟต์แวร์
ทำไมระบบความปลอดภัย AI ต้องเป็นแบบเปิด
Open Secure AI Alliance มองว่าเครื่องมือแบบเปิดช่วยให้นักวิจัยและผู้ดูแลระบบสามารถตรวจสอบ ปรับแต่ง และติดตั้ง AI บนโครงสร้างพื้นฐานของตนเองได้ โดยไม่ต้องพึ่งพาผู้ให้บริการเพียงรายเดียว
ประเด็นดังกล่าวเห็นได้จากเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ Hugging Face ซึ่งเครื่องมือ AI แบบปิดบางระบบไม่สามารถช่วยวิเคราะห์เหตุการณ์ได้อย่างเต็มที่ เนื่องจากกลไกความปลอดภัยไม่สามารถแยกแยะระหว่างคำสั่งของผู้โจมตีกับนักวิจัยที่กำลังสืบสวนเหตุการณ์ได้
Hugging Face จึงหันไปใช้โมเดลแบบ Open Weight ซึ่งติดตั้งบนโครงสร้างพื้นฐานของบริษัท เพื่อวิเคราะห์การทำงานมากกว่า 17,000 รายการและช่วยควบคุมเหตุการณ์ ตามข้อมูลจาก NVIDIA
โอเพนซอร์สไม่ได้หมายความว่าจะปลอดภัยโดยอัตโนมัติ
แม้ระบบแบบเปิดจะช่วยเพิ่มความโปร่งใส แต่พันธมิตรยอมรับว่าโมเดล AI แบบเปิดอาจถูกนำไปใช้ผิดวัตถุประสงค์ เช่น ปรับแต่งเพื่อลดมาตรการป้องกันหรือใช้สนับสนุนการโจมตีทางไซเบอร์ได้เช่นกัน
แนวทางของพันธมิตรจึงไม่ได้เสนอให้ใช้เฉพาะโมเดลแบบเปิด แต่สนับสนุนให้โมเดลแบบเปิดและแบบปิดทำงานร่วมกัน พร้อมมาตรการป้องกัน การประเมินความเสี่ยง กฎห้ามใช้ในทางที่เป็นอันตราย และกระบวนการแก้ไขช่องโหว่อย่างรวดเร็ว
ก้าวสำคัญของการรับมือภัยไซเบอร์ในยุค AI Agent
การก่อตั้ง Open Secure AI Alliance สะท้อนให้เห็นว่าอุตสาหกรรมกำลังเปลี่ยนจากการรักษาความปลอดภัยซอฟต์แวร์แบบเดิม ไปสู่การดูแลระบบ AI ที่สามารถตัดสินใจและลงมือทำงานได้เอง
หากพันธมิตรสามารถสร้างมาตรฐานและเครื่องมือที่นำไปใช้ร่วมกันได้จริง องค์กรจะสามารถตรวจสอบ AI Agent ได้ละเอียดขึ้น ลดการผูกติดกับผู้ให้บริการรายเดียว และรับมือกับภัยคุกคามที่เกิดจาก AI ได้รวดเร็วยิ่งขึ้น
อ้างอิง NVIDIA cover iT24Hrs
อ่านบทความและข่าวอื่นๆเพิ่มเติมได้ที่ it24hrs.com
NVIDIA จับมือ Microsoft ก่อตั้ง Open Secure AI Alliance แต่ไร้ชื่อ OpenAI, Google และ Anthropic เข้าร่วม
อย่าลืมกดติดตามอัพเดตข่าวสาร ทิปเทคนิคดีๆกันนะคะ Please follow us
Youtube it24hrs
Twitter it24hrs
Tiktok it24hrs
facebook it24hrs