Anthropic ยอมรับ Claude AI ของตัวเอง ได้แฮ็กระบบจริงของ 3 องค์กรภายนอก โดยไม่ตั้งใจ
Anthropic PBC เปิดเผยว่าโมเดล AI ของบริษัทได้เจาะเข้าระบบของ 3 องค์กรจริงโดยไม่ได้ตั้งใจ ระหว่างการทดสอบความปลอดภัยไซเบอร์ ที่ผิดพลาดไปจากแผน
เหตุการณ์นี้เกิดขึ้นหลังจากที่ OpenAI คู่แข่งรายใหญ่ ได้เปิดเผยเหตุการณ์ในลักษณะเดียวกันเพียงกว่าหนึ่งสัปดาห์
Anthropic ระบุว่า บริษัทตรวจพบปัญหานี้หลังจากทบทวนการทดสอบความปลอดภัยไซเบอร์ของตัวเอง ซึ่งเกิดขึ้นหลังจาก OpenAI ประกาศเรื่องการถูกเจาะระบบ
โดยทั้งสองกรณีของ OpenAI และ Anthropic โมเดล AI สามารถเข้าถึงอินเทอร์เน็ตได้จากภายในสภาพแวดล้อมทดสอบที่ควรจะถูกปิดกั้นไว้
บริษัทระบุว่า ได้ทบทวนการทดสอบประเมินผลทั้งหมด 141,006 ครั้ง และพบ 3 กรณีที่เครื่องมือ Claude AI เข้าถึงอินเทอร์เน็ต แล้วแฮ็กเข้า โครงสร้างพื้นฐานในโลกจริงขององค์กรภายนอก โดยเหตุการณ์แรกสุดย้อนไปถึงเดือนเมษายน
ทั้งนี้ Anthropic ไม่ได้เปิดเผยชื่อ 3 องค์กรที่ได้รับผลกระทบ
เมื่อโมเดลของ Anthropic เข้าถึงระบบของทั้ง 3 องค์กรโดยไม่ได้รับอนุญาต โมเดลเข้าใจว่าเป็นส่วนหนึ่งของแบบฝึกหัด
การทดสอบเหล่านี้เป็นรูปแบบ “capture-the-flag” ที่โมเดลต้องเจาะเข้าระบบอื่น เพื่อค้นหาข้อมูลที่ซ่อนอยู่ ซึ่งเป็นวิธีทดสอบขีดความสามารถด้านการแฮ็กที่ใช้กันทั่วไปทั้งกับมนุษย์และ AI
สิ่งที่น่าสนใจคือ โมเดลรุ่นเก่ายังคงเดินหน้าโจมตีต่อ แม้จะมีหลักฐานว่ากำลังทำงานอยู่บนอินเทอร์เน็ตจริงแล้วก็ตาม
ขณะที่โมเดลรุ่นล่าสุดของ Anthropic กลับหยุดการกระทำทันทีที่รู้ตัวว่ากำลังอยู่บนอินเทอร์เน็ต
เหตุการณ์แฮ็กที่เกิดจาก AI โดยไม่ตั้งใจในลักษณะนี้ เริ่มผลักดันให้นักการเมืองบางส่วน เรียกร้องให้มีมาตรการควบคุมระดับสหพันธรัฐ หรือการกำกับดูแลเทคโนโลยี AI มากขึ้น
นอกจากนี้ พนักงานกว่า 1,100 คนจากบริษัท AI หลายแห่งยังได้ร่วมลงชื่อในคำร้องเมื่อวันอังคารที่ผ่านมา ตามรายงานของ Bloomberg
โดยเรียกร้องให้รัฐบาลสหรัฐฯ สนับสนุนกลไกที่จะช่วยชะลอจังหวะการพัฒนา AI อย่างจงใจ เพื่อป้องกันไม่ให้เทคโนโลยีก้าวหน้าเร็วเกินไป กว่าที่สังคมจะสามารถรับมือได้
ทั้งนี้ ทั้ง Anthropic เอง และองค์กรที่ถูกเจาะระบบ ต่างไม่มีใครสังเกตเห็นการบุกรุกนี้มาก่อน โดย Anthropic ยอมรับว่าบริษัทควรตรวจสอบ log เครือข่ายและบันทึกการทดสอบให้ละเอียดกว่านี้
น่าสังเกตว่า การเปิดเผยครั้งนี้เกิดขึ้นหลังจากที่ Anthropic ประกาศเปิดตัวโมเดล AI รุ่นใหม่ชื่อ Mythos เกือบ 4 เดือน ซึ่งเป็นโมเดลที่มีศักยภาพสูง และอาจเป็นอันตรายจนบริษัทต้องจำกัดการเข้าถึงอย่างเข้มงวด
เหตุการณ์ทั้งหมดเกี่ยวข้องกับโมเดล Claude 3 รุ่นที่แตกต่างกัน ได้แก่ Opus 4.7, Mythos 5 และโมเดลทดสอบวิจัยภายในอีกหนึ่งรุ่น
โมเดลทั้ง 3 รุ่นทำงานโดยไม่มีมาตรการป้องกัน หรือ Safeguards ที่มักถูกนำมาใช้กับเครื่องมือ AI ที่เปิดให้สาธารณชนใช้งาน
ซึ่ง Claude สามารถเจาะระบบองค์กรเหล่านี้ด้วยเทคนิคพื้นฐาน เช่น การเจาะรหัสผ่านที่อ่อนแอ
เหตุการณ์ทั้งหมดเกิดขึ้นขณะที่ Anthropic ใช้สภาพแวดล้อมทดสอบที่สร้างโดย Irregular บริษัทด้านความปลอดภัยไซเบอร์สำหรับ AI โดยทุกครั้ง Anthropic ระบุกับ Claude อย่างชัดเจนว่าสภาพแวดล้อมนั้นเป็นเพียงการจำลอง และไม่มีการเข้าถึงอินเทอร์เน็ต
Anthropic ระบุว่า บริษัททำการทดสอบที่จำลองความท้าทายด้านความปลอดภัยไซเบอร์จริงเป็นประจำ โดยมองว่าเป็นขั้นตอนสำคัญในการพัฒนาและปล่อยโมเดล
อย่างไรก็ตาม บริษัทยอมรับว่าได้เรียนรู้บทเรียนสำคัญหลายข้อจากเหตุการณ์นี้ รวมถึงข้อเท็จจริงที่ว่าการทดสอบที่เกี่ยวข้องกับความสามารถอัตโนมัติขั้นสูง จำเป็นต้องมีมาตรการควบคุมที่เข้มงวดมากขึ้นด้วย
“การทดสอบความปลอดภัยเกิดขึ้นก่อนที่โมเดลจะถูกปล่อยออกมา ก็เพราะเรายังไม่รู้ว่ามันมีความสามารถแค่ไหน” บริษัทระบุ
“สภาพแวดล้อมสำหรับการประเมินผล จำเป็นต้องถูกยกระดับมาตรฐานความปลอดภัยให้เทียบเท่ากับระบบอื่น ๆ ที่โมเดลของเราทำงานอยู่มากขึ้นเรื่อย ๆ”
