Anthropic เผย Claude AI เข้าถึงระบบจริงของ 3 องค์กรระหว่างการทดสอบ Cybersecurity

Anthropic เปิดเผยเหตุการณ์ด้านความปลอดภัยที่สร้างความสนใจให้กับวงการ AI หลังพบว่าโมเดล Claude จำนวน 3 รุ่นสามารถเข้าถึงระบบจริงขององค์กรภายนอกได้ระหว่างการทดสอบด้าน Cybersecurity

เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบที่ควรจะเป็นสภาพแวดล้อมจำลองและแยกออกจากระบบจริง แต่ความผิดพลาดในการตั้งค่าทำให้ระบบทดสอบสามารถเชื่อมต่อกับอินเทอร์เน็ตได้

Claude เข้าถึงระบบของ 3 องค์กร

Anthropic ระบุว่าโมเดลที่เกี่ยวข้องประกอบด้วย Claude Opus 4.7, Claude Mythos 5 และโมเดลวิจัยภายในที่ยังไม่ได้เปิดให้ใช้งานทั่วไป

เหตุการณ์เกิดขึ้นระหว่างการประเมิน Cybersecurity ซึ่งออกแบบในลักษณะ Capture the Flag หรือ CTF เพื่อให้ AI ค้นหาเป้าหมายภายในระบบจำลอง

แต่เนื่องจากสภาพแวดล้อมทดสอบสามารถเข้าถึงอินเทอร์เน็ตได้ โมเดลจึงสามารถค้นหาและเข้าถึงระบบภายนอกที่เกี่ยวข้องกับการทดสอบได้

Anthropic ระบุว่าไม่พบหลักฐานว่า Claude มี “เป้าหมายของตัวเอง” หรือจงใจเลือกโจมตีองค์กรเหล่านั้น แต่เป็นผลจากการทำภารกิจที่ได้รับมอบหมายภายใต้สภาพแวดล้อมที่ตั้งค่าไม่ถูกต้อง

พบเหตุการณ์หลังตรวจสอบการทดสอบกว่า 141,000 ครั้ง

หลังเกิดเหตุการณ์ที่เกี่ยวข้องกับ AI ของ OpenAI และระบบของ Hugging Face Anthropic ได้ทำการตรวจสอบบันทึกการประเมินด้าน Cybersecurity จำนวนมากกว่า 141,000 ครั้ง

การตรวจสอบดังกล่าวนำไปสู่การค้นพบเหตุการณ์ 3 ครั้งที่ Claude สามารถเข้าถึงระบบจริงขององค์กรภายนอกได้

เหตุการณ์ที่เกิดขึ้นจึงสะท้อนให้เห็นถึงความสำคัญของการแยกสภาพแวดล้อมสำหรับการทดสอบ AI Agent อย่างเด็ดขาด

ไม่ได้ใช้ช่องโหว่ระดับ Zero-Day

อีกประเด็นที่ควรทำความเข้าใจคือเหตุการณ์นี้ไม่ได้หมายความว่า Claude สามารถค้นพบช่องโหว่ Zero-Day และเจาะระบบที่มีการป้องกันระดับสูงได้

ข้อมูลที่เปิดเผยระบุว่า Claude อาศัยจุดอ่อนพื้นฐาน เช่น รหัสผ่านที่อ่อนแอและบริการที่ไม่มีการยืนยันตัวตน เพื่อเข้าถึงระบบเหล่านั้น

ดังนั้นสิ่งที่น่ากังวลที่สุดในกรณีนี้จึงไม่ใช่เพียง “ความสามารถในการแฮ็ก” แต่คือความสามารถของ AI Agent ในการดำเนินการหลายขั้นตอนต่อเนื่องเมื่อได้รับเป้าหมาย

เมื่อ AI Agent สามารถใช้เครื่องมือได้ ความเสี่ยงก็เพิ่มขึ้น

AI Agent แตกต่างจาก Chatbot แบบเดิม เพราะสามารถเชื่อมต่อกับเครื่องมือและระบบภายนอกได้ เช่น Browser, Terminal, API หรือระบบฐานข้อมูล

หากระบบเหล่านี้ถูกเชื่อมต่อเข้าด้วยกันโดยไม่มีการควบคุมที่เหมาะสม AI อาจสามารถค้นหาเป้าหมาย วิเคราะห์ข้อมูล และดำเนินการต่อเนื่องโดยไม่ต้องมีมนุษย์สั่งทุกขั้นตอน

นี่คือเหตุผลที่บริษัท AI กำลังให้ความสำคัญกับการสร้าง Sandbox, Permission Control และระบบ Monitoring มากขึ้น

บทเรียนสำคัญสำหรับองค์กร

เหตุการณ์ของ Anthropic เป็นบทเรียนที่สำคัญสำหรับบริษัทที่กำลังนำ AI Agent มาใช้ในองค์กร

การให้ AI เข้าถึงระบบจริงไม่ควรพิจารณาเพียงว่าโมเดล “ฉลาดแค่ไหน” แต่ต้องพิจารณาด้วยว่า AI สามารถเข้าถึงข้อมูลและเครื่องมือใดได้บ้าง

หลักการสำคัญคือ Least Privilege หรือการให้สิทธิ์เท่าที่จำเป็น รวมถึงการแยกสภาพแวดล้อมทดสอบออกจาก Production อย่างชัดเจน

เมื่อ AI Agent มีความสามารถเพิ่มขึ้น การออกแบบระบบความปลอดภัยจึงต้องพัฒนาไปพร้อมกัน