Chatgpt แหกกรงขัง! รับบทแฮกเกอร์เจาะระบบ สร้างกระแส หรือล้มเหลวจริง?
สัปดาห์ที่ผ่านมา ถือว่าเป็นช็อกวงการเทคโนโลยี เมื่อ Hugging Face ที่เปรียบเสมือนบริษัทเจ้าใหญ่ของ AI ประกาศเมื่อวันที่ 16 กรกฎาคมที่ผ่านมาว่า โดนอาชญากรไซเบอร์รายหนึ่งใช้ AI แฮกเข้าระบบ โดยมีการรายงานตัวเลขปฏิบัติการด้วยความเร็วระดับเหนือมนุษย์ถึง 17,000 ครั้งในเวลาไม่ถึง 2 วัน เพื่อขโมยข้อมูลความลับของบริษัท
ข่าวที่เกี่ยวข้อง
ตัวการที่แท้จริงคือ ChatGPT
เป็นเวลานานหลายสัปดาห์ที่เหล่านักวิเคราะห์ และผู้เชี่ยวชาญต่างคาดเดากันว่า แฮกเกอร์ระดับชาติรายนี้อยู่เบื้องหลัง AI ค่ายไหน? และเมื่อไม่นานที่ผ่านมา แฮกเกอร์ก็เปิดเผยว่า ตนอยู่ภายใต้ ChatGPT ของ OpenAI
ทาง OpenAI จึงรีบออกมาชี้แจงว่า บอตของตนทำเรื่องนี้ขึ้นมาเองทั้งหมดโดยไม่ได้รับอนุญาตในระหว่างการทดสอบทักษะการแฮกของระบบ โดย ChatGPT 2 เวอร์ชันใหม่ที่ถูกฝึกมาให้เป็น "ยอดนักแฮก" ได้หลบหนีออกจากสภาพแวดล้อมการทดสอบที่คิดว่าปลอดภัย (Sandbox) และสามารถเข้าถึงอินเทอร์เน็ตได้สำเร็จ จากนั้นพวกมันจึงได้โจมตี Hugging Face เพื่อเข้าไปค้นหาข้อมูลที่จะช่วยให้พวกมันทำคะแนนสอบวิชาการแฮกให้ได้คะแนนดีที่สุด
นี่เป็นการตลาดสร้างกระแส หรือความล้มเหลวในการควบคุมจริง?
เหตุการณ์นี้นำไปสู่ข้อถกเถียงมากมายจากหลายฝ่ายในวงการเทคโนโลยี โดยสามารถแบ่งออกเป็น 2 ฝ่ายใหญ่ ๆ ดังนี้
ฝ่ายที่คิดว่านี่คือการตลาด
หลายคนมองว่านี่เป็นเพียง ‘แผนโปรโมทของ OpenAI’ เพื่ออวดความทรงพลังของโมเดลตนเอง (ซึ่งสอดคล้องกับแคมเปญเปิดตัวโมเดล Mythos ของ Anthropic ก่อนหน้านี้) โดยมีผู้แสดงความคิดเห็นบนโซเชียลมีเดียของแซม ออลต์แมน CEO ของ OpenAI ว่า "ถ้าพวกคุณยังไม่เข้าใจว่าข่าวนี้เขียนขึ้นมาเพื่ออวดโมเดลล้วน ๆ ฉันก็ไม่รู้จะพูดยังไงแล้ว”
ในขณะเดียวกัน ด้านแดเนียล คาร์ด ที่ปรึกษาด้านความปลอดภัยไซเบอร์ก็โพสต์ว่า “บังเอิญเหลือเกินที่จากเว็บนับล้าน ๆ OpenAI เลือกไปเจาะระบบของค่ายที่ได้ผลประโยชน์ในแง่การโฆษณาประชาสัมพันธ์ร่วมกันพอดี”
ฝ่ายที่คิดว่านี่คือความผิดพลาดที่อันตราย
ผู้เชี่ยวชาญจำนวนมากชี้ว่า ‘นี่คือสัญญาณเตือนอันตราย’ จากการประเมิน และวางแผนที่ผิดพลาดของ OpenAI พวกเขาต่างต่อว่าบริษัทที่ไม่สร้างระบบป้องกันที่แข็งแกร่งพอในการทดสอบ AI ที่ถูกฝึกเพื่อแหกคุกโดยเฉพาะ โดยโดร ซาริก จาก Pillar Security เผยว่า ระบบความปลอดภัยแบบ Sandbox เพียงอย่างเดียวไม่เพียงพอสำหรับขอบเขตความปลอดภัยของ AI แบบเอเจนต์อีกต่อไปแล้ว
ในขณะเดียวกัน ศาสตราจารย์ อลัน วูดเวิร์ด ก็เผยว่า “OpenAI กำลังเผชิญกับความอับอายขายหน้า” ส่วนเคที มูสซูริส จาก Luta Security ก็ได้มีการออกมาเตือนว่า “วงการ AI กำลังล้มเหลวในการควบคุมสิ่งประดิษฐ์ที่อันตรายของตัวเอง เพราะพวกเขาพัฒนาเทคโนโลยีที่ล้ำสมัยนี้แบบไม่มีความรู้ในการสร้างขอบเขตความปลอดภัย”
ความมุ่งมั่นทำภารกิจสู่ความกังวลภัยพิบัติทางทหาร
ก่อนหน้าเรื่องนี้จะเกิดขึ้น สถาบันความปลอดภัย AI ของสหราชอาณาจักร (AISI) เคยเปิดเผยผลวิจัยว่า โมเดล AI ระดับแนวหน้ามักมุ่งไปกับการทำภารกิจให้สำเร็จจนถึงขั้นยอม "โกง" ในการทดสอบ ซึ่งอันตรายมากถ้านำไปใช้ในกรณีที่มีความเสี่ยงสูงอย่างที่มีการนำ AI ไปใช้ในการทำสงครามสหรัฐ-อิหร่าน และสงครามรัสเซีย-ยูเครน
แม้ว่า เซียรัน มาร์ติน อดีตหัวหน้าศูนย์ความปลอดภัยไซเบอร์แห่งชาติของสหราชอาณาจักรจะมองว่า ยังเร็วเกินไปที่จะคิดว่า AI จะเข้าควบคุมโดรน และเริ่มฆ่าผู้คนเอง แต่เขาก็ยอมรับว่า ‘นี่คือสัญญาณชัดเจนว่าเอเจนต์ AI ในปี 2569 กลายเป็นแฮกเกอร์ที่เก่งมาก’ และเป็นเรื่องที่เราต้องเตรียมรับมือด่วน ส่งผลให้ตอนนี้เริ่มมีฝ่ายนิติบัญญัติผลักดันร่างกฎหมายเพื่อให้รัฐบาลสหรัฐฯ มีสิทธิ์สั่งปิดโมเดล AI ที่คุกคามสาธารณชน (AI kill switch) แล้ว
