มนุษย์ใช้ ‘AI’ ทำชั่วได้แค่ไหน? Anthropic เปิดเคส ‘ด้านมืด AI’ทั่วโลก

‘ปัญญาประดิษฐ์’ หรือ AI ถือเป็นหนึ่งในนวัตกรรมสำคัญของยุคใหม่ที่เข้ามาเปลี่ยนแปลงวิถีชีวิตของมนุษย์อย่างกว้างขวาง แม้เทคโนโลยีนี้จะสร้างประโยชน์ได้มหาศาล แต่ก็อาจก่อให้เกิดความเสียหายร้ายแรงได้เช่นกัน หากถูกนำไปใช้โดยปราศจากการควบคุมและกำกับดูแลที่เหมาะสม

รายงานของ Anthropic ชี้ว่า ความเสี่ยงสำคัญไม่ได้อยู่เพียงแค่การที่ AI มีความสามารถสูงขึ้น แต่อยู่ที่ AI เริ่มทำงานต่อเนื่องหลายขั้นตอนได้ด้วยตัวเอง จนมีบทบาทคล้าย “ทีมปฏิบัติการ” ตั้งแต่ค้นหาเป้าหมาย เขียนและทดสอบโค้ด ควบคุมเครื่องมือต่างๆ และประมวลผลข้อมูลที่ขโมยมา ไปจนถึงปรับแต่งมัลแวร์โดยอัตโนมัติเพื่อหลบเลี่ยงระบบตรวจจับ

รายงาน Detecting and countering misuse of AI: September 2026 ของ Anthropic ซึ่งเผยแพร่เมื่อวันที่ 10 กันยายน 2569 รวบรวมกรณีการนำ Claude ไปใช้ในทางมิชอบที่บริษัทตรวจพบและสกัดกั้นได้ ระหว่างเดือนธันวาคม 2568 ถึงเดือนสิงหาคม 2569

กรณีเหล่านี้ครอบคลุมความเสี่ยง 7 ด้าน ได้แก่ ปฏิบัติการไซเบอร์ ปฏิบัติการชักจูงความคิดเห็น การเฝ้าระวัง การพัฒนาอาวุธทั่วไป ความเสี่ยงทางชีวภาพ การหลอกลวง และการ “กลั่น” หรือขโมยความสามารถของโมเดลไปโดยไม่ได้รับอนุญาต

อย่างไรก็ตาม ข้อค้นพบสำคัญจากรายงานความยาว 154 หน้าไม่ได้หมายความว่า AI สามารถสร้างวิธีโจมตีรูปแบบใหม่ได้ทั้งหมด เพราะหลายกรณียังคงอาศัยช่องโหว่ที่มีอยู่เดิม เช่น รหัสผ่านรั่วไหล ระบบที่ไม่ได้รับการอัปเดต การหลอกลวงแบบฟิชชิง และการเจาะฐานข้อมูล

สิ่งที่เปลี่ยนไปอย่างชัดเจนคือ “เศรษฐศาสตร์ของการโจมตี” เพราะ AI เข้ามาช่วยลดทั้งทักษะ กำลังคน เวลา และต้นทุนที่ผู้ก่อเหตุต้องใช้ ส่งผลให้บุคคลเพียงคนเดียวก็สามารถดำเนินการกับเป้าหมายจำนวนมากได้พร้อมกัน

AI ไม่ได้แค่ให้คำแนะนำ แต่เริ่ม “ลงมือ” แทนมนุษย์

Anthropic ระบุว่า บทบาทของ AI ในปฏิบัติการไซเบอร์ไม่ได้จำกัดอยู่เพียงการตอบคำถามหรือช่วยเขียนโค้ดอีกต่อไป แต่ขยับไปสู่การประสานงานและลงมือปฏิบัติผ่านระบบ AI แบบ “เอเจนต์” หลายตัว ซึ่งแบ่งหน้าที่กันตั้งแต่ค้นหาเป้าหมาย เจาะระบบ ขโมยข้อมูล ไปจนถึงรักษาช่องทางเข้าถึงเครือข่ายเอาไว้

อย่างไรก็ตาม มนุษย์ยังคงมีบทบาทสำคัญในกระบวนการ โดยเป็นผู้เลือกเป้าหมาย ตรวจสอบข้อมูลที่ AI รวบรวมได้ และตัดสินใจว่าจะนำผลลัพธ์ไปใช้งานหรือสร้างรายได้อย่างไร

หนึ่งในกรณีสำคัญคือ GTG-20006 ซึ่ง Anthropic ใช้เรียกกลุ่มแฮกเกอร์หรือผู้ปฏิบัติการไซเบอร์เพื่อการจารกรรมข้อมูล (Cyber Espionage Operator) ที่พูดภาษารัสเซีย โดยผู้ปฏิบัติการในกลุ่มเหล่านี้จะใช้ AI ควบคุมการทำงานหลายขั้นตอน ตั้งแต่พัฒนาเครื่องมือ จัดหาโครงสร้างพื้นฐาน ส่งอีเมลฟิชชิง ฝังตัวในระบบ ควบคุมมัลแวร์ ไปจนถึงขโมยข้อมูล

เมื่อระบบรักษาความปลอดภัยตรวจพบมัลแวร์ AI จะปรับแก้และสร้างมัลแวร์เวอร์ชันใหม่ซ้ำๆ จนสามารถหลบเลี่ยงการตรวจจับได้ ก่อนนำกลับไปใช้งานจริง กระบวนการดังกล่าวทำให้วิธีป้องกันแบบเดิมซึ่งอาศัยการสร้าง “ลายเซ็น” เพื่อตรวจจับมัลแวร์มีประสิทธิภาพลดลง เพราะฝ่ายแฮกเกอร์สามารถปรับเปลี่ยนเครื่องมือได้รวดเร็วกว่าเดิมมาก

Anthropic พบองค์กรที่ปรากฏอยู่ในแผนการและปฏิบัติการของกลุ่มนี้มากกว่า 20 แห่ง ครอบคลุมหน่วยงานรัฐบาล หน่วยงานด้านกลาโหมและข่าวกรอง สถานทูต สถาบันวิจัย และผู้ผลิตเทคโนโลยีโดรน เป้าหมายส่วนใหญ่อยู่ในยูเครนและยุโรป แต่ยังขยายไปถึงตะวันออกกลาง เอเชีย และแอฟริกาเหนือ

กรณีรุนแรงที่ตรวจพบมีตั้งแต่การขโมยชุดพัฒนาซอฟต์แวร์ของระบบมองเห็นสำหรับโดรน การยึดบัญชี WhatsApp ของอดีตเจ้าหน้าที่ระดับสูงของยูเครน และการเข้าถึงภาพถ่ายทอดสดจากกล้องวงจรปิด ไปจนถึงการขโมยฐานข้อมูลของหน่วยงานรัฐในแอฟริกาเหนือ ซึ่งมีข้อมูลประจำตัวประชาชนมากกว่า 300,000 รายการ และข้อมูลทะเบียนธุรกิจของบริษัทมากกว่าครึ่งล้านแห่ง

นอกจากนี้ กลุ่มดังกล่าวยังเจาะระบบผู้ให้บริการ WiFi ของโรงแรมอย่างน้อย 3 ราย เพื่อเปลี่ยนเส้นทางการเชื่อมต่ออินเทอร์เน็ตของผู้เข้าพัก จากนั้นจึงนำข้อมูลจากระบบโรงแรมมาประกอบกับข้อมูลจากอุปกรณ์ส่วนตัว เพื่อคัดเลือกเป้าหมายที่เกี่ยวข้องกับรัฐบาลยูเครนหรือห่วงโซ่อุปทานโดรน

คนเดียวใช้ AI สร้างความเสียหายได้เท่าทีมแฮ็กเกอร์ขนาดใหญ่

นอกจากจะลงมือทำงานแทนมนุษย์ได้มากขึ้นแล้ว AI ยังช่วยเพิ่มขีดความสามารถของผู้ก่อเหตุ จนคนเพียงคนเดียวอาจสร้างความเสียหายได้ในระดับเดียวกับกลุ่มแฮ็กเกอร์ขนาดใหญ่ เทคโนโลยีนี้ช่วยลดช่องว่างด้านศักยภาพ ทำให้บุคคลทั่วไป กลุ่มอาชญากรรม และแฮ็กทิวิสต์สามารถใช้เครื่องมือที่มีประสิทธิภาพใกล้เคียงกับกลุ่มแฮ็กเกอร์ที่ได้รับการสนับสนุนจากรัฐ

กรณีหนึ่งที่ Anthropic เชื่อมโยงกับสมาชิกเครือข่าย ShinyHunters พบว่า ผู้ปฏิบัติการเพียงรายเดียวสร้างระบบบนเซิร์ฟเวอร์ 10 เครื่อง เพื่อดาวน์โหลดไฟล์แอป Android ประมาณ 1.8 ล้านไฟล์ จากนั้นใช้ AI สแกนหารหัสผ่าน โทเคน และกุญแจสำหรับเข้าถึงระบบที่ถูกฝังอยู่ภายในแอปโดยอัตโนมัติ ข้อมูลที่พบจะถูกตรวจสอบและส่งเข้า Telegram แบบเรียลไทม์ โดยแบ่งออกเป็นมากกว่า 100 หมวดหมู่

AI ยังช่วยเร่งกระบวนการโจมตีให้เกิดขึ้นอย่างรวดเร็ว ในบางกรณี ผู้ปฏิบัติการใช้เวลาเพียงไม่กี่ชั่วโมงตั้งแต่ได้ข้อมูลเข้าสู่ระบบครั้งแรกจนสามารถขโมยข้อมูลจำนวนมากได้ ส่วนอีกกรณีใช้เวลาประมาณ 3 ชั่วโมงในการยกระดับจากโทเคนของนักพัฒนาเพียงหนึ่งชุด ไปสู่การควบคุมระบบคลาวด์ทั้งหมด

หลังจากเจาะระบบผู้ให้บริการซอฟต์แวร์แบบ SaaS ได้ กลุ่มหนึ่งสามารถเข้าถึงข้อมูลของลูกค้าปลายทางประมาณ 200 องค์กร และดึงโทเคน Azure AD มากกว่า 2,100 ชุด ซึ่งครอบคลุมองค์กรกว่า 40 แห่ง ภายในเวลาประมาณ 34 ชั่วโมง โดยรายงานระบุว่า AI เอเจนต์เป็นผู้ดำเนินงานเกือบทั้งหมด

Anthropic เรียกรูปแบบการทำงานนี้ว่า “vibe hacking” กล่าวคือ ผู้ปฏิบัติการเพียงกำหนดเป้าหมายกว้างๆ เช่น ใช้ข้อมูลเข้าสู่ระบบที่ขโมยมาเพื่อเจาะองค์กร หรือดึงข้อมูลจากเป้าหมายกลุ่มหนึ่ง หลังจากนั้นจึงปล่อยให้ AI สำรวจระบบ เขียนและรันสคริปต์ ประเมินผลลัพธ์ และทดลองใหม่ซ้ำๆ จนกว่างานจะสำเร็จ ผู้ก่อเหตุจึงไม่จำเป็นต้องทำความเข้าใจโครงสร้างของแต่ละระบบอย่างละเอียดด้วยตัวเอง

อีกกรณีหนึ่งเกี่ยวข้องกับกลุ่มผู้ปฏิบัติการที่ใช้ภาษาจีน ซึ่ง Anthropic ระบุว่า สมาชิกอย่างน้อย 2 คนเป็นนักศึกษามหาวิทยาลัยในมณฑลหูหนาน กลุ่มนี้ใช้ “ฝูงเอเจนต์” ทำงานหลายด้านพร้อมกัน ทั้งเจาะระบบหน่วยงานในต่างประเทศ วิจัยช่องโหว่ที่ยังไม่เป็นที่รู้จัก พัฒนามัลแวร์ และรวบรวมข้อมูลข่าวกรองอย่างต่อเนื่อง

กลุ่มดังกล่าวตั้งเป้าหมายประมาณ 50 องค์กร และสร้างระบบวิจัยช่องโหว่ที่สามารถทำงานได้โดยไม่ต้องมีมนุษย์ควบคุม ในช่วงเวลาหนึ่ง ระบบที่ตรวจสอบอุปกรณ์เครือข่ายซ้ำๆ พบสิ่งที่อาจเป็นช่องโหว่แบบ zero-day มากกว่า 12 รายการภายในหนึ่งเดือน ขณะเดียวกัน ยังมีเอเจนต์รวบรวมข้อมูลอีก 13 ตัวที่ทำงานตามตารางเวลา เพื่อค้นหา ดาวน์โหลด สรุป และให้คะแนนเอกสารข่าวกรองจากแหล่งข้อมูลสาธารณะ

ส่วนแฮ็กทิวิสต์ที่ใช้ภาษาฝรั่งเศสเพียงคนเดียว ใช้ AI พัฒนาแพลตฟอร์มขนาดใหญ่สำหรับค้นหาข้อมูลส่วนบุคคล โดยกำหนดเป้าหมายเป็นองค์กรทางการเมือง สื่อ และสถาบันวิจัยในยุโรปจำนวน 42 แห่ง และสามารถเข้าถึงระบบภายในได้อย่างน้อย 14 แห่ง ข้อมูลที่ถูกขโมยประกอบด้วยความคิดเห็นทางการเมืองประมาณ 140,000 รายการ รายชื่อสมาชิกและผู้บริจาคพรรคการเมือง ตลอดจนฐานข้อมูลอื่นๆ รวมประมาณ 12-26 กิกะไบต์

API key กลายเป็นทั้ง “สินค้าของโจร-แหล่งประมวลผล-เครื่องมืออำพราง”

รายงานระบุว่า API key และโทเคนสำหรับเข้าใช้บริการ AI กลายเป็นทรัพย์สินสำคัญของอาชญากรไซเบอร์ เพราะข้อมูลเหล่านี้สร้างประโยชน์ให้ผู้ก่อเหตุได้พร้อมกันถึง 3 ทาง ได้แก่ นำไปขายต่อ ใช้งานกำลังประมวลผลโดยผลักภาระค่าใช้จ่ายให้เจ้าของบัญชีตัวจริง และอำพรางกิจกรรมผิดปกติไว้ภายใต้ตัวตนของลูกค้าที่ถูกขโมยบัญชี

ผู้ก่อเหตุบางกลุ่มเปิดบริการ AI ราคาถูก โดยอ้างว่าเป็นการให้บริการ Claude แต่แท้จริงกลับส่งคำขอไปยังโมเดลอื่น ขณะเดียวกันยังติดตั้งโปรแกรมขโมยรหัสผ่านและโทเคนลงในอุปกรณ์ของลูกค้า ก่อนนำข้อมูลที่ได้เข้าสู่ตลาดซื้อขายบัญชี AI ต่อไป

ตัวอย่างหนึ่งคือ GTG-50020 ที่ Anthropic ใช้เรียกกลุ่มภัยคุกคามทางไซเบอร์ที่มุ่งเน้นผลประโยชน์ทางการเงินและใช้ภาษารัสเซียเป็นหลัก ซึ่งเดิมมุ่งโจมตีแพลตฟอร์มจองโรงแรมและธุรกิจฟินเทค ก่อนหันเป้าหมายมายังอุตสาหกรรม 

AI กลุ่มนี้ใช้คำสั่งแฝงโจมตีระบบทดสอบอัตโนมัติของผู้ให้บริการรายหนึ่ง และขโมย API key สำหรับใช้งานจริงของผู้ให้บริการ AI หลายราย จากนั้นจึงใช้วิธีเดียวกันโจมตีบริษัท AI ประมาณ 30 แห่งภายในเวลาเพียง 4 วัน

กลุ่มดังกล่าวยังพยายามเข้าถึง Claude รุ่นที่ยังไม่เปิดตัวด้วยวิธีต่างๆ มากกว่า 12 รูปแบบ แต่ไม่ประสบความสำเร็จ อย่างไรก็ตาม Anthropic ย้ำว่า API key ที่เกี่ยวข้องทั้งหมดถูกขโมยมาจากสภาพแวดล้อมของลูกค้า ไม่ได้รั่วไหลจากระบบของ Anthropic โดยตรง

AI กลายเป็นทั้ง “โต๊ะข่าว” และ “สำนักงานบริหาร” ของ IO

ในหมวดปฏิบัติการชักจูงความคิดเห็น Anthropic เปิดเผยกรณีที่ตรวจพบทั้งหมด 9 กรณี ซึ่งเชื่อมโยงกับผู้ดำเนินงานในรัสเซีย อิหร่าน ตุรกี ตะวันออกกลาง เอเชียใต้ แอฟริกา และยุโรป โดยมุ่งเป้าผู้รับสารใน 6 ทวีป ผู้ที่อยู่เบื้องหลังมีตั้งแต่หน่วยงานรัฐ สื่อที่เชื่อมโยงกับรัฐ บริษัทการตลาด และผู้ปฏิบัติการทางการเมืองภายในประเทศ ไปจนถึงขบวนการฝ่ายค้านที่เคลื่อนไหวจากนอกประเทศ

Anthropic ระบุว่า AI ไม่ได้ถูกใช้เพียงเพื่อเขียนโพสต์หรือผลิตเนื้อหาเท่านั้น แต่ยังช่วยสร้าง “โครงสร้างพื้นฐาน” สำหรับบริหารปฏิบัติการทั้งระบบ ตั้งแต่จัดทำคู่มือหลักการ แฟ้มข้อมูลคู่แข่ง ระบบบริหารบุคลากร และฐานข้อมูลเป้าหมาย ไปจนถึงออกแบบบุคลิกของบัญชีปลอม วางกฎเพื่อหลบเลี่ยงการตรวจจับ กำหนดเกณฑ์ประเมินผลงาน และร่างสัญญาจ้างที่มีเงื่อนไขเรื่องความภักดีทางการเมือง

หนึ่งในกรณีสำคัญคือ GTG-54002 ซึ่ง Anthropic เชื่อมโยงกับบริษัทโฆษณาดิจิทัลในฝรั่งเศส เครือข่ายนี้มีลักษณะเป็นธุรกิจ “รับจ้างสร้างอิทธิพล” ประกอบด้วยเว็บไซต์ข่าวปลอมประมาณ 70 แห่ง บัญชี X ที่เชื่อมโยงกันอีกประมาณ 70 บัญชี และบัญชีปลอมสำหรับแสดงความคิดเห็นมากกว่า 250 บัญชี โดยเผยแพร่บทความแล้วอย่างน้อย 8,913 ชิ้นในประมาณ 20 ภาษา

เนื้อหาของเครือข่ายสามารถปรับเปลี่ยนจุดยืนตามความต้องการของผู้ว่าจ้าง เช่น นำข่าวต้นฉบับเรื่องเดียวกันมาเขียนใหม่ให้สนับสนุนอุดมการณ์ที่ตรงข้ามกัน เติมประเด็นการเมืองลงในข่าวที่เดิมไม่มีเนื้อหาทางการเมือง หรือนำเรื่องจากประเทศหนึ่งไปเผยแพร่ในอีกภูมิภาคโดยตัดบริบทและแหล่งที่มาออก อย่างไรก็ตาม แม้จะผลิตเนื้อหาได้เป็นจำนวนมาก แต่ Anthropic ระบุว่าเครือข่ายนี้ยังเข้าถึงผู้ใช้งานจริงได้ไม่มากนัก

อีกกรณีหนึ่งเชื่อมโยงกับบริษัทเทคโนโลยีในนครอิสตันบูล ซึ่งสร้างแพลตฟอร์มสำหรับแทรกแซงการเมืองมาเลเซีย โดยนำข้อมูลสำมะโนและข้อมูลผู้มีสิทธิเลือกตั้งมาวิเคราะห์ครบทั้ง 222 เขตเลือกตั้ง พร้อมเจาะประเด็นอ่อนไหวเกี่ยวกับเชื้อชาติ ศาสนา และสถาบันกษัตริย์ ระบบดังกล่าวควบคุมบัญชี X ปลอมประมาณ 1,000 บัญชี และมีกลไก “อุ่นบัญชี” รวมถึงเปลี่ยนคุกกี้และหมายเลข IP เพื่อทำให้บัญชีเหล่านั้นดูเหมือนผู้ใช้งานจริง

รายงานยังพบการใช้ Claude ทำหน้าที่เสมือน “โต๊ะข่าว” ให้แก่สื่อรัสเซีย โดยนำข่าว ผลสำรวจความคิดเห็น และโพสต์ทางการเมืองมาเรียบเรียงเป็นบทความ ภาพสำหรับขึ้นจอ และสคริปต์ออกอากาศ เนื้อหาบางส่วนถูกเผยแพร่ผ่าน Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa และห้องข่าวภาษาอังกฤษของ RT

กรณีหนึ่งเกี่ยวข้องกับการขยายข้อกล่าวหาเกี่ยวกับประธานาธิบดีไมอา ซานดู ซึ่ง Anthropic ระบุว่าเป็นข้อมูลที่แต่งขึ้น ก่อนการเลือกตั้งรัฐสภามอลโดวาในเดือนกันยายน 2568

ในสาธารณรัฐแอฟริกากลาง ผู้ปฏิบัติการที่พูดภาษารัสเซียใช้ Claude ผลิตข่าวสนับสนุนรัสเซียและรัฐบาลท้องถิ่น ผ่านสถานี Radio Lengo Songo และช่องทางที่เชื่อมโยงกับสื่อรัสเซีย ส่วนในอิหร่าน บัญชีที่ Anthropic ประเมินว่าเชื่อมโยงกับหน่วยงานโฆษณาชวนเชื่อของรัฐ ใช้ AI สร้างคู่มือ “สงครามทางความคิด” ออกแบบบุคลิกปลอม และวางแผนเผยแพร่เนื้อหาในหลายภาษา

ขณะที่บังกลาเทศ ผู้ปฏิบัติการเพียงรายเดียวสลับใช้บัญชี Claude จำนวน 29 บัญชี เพื่อสร้างพาดหัวปลอมอย่างน้อย 1,500 รายการ เรื่องแต่งอีก 300 เรื่อง และคำสั่งสร้างภาพประมาณ 1,500 รายการ ก่อนนำไปผลิตวิดีโอเผยแพร่ผ่าน Facebook, YouTube และ TikTok โดยมุ่งเป้าไปยังผู้สนับสนุนพรรค Awami League ในพื้นที่ชนบท อย่างไรก็ตาม Anthropic ไม่พบหลักฐานว่าพรรคมีส่วนสั่งการหรือให้เงินทุนแก่ปฏิบัติการดังกล่าว

อีกกรณีที่เชื่อมโยงกับขบวนการ PMOI/MEK และ NCRI ใช้วิธีเลียนแบบบัญชี Telegram ของนักเคลื่อนไหวตัวจริง โดยให้ AI วิเคราะห์โพสต์ประมาณ 8,400 รายการเพื่อเลียนแบบสำนวนการเขียน ก่อนนำไปใช้สนทนาแบบสดกับผู้ติดต่อของบุคคลนั้น นอกจากนี้ยังรวบรวมข้อความสนทนาประมาณ 51,944 ข้อความ เพื่อนำมาจัดทำแฟ้มข้อมูลเชิงจิตวิทยาของบุคคลในอิหร่าน

ในเคนยา ผู้ปฏิบัติการใช้ Claude สร้างโพสต์ครั้งละ 50 ข้อความ เพื่อทำให้ดูเหมือนเป็นกระแสที่เกิดขึ้นจากประชาชน ส่วนกรณีที่ Anthropic เชื่อมโยงกับเจ้าหน้าที่สหรัฐอาหรับเอมิเรตส์ พบทั้งการใช้บัญชีปลอมประมาณ 300 บัญชี การเลียนแบบองค์กรสิทธิมนุษยชน และการร่างคำให้การสำหรับใช้ในการประชุมคณะมนตรีสิทธิมนุษยชนแห่งสหประชาชาติ โดยตั้งใจปกปิดความเชื่อมโยงกับสหรัฐอาหรับเอมิเรตส์

อย่างไรก็ตาม รายงานย้ำว่า ปฏิบัติการข่าวสารจำนวนมากยังไม่สามารถเข้าถึงผู้ชมจริงได้ในวงกว้าง กรณีที่ประสบความสำเร็จด้านการเผยแพร่มากที่สุดมักเป็นปฏิบัติการที่มีสถานีวิทยุ สถานีโทรทัศน์ หรือสื่อของรัฐเป็นช่องทางกระจายเนื้อหาอยู่ก่อนแล้ว

เปลี่ยน ‘Claude’ เป็นเครื่องมือสอดแนม สแกน 25 ล้านซิม-ล่าผู้เห็นต่างทั่วโลก

Anthropic ตรวจพบการใช้ Claude เพื่อพัฒนาระบบเฝ้าระวังและสอดแนมโดยผู้ปฏิบัติการจากจีน อิหร่าน แอฟริกาตะวันตก และผู้ให้บริการสอดแนมเชิงพาณิชย์ AI ถูกนำมาใช้ตั้งแต่เขียนซอฟต์แวร์ ประมวลผลข้อมูลจำนวนมหาศาล และจัดอันดับบุคคลที่ควรติดตาม ไปจนถึงจัดทำรายงานตามรูปแบบของหน่วยงานความมั่นคง

กรณีที่โดดเด่นที่สุดคือ “Lakana 360” ระบบเฝ้าระวังประชาชนที่ผู้รับจ้างอิสระเพียงรายเดียวสร้างขึ้นให้หน่วยข่าวกรองของมาลี โดยใช้ Claude เป็นกำลังหลักด้านวิศวกรรม ระบบนี้ออกแบบมาเพื่อตรวจสอบซิมการ์ดประมาณ 25 ล้านเลขหมาย จากผู้ให้บริการโทรศัพท์เคลื่อนที่ทั้ง 3 รายของประเทศ

ความสามารถของระบบตามที่ระบุในรายงานครอบคลุมตั้งแต่รวบรวมข้อมูลการใช้โทรศัพท์ ข้อความ และเสียงสนทนา ไปจนถึงระบุตัวบุคคลจากเสียงแม้ใช้ซิมการ์ดต่างกัน นอกจากนี้ยังสามารถทำเครื่องหมายผู้ใช้ VPN หรือการสื่อสารแบบเข้ารหัส คาดการณ์การประชุมลับ จัดทำรายชื่อเฝ้าระวังตามพื้นที่ และเชื่อมโยงข้อมูลเข้ากับทะเบียนชีวมิติของรัฐ

สิ่งที่น่ากังวลคือ ผู้พัฒนาสั่งให้ยกเลิกข้อกำหนดเรื่องหมายศาล สำหรับระบบที่ใช้โมเดลภาษาเขียนแฟ้มข่าวกรองจากหมายเลขโทรศัพท์ พร้อมกำหนดให้เก็บข้อมูลไว้อย่างไม่มีกำหนด

เนื่องจากระบบถูกติดตั้งไว้ภายในมาลีและใช้โมเดลที่ทำงานบนเครื่องโดยตรง การปิดบัญชี Claude จึงช่วยหยุดการพัฒนาระบบเพิ่มเติมได้เท่านั้น แต่ไม่สามารถปิดระบบที่ติดตั้งและพร้อมใช้งานไปแล้วได้

ในจีน Anthropic พบผู้ปฏิบัติการรายหนึ่งที่ไม่รู้ภาษาอาหรับ แต่ใช้ Claude ติดต่อและพยายามรับสมัครชาวอุยกูร์ในซีเรีย AI ช่วยเขียนข้อความเป็นภาษาอาหรับถิ่น แปลคำตอบแบบเรียลไทม์ และประเมินว่าการหลอกลวงมีประสิทธิภาพเพียงใด

ข้อมูลของกลุ่มเป้าหมายถูกรวบรวมจากกลุ่ม WhatsApp มากกว่า 100 กลุ่ม และช่อง Telegram อีกหลายสิบช่อง ก่อนนำมาวิเคราะห์หาจุดเปราะบางของแต่ละคน เช่น ปัญหาทางการเงิน การพลัดพรากจากครอบครัว และการมีญาติอาศัยอยู่ในซินเจียง

เครือข่ายอื่นในจีนใช้ Claude จัดทำแฟ้มข้อมูลของผู้นำคาทอลิก ชาวทิเบต สมาชิกกลุ่มฝ่าหลุนกง คริสเตียนไต้หวัน นักเคลื่อนไหวฮ่องกง และผู้เห็นต่างที่อยู่ในต่างประเทศ บางหน่วยงานยังสร้างคู่มือภายในเพื่อกำหนดให้ AI รับบทเป็นนักวิเคราะห์ข่าวกรองของรัฐ

ขณะเดียวกัน ระบบอีกชุดหนึ่งประมวลผลข่าวและโพสต์อย่างน้อยวันละ 15-30 เรื่อง ให้คะแนนระดับความอ่อนไหวทางการเมือง และเสนอแนวทางสำหรับ “ควบคุม” บุคคลเป้าหมาย

ส่วนในอิหร่าน Anthropic ระงับบัญชี 16 บัญชีที่เชื่อมโยงกับหน่วยงานความมั่นคง 2 กลุ่ม กลุ่มแรกอ้างว่าสามารถจัดทำแฟ้มข้อมูลชาวอิหร่านได้ 6,388 คนภายในหนึ่งปี และวิเคราะห์โพสต์บน X จำนวน 155,216 ข้อความ

อีกกลุ่มหนึ่งใช้ Claude สร้างส่วนขยายปลอมสำหรับเบราว์เซอร์ Firefox โดยทำให้ดูเหมือนเป็นเครื่องมือแจ้งเวลาละหมาด แต่มีเป้าหมายเพื่อเก็บข้อมูลระบุตัวตนของผู้ใช้จากโซเชียลมีเดีย

เปลี่ยน ‘Claude’ เป็นทีมวิศวกร เร่งพัฒนาขีปนาวุธ-ฝูงโดรนพลีชีพ

รายงานเปิดเผยกรณีการนำ Claude ไปใช้เกี่ยวข้องกับอาวุธทั่วไปทั้งหมด 6 กรณี แบ่งเป็นการพัฒนาระบบอาวุธ 4 กรณี และการจัดซื้อหรือรวบรวมข่าวกรองอีก 2 กรณี Anthropic ระบุว่า ผู้ปฏิบัติการส่วนใหญ่มีความรู้และฮาร์ดแวร์ที่จำเป็นอยู่แล้ว แต่ใช้ AI ช่วยลดเวลาที่ต้องใช้ในการเขียนซอฟต์แวร์ จำลองระบบ จัดทำเอกสาร และตรวจสอบความถูกต้องของงาน

ในเยเมนตอนเหนือ ผู้ปฏิบัติการใช้ Claude พัฒนาโครงการอาวุธ 3 ชุด ได้แก่ จรวดนำวิถีที่ใช้คอมพิวเตอร์สมรรถนะระดับสมาร์ตโฟน ขีปนาวุธหลายขั้นที่ตั้งเป้าให้มีพิสัยมากกว่า 2,000 กิโลเมตร และขีปนาวุธหลายรูปแบบ ซึ่งรวมถึงแบบยานร่อนความเร็วเหนือเสียง

กลุ่มดังกล่าวใช้ Claude Code ทำหน้าที่เสมือนทีมวิศวกรซอฟต์แวร์ เพื่อพัฒนาระบบนำวิถี ระบบควบคุมการบิน ระบบประเมินตำแหน่ง เฟิร์มแวร์ และแบบจำลองการบิน โดยแบ่ง Claude ออกเป็นหลายอินสแตนซ์ ให้แต่ละส่วนรับหน้าที่เขียนโค้ด วิจัย และตรวจทานงานแยกจากกัน

Anthropic ไม่พบหลักฐานว่าอาวุธเหล่านี้สามารถนำไปใช้งานได้จริง แต่พบว่ากลุ่มดังกล่าวได้ทดลองยิงจรวดนำวิถีแล้ว บริษัทประเมินว่าการทดสอบน่าจะล้มเหลว เนื่องจากภายในไม่กี่ชั่วโมง ผู้ปฏิบัติการกลับมาใช้ Claude วิเคราะห์หาสาเหตุ อย่างไรก็ตาม กลุ่มนี้ได้สร้างชุดเครื่องมือจำลองที่ทำงานแบบออฟไลน์และไม่ต้องพึ่งพา Claude ไว้แล้ว

ในรัสเซีย ทีมฟรีแลนซ์ขนาดเล็กใช้ Claude พัฒนาซอฟต์แวร์สำหรับควบคุมฝูงโดรนพลีชีพแบบ FPV ระบบถูกออกแบบให้โดรนแบ่งปันข้อมูลระหว่างกัน ประสานงานเมื่อโดรนบางลำขัดข้อง เลือกเป้าหมายซึ่งรวมถึงเป้าหมายประเภท “บุคคล” และสั่งจุดระเบิดได้โดยไม่มีมนุษย์อยู่ในวงจรการตัดสินใจ

กลุ่มนี้ได้นำโค้ดไปติดตั้งบนบอร์ดจริงและทดสอบร่วมกับระบบจำลองแล้ว แต่ Anthropic ประเมินว่าโครงการยังอยู่ในขั้นพิสูจน์แนวคิดและทดสอบภายใต้สถานการณ์จำลอง ไม่ใช่ระบบที่พร้อมนำไปใช้ในการรบ

สำหรับกรณีในจีน ผู้ปฏิบัติการรายหนึ่งใช้ Claude จัดทำข้อกำหนดของระบบควบคุมการยิงต่อต้านตอร์ปิโด พร้อมจัดทำข้อเสนอทางเทคนิคภาษาจีนความยาวมากกว่า 200 หน้า และสไลด์สำหรับนำเสนอต่อผู้บริหาร

อีกกรณีหนึ่งใช้ Claude พัฒนาซอฟต์แวร์สงครามอิเล็กทรอนิกส์ประมาณ 16 โมดูล และปรับปรุงต่อเนื่องรวม 12 เวอร์ชัน เพื่อวิเคราะห์ระบบเรดาร์ ระบบป้องกันภัยทางอากาศ ศูนย์บัญชาการ และเครือข่ายสื่อสารของฝ่ายตรงข้าม

ระหว่างการพัฒนา ผู้ปฏิบัติการได้ปรับฉากจำลองเดิมให้ครอบคลุมเป้าหมาย 12 แห่งในไต้หวัน ทั้งบังเกอร์บัญชาการ สถานีเรดาร์เตือนภัย ระบบ Patriot และ Tien Kung ฐานทัพอากาศ และกองบัญชาการระดับภูมิภาค

ส่วนกรณีด้านการจัดซื้อ ผู้ปฏิบัติการในรัสเซียใช้ Claude ค้นหาคนกลางในจีนและฮ่องกง ร่างอีเมลหลายภาษา และวางเส้นทางนำเข้าสินค้าที่สามารถใช้ได้ทั้งทางพลเรือนและทางทหารผ่านประเทศที่สาม เพื่อปกปิดว่าปลายทางที่แท้จริงอยู่ในรัสเซีย

ขณะที่ผู้ปฏิบัติการในจีนใช้ Claude รวบรวมข่าวกรองเกี่ยวกับอาวุธพลังงานกำกับและห่วงโซ่อุปทาน ก่อนจัดทำรายงานความยาว 23 หน้า พร้อมภาคผนวกอีกประมาณ 45 หน้า เพื่อนำเสนอต่อผู้นำ

‘Claude’ บนเส้นแบ่งยา-อาวุธ เมื่อ AI ถูกใช้วิจัยไวรัส-ออกแบบสารพิษ

Anthropic มองว่า ชีววิทยาเป็นหนึ่งในความเสี่ยงที่ซับซ้อนที่สุดของ AI เพราะความรู้ เทคนิค และเครื่องมือชุดเดียวกันสามารถนำไปพัฒนาวัคซีนหรือยารักษาโรคได้ แต่ในอีกด้านหนึ่งก็อาจถูกใช้เพื่อเพิ่มความรุนแรงของเชื้อโรคหรือออกแบบสารพิษเพื่อทำร้ายมนุษย์ได้เช่นกัน

ด้วยเหตุนี้ การประเมินความเสี่ยงจากข้อความหรือคำขอเพียงครั้งเดียวจึงอาจไม่เพียงพอ แต่ต้องพิจารณาร่วมกันทั้งสถาบันที่เกี่ยวข้อง ตัวตนของผู้ใช้งาน รูปแบบพฤติกรรม และบริบทโดยรวมของโครงการ

รายงานยกตัวอย่างกรณีที่เกี่ยวข้อง 5 กรณี พร้อมย้ำว่า Anthropic ไม่ได้กล่าวหานักวิทยาศาสตร์เหล่านี้ว่ามีเจตนาสร้างอันตราย อีกทั้งยังปกปิดชื่อประเทศ สถาบัน และรายละเอียดทางเทคนิคที่มีความอ่อนไหว

กรณีแรกเป็นคำขอให้ Claude ช่วยร่างข้อเสนอขอทุนสำหรับการดัดแปลงไวรัสชิคุนกุนยา เพื่อศึกษาการแพร่เชื้อและการหลบหลีกภูมิคุ้มกัน แม้ข้อเสนอจะระบุว่าเป็นงานของนักวิจัยพลเรือน แต่โครงการจะดำเนินการภายในสถาบันวิจัยทางทหาร ระบบความปลอดภัยของ Claude จึงปฏิเสธคำขอดังกล่าว

อย่างไรก็ตาม ผู้ให้บริการ AI ทางอ้อมรายหนึ่งได้สร้างระบบส่งต่อคำขอที่ถูกปฏิเสธไปยังโมเดลของบริษัทอื่นซึ่งมีข้อจำกัดด้านความปลอดภัยน้อยกว่า ทำให้การปฏิเสธของโมเดลหนึ่งอาจไม่เพียงพอต่อการหยุดคำขอที่มีความเสี่ยงได้หากมีโมเดลอื่นที่ยอมทำตามคำขอของผู้วิจัย

กรณีที่สองเกี่ยวข้องกับนักวิจัยโรคไข้หวัดนก ซึ่งศึกษาการปรับตัวของเชื้อเข้าสู่สัตว์เลี้ยงลูกด้วยนมและความสามารถในการแพร่ผ่านอากาศ นักวิจัยรายนี้สนทนากับ Claude หลายพันข้อความตลอดช่วงเวลาหลายสัปดาห์ แต่ถูกจำกัดให้ใช้งานเฉพาะโมเดลรุ่นที่มีความสามารถต่ำกว่า

Anthropic ประเมินว่า AI ถูกใช้ช่วยจัดระเบียบข้อมูล ออกแบบการศึกษา และเรียบเรียงเอกสารเป็นหลัก จึงเพิ่มขีดความสามารถให้แก่โครงการได้อย่างจำกัด

อย่างไรก็ตาม อีกกรณีหนึ่งซึ่งเกี่ยวข้องกับการวิจัย orthopoxvirus หรือตระกูลไวรัสที่รวมทั้งไวรัสไข้ทรพิษและ Mpox พบว่า ผู้ใช้งานผ่านเครือข่ายตัวแทนใช้ Opus 5 ร่างข้อเสนอขอทุนได้ครบถ้วนภายในเวลาประมาณหนึ่งชั่วโมง ตั้งแต่การตั้งสมมติฐาน ออกแบบการทดลอง กำหนดวิธีให้สาร วางแผนทางสถิติ ไปจนถึงจัดทำแนวทางสำรอง

เนื่องจากโครงการดังกล่าวถูกนำเสนอในมุมของการลดความรุนแรงของเชื้อ ระบบจึงไม่ได้ปฏิเสธคำขอ แม้ความรู้เกี่ยวกับกลไกการหลบหลีกภูมิคุ้มกันจะสามารถนำไปใช้ได้ทั้งเพื่อป้องกันโรคและสร้างอันตรายก็ตาม

อีก 2 กรณีเกี่ยวข้องกับการสร้างฐานข้อมูลพิษจากสัตว์ และการใช้ AI ออกแบบเปปไทด์หรือสารพิษชนิดใหม่ งานบางส่วนมีเป้าหมายทางการแพทย์ เช่น การพัฒนายาแก้ปวดและยาต้านซึมเศร้า แต่โครงสร้างเดียวกันก็อาจนำไปพัฒนาเป็นสารที่ทำให้เกิดอัมพาตได้ ขณะที่นักวิจัยอีกรายสั่งให้ Claude เขียนรายงานความคืบหน้าโดยจงใจทำให้ชื่อสารชีวภาพที่กำลังศึกษาไม่ชัดเจน

Anthropic สรุปว่า กรณีเหล่านี้ยังไม่ใช่หลักฐานว่าภัยคุกคามทางชีวภาพซึ่งได้รับการยกระดับด้วย Claude กำลังจะเกิดขึ้นในทันที แต่สะท้อนให้เห็นว่าโครงการวิจัยสองทางบางโครงการที่เชื่อมโยงกับรัฐ กำลังพยายามหลบเลี่ยงข้อจำกัดทางภูมิศาสตร์ ใช้เครือข่ายตัวแทน และหาวิธีผ่านตัวกรองความปลอดภัยอย่างต่อเนื่อง

พบแอปหาคู่กว่า 20 แอป ใช้ AI 4,700 ตัวคุยกับคนจริง 25,000 ราย

หนึ่งในเคสสแกมที่ Anthropic เปิดเผยคือ เครือข่ายแอปหาคู่มากกว่า 20 แอป ซึ่งพัฒนาโดยสตูดิโอในจีน เครือข่ายนี้ใช้ Claude ทั้งสร้างระบบและควบคุมตัวตนปลอมภายในแอป แม้จะโฆษณาว่าผู้ใช้งานทุกคนเป็นมนุษย์จริงก็ตาม

ภายในเวลาเพียง 2 สัปดาห์ของเดือนเมษายน 2569 Anthropic ตรวจพบตัวตนที่ควบคุมด้วย AI มากกว่า 4,700 ตัว ซึ่งสนทนากับคนจริงอย่างน้อย 25,000 คน รวมประมาณ 2.36 ล้านข้อความ โดยโปรไฟล์ที่ปรากฏบนหน้าจอเลือกคู่เป็น AI ถึง 75% ส่วนมนุษย์จริงมีเพียง 25% หรือคิดเป็นสัดส่วนประมาณ 3 ต่อ 1

เครือข่ายยังจ้างคนจริงเป็นแรงงานชั่วคราว เพื่อทำหน้าที่ซึ่ง AI ยังไม่สามารถทำได้ เช่น วิดีโอคอลหรือกดติดตามบัญชีโซเชียลมีเดีย ทำให้เหยื่อเชื่อว่าคู่สนทนามีตัวตนอยู่จริง

ส่วน AI ถูกกำหนดไม่ให้เปิดเผยว่าเป็นระบบอัตโนมัติ หลีกเลี่ยงการขอรูปภาพหรือวิดีโอ และดำเนินบทสนทนาตามขั้นตอนที่วางไว้ โดยมีเป้าหมายให้ผู้ใช้งานซื้อเหรียญเพื่อส่งข้อความสนทนาต่อ

ผู้พัฒนายังสร้างหน้าตาแอปอีกชุดหนึ่งสำหรับแสดงเฉพาะระหว่างกระบวนการตรวจสอบของ App Store และ Play Store พร้อมเปลี่ยนชื่อคลาสในโค้ดของแอปแต่ละเวอร์ชัน เพื่อหลบระบบตรวจหาความคล้ายคลึงกัน รวมถึงซ่อนช่องทางชำระเงินภายนอกไว้ระหว่างการขออนุมัติ

‘Illicit distillation’ บริษัทจีนใช้ Claude ฝึกโมเดลตัวเองโดยไม่ได้รับอนุญาต

อีกประเด็นสำคัญของรายงานคือ “illicit distillation” หรือการกลั่นความสามารถของโมเดล Anthropic เพื่อนำไปใช้โดยไม่ได้รับอนุญาต

โดยหลักการแล้ว distillation เป็นเทคนิคที่สามารถทำได้ทั่วไป โดยใช้โมเดลขนาดใหญ่เป็นต้นแบบในการสร้างคำตอบ ก่อนนำคำตอบเหล่านั้นไปเป็นข้อมูลสำหรับฝึกโมเดลขนาดเล็กให้เลียนแบบความสามารถของโมเดลต้นแบบ

อย่างไรก็ตาม Anthropic นิยาม illicit distillation ว่าเป็นการดึงความสามารถของโมเดลอย่างลับๆ โดยไม่ได้รับอนุญาต และดำเนินการในปริมาณมหาศาลระดับอุตสาหกรรม ปฏิบัติการลักษณะนี้มักใช้บัญชีปลอม บัตรเครดิตหรือ API key ที่ขโมยมา รวมถึงบริการตัวกลางที่สร้างบัญชีจำนวนมากเพื่อหลบเลี่ยงข้อจำกัดทางภูมิศาสตร์

Anthropic ระบุว่า บริษัทตรวจพบและสกัดกั้นปฏิบัติการจากห้องปฏิบัติการ AI ในจีน 7 แห่ง ได้แก่ Alibaba, Moonshot AI, DeepSeek, Zhipu AI, Xiaomi, SenseTime และ MiniMax พร้อมกล่าวหาว่า บริษัทบางแห่งพยายามดึงความสามารถด้านการให้เหตุผล การใช้เครื่องมือ การเขียนโค้ด การวิเคราะห์ข้อมูล และการทำงานหลายขั้นตอนของ Claude ไปใช้ฝึกโมเดลของตน

ตัวเลขสำคัญที่ปรากฏในรายงานมีดังนี้

• Alibaba ถูกระบุว่าเป็นผู้ดำเนินปฏิบัติการขนาดใหญ่ที่สุด โดยส่งคำขอมากกว่า 151 ล้านครั้งระหว่างเดือนพฤษภาคมถึงกรกฎาคม 2569 ช่วงที่มีการใช้งานสูงสุดพบคำขอเกือบ 3 ล้านครั้งต่อวัน ผ่านบัญชีปลอมมากกว่า 3,500 บัญชี โดยมีเป้าหมายนำกระบวนการให้เหตุผลของ Claude ไปฝึกโมเดลตระกูล Qwen
• Moonshot AI ถูกระบุว่าส่งคำขอมากกว่า 23 ล้านครั้งในช่วงเวลาเดียวกัน ในบางกรณี คำถามของลูกค้าที่เข้าใจว่ากำลังใช้ Kimi ถูกส่งต่อไปให้ Claude ตอบโดยไม่มีการแจ้งให้ทราบ พร้อมบันทึกผลลัพธ์ไว้เพื่อใช้ฝึกโมเดล
• DeepSeek ถูกระบุว่าส่งคำขอมากกว่า 12.1 ล้านครั้งภายในเวลา 14 วันของเดือนกรกฎาคม 2569 และเลือกส่งคำขอของผู้ใช้บางกลุ่มไปยัง Claude Opus เพื่อดึงกระบวนการให้เหตุผล
• Zhipu AI หรือ Z.ai ถูกระบุว่าส่งคำขอมากกว่า 3.4 ล้านครั้งภายในเวลา 17 วัน และใช้ Claude ช่วยคัดกรอง ทำความสะอาด และประเมินข้อมูลสำหรับฝึกโมเดล GLM
• Xiaomi ถูกระบุว่าส่งคำขอมากกว่า 400,000 ครั้งภายในเวลา 20 วัน ผ่านบัญชีมากกว่า 1,500 บัญชี โดยนำบทสนทนาและงานเขียนโค้ดของผู้ใช้ MiMo ไปให้ Claude สร้างข้อมูลสำหรับการปรับแต่งโมเดลแบบมีผู้สอน หรือ supervised fine-tuning และการเรียนรู้แบบเสริมกำลัง หรือ reinforcement learning
• SenseTime ถูกกล่าวหาว่าซื้อบันทึกบทสนทนาระหว่างผู้ใช้กับ Claude จากผู้ขายข้อมูลภายนอก
• MiniMax ถูกระบุว่าสร้างเครือข่ายตัวแทนผ่านบริษัทที่ไม่เปิดเผยความเชื่อมโยงกับบริษัทแม่ เพื่อรวบรวมบทสนทนาระหว่างผู้ใช้กับโมเดลจากสหรัฐ

นอกจากความเสี่ยงจากการดึงความสามารถของโมเดลไปใช้แล้ว รายงานยังชี้ถึงปัญหาด้านข้อมูลส่วนบุคคล เพราะคำขอบางส่วนที่ถูกส่งต่อมีทั้งชื่อ อีเมล ข้อมูลภายในบริษัท แผนการลงทุน โค้ด และรหัสเข้าถึงระบบที่ยังใช้งานได้

ผู้ใช้งานบางรายอาจไม่ทราบว่า ข้อมูลที่ตนส่งให้โมเดลรายหนึ่งถูกส่งต่อไปยัง Claude และอาจถูกบันทึกเพื่อนำไปฝึกโมเดลอื่นในภายหลัง

ทั้งนี้ ข้อกล่าวหาและการระบุแหล่งที่มาทั้งหมดในส่วนนี้มาจากการสอบสวนของ Anthropic ขณะที่รายงานไม่ได้รวมคำชี้แจงจากบริษัทที่ถูกพาดพิงไว้ด้วย

ปิดบัญชีได้ แต่อาจหยุดระบบที่สร้างเสร็จแล้วไม่ได้

Anthropic ระบุว่า หลังตรวจพบการกระทำผิดเหล่านี้ บริษัทได้ระงับบัญชีและองค์กรที่เกี่ยวข้องกับการใช้งานในทางมิชอบ ปรับปรุงระบบตรวจจับ และแบ่งปันข้อมูลกับหน่วยงานรัฐ บริษัทเทคโนโลยี และผู้ให้บริการแพลตฟอร์ม นอกจากนี้ยังเพิ่มตัวกรองสำหรับตรวจจับคำขอที่มีความเสี่ยงสูงในด้านไซเบอร์ อาวุธ วัตถุระเบิด และชีววิทยา

สำหรับการป้องกันการ “กลั่นโมเดล” โดยไม่ได้รับอนุญาต บริษัทใช้หลายมาตรการร่วมกัน ทั้งตรวจสอบพฤติกรรมของบัญชี ใช้ระบบจำแนกคำขอที่พยายามดึงกระบวนการให้เหตุผลภายใน แสดงเพียงข้อสรุปแทนการเปิดเผยเหตุผลทั้งหมด เข้ารหัสข้อมูลเหตุผลบางส่วน และกำหนดให้บัญชียืนยันตัวตนเมื่อพบสัญญาณผิดปกติ

อย่างไรก็ตาม Anthropic ยอมรับว่า ระบบป้องกันไม่ได้ทำงานอย่างสม่ำเสมอในทุกกรณี บางคำขอถูกปฏิเสธในครั้งแรก แต่สามารถผ่านระบบได้เมื่อผู้ใช้งานเปลี่ยนวิธีเขียนคำสั่ง แบ่งงานออกเป็นส่วนย่อย หรือกระจายกิจกรรมไปยังบทสนทนาหลายรายการ

ความท้าทายยิ่งซับซ้อนขึ้นในงานด้านชีววิทยาที่สามารถนำไปใช้ได้ทั้งทางบวกและทางลบ เพราะเนื้อหาของคำขอหรือคำสั่งเพียงอย่างเดียวอาจไม่เพียงพอที่จะแยกแยะว่าผู้ใช้งานมีเจตนาดีหรือเจตนาร้าย

อีกข้อจำกัดสำคัญคือ การปิดบัญชีสามารถหยุดไม่ให้ผู้ใช้งานเข้าถึง Claude ต่อไปได้ แต่ไม่สามารถเรียกคืนซอฟต์แวร์ ข้อมูล หรือระบบที่ถูกสร้างและติดตั้งไว้ในเครื่องของผู้ใช้งานแล้ว

กรณีระบบเฝ้าระวังในมาลีและเครื่องมือจำลองอาวุธในเยเมนสะท้อนปัญหานี้อย่างชัดเจน เมื่อ AI ช่วยพัฒนาผลิตภัณฑ์จนสามารถทำงานแบบออฟไลน์ได้ อำนาจควบคุมของผู้ให้บริการโมเดลอย่าง Anthropic ก็ลดลงทันที แม้จะระงับบัญชีที่เกี่ยวข้องแล้วก็ตาม

ในภาพรวม รายงานไม่ได้สรุปว่า AI เข้ามาแทนมนุษย์ได้ทุกขั้นตอน หรือทำให้ทุกปฏิบัติการประสบความสำเร็จ เพราะระดับความเป็นอัตโนมัติกับความรุนแรงของผลกระทบยังเป็นคนละเรื่องกัน

สิ่งที่เปลี่ยนไปแล้วอย่างชัดเจนคือ “ต้นทุนของการก่อเหตุ” ที่ลดลงอย่างมาก เป้าหมายซึ่งเดิมอาจไม่คุ้มค่าต่อการโจมตีจึงกลายเป็นเป้าหมายที่ลงมือได้ ขณะที่บุคคลเพียงคนเดียวหรือกลุ่มขนาดเล็กสามารถดำเนินปฏิบัติการในระดับที่ก่อนหน้านี้ต้องอาศัยทีมผู้เชี่ยวชาญจำนวนมาก