โลกอาจต้องเจอ “เชื้อโรคที่พัฒนาโดย AI”? เปิดความเป็นไปได้และความเสี่ยง
ในอดีต ภาพของ AI ที่เข้ามาช่วยพัฒนาอาวุธชีวภาพอาจดูเหมือนเรื่องในนิยายวิทยาศาสตร์ แต่รายงานล่าสุดของ Anthropic ทำให้ความเสี่ยงดังกล่าวเริ่มใกล้ตัวมากขึ้น หลังบริษัทเปิดเผยว่า ตรวจพบการใช้ Claude ในงานวิจัยเกี่ยวกับเชื้อก่อโรคและสารพิษ 5 กรณี ซึ่งอาจนำไปสู่ผลลัพธ์ที่เป็นอันตราย
ข่าวที่เกี่ยวข้อง
รายงานฉบับนี้นับเป็นครั้งแรกที่บริษัท AI ชั้นนำออกมายอมรับต่อสาธารณะว่า มีผู้ใช้ขอให้ผลิตภัณฑ์ของบริษัทช่วยทำงานที่อาจเกี่ยวข้องกับการพัฒนาอาวุธชีวภาพ อย่างไรก็ตาม ยังไม่อาจสรุปได้ว่านักวิจัยเหล่านี้มีเจตนาสร้างอาวุธชีวภาพ เนื่องจากผู้ใช้ในทั้ง 5 กรณีเป็นนักวิทยาศาสตร์ที่กำลังทำงานวิจัย และ Anthropic ก็ไม่ได้กล่าวหาว่าบุคคลเหล่านี้มีเจตนาดังกล่าว
สิ่งที่ทำให้ Anthropic กังวลไม่ได้มีเพียงเนื้อหาของงานวิจัย แต่ยังรวมถึงพฤติกรรมการใช้งานด้วย ผู้ใช้ในทั้ง 5 กรณีพยายามหลีกเลี่ยงข้อจำกัดของระบบ หรือเข้าใช้บริการจากประเทศที่บริษัทไม่รองรับ โดยบางรายใช้ VPN เซิร์ฟเวอร์ตัวกลาง และบัญชีที่อำพรางตำแหน่งของผู้ใช้
งานวิจัยบางกรณียังเกี่ยวข้องกับการกลายพันธุ์ของไวรัส ซึ่งอาจเพิ่มความสามารถในการแพร่เชื้อ หลบภูมิคุ้มกัน หรือปรับตัวเข้าสู่สัตว์เลี้ยงลูกด้วยนมได้ง่ายขึ้น ขณะที่นักวิจัยบางรายพยายามกลับมาใช้บริการอีกครั้งหลังถูกระงับบัญชี จึงยังต้องตรวจสอบต่อไปว่า พฤติกรรมเหล่านี้เป็นเพียงความพยายามหลีกเลี่ยงข้อจำกัดด้านพื้นที่ให้บริการ หรือมีเหตุผลอื่นแอบแฝง
ข้อมูลชุดนี้ทำให้เกิดความเห็นต่างในวงการวิทยาศาสตร์ ฝ่ายหนึ่งมองว่า นี่คือสัญญาณเตือนว่า AI กำลังลดอุปสรรคในการเข้าถึงความรู้ที่อาจนำไปใช้สร้างภัยคุกคามทางชีวภาพ ขณะที่อีกฝ่ายเห็นว่า งานวิจัยหลายกรณีมีลักษณะเป็น dual-use หรือองค์ความรู้ที่นำไปใช้ได้ทั้งสองด้าน เพราะนอกจากอาจก่อให้เกิดอันตรายแล้ว ยังสามารถต่อยอดไปสู่การพัฒนายา วัคซีน และระบบเฝ้าระวังโรคได้เช่นกัน
ผู้เชี่ยวชาญอีกกลุ่มจึงเสนอว่า การออกกฎควบคุม AI ควรเริ่มจากการจำแนกความเสี่ยงให้ชัดเจน และหลีกเลี่ยงการเหมารวมว่าเทคโนโลยีนี้จะถูกใช้สร้างเชื้อโรคอันตรายเสมอไป หน่วยงานกำกับดูแลควรประเมินเป็นรายขั้นตอนว่า AI เข้าไปช่วยหรือเร่งกระบวนการใดบ้าง เมื่อระบุจุดเสี่ยงได้ชัดเจน มาตรการกำกับดูแลก็จะตรงเป้ามากขึ้น โดยยังเปิดทางให้งานวิจัยทางการแพทย์ที่อาจสร้างประโยชน์ในอนาคตเดินหน้าต่อไปได้
Anthropic เปิด 5 เคสใช้ Claude วิจัยไวรัส-สารพิษ
รายงานที่ Anthropic เปิดเผยต่อสาธารณะยกตัวอย่างการใช้ AI ในงานวิจัยด้านชีววิทยา 5 กรณี โดย 3 กรณีแรกเกี่ยวข้องกับการดัดแปลงไวรัส
กรณีแรกเกิดขึ้นในเดือนพฤษภาคม เมื่อนักวิจัยกลุ่มหนึ่งใช้ Claude ช่วยเขียนข้อเสนอโครงการ เพื่อค้นหาว่าการกลายพันธุ์แบบใดอาจทำให้ไวรัสชิคุนกุนยาแพร่เชื้อได้ดีขึ้นและหลบหลีกภูมิคุ้มกันได้มากขึ้น ข้อมูลที่ป้อนให้ AI ยังระบุว่า นักวิจัยมีแผนสร้างไวรัสที่มีการกลายพันธุ์เหล่านั้น ก่อนนำไปทดลองในสัตว์
ไวรัสชิคุนกุนยาสามารถทำให้ผู้ติดเชื้อมีไข้ ปวดข้ออย่างรุนแรง และมีอาการอื่น ๆ แม้โดยทั่วไปจะไม่ค่อยทำให้ผู้ป่วยเสียชีวิตก็ตาม Anthropic จัดให้งานวิจัยนี้เป็นการทดลองแบบ gain-of-function ที่น่ากังวลอย่างยิ่ง เนื่องจากเป็นการศึกษาที่อาจทำให้เชื้อมีคุณสมบัติใหม่และเป็นอันตรายมากขึ้น
กรณีที่สอง นักวิจัยใช้ Claude ช่วยวางแผนการทดลองใส่การกลายพันธุ์เข้าไปในไวรัสไข้หวัดนกชนิดก่อโรครุนแรง เพื่อศึกษาการปรับตัวของเชื้อเข้าสู่สัตว์เลี้ยงลูกด้วยนมและเพิ่มความสามารถในการแพร่เชื้อ อย่างไรก็ตาม รายงานไม่ได้ระบุว่าเป็นไวรัสไข้หวัดนกสายพันธุ์ใด
Anthropic ระบุว่า งานดังกล่าวเป็นการวิจัยเกี่ยวกับเชื้อก่อโรคที่อาจเพิ่มขีดความสามารถของเชื้อจนเสี่ยงนำไปสู่การระบาดใหญ่ การทดลองลักษณะนี้เป็นประเด็นถกเถียงอย่างมาก และปัจจุบันไม่ได้รับอนุญาตให้ดำเนินการในสหรัฐฯ ตามกฎชุดใหม่ของรัฐบาลประธานาธิบดีโดนัลด์ ทรัมป์
ส่วนกรณีที่สามเป็นการใช้ AI ช่วยเขียนข้อเสนอโครงการเพื่อค้นหาการกลายพันธุ์ที่ทำให้ไวรัสในตระกูล orthopoxvirus ซึ่งรวมถึงไวรัสฝีดาษลิงและไวรัสไข้ทรพิษ มีความรุนแรงลดลงเมื่อทดลองในหนู
ทั้งนี้ แม้งานทั้งสามกรณีจะมีความเสี่ยง แต่แนวทางวิจัยเดียวกันอาจนำไปใช้พัฒนาวัคซีนและยา ศึกษากลไกการก่อโรค หรือช่วยตรวจจับโรคระบาดเกิดใหม่ได้เช่นกัน บริษัทจึงไม่อาจประเมินระดับความเสี่ยงจากหัวข้องานวิจัยเพียงอย่างเดียว โดยเฉพาะกรณี orthopoxvirus ซึ่งข้อเสนอโครงการมีเป้าหมายเพื่อลดความรุนแรงของไวรัส ไม่ได้มุ่งทำให้เชื้อรุนแรงขึ้น
ส่วนอีก 2 กรณีที่เหลือเกี่ยวข้องกับสารพิษ โดยกรณีแรกเป็นการใช้ Claude ช่วยรวบรวมข้อมูลที่เปิดเผยต่อสาธารณะ และจัดทำแผนที่สารพิษจากสัตว์ เพื่อนำไปใช้ในโครงการพัฒนายา
กรณีสุดท้ายเป็นการใช้ Claude ช่วยออกแบบสารพิษด้วยวิธีเชิงคำนวณ ครอบคลุมทั้งสารพิษจากแบคทีเรียและโปรตีนจากไวรัสที่ถูกจับตาว่าอาจเป็นภัยคุกคามสำคัญด้านสาธารณสุข รายงานระบุว่า สารประกอบใหม่ที่ได้จากงานลักษณะนี้อาจนำไปต่อยอดเป็นยารักษาโรคได้ แต่ในอีกด้านหนึ่งก็อาจมีคุณสมบัติเป็นสารพิษเช่นกัน
ทั้ง 5 กรณีจึงสะท้อนความท้าทายของงานวิจัยแบบ dual-use ซึ่งหมายถึงงานวิจัยที่ความรู้และวิธีการเดียวกันสามารถใช้ได้ทั้งเพื่อประโยชน์ทางการแพทย์และเพื่อก่ออันตราย ดังนั้น การจะตัดสินว่างานวิจัยใดเสี่ยงมากน้อยแค่ไหน จึงดูเพียงชื่อเชื้อหรือชนิดของสารไม่ได้ ต้องพิจารณาด้วยว่าใครเป็นผู้ใช้ มีเป้าหมายอะไร ทดลองอย่างไร ทำงานในห้องปฏิบัติการแบบใด และจะนำผลลัพธ์ไปใช้ต่ออย่างไร
หลบข้อจำกัด-อำพรางตัวตน พฤติกรรมที่ทำให้ Anthropic ระแวง
ในการประเมินความเสี่ยง Anthropic ไม่ได้พิจารณาเฉพาะเนื้อหาของงานวิจัย แต่ยังตรวจสอบวิธีที่ผู้ใช้ในทั้ง 5 กรณีเข้าถึง Claude ด้วย รายงานระบุว่า ผู้ใช้บางรายเชื่อมต่อผ่านเซิร์ฟเวอร์ตัวกลางหรือ VPN และใช้บัญชีที่ปกปิดตัวตน เพื่อให้ระบบเข้าใจว่ากำลังใช้งานจากสหรัฐฯ หรือประเทศที่บริษัทอนุญาตให้เข้าถึงบริการ
พฤติกรรมอำพรางตำแหน่งผู้ใช้ถูกจับตาเป็นพิเศษ เนื่องจาก Anthropic ไม่เปิดให้บริการ Claude ในราว 6 ประเทศที่สหรัฐฯ มองว่าเป็นปฏิปักษ์ รวมถึงจีน และยังจำกัดการให้บริการในบางประเทศนอกกลุ่มดังกล่าว อย่างไรก็ตาม รายงานไม่ได้เปิดเผยว่านักวิจัยเหล่านี้อยู่ในประเทศใด
Anthropic ระบุว่า บริษัทได้ระงับบัญชีและตัดการเข้าถึงระบบแล้ว แต่ผู้ใช้ในอย่างน้อยหนึ่งกรณียังหาช่องทางกลับมาใช้ Claude ได้อีก ทั้งการหลีกเลี่ยงข้อจำกัดและการกลับมาใช้งานหลังถูกปิดกั้น ทำให้บริษัทตั้งข้อสังเกตว่า กรณีเหล่านี้อาจมีมากกว่าการขอข้อมูลเพื่อใช้ในงานวิจัยทั่วไป
รายงานยังพบสัญญาณอื่นที่ทำให้ Anthropic เพิ่มความระมัดระวัง ในกรณีการออกแบบสารพิษ นักวิจัยในบางกรณีใช้คำเรียกสารพิษอย่างคลุมเครือขณะให้ Claude ช่วยเขียนรายงานความคืบหน้า บริษัทจึงตั้งข้อสังเกตว่า อาจเป็นความพยายามอำพรางเป้าหมายของงาน
ขณะเดียวกัน Anthropic ยังพบว่า งานวิจัยไวรัสชิคุนกุนยาดำเนินการในสถาบันที่เชื่อมโยงกับห้องปฏิบัติการทางทหาร ส่วนงานวิจัย orthopoxvirus เกิดขึ้นในห้องปฏิบัติการที่มีความเกี่ยวข้องกับรัฐ
เมื่อนำสัญญาณทั้งหมดมาพิจารณาร่วมกัน ไม่ว่าจะเป็นหัวข้องานวิจัย การอำพรางตำแหน่ง การใช้ถ้อยคำคลุมเครือที่อาจมีเป้าหมายเพื่อปกปิดเจตนา ตลอดจนความเชื่อมโยงของบางสถาบัน Anthropic เห็นว่า รูปแบบการใช้งานเหล่านี้ควรได้รับการตรวจสอบเพิ่มเติม อย่างไรก็ดี หากพิจารณาแยกทีละสัญญาณ ก็อาจมีคำอธิบายอื่นที่ไม่เกี่ยวข้องกับเจตนาก่ออันตราย
ดังนั้น สัญญาณเหล่านี้จึงยังไม่ใช่หลักฐานยืนยันว่ามีโครงการพัฒนาอาวุธชีวภาพ และ Anthropic ก็ไม่ได้สรุปว่าบุคคลเหล่านี้มีเจตนาก่ออันตราย การประเมินทั้ง 5 กรณีจึงต้องแยกให้ชัดระหว่าง “พฤติกรรมที่น่าสงสัย” กับ “หลักฐานที่ยืนยันเจตนา”
Gigi Gronvall ผู้เชี่ยวชาญด้านความมั่นคงทางชีวภาพจาก Johns Hopkins University ซึ่งเคยเป็นที่ปรึกษาให้ Anthropic แต่ไม่ได้มีส่วนร่วมจัดทำรายงาน มองว่า ความเสี่ยงสำคัญของ AI อยู่ที่การช่วยให้ผู้ใช้ที่ยังไม่มีความเชี่ยวชาญแต่มีเจตนาร้ายเรียนรู้ได้รวดเร็วขึ้น อย่างไรก็ตาม ทั้ง 5 กรณีที่ Anthropic ตรวจพบมีลักษณะคล้ายนักวิทยาศาสตร์ที่มีความรู้เดิมอยู่แล้วนำเครื่องมือรุ่นใหม่มาช่วยทำงาน มากกว่าคนทั่วไปที่ใช้ AI ก้าวข้ามข้อจำกัดด้านความรู้จนกลายเป็นผู้เชี่ยวชาญ
นักวิทยาศาสตร์โต้ หลายกรณีอาจเป็นการวิจัยพื้นฐานมากกว่าโครงการพัฒนาอาวุธชีวภาพ
Kristian Andersen นักไวรัสวิทยาและนักชีววิทยาวิวัฒนาการจาก Scripps Research มองว่า การทดลองหลายรายการที่ Anthropic กล่าวถึงอาจเป็นเพียงงานวิจัยพื้นฐาน โดยนักวิทยาศาสตร์เหล่านี้อาจแค่กำลังศึกษาการกลายพันธุ์ที่พบอยู่แล้วตามธรรมชาติ ไม่ได้ตั้งใจดัดแปลงพันธุกรรมเพื่อสร้างเชื้อโรคแบบใหม่อย่างที่บางฝ่ายกังวล
ในทางปฏิบัติ การหาไวรัสมีชีวิตที่มีการกลายพันธุ์ตามต้องการทำได้ยาก นักไวรัสวิทยาจึงอาจนำการกลายพันธุ์ที่ต้องการศึกษาไปใส่ในไวรัสที่ถูกทำให้อ่อนกำลังลง หรือใช้ไวรัสจำลองที่ไม่สามารถเพิ่มจำนวนได้แทน
หากอธิบายโดยไม่มีบริบท วิธีเหล่านี้อาจดูอันตราย แต่ Andersen ระบุว่า นักวิทยาศาสตร์สามารถทำการทดลองเหล่านี้ได้อย่างปลอดภัยภายในห้องปฏิบัติการที่มีมาตรการควบคุมเข้มงวด และงานลักษณะนี้ช่วยให้นักวิทยาศาสตร์เข้าใจมากขึ้นว่าการกลายพันธุ์แบบใดทำให้ไวรัสก่อโรคหรือมีความรุนแรงมากขึ้น
เพื่อให้เห็นภาพ Andersen ยกตัวอย่างงานวิจัยในปี 2023 ซึ่งเขาเป็นหนึ่งในผู้เขียน งานดังกล่าวใช้วิธีคล้ายกับกรณีชิคุนกุนยา แต่เปลี่ยนไปศึกษาไวรัสซิกา ซึ่งอาจทำให้ทารกเกิดมาพร้อมภาวะศีรษะเล็กผิดปกติ กรณีนี้แสดงให้เห็นว่า นักวิทยาศาสตร์อาจทดลองกับการกลายพันธุ์ของไวรัสเพื่อทำความเข้าใจโรค โดยไม่ได้มีเป้าหมายทำให้เชื้ออันตรายขึ้น
มุมมองนี้สอดคล้องกับ Gregory Koblentz ผู้เชี่ยวชาญด้านความมั่นคงทางชีวภาพจาก George Mason University ซึ่งชี้ว่า เชื้อก่อโรคทั้งหมดในรายงานเป็นภัยต่อสาธารณสุขในหลายพื้นที่ของโลกอยู่แล้ว ดังนั้น การศึกษาตัวเชื้อเพียงอย่างเดียวจึงยังไม่ถือเป็นพฤติกรรมที่น่าสงสัย
Koblentz ยังมองว่า การใช้ VPN อาจเกิดจากความต้องการเข้าถึงเครื่องมือ AI ที่จำกัดการใช้งานตามประเทศ คล้ายกับพฤติกรรมทั่วไปของผู้ใช้อินเทอร์เน็ตที่พยายามข้ามข้อจำกัดเพื่อเข้าถึงเนื้อหาบางประเภท
ขณะเดียวกัน ความเชื่อมโยงกับรัฐหรือกองทัพก็ไม่ได้ทำให้งานวิจัยเป็นอันตรายโดยอัตโนมัติ เพราะหน่วยงานเหล่านี้อาจศึกษาวิจัยโรคติดเชื้อเพื่อปกป้องบุคลากร เช่นเดียวกับกองทัพสหรัฐฯ ที่มีการให้ทุนสนับสนุนงานวิจัยเกี่ยวกับโรคติดเชื้อซึ่งอาจเป็นอันตรายต่อกำลังพลของตัวเองเช่นกัน
นอกจากเป้าหมายในการวิจัย อีกคำถามสำคัญคือ ใครควรมีสิทธิ์ตัดสินว่างานวิจัยแบบไหนอันตราย เพราะถ้าบริษัท AI ตั้งข้อจำกัดเข้มเกินไป งานวิจัยที่มีเป้าหมายชอบธรรมก็อาจถูกปิดกั้นไปด้วย
Andersen ยกตัวอย่างว่า Claude เคยปฏิเสธแม้กระทั่งคำขอให้เปรียบเทียบจีโนมของไวรัสอีโบลา 2 สายพันธุ์ ขณะที่ David Gillum ผู้เชี่ยวชาญด้านความมั่นคงทางชีวภาพจาก Arizona State University กังวลว่า บริษัท AI มีอำนาจตัดสินใจสูงอยู่แล้ว หากบริษัทกำหนดได้อีกว่านักวิทยาศาสตร์ทั่วโลกจะใช้เครื่องมือหรือเข้าถึงข้อมูลใดได้บ้าง การตัดสินใจเหล่านี้ก็อาจกระทบต่อการพัฒนาความรู้ทางวิทยาศาสตร์ได้
ความเห็นต่อรายงานของ Anthropic จึงแบ่งออกเป็นหลายมุม Andrew Weber จาก Council on Strategic Risks มองว่า กรณีเหล่านี้อาจสะท้อนภาพที่น่ากังวลของผู้พัฒนาอาวุธชีวภาพที่ได้รับการสนับสนุนจากรัฐ ส่วน Ashish Jha แพทย์และผู้เชี่ยวชาญด้านสาธารณสุข เตือนว่า สังคมอาจไม่ได้รับสัญญาณเตือนแบบนี้อีกหลายครั้งก่อนเกิดเหตุร้าย
แต่ Andersen มองต่างออกไป เขาเห็นว่างานส่วนใหญ่หรืออาจทั้งหมดเป็นเพียงงานวิจัยพื้นฐาน Filippa Lentzos ผู้เชี่ยวชาญจาก King’s College London จึงเสนอว่า ยังไม่ควรรีบด่วนสรุปไปสุดทางด้านใดด้านหนึ่ง
ด้าน Gigi Gronvall มองว่า ปฏิกิริยาบางส่วนต่อรายงานอาจเกินเหตุไป ถึงอย่างนั้น รายงานยังมีประโยชน์ เพราะทำให้เห็นตัวอย่างความเสี่ยงจากการใช้ AI ที่เกิดขึ้นจริง หลังจากก่อนหน้านี้ประเด็นดังกล่าวมักถูกพูดถึงในเชิงสมมติฐาน
โจทย์สำคัญจึงอยู่ที่การสร้างระบบให้แยกผู้ประสงค์ร้ายออกจากนักวิจัยที่ทำงานโดยสุจริตให้ได้ พร้อมกับเปิดทางให้เข้าถึงความรู้ทางวิทยาศาสตร์ได้อย่างเหมาะสม
AI กำลังลด “กำแพงประสบการณ์” แต่การสร้างเชื้อจริงยังต้องผ่านด่านห้องแล็บ
ความกังวลต่อบทบาทของ AI ไม่ได้เกิดขึ้นเฉพาะในหมู่บริษัทผู้พัฒนาโมเดล ผลสำรวจผู้ปฏิบัติงานด้านความมั่นคงแห่งชาติ 111 คนโดย Institute for Security and Technology พบว่า 70% เห็นว่า AI กำลังเพิ่มความเสี่ยงจากอาวุธชีวภาพอย่างมีนัยสำคัญ หรือมีแนวโน้มจะเพิ่มความเสี่ยงดังกล่าวในอนาคตอันใกล้
สิ่งที่ผู้เชี่ยวชาญกังวลมากที่สุดคือ AI อาจช่วยให้คนที่มีความรู้จำกัดเรียนรู้เรื่องซับซ้อนได้เร็วขึ้น โมเดลสามารถรวบรวมข้อมูลจากหลายแหล่ง ช่วยค้นหาและจัดลำดับขั้นตอนการทดลอง คัดเลือกแนวทางที่น่าสนใจ รวมถึงช่วยเขียนข้อเสนอโครงการและรายงาน งานที่เคยต้องใช้เวลาค้นคว้านานจึงอาจเสร็จเร็วขึ้น
แต่ David Bellamy นักวิจัยจาก Institute of Foundation Models มองว่า AI ไม่ได้สร้างความเสี่ยงรูปแบบใหม่ขึ้นมาทั้งหมด เพราะก่อนมีโมเดลภาษาขนาดใหญ่ เทคโนโลยีที่มีมาก่อนเช่น อินเทอร์เน็ต วารสารวิทยาศาสตร์แบบเปิด และบริการแปลภาษาอย่าง Google Translate ก็ช่วยให้ผู้คนเข้าถึงข้อมูลด้านชีววิทยาและขั้นตอนในห้องปฏิบัติการได้ง่ายขึ้นอยู่แล้ว
สิ่งที่ AI เพิ่มเข้ามาคือความเร็วในการรวบรวม เปรียบเทียบ และค้นหาข้อมูล ถึงอย่างนั้น การเข้าถึงข้อมูลยังไม่ใช่อุปสรรคใหญ่ที่สุดของการผลิตอาวุธชีวภาพ
เหตุผลคือ การมีข้อมูลหรือคำแนะนำยังห่างไกลจากการสร้างเชื้อก่อโรคที่ใช้งานได้จริง ผู้ลงมือต้องหาชิ้นส่วนพันธุกรรม ประกอบจีโนม เตรียมวัตถุดิบและอุปกรณ์ ก่อนทดสอบว่าเชื้อสามารถติดมนุษย์ ก่อโรคตามต้องการ และแพร่จากคนสู่คนได้หรือไม่
ทุกขั้นตอนต้องอาศัยห้องปฏิบัติการ ทรัพยากร นักวิทยาศาสตร์ที่ผ่านการฝึกฝน และประสบการณ์จากการลงมือทำจริง ความรู้ส่วนหลังนี้เรียกว่า tacit knowledge หรือ “ความรู้จากประสบการณ์” ซึ่งมักไม่ได้ถูกเขียนอธิบายไว้เป็นขั้นตอนอย่างครบถ้วน ผู้ปฏิบัติต้องเรียนรู้ผ่านการทำงานจริง การฝึกกับผู้เชี่ยวชาญ และการแก้ปัญหาเฉพาะหน้าภายในห้องแล็บ
ดังนั้น แม้ AI จะตอบคำถามทางทฤษฎีได้ดี ก็ยังรับประกันไม่ได้ว่าผู้ใช้จะสามารถทำการทดลองที่ละเอียดอ่อนจนสำเร็จ
ตัวอย่างหนึ่งที่ช่วยอธิบายความสำคัญของความรู้จากประสบการณ์เกิดขึ้นในปี 1917 เมื่อฝรั่งเศสขอให้สหรัฐฯ ผลิตปืนสนามขนาด 75 มิลลิเมตรตามแบบที่ส่งให้ แม้สหรัฐฯ จะมีแบบแปลนครบถ้วน แต่กลับผลิตสำเนาไม่ได้แม้แต่กระบอกเดียวตลอดช่วง 18 เดือนก่อนสงครามยุติ เพราะรายละเอียดสำคัญบางอย่าง เช่น เกลียวสกรูบนฐานปืน ไม่ได้ระบุอยู่ในแบบ
เหตุการณ์นี้แสดงให้เห็นว่า ต่อให้มีข้อมูลอยู่ในเอกสารครบถ้วน การลงมือสร้างจริงก็อาจล้มเหลวได้ หากขาดรายละเอียดและความรู้ที่เกิดจากประสบการณ์
ขณะเดียวกัน กรณีไวรัส mousepox เมื่อกว่า 25 ปีก่อนก็ชี้ว่า ความเสี่ยงจากการดัดแปลงเชื้อมีอยู่แล้วก่อนยุค AI นักวิจัยออสเตรเลียต้องการจำกัดการสืบพันธุ์ของหนู จึงใส่ยีน interleukin-4 เข้าไปในไวรัสโดยไม่ได้ตั้งใจสร้างเชื้อที่ร้ายแรงขึ้น แต่ผลการทดลองกลับพบว่า ไวรัสดังกล่าวฆ่าหนูทดลองที่ไม่ได้รับวัคซีนทั้งหมด และฆ่าหนูที่ได้รับวัคซีนส่วนใหญ่ งานวิจัยนี้เผยแพร่ในวารสาร Journal of Virology เมื่อเดือนกุมภาพันธ์ 2001
กรณี mousepox สะท้อนว่า AI ไม่ได้เป็นต้นกำเนิดของความเสี่ยงทางชีวภาพ เพราะมนุษย์มีความสามารถทำให้เชื้ออันตรายขึ้นได้อยู่ก่อนแล้ว แม้กระบวนการจะทำได้ยากก็ตาม
สิ่งที่ AI อาจเปลี่ยนแปลงคือการช่วยค้นหาแนวทาง รวบรวมความรู้ และลดเวลาในการตัดสินใจบางขั้นตอน จนทำให้ความรู้ที่เคยจำกัดอยู่ในกลุ่มผู้เชี่ยวชาญเข้าถึงได้ง่ายขึ้น
Gautam Mukunda ผู้เขียนบทความต้นทางระบุว่า เขาเคยร่วมเขียนงานวิจัยในปี 2009 ซึ่งเสนอว่า วิศวกรรมชีวภาพสังเคราะห์กำลังพยายามลดความสำคัญของ tacit knowledge ในงานชีววิศวกรรม และอาจเพิ่มความเสี่ยงทางชีวภาพได้
AI จึงอาจเป็นแรงผลักอีกขั้นที่ค่อย ๆ ลดบทบาทของความรู้จากประสบการณ์ ซึ่งที่ผ่านมาเปรียบเสมือนแนวป้องกันตามธรรมชาติที่ทำให้การลงมือจริงยังเป็นเรื่องยาก
AI ยังสร้างไวรัสเองไม่ได้ แต่กำลังทำให้งานในแล็บง่ายขึ้น
แม้ประสบการณ์ในห้องแล็บจะยังเป็นด่านสำคัญ แต่ผู้เชี่ยวชาญเริ่มเห็นสัญญาณว่า กำแพงนี้อาจค่อย ๆ ลดความสำคัญลง
Roger Brent นักชีววิทยา และ Greg McKelvey Jr. จาก RAND มองว่า ในอนาคต งานประเภทนี้อาจไม่จำเป็นต้องพึ่ง tacit knowledge หรือความรู้จากประสบการณ์เสมอไป เพราะโมเดลพื้นฐานที่มีอยู่แล้วในปี 2024 ก็สามารถให้คำแนะนำที่ถูกต้องเกี่ยวกับการสร้างไวรัสโปลิโอมีชีวิตขึ้นใหม่จากชิ้นส่วน DNA สังเคราะห์ที่ผลิตในเชิงพาณิชย์ได้แล้ว
ความกังวลยิ่งเพิ่มขึ้น เมื่อนักวิจัยจาก Stanford University และ Arc Institute แสดงให้เห็นว่า AI สามารถออกแบบจีโนมของไวรัสชนิดใหม่ได้ ในเวลาเดียวกัน ผู้บริหารบริษัท AI บางรายเรียกร้องให้ออกกฎหมายควบคุมการผลิต DNA สังเคราะห์ ส่วน Dario Amodei ซีอีโอของ Anthropic ต้องการให้รัฐบาลช่วยชะลอการพัฒนา AI ระดับแนวหน้า เพื่อให้มีเวลาวางมาตรการรับมือความเสี่ยง
อีกเทคโนโลยีที่ต้องจับตาคือ “ห้องแล็บอัตโนมัติ” ซึ่งอาจช่วยลดงานที่ต้องพึ่งทักษะของมนุษย์ และทำให้นักวิจัยสามารถทำการทดลองได้มากขึ้นในเวลาที่สั้นลง ระบบนี้มีประโยชน์ต่อการพัฒนายา วัคซีน และงานวิทยาศาสตร์ แต่หากขาดการควบคุม ผู้ไม่หวังดีก็อาจนำไปใช้เร่งการทดลองเกี่ยวกับเชื้อโรคได้เช่นกัน
อย่างไรก็ตาม ปัจจุบัน AI ยังไม่สามารถควบคุมห้องแล็บและสร้างไวรัสได้เองตลอดทั้งกระบวนการ Olivia Scharfman นักวิจัยด้านเทคโนโลยีชีวภาพจาก Institute for Progress ระบุว่า ห้องแล็บอัตโนมัติเต็มรูปแบบที่ AI เข้าใช้และสร้างไวรัสได้โดยลำพังยังไม่มีอยู่จริง แต่เธอเตือนว่า AI อาจอาศัยมนุษย์เป็นผู้ลงมือแทนได้
Jason Kelly ซีอีโอของ Ginkgo Bioworks ซึ่งเชี่ยวชาญด้านห้องแล็บอัตโนมัติและเคยร่วมโครงการกับ OpenAI เพื่อให้ GPT-5 ทำงานในห้องแล็บ อธิบายว่า มนุษย์ยังคงเป็นจุดควบคุมสำคัญ เพราะต้องเป็นผู้จัดหาสาร วัสดุ และเครื่องมือที่ AI ร้องขอ หากคำสั่งใดมีความเสี่ยง บุคลากรก็สามารถปฏิเสธได้
ส่วนการให้ AI ควบคุมกระบวนการทางไวรัสวิทยาที่ละเอียดอ่อนได้ด้วยตัวเอง จะต้องใช้หุ่นยนต์มากกว่าที่มีอยู่ในปัจจุบันอีกมาก
Derya Unutmaz นักภูมิคุ้มกันวิทยา มองว่า มนุษย์ยังมีโอกาสหยุดการใช้ AI เพื่อพัฒนาโรคร้ายแรงได้ และหากเกิดกรณีที่ AI ปล่อยไวรัสอันตรายออกมา นักวิทยาศาสตร์ก็อาจใช้ AI อีกระบบหนึ่งช่วยเร่งพัฒนาวัคซีนเพื่อตอบโต้ มุมมองนี้สะท้อนว่า AI เป็นเครื่องมือสองด้าน ซึ่งช่วยเพิ่มขีดความสามารถได้ทั้งฝ่ายก่อภัยและฝ่ายป้องกัน
ความเสี่ยงในระยะใกล้จึงมีแนวโน้มมาจากผู้ไม่หวังดีที่นำ AI มาใช้ร่วมกับบุคลากร ห้องแล็บ และระบบอัตโนมัติที่มีอยู่ AI อาจช่วยลดเวลาค้นข้อมูล วางแผน และคัดเลือกการทดลอง แม้มนุษย์ยังต้องลงมือในขั้นตอนสำคัญ แต่ความเร็วที่เพิ่มขึ้นก็อาจทำให้ความเสี่ยงโดยรวมสูงขึ้นได้
อย่างไรก็ตาม ผู้เชี่ยวชาญบางรายมองว่า หากผู้ไม่หวังดีต้องการสร้างอาวุธ พวกเขาอาจเลือกอาวุธประเภทอื่นมากกว่าอาวุธชีวภาพ
Francois Belloux นักพันธุศาสตร์และศาสตราจารย์ด้านชีววิทยาเชิงคำนวณ เห็นว่าสังคมอาจประเมินความเสี่ยงจากการนำเชื้อก่อโรคมาใช้เป็นอาวุธสูงเกินไป เพราะอาวุธประเภทนี้ควบคุมเป้าหมายได้ยาก ผู้ใช้ไม่สามารถกำหนดได้แน่นอนว่าใครจะได้รับผลกระทบ หรือกันคนบางกลุ่มออกจากอันตรายได้ อีกทั้งการผลิตและแพร่เชื้อในวงกว้างยังมีความซับซ้อนด้านโลจิสติกส์
ขณะเดียวกัน AI ยังช่วยเร่งการพัฒนาวัคซีน ยา และการรับมือโรคระบาดได้ หากการถกเถียงมุ่งอยู่กับความเสี่ยงที่ AI อาจช่วยสร้างเชื้ออันตรายเพียงด้านเดียว สังคมก็อาจมองข้ามประโยชน์ทางการแพทย์ของเทคโนโลยีนี้
โจทย์ของการกำกับดูแลจึงอยู่ที่การป้องกันการใช้ AI เพื่อก่ออันตราย โดยยังเปิดทางให้งานวิจัยที่เป็นประโยชน์เดินหน้าต่อไปได้
กติกาต้องสร้างแนวป้องกันหลายชั้น โดยไม่ปิดกั้นการพัฒนาทางวิทยาศาสตร์
การเปิดเผยข้อมูลของ Anthropic ทำให้ผู้เชี่ยวชาญบางส่วนมองเห็นความเสี่ยงจากการใช้งานจริงได้ชัดขึ้น Filippa Lentzos เห็นว่า ในช่วงที่ภาครัฐยังไม่มีกลไกกำกับดูแลเพียงพอ อย่างน้อยการที่บริษัทตรวจพบ ระงับ และเปิดเผยกรณีเหล่านี้ก็ยังดีกว่าการไม่ทำอะไรเลย
ด้าน Anthropic ยอมรับว่า บริษัทไม่อาจเชื่อต่อไปได้ว่าโมเดลรุ่นใหม่ของตนยังมีความสามารถต่ำเกินกว่าจะช่วยให้ผู้ใช้ก่อภัยชีวภาพได้อย่างมีนัยสำคัญ
ผู้เชี่ยวชาญจึงเสนอให้วางระบบป้องกันหลายระดับ ชั้นแรกเริ่มจากบริษัท AI ซึ่งควรปรับปรุงระบบไม่ให้โมเดลส่งมอบข้อมูลอันตรายที่สามารถนำไปใช้ได้ทันที รวมถึงเปิดเผยกรณีที่น่ากังวลและแลกเปลี่ยนข้อมูลกับหน่วยงานที่เกี่ยวข้อง
อีกชั้นหนึ่งคือการควบคุมการผลิตสารพันธุกรรม โดยอาจออกกฎหมายให้ผู้จำหน่าย DNA และ RNA ตรวจสอบทั้งตัวลูกค้าและคำสั่งซื้อ เพื่อคัดกรองลำดับพันธุกรรมที่อาจเกี่ยวข้องกับเชื้อก่อโรค
ปัจจุบัน บริษัทสังเคราะห์ DNA หลายแห่งมีระบบตรวจสอบอยู่แล้ว แต่ยังไม่ครอบคลุมทุกบริษัทและยังไม่ได้เป็นข้อบังคับทั้งหมด ในสหรัฐฯ รัฐบาลกลางยังใช้วิธีขอความร่วมมือ ขณะที่กรอบกำกับดูแลฉบับปรับปรุงยังค้างอยู่นานถึง 16 เดือน หลังมีคำสั่งฝ่ายบริหารให้แก้ไขระบบดังกล่าว
ช่องว่างในการกำกับดูแลยิ่งน่ากังวล เพราะปัจจุบันเทคโนโลยีพัฒนาไปไกลจนมีเครื่องสังเคราะห์ DNA แบบตั้งโต๊ะวางจำหน่ายแล้ว ขณะเดียวกัน ทีมวิจัยที่นำโดย Microsoft พบว่า เครื่องมือ AI สำหรับออกแบบโปรตีนสามารถสร้างลำดับพันธุกรรมที่หลุดรอดจากซอฟต์แวร์คัดกรองได้ แม้ยังไม่มีหลักฐานว่าลำดับเหล่านั้นจะทำงานได้จริง ผลการศึกษานี้จึงสะท้อนว่า ระบบคัดกรองต้องเร่งพัฒนาให้ทันเครื่องมือออกแบบรุ่นใหม่
Gautam Mukunda จึงเสนอให้บริษัทคัดกรอง DNA และห้องปฏิบัติการด้าน AI ชั้นนำร่วมกันจัดโครงการให้รางวัลแก่ผู้ที่ค้นพบช่องโหว่ของระบบคัดกรองด้วย AI เพื่อให้สามารถแก้ไขจุดอ่อนได้ก่อนถูกนำไปใช้ก่ออันตราย วิธีนี้จะช่วยให้ระบบตรวจสอบพัฒนาไปพร้อมกับความสามารถในการออกแบบสารชีวภาพ
สำหรับห้องแล็บอัตโนมัติ มีข้อเสนอให้จำกัดสิทธิ์การใช้งานไว้เฉพาะนักวิจัยที่ผ่านการยืนยันตัวตนและสังกัดสถาบันที่ได้รับการรับรอง พร้อมกำหนดให้ห้องแล็บใช้มาตรฐานคัดกรองแบบเดียวกับผู้ให้บริการสังเคราะห์สารพันธุกรรม
หลักคิดคือ ต่อให้ผู้ใช้หลุดผ่านระบบป้องกันของโมเดล AI มาได้ ก็ยังต้องผ่านการตรวจสอบอีกครั้งเมื่อสั่งซื้อ DNA หรือขอใช้ห้องแล็บสำหรับการทดลอง
Steph Guerra หัวหน้าฝ่าย AI และชีววิทยาของ RAND Corporation เสนอให้เสริมระบบเฝ้าระวังโรคทั่วโลก เพื่อให้ตรวจพบโรคใหม่หรือเชื้อที่กำลังแพร่กระจายได้เร็วขึ้น พร้อมกำหนดแนวทางแบ่งปันข้อมูลระหว่างบริษัท AI ผู้ให้บริการสังเคราะห์ยีน และภาครัฐ
ส่วน Olivia Scharfman มองว่า ความสนใจต่อภัยจาก AI ควรถูกใช้เป็นโอกาสยกระดับการป้องกันภัยชีวภาพทุกประเภท รวมถึงเชื้อที่มีอยู่แล้วอย่าง H1N1 ตลอดจนปรับปรุงระบบฟอกอากาศภายในอาคาร
อย่างไรก็ตาม การออกกติกาในสหรัฐฯ ยังเผชิญแรงต้านทางการเมือง บทความความเห็นของ Mukunda ระบุว่า รัฐบาลทรัมป์คัดค้านการกำกับดูแล AI พร้อมยุบ National Counterproliferation and Biosecurity Center และสำนักงานต่อต้านอาวุธทำลายล้างสูงของกระทรวงความมั่นคงแห่งมาตุภูมิ นอกจากนี้ ยังระงับกรอบการคัดกรองฉบับปรับปรุงที่มุ่งอุดช่องโหว่สำหรับสารชีวภาพชนิดใหม่
ในช่วงที่กลไกของรัฐยังไม่ชัดเจน ภาคเอกชนจึงอาจต้องรับบทนำไปก่อน แต่ผู้เชี่ยวชาญยังเห็นต่างกันว่า รัฐบาลควรเป็นผู้กำหนดว่าใครเข้าถึงโมเดลเพื่อทำงานด้านชีววิทยาได้ หรือควรให้บริษัทพัฒนาระบบป้องกันและเปิดเผยกรณีที่ตรวจพบอย่างต่อเนื่อง
Lentzos และ Gregory Koblentz เห็นว่าจำเป็นต้องมีกฎจากภาครัฐ ขณะที่ Gigi Gronvall มองว่า โมเดลอาจยังไม่ได้ช่วยพัฒนาอาวุธชีวภาพมากเท่าที่สังคมเข้าใจ บริษัทจึงควรเดินหน้าปรับปรุงระบบป้องกัน พร้อมแบ่งปันข้อมูลจากกรณีที่เกิดขึ้นจริง
อย่างไรก็ตาม จุดที่ผู้เชี่ยวชาญเห็นตรงกันคือ ไม่มีมาตรการใดป้องกันการหลบเลี่ยงได้ทั้งหมด ระบบจึงต้องมีด่านตรวจสอบหลายชั้น ตั้งแต่การเริ่มมีเจตนา การเข้าถึงข้อมูล การสั่งผลิตสารพันธุกรรม และการใช้ห้องแล็บ ไปจนถึงการตรวจจับเชื้อก่อนแพร่กระจาย หากด่านหนึ่งล้มเหลว ด่านถัดไปยังต้องช่วยชะลอ ตรวจพบ หรือหยุดการดำเนินการให้ได้
ขณะเดียวกัน กติกาต้องไม่เข้มงวดจนปิดกั้นนักวิทยาศาสตร์จากการใช้ AI เพื่อพัฒนาวัคซีน ยา และนวัตกรรมทางการแพทย์ เพราะเทคโนโลยีที่ช่วยลดเวลาและข้อจำกัดในการวิจัย ก็อาจทำให้ฝ่ายป้องกันตอบสนองต่อภัยชีวภาพได้เร็วขึ้นเช่นกัน
เป้าหมายจึงอยู่ที่การออกแบบกติกาให้แยกงานวิจัยที่มีเป้าหมายชอบธรรมออกจากการใช้ AI เพื่อก่ออันตรายได้อย่างแม่นยำที่สุด
