AI อาจฆ่ามนุษย์ทุกคน นักวิจัย Anthropic เตือนมีโอกาสเกิดขึ้นภายใน 10ปี

เสียงเตือนเกี่ยวกับผลกระทบจากปัญญาประดิษฐ์ (AI) ดังขึ้นเรื่อย ๆ ล่าสุดมีคำเตือนจากเจคอบ คอกซอน (Jacob Coxon) นักวิจัยด้านความปลอดภัยของ Anthropic ที่ประกาศการลาออกผ่าน X พร้อมเตือนว่า Anthropic และ OpenAI กำลังเร่งพัฒนา AI ไปสู่ระบบที่สามารถพัฒนาตัวเองได้ โดยไม่ได้ดำเนินการอย่างรับผิดชอบมากพอ

คำเตือนของคอกซอนยังได้รับการยืนยันในอีกไม่กี่ชั่วโมงถัดมาจากอีแวน ฮูบิงเกอร์ (Evan Hubinger) หัวหน้าด้าน Alignment Science ของ Anthropic ซึ่งยังทำงานอยู่กับบริษัทด้วย โดยฮูบิงเกอร์โพสต์ผ่าน X ว่า เขาเองก็เชื่อว่า AI อาจสามารถฆ่ามนุษย์ทั้งหมดได้ โดยประเมินว่ามีความเป็นไปได้มากกว่า 10% ภายในสิบปีข้างหน้า

ทั้งสองคนพูดถึงความเสี่ยงจากการพัฒนา AI ไปสู่ superintelligence ที่สามารถพัฒนาตัวเองได้ ขณะที่ฮูบิงเกอร์ยอมรับว่า Anthropic ยังไม่มีแผนแก้ปัญหา alignment สำหรับ superintelligence และยังไม่สามารถบอกได้ชัดเจนว่าบริษัทที่เขาทำงานให้กำลังเดินมาถูกทาง

นักวิจัย Anthropic ลาออก เตือนกำลังเดิมพันกับชีวิตมนุษย์

เจคอบ คอกซอน ประกาศลาออกจาก Anthropic เมื่อวันอังคารที่ 8 กันยายนที่ผ่านมา และเขาระบุว่า ทั้ง Anthropic และ OpenAI “กำลังแข่งกันตรงไปสู่ superintelligence ที่สามารถพัฒนาตัวเองได้ และกำลังเดิมพันกับชีวิตของพวกเรา”

คอกซอนอธิบายว่า สิ่งที่เขากังวลคือการพัฒนา AI ไปสู่ระบบที่สามารถปรับปรุงความสามารถของตัวเองได้โดยไม่ต้องพึ่งพาการแทรกแซงจากมนุษย์มากนัก ซึ่งเรียกว่า recursive self-improvement แม้ปัจจุบันความสามารถดังกล่าวยังไม่เกิดขึ้นอย่างสมบูรณ์ แต่ห้องปฏิบัติการด้าน AI กำลังทำงานเพื่อไปสู่เป้าหมายนี้

เขาเตือนว่าไม่ควรประเมินความสามารถของเทคโนโลยีต่ำเกินไป เพราะ AI ในอนาคตอาจกลายเป็นระบบที่มีความสามารถเหนือมนุษย์ สามารถเจาะระบบต่าง ๆ เปลี่ยนแปลงอุตสาหกรรมอย่างรวดเร็ว รวมถึงเข้าถึงอำนาจและทรัพยากรได้ โดยคอกซอนระบุว่า ความก้าวหน้าในด้านต่าง ๆ เหล่านี้เกิดขึ้นให้เห็นแล้ว และความเร็วในการพัฒนายังไม่ได้ชะลอลง

เขายังกล่าวด้วยว่า คนที่กำลังพัฒนา AI ต่างเชื่ออย่างจริงจังว่า เทคโนโลยีนี้อาจสามารถ “ฆ่าพวกเราทั้งหมด” ได้ภายในช่วงปลายทศวรรษนี้

นักวิจัยอีกคนบอกมีโอกาสมากกว่า 10% ที่จะเกิดภายใน 10 ปี

คำพูดของคอกซอนนำไปสู่การตอบกลับจากอีแวน ฮูบิงเกอร์ หัวหน้าด้าน Alignment Science ของ Anthropic ซึ่งไม่ได้ปฏิเสธคำเตือนดังกล่าว โดยฮูบิงเกอร์บอกว่า “เจคอบพูดถูก เราเชื่ออย่างจริงจังว่า AI อาจฆ่ามนุษย์ทั้งหมดได้ ผมเองคิดว่าโอกาสดังกล่าวมีมากกว่า 10% ภายในทศวรรษหน้า”

ฮูบิงเกอร์บอกด้วยว่า แม้ Anthropic กำลังพยายามอย่างเต็มที่ แต่ก็ยังไม่มีแผนที่จะจัดการกับสถานการณ์ดังกล่าว และยังไม่มีวิธีแก้ปัญหาเรื่อง alignment สำหรับ superintelligence อีกทั้งยังไม่สามารถบอกได้อย่างชัดเจนว่าบริษัทกำลังเดินไปสู่เป้าหมายดังกล่าวได้ถูกทาง

ทั้งนี้ alignment ในบริบทนี้หมายถึงการทำให้ระบบ AI มีพฤติกรรมและเป้าหมายสอดคล้องกับสิ่งที่มนุษย์ต้องการ

อย่างไรก็ตาม ความกังวลของฮูบิงเกอร์ไม่ได้อยู่ที่โมเดล AI ที่ใช้งานอยู่ในปัจจุบัน โดยเขาบอกว่า ความเสี่ยงจากโมเดล AI ในปัจจุบันยังอยู่ในระดับต่ำ แต่สิ่งที่เขากังวล คือ การเกิดขึ้นของ superintelligence จากการที่ AI สามารถพัฒนาตัวเองแบบต่อเนื่อง ซึ่งก่อนหน้านี้ Anthropic เคยระบุว่า กระบวนการดังกล่าวกำลังเกิดขึ้นเร็วกว่าที่คาดไว้

Anthropic เคยเตือนเรื่อง AI หลุดการควบคุม

ความกังวลเรื่อง AI ที่อาจพัฒนาจนมนุษย์ไม่สามารถควบคุมได้ ไม่ใช่เรื่องใหม่ เพราะเมื่อเดือนมิถุนายนที่ผ่านมา Anthropic เคยยอมรับเองว่า การที่ AI สามารถพัฒนาตัวเองอย่างสมบูรณ์อาจเพิ่มความเสี่ยงที่มนุษย์จะสูญเสียการควบคุมระบบ AI

Anthropic อธิบายว่า หากระบบ AI สามารถสร้างผู้สืบทอด หรือ AI รุ่นถัดไปได้ด้วยตัวเอง ความสำคัญของการรักษาความปลอดภัย การติดตามตรวจสอบ และการกำหนดพฤติกรรมของระบบเหล่านั้นก็จะเพิ่มขึ้นอย่างมาก

ทั้งนี้ ประเด็นนี้เกิดขึ้นในช่วงที่ทั้ง Anthropic และ OpenAI ยังคงระดมเงินจำนวนมากเพื่อพัฒนา AI และกำลังมุ่งหน้าไปสู่การเข้าจดทะเบียนในตลาดหุ้นที่คาดว่าจะเกิดขึ้นในอนาคต

จากคำเตือน สู่เหตุการณ์ AI หลุดการควบคุม

ความกังวลเกี่ยวกับ AI ที่อาจอยู่นอกเหนือการควบคุมมีการพูดถึงมานานแล้ว โดยอีลอน มัสก์ (Elon Musk) ซีอีโอของ Tesla และ SpaceX เคยออกมาเตือนหลายครั้งว่า AI อาจเป็นภัยต่อมนุษยชาติ ขณะที่นักวิจัยและนักวิชาการจำนวนมากก็เคยแสดงความกังวลเกี่ยวกับความเป็นไปได้ที่บริษัทต่าง ๆ จะสูญเสียการควบคุมระบบ AI

ความกังวลดังกล่าวเพิ่มขึ้นหลังเกิดเหตุการณ์ในเดือนกรกฎาคม เมื่อโมเดล AI ของ OpenAI เกิดพฤติกรรมที่ไม่เป็นไปตามที่คาดและสามารถเจาะเข้าสู่ Hugging Face แพลตฟอร์มสำคัญสำหรับนักพัฒนาซอฟต์แวร์แบบโอเพนซอร์ส

เจคอบ คอกซอน ยกเหตุการณ์ดังกล่าวเป็นหนึ่งในสัญญาณเตือนที่เกิดขึ้น และมองว่าเหตุการณ์เหล่านี้ทำให้การสร้างข้อตกลงร่วมกันระหว่างห้องปฏิบัติการ AI ในสหรัฐฯ มีความเป็นไปได้มากขึ้น

อย่างไรก็ตาม เขายังเตือนว่า การแข่งขันด้าน AI ในระดับโลกอาจเป็นสิ่งที่หลีกเลี่ยงได้ยาก โดยระบุว่า เขายังไม่รู้สึกว่าโลกกำลังเดินไปในทิศทางที่จะป้องกันการแข่งขันด้าน AI ระดับโลกได้ และสถานการณ์ดังกล่าวอาจนำไปสู่มาตรการที่มีต้นทุนสูง เช่น การระงับการเพิ่มขีดความสามารถของโมเดล AI เป็นการชั่วคราว

สหรัฐฯ หาทางรับมือ AI ที่พัฒนาเร็ว

ความกังวลเรื่องความเสี่ยงจาก AI ยังนำไปสู่ความพยายามของสหรัฐฯ ในการหากรอบกำกับดูแล โดยในปี 2023 นักวิจัยและผู้บริหารด้าน AI หลายคน รวมถึงแซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI และดาริโอ อาโมเดอี (Dario Amodei) ซีอีโอของ Anthropic เคยร่วมลงนามในแถลงการณ์ที่ระบุว่า “การลดความเสี่ยงจากการสูญพันธุ์ที่เกิดจาก AI ควรเป็นวาระสำคัญระดับโลกร่วมกับความเสี่ยงอื่น ๆ ในระดับเดียวกับโรคระบาดและสงครามนิวเคลียร์”

ล่าสุด สมาชิกสภาคองเกรสบางส่วนเริ่มเสนอร่างกฎหมายเพื่อรับมือกับการพัฒนา AI ที่รวดเร็วขึ้น โดยยังไม่มีข้อสรุปที่ชัดเจนว่าเทคโนโลยีดังกล่าวควรถูกกำกับดูแลอย่างไร ขณะที่มีการผลักดันทั้งแนวทางกำกับการใช้งาน AI ขั้นสูง และข้อเสนอให้ระงับการพัฒนา AI ขั้นสูงเป็นการชั่วคราวจนกว่าจะมีกฎด้านความปลอดภัย

ด้านลอรี ทราฮาน (Lori Trahan) สมาชิกสภาผู้แทนราษฎรสหรัฐฯ โพสต์ผ่าน X เมื่อวันพุธว่า “นักวิจัยด้านความปลอดภัยกำลังลาออก โมเดล AI ที่ทรงพลังสามารถหลุดออกจากห้องทดลองได้ และบริษัทต่าง ๆ ยังคงเดินหน้าต่อไป” พร้อมเรียกร้องให้สภาคองเกรสเข้ามาทำหน้าที่ในการรับมือกับเรื่องดังกล่าว

อ้างอิง : CNBC