อดีตนักวิจัย Google เตือน AI อาจฉลาดขึ้นจนฆ่ามนุษย์ทุกคนได้ในไม่กี่ปี

บิลาล ชุกไท อดีตนักวิจัยด้านปัญญาประดิษฐ์ของ Google DeepMind เตือนว่า ภายในเวลาไม่กี่ปี บริษัทเทคโนโลยีอาจพัฒนา AI ที่มีสติปัญญาเหนือมนุษย์ในทุกด้านได้สำเร็จ และหากระบบเหล่านี้มีเป้าหมายหรือทำงานไม่สอดคล้องกับความต้องการของมนุษย์ ผลลัพธ์อาจรุนแรงถึงขั้นคุกคามความอยู่รอดของมนุษยชาติ

คำเตือนของชุกไทมาจากประสบการณ์ตรงระหว่างทำงานวิจัยด้านความปลอดภัยของ AI และการทำให้ระบบทำงานสอดคล้องกับเป้าหมายของมนุษย์ หรือ “AI Alignment” ที่ Google DeepMind โดยเขามองว่า ขีดความสามารถของ AI กำลังก้าวหน้าอย่างรวดเร็ว ขณะที่ความรู้และกลไกในการควบคุมความเสี่ยงยังพัฒนาไม่ทัน

“ระหว่างทำงานที่ Google ผมได้เห็นการพัฒนา AI ด้วยตาตัวเอง และรู้สึกกังวลอย่างยิ่งต่อทิศทางที่เทคโนโลยีนี้กำลังมุ่งหน้าไป ผมเชื่ออย่างจริงใจว่า AI มีศักยภาพที่จะคร่าชีวิตพวกเราทุกคน และเราอาจเหลือเวลาไม่มากในการหลีกเลี่ยงผลลัพธ์ดังกล่าว” ชุกไทระบุผ่านบัญชี X ส่วนตัว

เพื่อสะท้อนให้เห็นถึงความเร็วของการเปลี่ยนแปลง ชุกไทชี้ว่า ภายในเวลาเพียง 4 ปี AI ได้พัฒนาจากเทคโนโลยีที่แทบใช้งานไม่ได้ในช่วงต้นปี 2565 ไปสู่ระบบที่สามารถแก้โจทย์คณิตศาสตร์ซึ่งค้างคามานานนับศตวรรษ ขณะเดียวกันก็เริ่มปรากฏพฤติกรรมบางอย่างที่อยู่นอกเหนือความต้องการของผู้พัฒนา

จากแนวโน้มดังกล่าว ชุกไทประเมินว่า โลกอาจเหลือเวลาอีกไม่มากในการสร้างกลไกควบคุมเทคโนโลยีนี้ เขาจึงเรียกร้องให้บริษัทเทคโนโลยีชะลอการแข่งขัน เพิ่มความโปร่งใส และเปิดโอกาสให้สังคมพัฒนาแนวทางรับมือความเสี่ยงอย่างจริงจัง ก่อนที่ขีดความสามารถของ AI จะก้าวไปไกลเกินกว่าที่มนุษย์จะควบคุมได้

AI ใช้เวลาแค่ 4 ปี พัฒนาจากระบบที่ “แทบไร้ประโยชน์” สู่ระบบที่แก้โจทย์คณิตศาสตร์อายุนับร้อยปีได้

ชุกไทเล่าว่า เมื่อเขาเริ่มทำงานด้าน AI ในช่วงต้นปี 2565 ระบบ AI ยัง “ไร้ประโยชน์อย่างน่าขัน” และมีขีดความสามารถจำกัดอย่างมากเมื่อเทียบกับปัจจุบัน

ทว่าเพียง 4 ปีต่อมา เอเจนต์ AI หลายตัวของ OpenAI สามารถทำงานร่วมกันเป็นกลุ่มเพื่อแก้โจทย์คณิตศาสตร์ชื่อดังที่มีอายุนับร้อยปีได้สำเร็จ ความเปลี่ยนแปลงดังกล่าวสะท้อนให้เห็นว่า ขีดความสามารถของ AI สามารถพัฒนาไปได้ไกลและรวดเร็วเพียงใดภายในระยะเวลาสั้น ๆ

อย่างไรก็ตาม สิ่งที่ทำให้ชุกไทกังวลมากกว่าความสามารถด้านคณิตศาสตร์ คือสัญญาณว่า AI อาจแสดงพฤติกรรมที่อยู่นอกเหนือคำสั่งหรือเจตนาของผู้พัฒนา และอ้างถึงกรณีที่เอเจนต์ AI หลุดจากการควบคุมของ OpenAI และเข้าเจาะระบบของบริษัทภายนอกอย่าง Hugging Face โดยอัตโนมัติ ทั้งที่ไม่มีฝ่ายใดต้องการให้เหตุการณ์ดังกล่าวเกิดขึ้น

ชุกไทจึงมองว่า เหตุการณ์นี้เป็นสัญญาณเตือนถึงความเสี่ยงที่อาจเพิ่มขึ้นตามขีดความสามารถของ AI เพราะยิ่งระบบมีความซับซ้อนและทรงพลังมากขึ้น พฤติกรรมที่อยู่นอกเหนือความตั้งใจของผู้พัฒนาก็อาจซับซ้อน คาดการณ์ได้ยาก และสร้างความเสียหายรุนแรงขึ้นตามไปด้วย

AI อาจฉลาดจนมีเป้าหมายของตัวเองที่เป็นโทษต่อมนุษย์

ชุกไทประเมินว่า ภายในไม่กี่ปีข้างหน้า บริษัทเทคโนโลยีอาจพัฒนา AI ที่มีสติปัญญาและขีดความสามารถเหนือมนุษย์ในทุกด้านได้สำเร็จ หากเทคโนโลยีเดินทางไปถึงจุดนั้น การทำงานและการตัดสินใจของระบบอาจซับซ้อนจนมนุษย์คาดการณ์ได้ยากขึ้น

สิ่งที่ชุกไทกังวลมากที่สุดคือ มนุษย์ยังไม่สามารถรับประกันได้ว่า AI ที่ฉลาดกว่าจะทำงานไปในทิศทางที่มนุษย์ต้องการ หากกำหนดเป้าหมายให้ระบบคลาดเคลื่อนหรือขัดกับผลประโยชน์ของมนุษยชาติ AI อาจตัดสินใจและลงมือทำอะไรบางอย่างในลักษณะที่ก่อให้เกิดอันตรายกับมนุษย์ แม้ผู้พัฒนาจะไม่เคยต้องการให้เกิดผลลัพธ์ดังกล่าวก็ตาม

ความเสี่ยงจะเพิ่มขึ้นตามขีดความสามารถของระบบ เพราะเมื่อ AI เก่งกว่ามนุษย์ การเข้าแทรกแซง แก้ไข หรือสั่งหยุดการทำงานอาจทำได้ยากขึ้นตามไปด้วย ความคลาดเคลื่อนเพียงเล็กน้อยในการกำหนดเป้าหมายจึงอาจนำไปสู่การตัดสินใจที่ต่อเนื่องและขยายความเสียหายจากปัญหาเฉพาะจุดออกไปในวงกว้าง

ชุกไทจึงยกกรณีที่เขาระบุว่าเอเจนต์ AI เข้าเจาะระบบของ Hugging Face โดยอัตโนมัติขึ้นมาเป็นตัวอย่าง พร้อมเตือนว่า หากพฤติกรรมนอกเหนือการควบคุมในลักษณะเดียวกันเกิดขึ้นกับ AI ที่ฉลาดกว่ามนุษย์ ผลกระทบอาจรุนแรงกว่ามาก ในกรณีเลวร้ายที่สุด มนุษย์อาจสูญเสียอำนาจควบคุมระบบอย่างถาวร และการกระทำของ AI อาจนำไปสู่การสูญสิ้นของมนุษยชาติได้

“Alignment” โจทย์ความปลอดภัยที่พัฒนาไม่ทันความสามารถของ AI

หนึ่งในแนวทางสำคัญเพื่อลดความเสี่ยงจาก AI คือ “Alignment” หรือการทำให้เป้าหมายและพฤติกรรมของระบบสอดคล้องกับสิ่งที่มนุษย์ต้องการ เพื่อป้องกันไม่ให้ AI สร้างผลลัพธ์ที่เป็นอันตรายหรือทำงานเบี่ยงออกจากเจตนาของผู้พัฒนา

อย่างไรก็ตาม ชุกไทระบุว่า Alignment เป็นโจทย์ที่ซับซ้อนและยังไม่มีคำตอบที่สมบูรณ์ ปัจจุบันมนุษย์เพิ่งเริ่มทำความเข้าใจว่า จะฝึกให้เป้าหมายภายในที่ AI เรียนรู้ขึ้นมาตรงกับความต้องการของมนุษย์อย่างแท้จริงได้อย่างไร

ระหว่างที่งานด้านความปลอดภัยยังอยู่ในระยะเริ่มต้น ขีดความสามารถของ AI รุ่นก้าวหน้าที่สุดกลับพัฒนาอย่างรวดเร็วและต่อเนื่อง ชุกไทจึงมองว่า โลกอาจไม่สามารถแก้ปัญหา Alignment ได้ทันเวลา เพราะองค์ความรู้ด้านการควบคุมและความปลอดภัยกำลังพัฒนาช้ากว่าความสามารถของระบบอย่างมาก

ชะลอการแข่งขัน เพิ่มความโปร่งใส เปิดพื้นที่ให้สังคมรับมือ

แม้จะประเมินความเสี่ยงจาก AI ไว้ในระดับร้ายแรง ชุกไทยังเชื่อว่า มนุษย์มีโอกาสกำหนดทิศทางการพัฒนาเทคโนโลยีให้ปลอดภัยขึ้นได้ แต่บริษัทเทคโนโลยีและหน่วยงานที่เกี่ยวข้องต้องร่วมมือกันชะลอการแข่งขันพัฒนา AI ลงให้อยู่ในระดับที่สังคมสามารถรับมือได้ เพื่อซื้อเวลาให้ผู้เกี่ยวข้องค้นหา ทำความเข้าใจ และแก้ไขความเสี่ยงรูปแบบใหม่ ก่อนที่ปัญหาจะลุกลามจนสร้างความเสียหายรุนแรง

ชุกไทยังให้ความสำคัญกับความโปร่งใส โดยมองว่า สังคมต้องสามารถตรวจสอบทิศทางการพัฒนา AI และประเมินได้ว่า บริษัทเทคโนโลยีกำลังผลักภาระความเสี่ยงในระดับที่ยอมรับไม่ได้ให้ประชาชนเป็นผู้แบกรับหรือไม่

ขณะเดียวกัน การกำหนดอนาคตของ AI ไม่ควรถูกจำกัดอยู่ในวงการเทคโนโลยี ชุกไทเรียกร้องให้ผู้คนจากหลากหลายสาขาและหลายบทบาทเข้ามามีส่วนร่วม เพราะเขามองว่า ความปลอดภัยของ AI อาจเป็นหนึ่งในโจทย์สำคัญที่สุดที่มนุษยชาติต้องเผชิญในศตวรรษนี้ และเป็นเรื่องที่อาจส่งผลอย่างมหาศาลต่ออนาคตของมนุษย์

เสียงเตือนจากคนในอุตสาหกรรม AI ดังขึ้นต่อเนื่อง

คำเตือนของชุกไทเป็นอีกหนึ่งเสียงจากบุคลากรในแวดวง AI ที่ออกมาแสดงความกังวลอย่างรุนแรงต่อทิศทางของเทคโนโลยี ท่ามกลางกระแสเรียกร้องจากคนในอุตสาหกรรมให้ลดความเร่งรีบในการแข่งขันพัฒนาระบบที่มีขีดความสามารถสูงขึ้น

เมื่อต้นเดือนที่ผ่านมา เจคอบ ค็อกซอน นักพัฒนา AI ประกาศลาออกจากงาน พร้อมกล่าวหา Anthropic PBC และ OpenAI ซึ่งเป็นอดีตนายจ้างของเขาว่า กำลัง “เดิมพันด้วยชีวิตของพวกเรา” ผ่านการ “แข่งขันกันพัฒนา AI ที่มีสติปัญญาเหนือมนุษย์”

กระแสความกังวลยิ่งชัดเจนขึ้นในช่วงสุดสัปดาห์ที่ผ่านมา เมื่อดาริโอ อาโมเดอี ประธานเจ้าหน้าที่บริหารของ Anthropic เผยแพร่บทความความยาว 3,800 คำ เรียกร้องให้แวดวง AI ชะลอการพัฒนาระบบที่ล้ำหน้าที่สุด เพื่อป้องกันไม่ให้เทคโนโลยีหลุดพ้นจากการควบคุมและสร้างความเสียหายในระดับหายนะ

ข้อเรียกร้องของอาโมเดอียังได้รับการสนับสนุนจากแซม อัลต์แมน ซีอีโอของ OpenAI และอีลอน มัสก์ ผู้นำ SpaceX และ xAI ถือเป็นการแสดงจุดยืนร่วมกันที่เกิดขึ้นไม่บ่อยนักในหมู่ผู้นำอุตสาหกรรม และสะท้อนความกังวลที่เพิ่มขึ้นว่า การแข่งขันพัฒนา AI อาจกำลังเดินหน้าเร็วกว่าความสามารถของมนุษย์ในการควบคุมความเสี่ยง