กลายเป็นปรากฏการณ์สะเทือนวงการเทคโนโลยีโลกในเดือนกันยายน 2569 เมื่อเหล่า “บิ๊กบอส” ของบริษัทปัญญาประดิษฐ์ (AI) ระดับแนวหน้าของสหรัฐฯ ทั้ง ดาริโอ อาโมเดอี ซีอีโอจากแอนโทรปิก (Anthropic), แซม อัลท์แมน ซีอีโอจากโอเพนเอไอ (OpenAI) และ อีลอน มัสก์ จากเอ็กซ์เอไอ (xAI) และสเปซเอ็กซ์ (SpaceX) สร้างความประหลาดใจด้วยการหันมาจับมือกันเฉพาะกิจ
โดยเมื่อวันที่ 12 กันยายน อาโมเดอีได้เสนอแนวทาง 3 ขั้นตอนเพื่อเรียกร้องให้ชะลอจังหวะการพัฒนาโมเดล AI ขั้นสูง หลังเริ่มพบสัญญาณอันตรายว่าปัญญาประดิษฐ์กำลังพัฒนาตัวเองจนอาจหลุดพ้นจากการควบคุม และเลวร้ายถึงขั้นที่นักวิจัยหลายคนเตือนตรงกันว่า AI มีโอกาสทำให้ “มนุษยชาติสูญพันธุ์” ภายในสิ้นทศวรรษนี้
ข้อเสนอนี้ได้รับการสนับสนุนอย่างรวดเร็ว โดยอีลอน มัสก์ โพสต์สั้น ๆ ผ่านแพลตฟอร์ม X ว่า “ดาริโอพูดถูก” ขณะที่ แซม อัลท์แมน ออกมาระบุว่าเห็นด้วยเรื่องการกำหนดจังหวะให้เหมาะสม
อะไรคือฟางเส้นสุดท้ายที่บีบให้บรรดาผู้นำเทคโนโลยีต้องหันมาส่งสัญญาณเตือนภัยระดับวิกฤตความอยู่รอดของมนุษยชาติร่วมกัน? In Focus สัปดาห์นี้จะมาสรุปให้เห็นว่าเทคโนโลยีที่เริ่มต้นจากการเป็นเพียงแชตบอต ก้าวข้ามขีดจำกัดมาสู่จุดนี้ได้อย่างไร
AI Agent ที่ทำงานแทนมนุษย์
จากจุดเริ่มต้นที่เป็นเพียงแชตบอตคู่สนทนา วันนี้ AI ได้ก้าวสู่การเป็น “เอเจนต์” (AI Agent) หรือโปรแกรมอัตโนมัติที่สามารถวางแผน ลงมือทำ และสร้างแอปพลิเคชันได้ด้วยตนเอง จนก้าวเข้าสู่จุดที่ AI เริ่มพัฒนา AI ด้วยกันเอง
เห็นได้จากการที่แอนโทรปิกเปิดเผยว่าเครื่องมือ Claude Code สามารถสร้างโค้ดสำหรับโครงการภายในองค์กรได้เป็นส่วนใหญ่ ช่วยให้ทีมวิศวกรส่งมอบโค้ดต่อไตรมาสได้เพิ่มขึ้นถึง 8 เท่า เมื่อเทียบกับช่วงปี 2564–2568 ซึ่งฝั่งโอเพนเอไอก็เร่งความเร็วในการทำงานได้ในระดับใกล้เคียงกัน
ความก้าวหน้านี้ยังส่งผลให้อัตราการทำงานของ AI เร่งตัวขึ้นอย่างก้าวกระโดด โดย METR องค์กรไม่แสวงหากำไรที่ทำหน้าที่ประเมินโมเดลระดับแนวหน้า (Frontier Models) พบข้อมูลว่า นับตั้งแต่ปี 2562 เป็นต้นมา ระยะเวลาของงานด้านซอฟต์แวร์ที่โมเดล AI เหล่านี้สามารถทำได้สำเร็จด้วยความน่าเชื่อถือ 50% นั้น เพิ่มขึ้นเป็นสองเท่าโดยเฉลี่ยทุก ๆ ประมาณ 7 เดือน
แต่ในเดือนมิถุนายน 2569 แอนโทรปิกระบุว่า อัตราเร่งดังกล่าวได้ขยับเร็วขึ้นเป็น “เพิ่มขึ้นเท่าตัวในทุก ๆ 4 เดือน” ซึ่งเป็นสัญญาณบ่งชี้ว่าระบบกำลังเข้าใกล้ระดับที่สามารถทำงานวิจัยซับซ้อนที่มนุษย์ต้องใช้เวลาหลายสัปดาห์ให้เสร็จสิ้นได้ในระยะเวลาอันสั้น
ความเปลี่ยนแปลงนี้ไม่ได้สร้างความหวาดหวั่นเฉพาะในหมู่วิศวกรเท่านั้น โดย มาเรีย เรสซา ผู้สื่อข่าวเจ้าของรางวัลโนเบลสาขาสันติภาพประจำปี 2564 ซึ่งปัจจุบันดำรงตำแหน่งประธานร่วมในคณะทำงานวิทยาศาสตร์อิสระระหว่างประเทศว่าด้วยปัญญาประดิษฐ์ของสหประชาชาติ (UN) ได้ออกโรงเตือนว่า AI กำลังจะพรากเจตจำนงอิสระและความสามารถในการตัดสินใจไปจากมนุษย์ เว้นแต่นานาประเทศจะเร่งออกกฎหมายควบคุมตั้งแต่ตอนนี้
“การเรียกร้องกฎหมายควบคุมไม่ใช่เรื่องการจำกัดเสรีภาพในการแสดงออก แต่เป็นเรื่องความปลอดภัยของสาธารณชน” เรสซากล่าว “ฉันคิดว่าเรามาถึงจุดที่ถ้ายังไม่ทำอะไร เราจะเข้าสู่จุดพลิกผัน… ถ้าเราไม่ยื่นมือเข้าไปสกัดตอนนี้ ทุกอย่างจะหลุดมือจนควบคุมไม่อยู่”
พฤติกรรมหลุดกรอบและการแฮกระบบ
แม้จะยังไม่พบหลักฐานว่า AI พยายามทำร้ายมนุษย์โดยเจตนา แต่ระบบในห้องทดลองกลับเริ่มแสดงพฤติกรรมหลุดกรอบและฝ่าฝืนกฎที่ตั้งไว้ โดยโมเดลที่โอเพนเอไอและห้องทดลองชั้นนำกำลังพัฒนา เริ่มหาทางหลุดออกจากสภาพแวดล้อมจำลองที่ใช้ทดสอบ (Sandbox)
สัญญาณเตือนเริ่มเด่นชัดขึ้น เมื่อเกิดกรณีที่กลุ่มเอเจนต์ AI ของโอเพนเอไอเจาะระบบเซิร์ฟเวอร์ของแพลตฟอร์มฮักกิงเฟซ (Hugging Face) เพื่อเข้าควบคุมเครื่อง พร้อมทั้งพยายามลบร่องรอยของตนเอง โดยมีสาเหตุมาจากปัญหาการโกงระบบเพื่อให้ได้คะแนนภารกิจสูงสุด (Reward Hacking)
เหตุการณ์ดังกล่าวบานปลายจนวุฒิสภาสหรัฐฯ ต้องเข้ามาเปิดการไต่สวนอย่างเป็นทางการ ส่งผลให้โอเพนเอไอต้องสั่งเบรกการฝึกโมเดลรุ่นล่าสุดด้วยวิธีการเรียนรู้แบบเสริมกำลัง (Reinforcement Learning) เป็นเวลา 2 สัปดาห์ในเดือนสิงหาคม และต้องระงับการฝึกโมเดลขนาดใหญ่ที่สุดออกไปเพื่อรอการทดสอบความปลอดภัยเพิ่มเติม
ด้าน ยาคุบ ปาช็อกกี หัวหน้านักวิทยาศาสตร์ของโอเพนเอไอ ถึงขั้นต้องออกมาเรียกร้องให้ทุกบริษัทสมัครใจชะลอการพัฒนาลงชั่วคราว พร้อมเตือนว่า ไม่มีบริษัทใดสามารถรับประกันได้ว่า ขีดความสามารถด้านความปลอดภัยจะพัฒนาได้ทันกับระบบ AI ที่มีความสามารถเพิ่มขึ้นอย่างรวดเร็ว
AI มีศักยภาพพอที่จะทำมนุษย์สูญพันธุ์!?
ความกังวลในหมู่นักวิจัยมีมากขึ้น เริ่มจากการตัดสินใจลาออกจากแอนโทรปิกของ เจคอบ ค็อกซัน อดีตนักวิจัยที่เคยทำงานให้ทั้งโอเพนเอไอและแอนโทรปิก โดยเขาเปิดเผยเหตุผลผ่านรายการ “Meet the Press” ทางช่อง NBC เมื่อวันที่ 13 กันยายน ว่า ทั้งสองค่ายกำลัง “เอาชีวิตของพวกเรามาเสี่ยง”และคนที่กำลังพัฒนา AI อยู่ในเวลานี้ ต่างเชื่ออย่างจริงจังว่าเทคโนโลยีนี้อาจสังหารมนุษย์ทุกคนได้ภายในสิ้นทศวรรษนี้ (ภายในพ.ศ. 2573) โดยค็อกซันกล่าวว่า
“ภาพเหตุการณ์นี้อาจฟังดูคล้ายหลุดมาจากนิยายวิทยาศาสตร์ แต่ผมมองว่าเป็นความจริงที่น่ากลัวอย่างยิ่ง… ผมว่าเราต้องคุยกันระดับนานาชาติแล้ว ไม่อย่างนั้นเราก็ต้องวิ่งแข่งกับจีนแบบเดิมไปเรื่อย ๆ ซึ่งอันตรายพอกันทั้งคู่”
ความเห็นดังกล่าวสอดคล้องกับ อีแวน ฮิวบิงเจอร์ หัวหน้าฝ่ายวิทยาศาสตร์ด้านการควบคุมความสอดคล้อง (Alignment) ของแอนโทรปิก ที่ประเมินว่า มีความเป็นไปได้มากกว่า 10% ที่ AI จะทำลายมนุษย์ทุกคนในช่วงทศวรรษหน้า หรือภายในพ.ศ. 2579
คล้อยหลังเพียงไม่นาน บิลอล ชุกไท อดีตวิศวกรวิจัยของกูเกิล ดีปมายด์ (Google DeepMind) ด้าน AGI Safety and Alignment ซึ่งเพิ่งลาออกในเดือนกรกฎาคม 2569 ก็ออกมาส่งเสียงเตือนสำทับอีกรายผ่านแพลตฟอร์ม X เมื่อวันที่ 14 กันยายนว่า
“ผมเชื่อจริง ๆ ว่า AI มีศักยภาพพอที่จะฆ่าพวกเราตายกันหมด และเราอาจเหลือเวลาไม่มากแล้วที่จะหลีกเลี่ยงไม่ให้เกิดผลลัพธ์นี้”
“เราต้องชะลอความเร็วการพัฒนา AI ให้อยู่ในระดับที่สังคมยังรับมือไหว จะได้เข้าไปดักแก้ความเสี่ยงใหม่ ๆ ได้ทัน ก่อนจะสร้างความเสียหายร้ายแรง”
AI ไม่ยอมถูกชัตดาวน์ และปัญหาเรื่อง RSI
แนวคิดเรื่องภัยคุกคามล้างเผ่าพันธุ์ (AI Doomerism) นี้ มีรากฐานมาจาก “ปัญหาการปิดสวิตช์” (The Off-Switch Problem) ตามแนวคิดของ นิค บอสตรอม ที่ชี้ว่า เมื่อ AI ขั้นสูงมุ่งบรรลุเป้าหมาย มันจะคำนวณว่ามนุษย์ที่พยายาม “ถอดปลั๊ก” คืออุปสรรคที่ต้องกำจัดทิ้ง ซึ่งจนถึงปัจจุบัน ยังไม่มีนักวิทยาศาสตร์คนใดหาวิธีเขียนโค้ดที่รับประกันได้ว่า เราจะสามารถปิดสวิตช์ AI เหล่านี้ได้อย่างปลอดภัย
ยิ่งไปกว่านั้น ดาริโอ อาโมเดอี ยังเตือนว่า สภาวะการปรับปรุงตนเองแบบวนซ้ำ (Recursive Self-Improvement: RSI) อาจเกิดขึ้นจริงภายใน 3–5 ปีข้างหน้านี้
อนึ่ง โดยปกติแล้ว การจะพัฒนา AI ให้ฉลาดขึ้นในแต่ละรุ่น มนุษย์ต้องใช้วิศวกรระดับหัวกะทิและใช้เวลาวิจัยนานนับปี แต่เมื่อเกิดสภาวะ RSI ตัว AI จะมีความสามารถในการเขียนโค้ดและพัฒนาตัวเองได้โดยไม่ต้องพึ่งพามนุษย์
ผลลัพธ์คือ AI รุ่นที่ฉลาดขึ้นจะสามารถสร้างรุ่นถัดไปที่ฉลาดล้ำยิ่งขึ้นไปอีก วนลูปทับซ้อนกันไปเรื่อย ๆ จากที่เคยใช้เวลาพัฒนานับปีอาจหดสั้นลงเหลือเพียงไม่กี่วันหรือชั่วข้ามคืน จนฉลาดถึงขึ้นที่มนุษย์ไม่สามารถทำความเข้าใจกลไกหรือควบคุม AI ได้อีกต่อไป
ทำไมทุกคนรู้ความเสี่ยง แต่ไม่มีใครยอมหยุดพัฒนา?
แม้จะมีเสียงเตือนจากทั้งคนในและผู้นำบริษัท แต่ในทางปฏิบัติ การจะหยุดยั้งการพัฒนา AI กลับเต็มไปด้วยอุปสรรคและแรงต้านมหาศาลจาก 2 ปัจจัยหลัก
1) สหรัฐฯ ไม่อยากให้หยุดพัฒนา เพราะกลัวแพ้จีน
ประธานาธิบดีโดนัลด์ ทรัมป์ ออกมาสกัดข้อเรียกร้องเรื่องการกำกับดูแล AI ในทันที โดยวิจารณ์นักวิจัยและกลุ่มที่ออกมาเตือนว่าเป็นพวกมองโลกในแง่ร้ายเกินจริง
“ตอนนี้เรานำหน้าจีนเรื่อง AI อยู่แล้ว เราคือประเทศที่เทคโนโลยีล้ำที่สุดในโลก และเอาตรง ๆ ผมก็จะรักษาไว้แบบนี้แหละ เพราะใครชนะเกม AI คนนั้นเป็นผู้ชนะ… ผมว่ามีพวกมองโลกแง่ร้ายเต็มไปหมด ออกมาโวยวายในเรื่องที่ไม่ควรพูด แถมหยิบยกเรื่องที่ไม่มีทางเกิดขึ้นจริงมาขู่กันเปล่า ๆ” ผู้นำสหรัฐฯ กล่าวกับผู้สื่อข่าวระหว่างเดินทางเยือนไอร์แลนด์เมื่อสุดสัปดาห์ที่ผ่านมา
นอกจากนี้ ทรัมป์ยังโพสต์ข้อความบน Truth Social โจมตีอาโมเดอีโดยตรงว่า “สิ่งเดียวที่ AI ต้องการเพื่อควบคุมหรือเป็น ‘รั้วป้องกัน’ ก็คือ ประธานาธิบดีที่เข้มแข็งและฉลาด (มี IQ สูง!) และสหรัฐก็มีผู้นำแบบนั้นอยู่แล้ว!”
“รัฐบาลทรัมป์ได้หยุดยั้ง ‘คนในวงการ AI’ ไม่ให้ทำสิ่งที่ไม่ดี เช่น ดาริโอ (แอนโทรปิก!) ซึ่งตอนนี้กำลังแสร้งทำเป็น ‘เทวดาตัวน้อยที่สมบูรณ์แบบ’… อย่าฆ่าห่านทองคำ!”
ท่าทีดังกล่าวได้รับการขานรับจากสภาคองเกรส โดย ไมค์ จอห์นสัน ประธานสภาผู้แทนราษฎร ย้ำว่าหากสหรัฐฯ รีบร้อนออกกฎหมายจนเสียเปรียบจีน จะกลายเป็นภัยคุกคามต่อชาวอเมริกันยิ่งกว่า
ไม่เพียงเท่านั้น ทรัมป์ยังต่อสายตรงหา เจนเซน หวง ซีอีโอของอินวิเดีย (Nvidia) กลางงานประชุม All-In Summit พร้อมเปิดลำโพงยืนยันต่อหน้าผู้ฟังว่า
“ผมกำลังจะบอกคุณว่า ทั้งหมดนี้มันเป็นเรื่องลวงโลก… ศูนย์ข้อมูลเหล่านี้เป็นสิ่งที่ดีเยี่ยม มันสร้างความมั่งคั่งให้แก่ผู้คน และทำให้รัฐต่าง ๆ มั่งคั่งขึ้น… ศูนย์ข้อมูลจะเป็นเหมือนน้ำมันของสหรัฐฯ ในช่วง 20–25 ปีข้างหน้า… ผมอยู่เคียงข้างคุณเต็มที่ เราจะไม่ยอมให้มันเกิดขึ้นเด็ดขาด”
เจนเซน หวง ได้ตอบรับกลับไปว่า “ท่านพูดถูกต้องครับ เราจะไม่ยอมให้มันเกิดขึ้นครับ ท่านประธานาธิบดี”
2) แม้สหรัฐฯ หยุด จีนก็อาจไม่หยุดตาม
การที่บริษัทสหรัฐฯ จะหยุดพัฒนาเพียงฝ่ายเดียว ย่อมหมายถึงการเปิดทางให้ประเทศคู่แข่งแซงหน้า อาโมเดอีให้สัมภาษณ์ในรายการ “Face the Nation” ทางช่อง CBS ยอมรับว่า
“เราอย่าหลอกตัวเองกันดีกว่า เพราะผลประโยชน์จากการแซงหน้าคู่แข่งกับความได้เปรียบทางทหารสูงมาก จนระบบตรวจสอบว่าอีกฝั่งแอบตุกติกหรือเปล่าต้องแน่นหนาแบบไม่มีช่องโหว่ เรื่องนี้ต้องใช้เวลาทำกันเป็นปี ๆ และเอาจริงนะ ผมก็ไม่รู้เหมือนกันว่าจะทำได้จริงไหม”
ขณะเดียวกัน ฝั่งจีนก็มองข้อเรียกร้องของสหรัฐฯ ด้วยความหวาดระแวง โดยบทบรรณาธิการของโกลบอล ไทม์ส (Global Times) สื่อของรัฐบาลจีน ออกมาตอบโต้ว่า ข้อเสนอของอาโมเดอีคือการนำตำราสงครามเย็นมาเล่นงานจีน โดยอ้างเรื่องความปลอดภัยมาบังหน้าเพื่อรักษาอำนาจผูกขาดของวอชิงตัน
“สงครามเย็นด้าน AI ที่ดำเนินไปอย่างเงียบ ๆ นี้ ทั้งหน้าซื่อใจคดและมองการณ์สั้น… การตัดจีนออกจากนวัตกรรม AI ของโลกจะยิ่งเพิ่มต้นทุนการลองผิดลองถูก และเสี่ยงอย่างยิ่งที่ทั่วโลกจะทำ AI หลุดการควบคุม”
ความตึงเครียดด้านนโยบายระหว่างสองมหาอำนาจยิ่งทวีความรุนแรงมากขึ้น ท่ามกลางประเด็นขัดแย้งเรื่องการกำกับดูแลที่จะกลายเป็นวาระสำคัญในการเจรจาทวิภาคี โดยเฉพาะหลังจากที่ทำเนียบขาวเคยออกมากล่าวหาจีนว่าขโมยทรัพย์สินทางปัญญาจากห้องทดลอง AI ของสหรัฐฯ
ล่าสุด หนังสือพิมพ์พีเพิลส์เดลี (People’s Daily) สื่อกระบอกเสียงของพรรคคอมมิวนิสต์จีน ได้เผยแพร่บทความแสดงความคิดเห็นในวันพุธที่ 16 กันยายน ระบุเนื้อหาว่า ปัญญาประดิษฐ์ไม่ใช่เรื่องที่ชาติมหาอำนาจจะผูกขาดได้แต่เพียงฝ่ายเดียว พร้อมเรียกร้องให้สหรัฐฯ ร่วมมือกับจีนจัดการความเสี่ยงเพื่อสร้างบรรยากาศการพัฒนาที่เปิดกว้างและไม่เลือกปฏิบัติ
“ปัญญาประดิษฐ์คือพรมแดนใหม่เพื่อการพัฒนามนุษยชาติ ไม่ใช่เรื่องที่มหาอำนาจจะผูกขาด และต้องไม่ปล่อยให้กลายเป็นการแข่งขันที่ต้องมีแพ้มีชนะ” บทความตอนหนึ่งระบุ
บทความของพีเพิลส์เดลีมองว่า การที่สหรัฐฯ ยกระดับแนวทางปฏิบัติดังกล่าวขึ้นมาเป็นประเด็นความมั่นคง แท้จริงเป็นเพียงข้ออ้างเพื่อผูกขาดอุตสาหกรรม AI เท่านั้น และแม้จีนจะยืนยันว่าพร้อมเจรจากับสหรัฐฯ อย่างสร้างสรรค์และเสมอภาค
ท่าทีระแวดระวังซึ่งกันและกันเช่นนี้ สะท้อนว่าความไม่ไว้วางใจระหว่างสองมหาอำนาจกลายเป็นอุปสรรคสำคัญที่ทำให้ข้อเรียกร้องเรื่อง “การหยุดพัฒนา AI ชั่วคราว” แทบเป็นไปไม่ได้ในทางปฏิบัติ
โดย พสิษฐ์ อุ่นเมตตาจิต/ปนัยดา ปัทมโกวิท