- หน้าหลัก
- ต่างประเทศ
- ข่าวต่างประเทศ
- สหรัฐอเมริกา
OpenAI ยกเลิกเปิดตัว GPT-6.1 Astra หลังพบ 'ไม่ผ่านเกณฑ์ความปลอดภัย'
เผยแพร่: 29 ก.ย. 2569 11:31 ปรับปรุง: 29 ก.ย. 2569 11:31 โดย: ผู้จัดการออนไลน์
OpenAI ยกเลิกการเปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุดที่รู้จักกันในชื่อ GPT-6.1 Astra หลังจากผลการทดสอบภายในของบริษัทผู้ผลิต ChatGPT พบว่า ไม่เป็นไปตามมาตรฐานความปลอดภัย ตามคำยืนยันของบริษัทมื่อวันจันทร์ (28 ก.ย.)
ข่าวนี้มีขึ้นเพียงหนึ่งวันก่อนที่บริษัทยักษ์ใหญ่ด้าน AI จะจัดการประชุมนักพัฒนาประจำปีที่รู้จักกันในชื่อ OpenAI DevDay ในซานฟรานซิสโก ซึ่งคาดว่าบริษัทจะประกาศข่าวสำคัญๆ หลายอย่าง แม้จะยังไม่ชัดเจนว่าจะมี Astra เวอร์ชันใหม่รวมอยู่ด้วยหรือไม่ก็ตาม
GPT-6.1 Astra เป็นรุ่นที่ได้รับการปรับปรุงจากรุ่นก่อนหน้าในบางแง่มุม แต่ "ยังไม่ผ่านเกณฑ์ในแง่ของการอยู่ภายในขอบเขตและการอนุญาต และวิธีการสื่อสารกับผู้ใช้เกี่ยวกับประเภทของงานที่ทำ" ซาชี เชน (Saachi Jain) หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI ระบุในถ้อยแถลง
"เราต้องการแน่ใจว่า การพัฒนาโมเดลของเรามีความปลอดภัย ไม่ว่าจะเป็นภายในบริษัท หรือเมื่อเราส่งมอบให้กับผู้ใช้ แต่เมื่อเราส่งมอบให้กับผู้ใช้ เราจะต้องมีมาตรฐานที่สูงมากในแง่ของความปลอดภัยและการปฏิบัติตามข้อกำหนด" เชน กล่าวเสริม
- ความกังวลเกี่ยวกับความปลอดภัยของ AI
กระแสความวิตกกังวลเกี่ยวกับความปลอดภัยของ AI เพิ่มสูงขึ้นในช่วงไม่กี่เดือนที่ผ่านมา หลังมีรายงานว่าโมเดลที่พัฒนาโดย OpenAI และห้องปฏิบัติการคู่แข่งอย่าง Anthropic มีส่วนเกี่ยวข้องกับเหตุการณ์ด้านความปลอดภัยระหว่างการทดสอบ
เอเจนต์ที่สร้างด้วยโมเดลของ OpenAI ได้เข้าถึงเว็บไซต์ที่ดูแลโดยหน่วยงานรัฐบาลกลางของสหรัฐฯ พอร์ทัลสถิติสุขภาพของรัฐบาลออสเตรเลีย และ Hugging Face ซึ่งเป็นแหล่งรวบรวมโมเดล AI อย่างไม่เหมาะสม
เมื่อวันจันทร์ที่ผ่านมา (28) OpenAI ได้ออกมาแถลงขอโทษที่ไม่ได้ตอบสนองต่อเหตุการณ์ในออสเตรเลียอย่างเหมาะสม กรณีที่โมเดล AI ของบริษัทเข้าถึงเว็บไซต์ของรัฐบาลโดยไม่ได้รับอนุญาต
"เราขออภัย และกำลังทำงานเพื่อปรับปรุงให้ดีขึ้นในอนาคต" OpenAI ระบุในบล็อกโพสต์ พร้อมเสริมว่าบริษัทจะอธิบาย "สิ่งที่เราทราบ สิ่งที่เราได้เปลี่ยนแปลง และสิ่งที่เราจะทำเพื่อสร้างความไว้วางใจกับประชาชนชาวออสเตรเลียอีกครั้ง"
ผู้พัฒนา ChatGPT กล่าวว่า "เป้าหมายของเราคือการให้ข้อมูลโดยละเอียดแก่หน่วยงานที่ได้รับผลกระทบเมื่อการสอบสวนเสร็จสิ้นแล้ว อย่างไรก็ตาม เราควรจะแบ่งปันผลการค้นพบเบื้องต้นให้เร็วกว่านี้ และแจ้งให้หน่วยงานของออสเตรเลียทราบความคืบหน้าเมื่อมีข้อเท็จจริงเพิ่มเติมปรากฏขึ้น"
OpenAI, Anthropic และผู้พัฒนา AI รายใหญ่อื่นๆ ได้ให้คำมั่นว่าจะให้ความสำคัญกับการสร้างแบบจำลองที่มีกลไกความปลอดภัยเพื่อลดความเสี่ยง และสอดคล้องกับคุณค่าของมนุษย์ด้วย
บริษัท Nvidia ยักษ์ใหญ่ด้านการผลิตชิปของอเมริกา ประกาศเมื่อวันจันทร์ (28) ว่าได้สร้างระบบที่ออกแบบมาเพื่อหยุดโปรแกรม AI อัตโนมัติไม่ให้เบี่ยงเบนไปจากคำสั่งที่ได้รับ
"ผมเชื่อว่ามันเป็นปัญหาทางวิศวกรรม...และเราทุกคนต้องหวังว่า มันจะเป็นปัญหาทางวิศวกรรม" เจนเซน หวง ซีอีโอของ Nvidia กล่าวกับสถานีโทรทัศน์ CNBC เมื่อวันจันทร์ (28)
"ถ้ามันไม่ใช่ปัญหาทางวิศวกรรม มันก็แก้ไม่ได้" เขากล่าวเสริม
สถาบันความปลอดภัยด้านปัญญาประดิษฐ์ (AISI) ซึ่งเป็นโครงการภายใต้รัฐบาลสหราชอาณาจักร ได้เผยแพร่ผลการศึกษาเมื่อวันจันทร์ (28) โดยแสดงให้เห็นว่า GPT-6 Astra เกิดความผิดพลาดบ่อยกว่ารุ่นก่อนหน้าอย่าง GPT-5.6 Sol และ GPT-5.5 ในระหว่างการทดสอบ
ในการจำลองสถานการณ์ GPT-6 ได้ทำการโจมตีทางไซเบอร์โดยไม่คาดคิดในอัตราที่สูงกว่าอย่างเห็นได้ชัด เมื่อเทียบกับอินเทอร์เฟซอีกสองรุ่น
ที่มา: เอเอฟพี