ภาพประกอบ: AFP
เมื่อสัปดาห์ก่อน Anthropic บริษัทวิจัยและพัฒนาเอไอ ออกรายงานหัวข้อ Detecting and Countering Misuse of AI ที่หนาถึง 154 หน้า ซึ่งถ้าเล่าแบบง่ายๆ มันคือรายงานที่ Anthropic ออกมาเปิดเผยว่าโมเดลเอไอที่บริษัทพัฒนาขึ้นมาอย่าง Claude ถูกเอาไปใช้ทำเรื่องเลวร้ายอะไรไว้แล้วบ้าง
กรณีตัวอย่างที่รายงานหยิบมาเปิดเผยมีอยู่มากมาย แต่รายงานได้แบ่งหมวดหมู่ของเคสเหล่านี้ออกเป็น 7 หมวด ได้แก่ (1) ปฏิบัติการทางไซเบอร์ เช่น การแฮ็กข้อมูล (2) ปฏิบัติการข้อมูลข่าวสารเพื่อสร้างอิทธิพลเหนือความคิด (ที่เรามักเรียกกันว่าไอโอ) (3) การติดตามสอดแนม (4) การพัฒนาอาวุธ (5) การใช้เทคโนโลยีชีวภาพในทางที่ผิด เช่น อาวุธชีวภาพ (6) การหลอกลวงและฉ้อโกง และ (7) ความพยายามขโมยความสามารถของโมเดลเอไอของบริษัท Anthropic เพื่อนำมาฝึกฝนโมเดลเอไอของตัวเอง
Anthropic ชี้แจงว่า เมื่อตรวจพบความพยายามใช้เอไอในเรื่องเหล่านี้ บริษัทได้เทคแอ็กชัน ด้วยการระงับบัญชีผู้ใช้งาน พร้อมยกระดับมาตรการป้องกันต่างๆ ให้เข้มข้นขึ้น และ Anthropic ยังบอกด้วยว่านี่คือความรับผิดชอบของบริษัทตัวเองที่จำเป็นต้องเปิดเผยเรื่องนี้ให้ทุกคนได้รับรู้ โดยเฉพาะบรรดาผู้พัฒนาโมเดลเอไอต่างๆ ที่จะได้เฝ้าระวังการถูกนำโมเดลไปใช้ในทางนี้
การเปิดเผยของ Anthropic ถือเป็นสัญญาณเตือนถึงทั่วโลก ว่าเอไอมีพลานุภาพที่จะเอาไปใช้ทำลายล้างได้มากถึงขนาดนี้ กระทั่งว่าสามารถใช้ช่วยในการพัฒนาอาวุธยุทโธปกรณ์และเทคโนโลยีชีวภาพที่อันตรายต่อมวลมนุษยชาติ แต่บทบรรณาธิการวันนี้ คงไม่ได้พูดไปถึงเคสที่ดูเซอร์เรียลอย่างสองเคสที่ว่ามานี้ เพราะถ้าย้อนไปอ่านพฤติกรรม 7 หมวดดีๆ จะสังเกตเห็นได้ว่าหลายหมวดล้วนเป็นภยันตรายใกล้ตัวเราทุกคน และถ้าเรียกมันแบบรวมๆ แล้ว ก็อาจใช้คำที่คลุมทั้งหมดนี้ได้ว่า ‘ภัยคุกคามทางดิจิทัล’
ในฐานะที่ผมติดตามและสืบสวนเรื่องไอโอมานาน ก็จะขอเริ่มต้นจากหมวดนี้และอาจจะพูดถึงหมวดนี้มากเป็นพิเศษ และก็ต้องขยายความคำว่าไอโอง่ายๆ เพื่อให้เข้าใจตรงกันก่อนเช่นกันว่า มันคือความพยายามที่จะปั่นกระแสข้อมูลข่าวสารบางเรื่องเพื่อกล่อมเกลาให้คนคล้อยตาม ซึ่งทุกวันนี้มักจะเห็นได้ในรูปบัญชีหรือแฟนเพจอวตารที่มักจะระดมโพสต์หรือแชร์ข้อความซ้ำๆ หรือคล้ายๆ กัน
เมื่อช่วงต้นปีนี้ ผมเพิ่งจะเผยแพร่ซีรีส์งานข่าวสืบสวนในชื่อ ‘เปิดโลก IO ยุค AI’ ที่ศึกษาเจาะไปที่บริบทความขัดแย้งระหว่างไทยกับกัมพูชา กับเมื่อไม่นานนี้ก็มีอีกชุดหนึ่งในชื่อ ‘เปิดปมสืบสวนปลาหมอคางดำในสมรภูมิข้อมูลข่าวสาร’ ที่น้องอีกคนหนึ่งในวันโอวันเป็นคนทำ งานสองชิ้นนี้ทำให้เห็นว่าไอโอไทยเดินหน้ามาถึงขั้นของการใช้ Generative AI สร้างเนื้อหา ขณะที่งานชิ้นแรกของผมก็เปิดเผยให้เห็นว่ามีการใช้เอไอพัฒนาซอฟต์แวร์ขึ้นมา (เรียกว่าวิธี vibe coding) คล้ายว่าเป็นระบบหลังบ้านที่ช่วยให้ทำไอโอได้ง่ายขึ้น
ในเมื่อเราเห็นการใช้เอไอในการทำไอโอมาพักใหญ่แล้ว และที่จริงยังมีเคสอื่นๆ มาก่อนผลงานสื่อสองชิ้นนี้ด้วยซ้ำ ถ้าอย่างนั้นการเปิดเผยข้อมูลของ Anthropic จะน่าตื่นตกใจตรงไหน คำตอบก็คือว่าโมเดลอย่าง Claude นั้นมีความล้ำหน้าตรงที่มันเปลี่ยนบทบาทเอไอจากเดิมที่เป็นผู้ช่วยในการทำงาน (assistant) มาเป็น ‘ผู้ดำเนินงานและบริหารจัดการระบบ’ (orchestrator) ซึ่งที่น่ากลัวคือมันทำงานต่างๆ ของมันเองได้อย่างอัตโนมัติ เป็นเวลาต่อเนื่องได้นานหลายชั่วโมงหรือหลายวัน โดยไม่ต้องมีมนุษย์คอยเฝ้าตลอดกระบวนการ
ในบริบทของการทำไอโอนั้น Anthropic ชี้ว่าเอไอได้ปฏิบัติการเสมือนเป็น ‘กองบรรณาธิการข่าว’ (news desk) ที่มีโครงสร้างการทำงานเป็นระบบ และยังรันระบบทั้งหมดด้วยตัวเองแบบอัตโนมัติ ไล่ตั้งแต่การทำงานเชิงบริหารจัดการ ทั้งการร่างคู่มือปฏิบัติการขึ้นมา การออกแบบโครงสร้างการทำงาน และการพัฒนาเครื่องมือทำงานขึ้นมาอัตโนมัติ มาจนถึงงานในระดับปฏิบัติการ ซึ่งมีทั้งการผลิตเนื้อหาอัตโนมัติ การสร้างบัญชีผู้ใช้และตัวตนปลอม การระดมเผยแพร่ข้อความอย่างอัตโนมัติ การฟอกเนื้อหาให้ดูแนบเนียนจับสังเกตได้ยาก ไปจนถึงการมีกระบวนการวิเคราะห์กลุ่มเป้าหมายของปฏิบัติการ ซึ่งช่วยในการตัดสินใจว่าจะปั่นกระแสในประเด็นไหน และยังมีการสร้างแฟ้มรวบรวมข้อมูลส่วนตัวของคน โดยเฉพาะนักการเมืองฝั่งตรงข้ามและนักเคลื่อนไหว เพื่อช่วยในการผลิตเนื้อหาโจมตี
การใช้ Claude ในการทำไอโอลักษณะนี้มีหลายกรณีที่รายงานเล่มนี้หยิบขึ้นมาเล่า ทั้งการทำไอโอของรัสเซียเพื่อโปรโมตภาพลักษณ์ของทหารรับจ้างรัสเซียในแอฟริกากลาง หรือที่ใกล้บ้านเราก็คือมาเลเซีย ที่พบว่ามีการทำปฏิบัติการโน้มน้าวความคิดประชาชนในช่วงการเลือกตั้ง
การทำไอโอหรือโฆษณาชวนเชื่อนับว่าเป็นหนึ่งในเครื่องมือสำคัญของ ‘ระบอบอำนาจนิยมดิจิทัล’ (digital authoritarianism) ขณะที่ในรายงานของ Anthropic ก็ระบุถึงพฤติกรรมการใช้งานอีกหมวดหนึ่ง นั่นคือปฏิบัติการติดตามสอดแนม หรือ surveillance operations ซึ่งมีทั้งการดักจับข้อมูลส่วนตัว การสอดส่องบทสนทนาบนเครือข่ายโทรศัพท์มือถือ และการเฝ้าระวังการแสดงความคิดเห็นบนสื่อโซเชียล เหล่านี้จึงสะท้อนว่าเอไออาจทำให้ประชาธิปไตยและสิทธิเสรีภาพของประชาชนอย่างเราหดแคบลง
ชื่อของประเทศไทยยังไม่มีปรากฏอยู่ในรายงานเล่มนี้ก็จริง แต่ถามใครก็คงย่อมเชื่อว่าอนาคตอันใกล้ เราคงมีแน่ๆ หรือเผลอๆ อาจมีไปแล้ว เพียงแต่ยังไม่มีใครเปิดเผยก็เป็นได้
ถ้าย้อนกลับมาเจาะที่เรื่องไอโอ ที่จริงแล้วการมองว่ามันเป็นภัยคุกคามต่อสิทธิเสรีภาพ ก็ยังเป็นเพียงมิติเดียว หากแต่ยังมีอีกมิติที่ประเทศเรายังไม่ค่อยพูดถึงและยังไม่ค่อยรู้กันนัก คือมันยังเป็นภัยคุกคามความมั่นคงของชาติได้เหมือนกัน เพราะหากไปดูรายละเอียดของบรรดากรณีตัวอย่างที่รายงานของ Anthropic หยิบยกขึ้นมาเสนอนั้น จะเห็นได้ว่ามีส่วนหนึ่งที่เป็นปฏิบัติการลักษณะข้ามชาติ หรือคือการที่ชาติหนึ่งพยายามเข้าไปปั่นกระแสในชาติอื่นๆ ไม่ว่าจะหวังผลอะไรก็แล้วแต่ ซึ่งสิ่งนี้มีศัพท์เรียกที่ครอบคลุมว่า Foreign Information Manipulation and Interference หรือ FIMI
ในประเทศไทย FIMI อาจจะยังเห็นกันไม่ชัดนัก หากเทียบกับบางประเทศ อย่างเช่นฟิลิปปินส์ ที่เคยมีการสืบสวนชี้ว่ามี FIMI ของจีนโลดแล่นอยู่ เพราะสองประเทศนี้กำลังอยู่ภายใต้ข้อพิพาททะเลจีนใต้/ทะเลฟิลิปปินส์ตะวันตก ที่กำลังคุกรุ่น
สำหรับประเทศไทย FIMI ที่ปฏิบัติการด้วยโมเดลเอไอขั้นสูง ก็ปฏิเสธไม่ได้ว่าเป็นอีกความเสี่ยง หรือเผลอๆ ก็ต้องพูดเช่นเดิมว่า อาจเกิดขึ้นแล้ว แต่เรายังไม่รู้ก็เป็นได้
ยังไม่นับว่ามีภัยคุกคามภายนอกรูปแบบอื่นที่รายงานของ Anthropic ระบุไว้ ทั้งการโจมตีทางไซเบอร์ หรือเรื่องที่เราคุ้นกันดีอย่างสแกมเมอร์ ซึ่งที่ผ่านมา ต่อให้ยังไม่มีเอไอ ประเทศไทยก็เปราะบางในการรับมือเรื่องเหล่านี้อยู่แล้วเป็นทุนเดิม
เมื่อแนวโน้มสถานการณ์ไปทางนี้ แน่นอนว่ายุทธศาสตร์หรือนโยบายความปลอดภัยเกี่ยวกับเอไอในระดับรัฐเป็นเรื่องสำคัญ แต่นั่นก็อาจไม่เพียงพอ เพราะที่สุดแล้วต้นทางความรับผิดรับชอบก็ต้องย้อนไปถึงบรรดาบริษัทเทคโนโลยีที่พัฒนาโมเดลเอไอต่างๆ ขึ้นมา
แม้ไม่กี่วันก่อน ดาริโอ อโมเดอี ซีอีโอของ Anthropic จะออกมาเรียกร้องให้โลกชะลอการพัฒนาเอไอลง ด้วยความเสี่ยงที่จะมันจะเป็นภัยคุกคามต่อมนุษยชาติ พร้อมด้วยบรรดาซีอีโอบิ๊กเทคหลายเจ้าที่ออกมาแสดงความเห็นด้วย แต่ภายใต้บรรยากาศที่การแข่งขันด้านเอไอกำลังทวีความเข้มข้น ทั้งในระดับระหว่างบริษัท และระหว่างชาติมหาอำนาจ ก็ไม่มีใครแน่ใจได้ว่าเสียงเรียกร้องของอโมเดอีจะเกิดขึ้นจริงได้แค่ไหน
ในยุคที่บิ๊กเทคใหญ่คับฟ้า และผลผลิตของพวกเขาได้สร้างผลกระทบทางสังคมมาแล้วมากมาย สิ่งหนึ่งที่อาจจะส่งแรงกดดันต่อพวกเขาได้ก็คือความตื่นตัวของคนทั่วโลกต่อปัญหานี้ โดยเสียงนั้นต้องดังมากพอ และความเคลื่อนไหวต้องส่งแรงกระเพื่อมได้มากพอ
ทุกวันนี้ ความตื่นตัวเรื่องเอไออาจเกิดขึ้นในแง่ที่ว่ากลัวมันมาแย่งงานหรือกลัวถูกทิ้งไว้ข้างหลัง ทว่ากระแสตื่นตัวต่อภัยคุกคามที่จะเกิดขึ้นจากเอไออาจยังน้อยเกินไป ทั้งที่ผลกระทบของมันใกล้ตัว และร้ายแรงถึงขั้นเป็นอันตรายต่อมวลมนุษยชาติได้
ที่สุดแล้ว เสียงที่แผ่วเบาเกินไปนี้อาจทำให้เรากำลังเดินสู่โลกดิสโทเปีย ที่เป็นผลพวงมาจากชนชั้นนำของโลกเพียงไม่กี่คน
Anthropic editor's note Editors’ Talk ดิสโทเปีย บริษัทเทคโนโลยี บิ๊กเทค ปัญญาประดิษฐ์ วงศ์พันธ์ อมรินทร์เทวา อำนาจนิยมดิจิทัล เอไอ โมเดลเอไอ