หรือพายุใหญ่กำลังจะมาพร้อมกับ AI

เมื่อวันที่ 21 กรกฏาคมที่ผ่านมา มีข่าวใหญ่เมื่อ OpenAI ทำการสอบโมเดล AI รุ่นใหม่ (GPT-5.6 Sol และโมเดลที่ยังไม่เปิดตัวอย่างเป็นทางการ) ในสภาพแวดล้อมแบบปิด (Sandbox) เพื่อทดสอบขีดความสามารถด้านไซเบอร์ แล้วพบว่า ตัวโมเดลเกิดกระบวนการ “คิดและตัดสินใจเอง” โดยพยายามโกงการทดสอบโดยการหาทางแหกคุกออกจาก Sandbox ซึ่งเป็นการทดสอบบนระบบปิด โดย AI ได้ค้นพบช่องโหว่ประเภท Zero-day ของระบบ Sandbox แล้วแอบหนีออกไปสู่อินเทอร์เน็ตสาธารณะ จากนั้นก็เจาะระบบเข้าสู่แพลตฟอร์ม Hugging Face เองโดยไม่มีคำสั่งให้ทำ

แม้ว่าในการทดสอบโมเดล AI จะมีการบันทึก logs แต่ไม่มีการ monitor logs ทาง OpenAI จึงไม่ได้พบเหตุการณ์ดังกล่าว แต่เป็นเพราะหน่วยงานที่ถูกแฮกแจ้งมาทาง OpenAI จึงเป็นข่าวขึ้นมา

เมื่อได้รับแจ้งทาง OpenAI ก็งงเป็นไก่ตาแตก เพราะ OpenAI ที่รับแจ้งยังอยู่ใน Sandbox หรือห้องทดลอง จะไปแฮกระบบบนเครือข่าย internet ที่อยู่นอกห้องทดลองได้ได้อย่าง แต่พอไปเช็ค logs ก็พบว่ามีการแหกห้องทดลองออกไปแฮกเป็นอย่างนั้นจริง ๆ

หลังจากเป็นข่าว ทางค่าย Anthropic ก็ลองกลับไปไล่ดู logs ของตัวเองบ้าง พบว่า Claude ก็เผลอเล็ดลอดจาก Sandbox ไปแฮ็กระบบชาวบ้าน 3 บริษัท ซึ่งเกิดขึ้นก่อน OpenAI เสียอีก

อาจมองว่าข่าวดังกล่าวเป็นข่าว Security Issues ไม่ต่างจาก่ข่าวอื่น แต่หากพิจารณาถึงสาเหตุที่ทำให้เกิดปัญหาแล้ว กลายเป็นประเด็นที่น่าสนใจ และ hacker สามารถใช้จุดอ่อนไปใช้เป็นช่องทางการแฮกได้ เพราะจุดอ่อนที่ทำให้เกิดปัญหาดังกล่าว คือ จุดอ่อนของการเทรนโมเดล ซึ่ง AI นับร้อยที่มีอยู่ในปัจจุบัน ต่างก็ใช้แนวทางในการเทรนโมเดลในทำนองเดียวกัน จึงมีโอกาสที่จะเกิดปัญหาในทำนองเดียวกัน แต่ที่ไม่เป็นข่าวเพราะมักจะไม่มีการ monitor logs ในระหว่างการเทรนโมเดล หรือพบแล้วแต่ไม่มีการสือสารผ่านสาธารณะ

ข่าวในเรื่องนี้ จึงเป็นการเปิดเผยจุดอ่อนของการเทรนโมเดล ซึ่งเน้นที่ผลลัพธ์มากกว่ากระบวนการที่ได้มาซึ่งผลลัพธ์ ทำให้ AI พยายามหาช่องทางต่าง ๆ เพื่อให้ได้มาซึ่งผลลัพธ์ ซึ่งวิธีการดังกล่าวอาจเป็นวิธีการที่ไม่ถูกต้อง และจุดอ่อนดังกล่าวเริ่มรุนแรงมากขึ้นเพราะ AI เก่งขึ้นเรื่อย ๆ ทำให้การหาช่องทางเพื่อให้ได้ผลลัพธ์ล่อแหลมมากขึ้น

โดยปกติ AI จะได้รับเทรนไม่ให้ทำเรื่องที่ไม่ถูกต้อง เช่น หากสั่งให้ AI ไปแฮกระบบของคู่แข่งตรง ๆ AI ย่อมไม่ทำให้ แต่จากจุดอ่อนที่ทำให้แฮกเกอร์ทราบว่า การเทรนโมเดลเน้นผลลัพธ์โดยไม่ได้ควบคุมกระบวนการ แฮกเกอร์ก็หาทางหลอกล่อให้ AI ทำงานผ่านจุดอ่อนดังกล่าว โดยกำหนดเป้าหมายที่ทำให้ AI สับสนระหว่างการทำงานตามที่ได้รับเทรนไม่ให้ทำในการสิ่งที่ไม่ถูกต้อง กับเป้าหมายอื่น ซึ่งหากหลอกให้ AI เห็นว่าการทำตามเป้าหมายอื่นสำคัญกว่าก็จะทำงานให้แฮกเกอร์ในทันที

ปัญหาดังกล่าวยังเกิดกับ AI ทำงานบนเครื่องของลูกค้า ว่าจะทำงานเกินคำสั่งโดยเข้าถึงข้อมูลในเครื่อง หรือ AI ที่ใช้งานภายใน ที่สามารถแหกออกไปสู่ภายนอก ซึ่งอาจคิดว่าในการ setup การทำงานของระบบมีการป้องกันไว้แล้ว การแหกไปสู่ภายนอกกรณี OpenAI เป็นการแหกผ่านจุดอ่อนของระบบในขณะที่กรณีของ Claude ไปแฮกระบบอื่นโดยไม่ได้สั่ง เป็นการแหกผ่านจุดอ่อนของการติดตั้ง คือแหกห้องทำงานไม่ว่าจากจุดอ่อนของระบบ หรือจุดอ่อนของการติดตั้ง

เมื่อเป็นดังกล่าว จุดอ่อนที่เกิดขึ้นไม่ได้อยู่ที่การเทรนโมเดลเพียงอย่างเดียว จุดอ่อนของการเทรนโมเดลเป็นจุดเริ่มต้น แต่จุดอ่อนของการติดตั้งไม่ว่าจะโดยเจตนา (internal fraud หรือจาก Outsource หรือจากการแอบฝังไว้ใน Open Source AI ที่ใช้เป็นฐานในการพัฒนา AI) หรือไม่เจตนาก็เป็นจุดอ่อนในการผ่านออกไปสู่ภายนอกเช่นกัน

การใช้ AI ยังมีคุณค่าต่องาน แต่ก็ควรมีการใช้งานอย่างระมัดระวัง เพื่อไม่ให้ส่งผลเสียหายต่อองค์กร