ความเสี่ยงจากการใช้ AI ภายในบริษัท

ในยุคที่ทุกธุรกิจขับเคลื่อนด้วยความเร็ว ปัญญาประดิษฐ์ (AI) ได้กลายเป็นเครื่องมือสำคัญที่ช่วยติดปีกให้พนักงานทำงานได้เร็วขึ้นอย่างกะทันหัน แต่ในความสะดวกสบายนั้น ทราบหรือไม่ว่าองค์กรของคุณกำลังเปิดประตูรับความเสี่ยงรูปแบบใหม่ที่อาจส่งผลกระทบต่อความปลอดภัยข้อมูล การบุกรุกเข้าสู่ระบบคอมพิวเตอร์และการปฏิบัติงานผ่านจุดอ่อนของการใช้ AI ที่ไม่รัดกุม ความเสี่ยงด้านคุณภาพและความถูกต้องของ AI ที่ไม่เหมาะสม

การนำ AI มาใช้ในองค์กรโดยขาดระบบการควบคุมและการบริหารจัดการที่ดี อาจสร้างความเสียหายใหญ่หลวงให้แก่ธุรกิจได้ แม้ว่าเทคโนโลยีปัญญาประดิษฐ์จะช่วยเพิ่มความเร็วและประสิทธิภาพในการทำงาน แต่ก็มาพร้อมกับ ความเสี่ยงสำคัญ ที่ผู้บริหารและองค์กรธุรกิจจำเป็นต้องตระหนักและเฝ้าระวังอย่างใกล้ชิด ดังนี้

1. ความเสี่ยงด้านความปลอดภัยและข้อมูลรั่วไหล (Data Privacy & Cyber Security)

• ข้อมูลรั่วไหลสู่ภายนอก (Data Leakage): พนักงานป้อนข้อมูลภายในที่เป็นความลับ แผนธุรกิจ หรือข้อมูลลูกค้าลงใน AI สาธารณะ (Public AI) โดยรู้เท่าไม่ถึงการณ์
• การละเมิดกฎหมายคุ้มครองข้อมูลส่วนบุคคล: การประมวลผลข้อมูลของ AI ที่เกินความจำเป็นอาจขัดต่อหลัก PDPA (Personal Data Protection Act) จนนำไปสู่การปรับและบทลงโทษทางกฎหมาย
  • การสร้างข้อมูลเท็จ (Hallucination): AI อาจสร้างคำตอบที่ผิดพลาด แต่อ้างอิงด้วยน้ำเสียงที่น่าเชื่อถือ หากนำไปใช้ในรายงานหรือการตัดสินใจทางธุรกิจโดยไม่มีการตรวจสอบ อาจเกิดความเสียหายร้ายแรง [1]
  • กล่องดำที่อธิบายไม่ได้ (Black Box Blindness): ระบบ AI บางประเภทซับซ้อนเกินกว่าจะอธิบายกระบวนการคิดหรือที่มาของผลลัพธ์ได้ ทำให้ยากต่อการสอบทาน (Audit) ในธุรกิจที่มีความเสี่ยงสูง เช่น การเงินหรือการแพทย์ [1, 2]
• ภัยคุกคามทางไซเบอร์รูปแบบใหม่: องค์กรอาจตกเป็นเป้าหมายของการโจมตีระดับสูง เช่น Prompt Injection (การฝังคำสั่งลวงให้ระบบทำงานผิดพลาด) หรือ Data Poisoning (การเจือปนข้อมูลทุจริตในระบบเทรนโมเดล) Advance Phishing (ใช้ Generative AI เขียนอีเมล์หลอกลวงเป็นภาษาไทยที่สละสลวย ทำให้อัตราหลงเชื่อสูงขึ้น) Deepfake Scames (ใช้ AI ปลอมแปลงเสียงหรือใบหน้าผู้บริหารระดับสูง)

2. ความเสี่ยงจาก Shadow AI

Shadow AI คือ การที่พนักงานนำเครื่องมือ AI จากภายนอกมาใช้ทำงาน โดยไม่ได้แจ้งหรือสแกนความปลอดภัยจากทีม IT (เช่น การสมัครใช้ ChatGPT, Claude หรือเว็บเจนภาพส่วนตัว)

การขาดการควบคุม (Lack of Governance): องค์กรไม่สามารถตรวจสอบได้เลยว่า มีข้อมูลอะไรไหลออกไปนอกบริษัทบ้าง และส่งผลกระทบต่อกฎหมายคุ้มครองข้อมูลส่วนบุคคลอย่าง PDPA โดยตรง

ข้อมูลความลับรั่วไหลโดยไม่ตั้งใจ: พนักงานมักก๊อปปี้ซอร์สโค้ด (Source Code) ของบริษัท แผนกลยุทธ์ หรือข้อมูลส่วนบุคคลของลูกค้า ป้อนลงไปใน AI สาธารณะเพื่อประมวลผล ซึ่งข้อมูลเหล่านั้นจะถูกนำไปใช้อบรม (Train) โมเดล AI ต่อไป ทำให้คนนอกมีโอกาสเข้าถึงได้

2. ความเสี่ยงด้านคุณภาพและความถูกต้องของงาน (Data & Operational Risks)

• การสร้างข้อมูลเท็จ (Hallucination): AI อาจสร้างคำตอบที่ผิดพลาด แต่อ้างอิงด้วยน้ำเสียงที่น่าเชื่อถือ หากนำไปใช้ในรายงานหรือการตัดสินใจทางธุรกิจโดยไม่มีการตรวจสอบ อาจเกิดความเสียหายร้ายแรง [1]
• กล่องดำที่อธิบายไม่ได้ (Black Box Blindness): ระบบ AI บางประเภทซับซ้อนเกินกว่าจะอธิบายกระบวนการคิดหรือที่มาของผลลัพธ์ได้ ทำให้ยากต่อการสอบทาน (Audit) ในธุรกิจที่มีความเสี่ยงสูง เช่น การเงินหรือการแพทย์ [1, 2]

3. ความเสี่ยงด้านอคติและการละเมิดสิทธิ (Bias & Human Rights)

• อคติของอัลกอริทึม (Algorithmic Bias): หาก AI ถูกฝึกด้วยข้อมูลชุดเก่าที่มีอคติ ระบบจะส่งต่ออคติตัวนั้นออกมา เช่น ระบบคัดกรองใบสมัครงานที่มีอคติทางเพศหรืออายุ
• ความเสี่ยงด้านชื่อเสียง (Reputational Risk): การใช้ AI ตัดสินใจอย่างไม่เป็นธรรมหรือสร้างผลลัพธ์ที่กระทบต่อสังคม อาจทำให้องค์กรเสียชื่อเสียงและขาดความน่าเชื่อถือในทันที [1, 2, 3]

4. ความเสี่ยงด้านบุคลากรและการพึ่งพาเทคโนโลยี (Human & Culture Risks)

• การพึ่งพา AI มากเกินไป (Over-reliance): พนักงานขาดการคิดวิเคราะห์และยอมรับผลลัพธ์จาก AI โดยไม่มีข้อโต้แย้ง ส่งผลให้ทักษะและการควบคุมงาน (Human Oversight) ลดลง
• โครงสร้างการปรับตัวของกำลังคน: หากพนักงานขาดทักษะการใช้ AI อย่างถูกต้อง (AI Literacy) จะเกิดช่องว่างด้านศักยภาพในการทำงานและอาจนำไปสู่ปัญหาความเหลื่อมล้ำภายในองค์กร [1, 2, 3]

5. ต้นทุนและผลตอบแทนที่ไม่คุ้มค่า (Financial & Investment Risks)

• การลงทุนที่สูญเปล่า: การพัฒนาหรือติดตั้งระบบ AI ขนาดใหญ่มีต้นทุนสูง ทั้งค่าระบบ ค่าดูแลรักษา และค่าฝึกอบรมพนักงาน หากไม่มีการวางกลยุทธ์ที่ชัดเจน อาจไม่ได้ผลตอบแทน (ROI) ตามที่คาดหวัง [1]