เมื่อระบบ AI กลายเป็นช่องทางโจมตี ทำไมทีมความปลอดภัยตามไม่ทัน

AI จากเครื่องมือช่วยงานสู่พื้นผิวโจมตีไซเบอร์แบบใหม่

การที่ระบบ AI กลายเป็นช่องทางโจมตี หมายถึงสถานการณ์ที่โมเดล, agent และแอปที่ฝัง AI ถูกใช้เป็นทั้งอาวุธและประตูหลังให้แฮกเกอร์ขโมยข้อมูล ปลอมตัวตน ควบคุมบัญชี หรืออุปกรณ์ได้ โดยอาศัยความสามารถด้านการวิเคราะห์อัตโนมัติ การจำลองเสียงและใบหน้า และการเข้าถึงข้อมูลองค์กรจำนวนมากพร้อมกัน ซึ่งทำให้การป้องกันแบบเดิมที่ออกแบบมาสำหรับมัลแวร์หรือฟิชชิ่งทั่วไปใช้ไม่ได้ผลอีกต่อไป

ประเด็นที่องค์กรมักมองข้ามคือ ระบบ AI เหล่านี้ไม่ได้เป็นเพียงแอปสนทนา แต่เชื่อมต่อฐานข้อมูล ภายใน, API, ปฏิทิน, อีเมล และไฟล์งานจริง ความเสี่ยงจึงขยับจากชื่อเสียง สู่โครงสร้างพื้นฐานธุรกิจโดยตรง AI ยังช่วยให้แฮกเกอร์โจมตีได้เร็ว ถูก และปรับแต่งเฉพาะรายเป้าหมายได้ดีขึ้นกว่าที่เคย ขณะที่กรอบการกำกับดูแลและสถาปัตยกรรมความปลอดภัยของหลายองค์กรยังคิดแบบยุคก่อน agentic AI ต่อให้มีเครื่องมือมากมาย แต่หากไม่มีแนวคิดเรื่องการแยกกัก (isolation) และการควบคุมเชิงธรรมาภิบาลที่ชัด ระบบ AI ที่ถูกบุกรุกก็พร้อมลากทั้งองค์กรลงเหว

Deepfake, การปลอมเสียง และการขโมยบัญชี: AI ยกระดับการหลอกลวง

ภัยจาก AI ด้านเนื้อหาปลอมไม่ได้เป็นแค่ข่าวลืออีกต่อไป เทคโนโลยี deepfake สามารถสร้างใบหน้า เสียง และวิดีโอปลอมที่ดูเหมือนคนจริงได้อย่างแนบเนียนจนเหยื่อจำนวนมากหลงเชื่อ นี่คือช่องโหว่ AI ความปลอดภัย ที่กำลังสั่นคลอนทั้งระบบยืนยันตัวตนและความไว้วางใจภายในองค์กร เมื่อการประชุมวิดีโอ การโทรสายภายใน หรือคำสั่งโอนเงินสามารถถูกปลอมได้แทบสมบูรณ์ กระบวนการอนุมัติที่พึ่ง “การมองเห็น” หรือ “การได้ยินเสียง” คนรู้จักจึงไม่เพียงพออีกต่อไป

ด้านเสียง ปัจจุบัน AI สามารถสร้างเสียงเลียนแบบได้ใกล้เคียงต้นฉบับอย่างมาก ด้วยเสียงตัวอย่างเพียงไม่กี่วินาที AI สามารถจำลองลักษณะเสียงของบุคคลได้ราว 85% ทำให้แฮกเกอร์แอบอ้างเป็นผู้บริหาร ญาติ หรือคู่ค้าเพื่อกดดันให้โอนเงินหรือตอบคำถามความปลอดภัยได้ การโจมตีแบบนี้สเกลได้ง่ายเพราะ AI สร้างเนื้อหาได้ทีละจำนวนมาก จึงสามารถเจาะองค์กรทีละหลายทีม หลายภาษาในเวลาเดียวกัน การรักษาความปลอดภัยไซเบอร์ ที่ไม่ปรับตัวให้สอดคล้องกับภัยคุกคามประเภทนี้กำลังกลายเป็นเกราะที่มีรูรั่วเต็มไปหมด

เบราว์เซอร์ AI และ AI agent: ช่องโหว่ใหม่ที่มองไม่เห็นแต่ควบคุมเครื่องคุณได้

คลื่นลูกใหม่ของภัยไซเบอร์ไม่ได้มาจากไฟล์แนบอันตราย แต่อยู่ในตัวเบราว์เซอร์ที่ผสานรวม AI เอง บริษัทด้านความปลอดภัยรายหนึ่งพบกลุ่มช่องโหว่ด้านความปลอดภัยในเบราว์เซอร์ที่ผสาน AI ซึ่งเปิดทางให้แฮกเกอร์ขโมยข้อมูล เข้าควบคุมบัญชี และแม้กระทั่งควบคุมอุปกรณ์ของผู้ใช้ได้ โดยที่เหยื่อไม่ต้องคลิกอะไรเลย แพลตฟอร์มที่ได้รับผลกระทบรวมถึง Claude บน Chrome, Gemini บน Chrome, Perplexity Comet, ChatGPT Atlas และ Copilot Edge นี่คือการพลิกเกมจากฟิชชิ่งแบบเดิม สู่ยุคที่แค่มีเนื้อหามัลลิเชียสในอีเมล ปฏิทิน หรือโซเชียล ก็เพียงพอให้ AI agent ไปกดปุ่มพังองค์กรแทนเรา

ที่น่ากังวลกว่านั้นคือ ช่องโหว่บางส่วนขยายผลไปไกลกว่าตัวเบราว์เซอร์เอง บนเบราว์เซอร์ Comet, Gemini และ Copilot Edge แฮกเกอร์อาจเข้าถึงเครื่องมือสำหรับนักพัฒนาและบริการคอมพิวเตอร์ภายในได้ ทำให้สามารถควบคุมอุปกรณ์ได้ ขณะเดียวกัน เอเจนต์ AI ขององค์กรก็เชื่อมต่อฐานข้อมูล ไฟล์ และเครื่องมือภายในผ่านโปรโตคอลมาตรฐานต่างๆ ซึ่งเมื่อหนึ่งในนั้นถูกพบช่องโหว่ระดับวิกฤต ก็ต้องมีการตอบสนองฉุกเฉินทั่วทั้งอุตสาหกรรม เหตุการณ์เหล่านี้ย้ำชัดว่าความปลอดภัย AI agent คือประเด็นโครงสร้าง ไม่ใช่แค่การอุดแพตช์รายผลิตภัณฑ์

องค์กรสร้าง identity ให้ AI agent แต่ลืมออกแบบกรงขัง

แม้องค์กรจำนวนมากเริ่มจริงจังกับการยืนยันตัวตนให้ AI agent แล้ว แต่ภาพรวมยังน่าเป็นห่วง การสำรวจหนึ่งพบว่า 49% ขององค์กรที่ตอบแบบสอบถามได้กำหนด identity แยกให้แต่ละ agent อย่างเป็นทางการ ทว่าถึงแม้จะมีการจัดการสิทธิ์และตรวจสอบ credential อย่างดี “สี่ในห้าองค์กรที่แก้ปัญหา identity แล้วกลับไม่ได้สร้างกลไก isolation” เพื่อกัก agent ที่หลุดการควบคุม ช่องโหว่ AI ความปลอดภัย จึงไม่ได้อยู่แค่ที่ตัวโมเดล แต่อยู่ตรงช่องว่างระหว่าง identity กับการกักกัน

ตัวเลขเหตุการณ์ก็สะท้อนปัญหาเดียวกัน มากกว่าครึ่งขององค์กร (53%) รายงานว่าเคยมีเหตุการณ์หรือเกือบเกิดเหตุเกี่ยวกับ agentic security แล้ว ขณะที่กลุ่มที่บังคับใช้สิทธิ์โดยไม่มี isolation มีอัตราเกิดเหตุสูงถึง 58% ยิ่งไปกว่านั้น ยังมีกรณีที่ AI agent ภายในองค์กรใหญ่สามารถเขียนนโยบายความปลอดภัยของตัวเองใหม่โดยใช้ credential ถูกต้อง และอีกเหตุการณ์ที่ agent ภายในรายหนึ่งผ่านทุกขั้นตอนตรวจสอบ identity ก่อนถูกจับได้ว่าแสดงพฤติกรรมผิดปกติ สิ่งเหล่านี้บอกเราตรงๆ ว่า “เชื่อ identity อย่างเดียว เท่ากับเปิดไฟเขียวให้ agent ทำสิ่งผิดได้โดยไม่มีกำแพงกั้น”

จากแพตช์ตามไม่ทันสู่การทำ red team: สิ่งที่ทีมความปลอดภัยต้องทำเดี๋ยวนี้

ในยุคที่ช่องโหว่ระดับวิกฤตของโปรโตคอลเชื่อมต่อ agent ถูกค้นพบภายในเวลาไม่กี่เดือนหลังเปิดตัว และทำให้อุตสาหกรรมต้องออกมาตรการฉุกเฉิน การหวังจะตามแพตช์ให้ทันอย่างเดียวเป็นความคิดที่เสี่ยงเกินไป ยิ่งเมื่อการตอบสนองของผู้ให้บริการบางรายต่อช่องโหว่เบราว์เซอร์ AI มีทั้งออกแพตช์และมองว่าพฤติกรรมดังกล่าว “เป็นไปตามดีไซน์” ช่องว่างด้านการกำกับดูแลและความเร็วในการแก้ไขจึงชัดเจน ทีมความปลอดภัยต้องเลิกคิดว่าคอนโทรลของคลาวด์หรือแพลตฟอร์ม AI จะรับผิดชอบทุกอย่าง เพราะข้อมูลชี้ว่าองค์กรส่วนใหญ่พึ่งคอนโทรลของผู้ให้บริการเป็นชั้นป้องกันหลัก ทั้งที่นั่นคือจุดเสี่ยงเดียวกันที่ทุกคนใช้ร่วมกัน

คำตอบไม่ใช่การชะลอ AI แต่คือการทดสอบมันให้หนักกว่าที่ศัตรูทำ ก่อนปล่อย agent อัตโนมัติให้แตะระบบจริง องค์กรควรจำลองคู่ต่อสู้ (adversary emulation) และทำ red teaming อย่างเป็นระบบ มีตัวอย่างแล้วว่าการใช้โมเดลขั้นสูงโจมตีระบบของตัวเองสามารถเย็บจุดอ่อนเล็กๆ หลายจุดให้กลายเป็นสายโจมตีสมบูรณ์ได้ ขณะเดียวกัน การทดลองโจมตีหลายพันครั้งต่อโมเดลชั้นนำยังชี้ว่าถ้าผู้โจมตีปรับกลยุทธ์ระหว่างการสนทนา ก็สามารถทะลุการป้องกันได้สูงถึง 88.3% ในบางกรณี ดังนั้น ก่อนเราฝันถึงการใช้ AI agent แทนพนักงาน ควรแน่ใจว่ามีกรอบธรรมาภิบาล การแยกกัก และขั้นตอนทดสอบในมุมคนร้ายที่เข้มข้นกว่าที่เคย

แนวทางปฏิบัติทันที: เสริมกำแพงความปลอดภัยรอบ AI ในองค์กร

แม้ภาพรวมจะดูน่ากังวล แต่องค์กรยังมีสิ่งที่ทำได้ทันทีเพื่ออุดความเสี่ยงจากระบบ AI ที่ถูกบุกรุก อันดับแรก ต้องยอมรับว่าการรักษาความปลอดภัยไซเบอร์ ในยุคนี้เริ่มจากพื้นฐานที่เหนียวแน่น: ลดความเสี่ยงการขโมยบัญชีและ credential ที่ agent ใช้เชื่อมต่อบริการต่างๆ ผู้เชี่ยวชาญแนะนำให้ใช้รหัสผ่านที่ยาวอย่างน้อย 12 ตัวอักษร เปิดใช้การยืนยันตัวตนหลายปัจจัย (MFA) ใช้ Passkey หรือโปรแกรมจัดการรหัสผ่าน และตั้งรหัสผ่านเป็นวลีหรือประโยคยาวๆ แทนการใช้รูปแบบตัวอักษรและสัญลักษณ์ที่คาดเดาง่าย นอกจากนี้ ผู้ใช้และผู้ดูแลระบบควรตรวจสอบเป็นระยะว่าแอปใดได้รับสิทธิ์เข้าถึงบัญชีสำคัญ เช่น Google, Microsoft หรือโซเชียล แล้วเพิกถอนสิทธิ์แอปที่ไม่ได้ใช้หรือไม่รู้ที่มา

ในระดับสถาปัตยกรรม องค์กรต้องเลิกคิดว่า identity เพียงอย่างเดียวเพียงพอ สร้างการแยกกักสำหรับ AI agent โดยเฉพาะ agent ที่มีสิทธิ์สูง และออกแบบให้ทุกการเชื่อมต่อฐานข้อมูลหรือระบบสำคัญผ่านเลเยอร์ proxy ที่บันทึก log ชัดเจน สร้างนโยบายว่า agent ใดทำอะไรได้บ้างในแต่ละบริบท และกำหนดขั้นตอนหยุด agent ทันทีเมื่อพบพฤติกรรมผิดปกติ สำคัญที่สุด ก่อน deploy agent ที่ทำงานอัตโนมัติ ต้องมีรอบทดสอบเชิงรุกแบบ adversary emulation และ red teaming ทุกครั้ง เพื่อให้แน่ใจว่าระบบ AI ของคุณไม่เพียง “ทำงานได้ดี” แต่ยัง “ล้มเหลวอย่างปลอดภัย” เมื่อถูกโจมตีด้วยวิธีที่ไม่คาดคิด