นิยามภัยคุกคามใหม่ การโจมตี AI accounts และโครงสร้างพื้นฐานคลาวด์
การโจมตี AI accounts คือรูปแบบภัยคุกคามไซเบอร์ที่มุ่งเป้าขโมยข้อมูลประจำตัวและสิทธิ์การใช้งานบัญชีบริการปัญญาประดิษฐ์ รวมถึงเข้ายึดครองทรัพยากรเซิร์ฟเวอร์และโครงสร้างพื้นฐานระบบคลาวด์ขององค์กร เพื่อนำไปใช้เรียกค่าไถ่ การสอดแนม หรือการใช้ทรัพยากรคำนวณเพื่อเป้าหมายอื่นโดยไม่ได้รับอนุญาต ภัยนี้ผูกโยงกับการโจรกรรม credential การสวมรอย และการใช้บัญชีที่ถูกบุกรุกเพื่อเข้าถึงโครงสร้างพื้นฐาน AI อย่างต่อเนื่องโดยยากต่อการตรวจจับในช่วงเริ่มต้น ปีนี้การซื้อขายข้อมูลประจำตัวสำหรับเข้าสู่ระบบบริการ AI บนดาร์กเว็บและตลาดมืดเพิ่มขึ้นอย่างมาก พร้อมทั้งการยึดครองทรัพยากรเซิร์ฟเวอร์อย่างผิดกฎหมายด้วย สิ่งที่สังคมไซเบอร์เคยคิดว่าเป็นเรื่องไกลตัวกำลังกลายเป็นเป้าหมายทำเงินใหม่ของแฮกเกอร์อย่างรวดเร็ว การมองว่าโครงสร้างพื้นฐาน AI เป็นเพียงเครื่องมือทดลองหรือโครงการด้านนวัตกรรมที่ยังไม่สำคัญ จึงเป็นมุมมองที่อันตราย เพราะช่องโหว่ในระบบเหล่านี้กำลังเปิดประตูให้ผู้คุกคามเดินเข้ามาหยิบเอาทรัพยากรและข้อมูลเชิงกลยุทธ์ขององค์กรไปแบบแทบไม่เจอแรงต้านเลย
การโจรกรรม LLM และการใช้ทรัพยากรคลาวด์ที่ถูกยึดเป็นฐานโจมตี
สิ่งที่ทำให้การโจมตี AI accounts น่ากังวลมากกว่าการเจาะระบบทั่วไป คือผู้คุกคามไม่ได้เข้ามาแค่ครั้งเดียวแล้วจากไป แต่ใช้บัญชีที่ถูกขโมยเป็นช่องทางเข้าถึงแบบจำลองภาษาขนาดใหญ่ LLM และโครงสร้างพื้นฐาน AI ขององค์กรอย่างต่อเนื่อง กิจกรรมนี้ถูกเรียกว่า การโจรกรรม LLM ซึ่งเกี่ยวข้องกับการใช้ประโยชน์จากการเข้าถึง LLM ที่ถูกขโมยมา และเชื่อกันว่าถูกนำไปใช้เพื่อวัตถุประสงค์ที่นอกเหนือไปจากการรีดไถเงินเพียงอย่างเดียว จากข้อมูลกลุ่มวิเคราะห์ภัยคุกคามของผู้ให้บริการรายใหญ่พบว่าการเข้าถึงบริการจากบริษัท AI ชั้นนำกำลังถูกขายในดาร์กเว็บ โดยมีทั้งสิทธิ์ใช้บริการและการเข้าถึงทรัพยากรเซิร์ฟเวอร์ที่ถูกยึดครองอย่างผิดกฎหมาย แม้ผู้ให้บริการจะตรวจพบรูปแบบการใช้งานผิดปกติและล็อกบัญชีที่ถูกบุกรุกแล้ว ผู้ขายบนตลาดมืดก็ยังเสนอการรับประกันการเข้าถึง สัญญาว่าจะเปลี่ยนบัญชีที่ถูกล็อกด้วยบัญชีใหม่โดยไม่คิดค่าใช้จ่ายเพิ่มเติม ในมุมองค์กร นี่ไม่ใช่แค่ปัญหาค่าใช้จ่ายทรัพยากรคลาวด์ที่พุ่งสูงแต่ตีความว่าเป็นการทดสอบระบบ AI เท่านั้น แต่คือการเปิดให้แฮกเกอร์ใช้ทรัพยากรคำนวณและโครงสร้างพื้นฐานของเราเป็นฐานปฏิบัติการในการโจมตีระบบอื่น ขุดข้อมูล หรือฝึกโมเดลของเขาเองบนต้นทุนขององค์กร โดยที่ทีม security อาจยังคิดว่ากำลังสนับสนุนโครงการทดลองภายในอยู่
Social engineering การสวมรอยผู้เชี่ยวชาญ AI เพื่อขโมย credential
จุดอ่อนที่ถูกใช้โจมตีบ่อยที่สุดยังคงเป็นมนุษย์ แฮกเกอร์ไม่ได้ไล่ยิงช่องโหว่เทคนิคเพียงอย่างเดียว แต่หันมาใช้ social engineering และการสวมรอยที่แนบเนียนเพื่อขโมย credential จากผู้เชี่ยวชาญด้าน AI และนักวิจัยที่เกี่ยวข้องกับนโยบายและยุทธศาสตร์ AI รายงานด้านความปลอดภัยไซเบอร์ฉบับหนึ่งระบุว่ากลุ่มแฮกเกอร์ที่ถูกติดตามภายใต้ชื่อ TA419 พยายามขโมยรหัสผ่านจากบุคลากรที่ทำงานในคลังสมอง บริษัทคู่สัญญาด้านกลาโหม มหาวิทยาลัย และสำนักงานกฎหมายอย่างต่อเนื่อง วิธีการโจมตีล่าสุดคือการเขียนอีเมลโดยอ้างว่าเป็นผู้เชี่ยวชาญด้าน AI หรือด้านนโยบายรัฐ รวมถึงการอ้างตัวเป็นบุคคลที่เคยดำรงตำแหน่งระดับสูงด้านนโยบายวิทยาศาสตร์และเทคโนโลยี เพื่อเชิญชวนเป้าหมายเข้าร่วมโครงการริเริ่มเกี่ยวกับ AI ก่อนจะชักจูงให้คลิกไปยังเว็บไซต์ที่ออกแบบมาเพื่อขโมยรหัสผ่าน นี่คือตัวอย่างคลาสสิกของการป้องกัน credential theft ที่ล้มเหลว เพราะองค์กรและบุคลากรยังให้ความสำคัญกับความน่าเชื่อถือของชื่อคนในอีเมลมากกว่าการตรวจสอบที่มาของลิงก์และพฤติกรรมการขอข้อมูล สิ่งที่น่าคิดคือผู้ถูกโจมตีไม่ได้เป็นบุคลากรระดับปฏิบัติการ แต่เป็นผู้มีบทบาทกำหนดกฎระเบียบเกี่ยวกับ AI การควบคุมการส่งออก และยุทธศาสตร์ AI ระดับชาติ เมื่อ credential ของคนกลุ่มนี้รั่วไหล แฮกเกอร์จึงไม่ได้เข้าถึงแค่บัญชีใช้งานธรรมดา แต่ได้กุญแจไขไปสู่ระบบที่สำคัญและข้อมูลเชิงนโยบายที่มีผลต่อเกมการแข่งขัน AI ในระดับโลก
มุมมองเชิงกลยุทธ์ ทำไมความปลอดภัยระบบคลาวด์ต้องคิดใหม่ตั้งแต่ฐาน
หลายองค์กรยังมองความปลอดภัยระบบคลาวด์และบริการ AI เป็นเรื่องของผู้ให้บริการภายนอก ทำให้มาตรการภายในตามไม่ทันรูปแบบไซเบอร์ security threats ที่กำลังเปลี่ยนไปอย่างรวดเร็ว ปัจจุบันกลุ่มผู้คุกคามทางไซเบอร์ขนาดใหญ่ได้เริ่มนำปัญญาประดิษฐ์มาใช้ในการโจมตีหลากหลายรูปแบบแล้ว และมีการคาดการณ์ว่า ผู้ที่มองข้าม AI ว่าเป็นเพียงกระแสชั่วคราวและนิ่งเฉย จะพบว่าตัวเองตกอยู่ในสถานการณ์ที่เลวร้ายในไม่ช้า โดยเราจะต้องเผชิญกับการโจมตีและเหตุการณ์ต่างๆ ในระดับที่ไม่เคยเกิดขึ้นมาก่อน ประเด็นสำคัญคือหลายธุรกิจอยู่ในช่วงเริ่มต้นของการใช้งานโครงสร้างพื้นฐาน AI ของตน การใช้ทรัพยากรการประมวลผลที่เพิ่มขึ้นอย่างฉับพลันจึงไม่น่าจะถูกตีความว่าเป็นเรื่องผิดปกติ นี่คือดาบสองคม การทดลองโมเดลใหม่หรือการขยาย workload บนคลาวด์ทำให้แฮกเกอร์มีฉากหลังที่สมเหตุสมผลสำหรับการใช้ทรัพยากรอย่างผิดปกติ เมื่อกราฟการใช้งานพุ่งสูง ทีม operation อาจคิดว่าเป็นผลจากโครงการ AI ภายใน ทั้งที่อาจเป็นสัญญาณของบัญชีที่ถูกยึดครองไปแล้ว องค์กรที่ยังบริหารความเสี่ยงแบบเดิมจะพลาดจุดนี้ การไม่มีกลยุทธ์แยกแยะระหว่างการใช้ทรัพยากร AI อย่างถูกต้อง กับการใช้ที่มีลักษณะผิดปกติในระดับโครงสร้างพื้นฐาน ทำให้การตรวจจับการบุกรุกทำได้ช้ากว่าที่ควร และเปิดช่องให้ผู้โจมตีใช้บัญชีและทรัพยากรที่ถูกยึดเป็นฐานโจมตีต่อเนื่องโดยไม่มีใครสังเกตเห็น
บทสรุปสำหรับทีม security ทำไมต้องยกระดับการเฝ้าระวังบัญชี AI ตั้งแต่วันนี้
เมื่อการโจมตี AI accounts และความปลอดภัยระบบคลาวด์ไม่ใช่ภัยไกลตัว แต่เป็นส่วนหนึ่งของสมรภูมิไซเบอร์ security threats ที่ใช้งานอยู่จริงในทุกวัน ทีม security จึงไม่ควรคิดว่าโครงสร้างพื้นฐาน AI เป็นแค่ของเล่นทดลองหรือระบบรองอีกต่อไป การโจรกรรม LLM การซื้อขายสิทธิ์เข้าถึงบริการ AI บนดาร์กเว็บ และการสวมรอยผู้เชี่ยวชาญ AI เพื่อขโมย credential ล้วนชี้ให้เห็นว่า แฮกเกอร์มองระบบเหล่านี้เป็นสินทรัพย์เชิงยุทธศาสตร์ที่ให้ทั้งอำนาจคำนวณและข้อมูลเชิงนโยบายในคราวเดียว หัวใจของการตอบสนองคือการเปลี่ยนวิธีคิดจากแนวทางป้องกันรอบนอกมาเป็นการเฝ้าระวังบัญชีและสิทธิ์การเข้าถึงแบบต่อเนื่อง การออกแบบนโยบาย credential hygiene การจัดการสิทธิ์อย่างเข้มงวด และการตรวจจับความผิดปกติของการใช้ทรัพยากร AI และคลาวด์ในระดับพฤติกรรม ไม่ใช่ทางเลือกอีกต่อไป แต่เป็นเงื่อนไขขั้นต่ำของการดำรงอยู่ในยุคที่ทั้งผู้โจมตีและผู้ถูกโจมตีต่างใช้ AI เป็นส่วนหนึ่งของกลยุทธ์ของตนเอง ผู้ที่รอให้เกิดเหตุใหญ่ก่อนค่อยปรับระบบ อาจต้องแลกด้วยการเสียทรัพยากร ความลับ และความเชื่อมั่นของผู้ใช้ในระดับที่ยากจะฟื้นคืน
