เมื่อ GenAI กลายเป็นเป้าโจมตีของแฮ็กเกอร์
ปัจจุบันเทคโนโลยี Generative AI กลายเป็นเครื่องมือที่ได้รับความนิยม และถูกนำมาใช้สำหรับสร้างสรรค์องค์ประกอบต่างๆ ของธุรกิจมากมาย หากในทางตรงกันข้าม เทคโนโลยีนี้ก็อาจกลายเป็นอาวุธที่แฮ็กเกอร์หรือมิจฉาชีพนำมาใช้สำหรับการโจมตีทางไซเบอร์ได้เช่นเดียวกัน
GenAI กลายเป็นเครื่องมือสำคัญในภาคธุรกิจ
ตามรายงาน “State of Attacks on GenAI” จาก Pillar Security ระบุว่า การโจมตี GenAI บนตลาดกว่า 90% ประสบความสำเร็จ ส่งผลให้เกิดการรั่วไหลของข้อมูลส่วนบุคคลจำนวนมาก
ปัจจัยหนึ่งที่ทำให้การโจมตีเทคโนโลยี Generative AI เพิ่มขึ้น ไม่ได้เป็นเพราะเทคโนโลยีนี้กำลังได้รับความนิยม แต่มาจากการที่เทคโนโลยีปรับตัวเป็น และกลายเป็นเครื่องมือทางธุรกิจที่ผู้คนทั่วไปสามารถเข้าถึงได้ ไม่เว้นแม้แต่ภาคธุรกิจ ที่ GenAI หลายแบรนด์ก็เริ่มขยับฐานลูกค้าเข้าสู่กลุ่มองค์กรมากขึ้น
นอกจากนี้ในหลายภาคธุรกิจยังนำ AI มาต่อยอดในบริการของตัวเอง เช่น ฝัง AI ไว้ในแอปพลิเคชัน ซึ่งมีการคาดการณ์ว่าในอนาคตอันใกล้ ทุกแอปพลิเคชันอาจเป็นแอปพลิเคชัน AI นั่นหมายความว่ารูปแบบการรักษาปลอดภัยก็ต้องปรับตัวเปลี่ยนแปลงไปเช่นกัน
โมเดล AI ที่นำไปปรับใช้เป็นเครื่องมือทางธุรกิจ ย่อมต้องใช้ข้อมูลมหาศาลจากแหล่งเซิร์ฟเวอร์ หรือจากเซิฟเวอร์ขององค์กร ซึ่งบางแห่งอาจมีการใช้บริการร่วมกับแพลตฟอร์ม GenAI แบรนด์ต่างๆ เพื่อดึงข้อมูลแบบ RAG ( Retrieval-Augmented Generation) หรือแม้แต่มีการนำ API ของแพลตฟอร์มเหล่านั้นมาใช้
โจมตีช่องโหว่ของ GenAI เพื่อขโมยข้อมูล
เนื่องจากกระบวนการทำงานของ Gen AI ทำงานในลักษณะเหมือนกล่องดำ (Black Box) การที่ AI จะสร้างผลลัพธ์จึงมักไม่ชัดเจน หรือไม่สามารถอธิบายได้อย่างง่ายดาย โมเดลเหล่านี้เรียนรู้จากข้อมูลจำนวนมากและสร้างการคาดการณ์หรือการตอบสนองโดยไม่สามารถระบุเองได้อย่างชัดเจน ว่าเหตุใดจึงได้ผลลัพธ์นั้นๆ นี่เองกลายเป็นช่องโหว่ที่ทำให้แฮ็กเกอร์สามารถโจมตีระบบได้สำเร็จในเวลาเพียง 42 วินาที
วิธีการโจมตีมีตั้งแต่ Prompt Injection ใส่ชุดคำสั่งให้ AI แฮ็กตัวเองหรือโจมตีระบบของตัวเอง, Data Poisoning การเจตนาป้อนข้อมูลลวงลงในกลุ่มข้อมูล เพื่อให้การวิเคราะห์ของ AI หรือ Machine Learning ผิดพลาด และ Model Manipulation การปรับเปลี่ยนโมเดลของ AI ให้เป็นไปตามที่ต้องการ
รักษาความปลอดภัย AI ต้องทำ ต้องปรับเปลี่ยน
ด้วยเหตุนี้การรักษาความปลอดภัยของระบบ GenAI จึงจำเป็นต้องมีการปรับเปลี่ยน ต้องมีมาตรการที่ยืดหยุ่นและตอบสนองอย่างมีประสิทธิภาพ ขณะเดียวกันโซลูชันด้านความปลอดภัยที่ขับเคลื่อนด้วย AI ก็อาจเป็นแนวทางที่มีศักยภาพมากที่สุด ด้วยการใช้ AI ตรวจสอบ ตรวจจับ และตอบสนองต่อภัยคุกคามแบบเรียลไทม์ โดยวิธีการที่ง่ายที่สุดอาจเป็นการฝังมาตรการความปลอดภัยลงในกระบวนการฝึกอบรมโมเดล AI ซึ่งอาจช่วยลดความเสี่ยงที่แพลตฟอร์มต่างๆต้องเจอได้ วิธีการเชิงรุกนี้เมื่อรวมกับระบบป้องกันที่ขับเคลื่อนด้วย AI จะสำคัญอย่างมากต่อการก้าวนำหน้าผู้ไม่หวังดี หรือผู้ที่ต้องการโจมตีระบบได้มากขึ้น
แล้วคุณคิดว่ามีวิธีไหนที่จะสามารถเพิ่มความปลอดภัยให้กับระบบของ GenAI ได้ ท่ามกลางโลกที่เต็มไปด้วยภัยคุกคามทางไซเบอร์หลากหลายรูปแบบ อันมีแนวโน้มที่เพิ่มสูงขึ้น
ที่มา : Forbes, State of Attacks on GenAI
สอบถามข้อมูลผลิตภัณฑ์ “OneFence”
Tel. : 061-462-6414, 02-103-6462
Line : @securitypitch
Email : [email protected]
บทความที่น่าสนใจ
