Agentic AI คืออะไร

Agentic AI คือระบบปัญญาประดิษฐ์ที่ไม่เพียงแค่รับข้อมูล แต่ยังสามารถใช้ข้อมูลเหล่านั้น ในการตัดสินใจและทำให้บรรลุเป้าหมายที่กำหนดไว้ได้ ระบบนี้จะใช้เทคโนโลยีอย่าง Machine Learning (ML) และ Natural Language Processing (NLP) เพื่อให้สามารถทำงานได้ด้วยตัวเอง และเรียนรู้จากคำสั่งหรือเป้าหมายที่ได้รับ

ปกติแล้ว AI จะทำตามคำสั่งเป็นส่วนใหญ่ แต่ Agentic AI สามารถคิดและตัดสินใจเองได้ มันไม่ใช่แค่เครื่องมือที่รับคำสั่ง แต่เป็นระบบที่สามารถวิเคราะห์ข้อมูลและทำงานได้อย่างอิสระ เหมือนมีผู้ช่วย AI ที่คอยเรียนรู้และปรับวิธีการทำงานให้เหมาะสมกับเป้าหมายที่ได้รับมอบหมาย

แม้ว่าแอปพลิเคชันหลายอย่างของ AI แบบมี Agentic AI จะยังอยู่ในขั้นทดลองหรือขั้นนำร่อง แต่แนวทางกว้างๆ ของกรณีการใช้งานที่เป็นไปได้นั้นเริ่มชัดเจนขึ้นในหลากหลายอุตสาหกรรม เช่น

1. การบริการลูกค้า
   Agentic AI ช่วยให้เข้าใจเจตนาและอารมณ์ของลูกค้า พร้อมดำเนินการแก้ปัญหาอย่างอิสระ เช่น แจ้งล่วงหน้าหากการจัดส่งล่าช้าและเสนอส่วนลด ตัวอย่างเช่น Ema ใช้บริการแชทบอทค้นหาข้อมูลจากฐานข้อมูลต่าง ๆ เรียนรู้จากลูกค้า และปรับปรุงความรู้เพื่อการบริการที่ดีขึ้น

2. อุตสาหกรรมการผลิต
   Agentic AI  ช่วยวิเคราะห์ข้อมูลจากเซ็นเซอร์ในโรงงาน เพื่อคาดการณ์การสึกหรอและป้องกันการหยุดทำงานของระบบ ตัวอย่างเช่น Juna.ai ใช้ AI ในโรงงานเสมือนเพื่อลดการใช้พลังงาน เพิ่มผลผลิต และปรับปรุงคุณภาพ โดยมีตัวแทนเฉพาะด้าน เช่น ตัวแทนการผลิตและตัวแทนคุณภาพ

3. การสนับสนุนการขาย
   ช่วยลดภาระงานเอกสารและงานบริหารสำหรับทีมขาย เช่น การตีความข้อความของลูกค้า แนะนำการติดตามผล จองการประชุม และตอบคำถาม ตัวอย่างเช่น Salesforce นำเสนอ “Agent Force Service Development Rep” ซึ่งใช้โมเดลภาษาขนาดใหญ่ (LLM) เพื่อช่วยทีมขาย และ “Agent Force Sales Coach” เพื่อให้คำแนะนำเฉพาะบุคคลและโอกาสการเรียนรู้ผ่านการจำลองสถานการณ์

4. สุขภาพและการดูแลสังคม
   สามารถปรับตัว เข้าใจอารมณ์ และแสดงความเห็นใจ เหมาะสำหรับงานด้านสุขภาพและการดูแล เช่น Hippocratic AI ที่พัฒนา AI ตัวแทนหลายรูปแบบ เช่น “Sarah” ช่วยดูแลผู้สูงอายุด้วยความอบอุ่นและช่วยเรื่องเมนู การเดินทาง และการเตือนยา หรือ “Judy” ที่ช่วยเตรียมความพร้อมก่อนการผ่าตัด เช่น แจ้งเวลา สถานที่ และคำแนะนำต่าง ๆ

ความเสี่ยงของ Agentic AI 

ปัญหาการตัดสินใจและความโปร่งใส

ระบบ Agentic AI เน้นการตัดสินใจอัตโนมัติ จึงทำให้เกิดความกังวลเกี่ยวกับความรับผิดชอบและการควบคุม โดยเฉพาะเมื่อแพลตฟอร์ม Agentic AI มีความโปร่งใสน้อยในการอธิบายวิธีที่มันตัดสินใจ ซึ่งอาจทำให้ปัญหาดังกล่าวรุนแรงขึ้น ผู้ใช้ยากที่จะไว้วางใจผลลัพธ์และเข้าใจเหตุผลที่อยู่เบื้องหลังการตัดสินใจเหล่านั้น

ความเสี่ยงจากการละเมิดข้อมูลและการเปิดเผยข้อมูล

เมื่อระบบ  Agentic AI เชื่อมต่อกับแหล่งข้อมูลจำนวนมากและดำเนินการตามอัตโนมัติ อาจเพิ่มความเสี่ยงที่ข้อมูลจะถูกเปิดเผยหรือเข้าถึงโดยผู้ที่ไม่ได้รับอนุญาต นอกจากนี้เมื่อเกิดการละเมิด ผู้ใช้งานอาจสูญเสียความไว้วางใจและตั้งคำถามเกี่ยวกับความปลอดภัยและความน่าเชื่อถือของระบบ

วิธีสร้างความปลอดภัยให้ Agentic AI 

เพื่อจัดการกับความท้าทายหลักที่  Agentic AI เผชิ การเพิ่มความโปร่งใสจึงเป็นสิ่งสำคัญ การใช้เทคนิค AI ที่สามารถอธิบายและตรวจสอบได้อย่างสม่ำเสมอเกี่ยวกับวิธีการตัดสินใจที่เกิดขึ้น จะช่วยสร้างความไว้วางใจจากผู้ใช้งาน ขณะที่การตรวจสอบข้อมูลการฝึกโมเดล AI เป็นประจำยังช่วยรับรองความสมบูรณ์ของระบบ AI และลดความเสี่ยงจากอคติ

การมีมาตรการความปลอดภัยที่แข็งแกร่งสำหรับ  Agentic AI ยังช่วยปกป้องข้อมูล ปกป้องความเป็นส่วนตัวของผู้ใช้ และป้องกันการใช้ AI ในทางที่ผิด ฉะนั้นแนวปฏิบัติที่ดีที่สุดควรประกอบด้วย การตรวจสอบอย่างสม่ำเสมอเพื่อระบุช่องโหว่ การตรวจสอบกระบวนการทำงานโดยมนุษย์ เพื่อช่วยลดความเสี่ยงจากการตัดสินใจที่เป็นอันตรายและระบุจุดอ่อนด้านความปลอดภัยได้

นอกจากนี้สิ่งสำคัญคือองค์กรต้องทันต่อกฎระเบียบที่เปลี่ยนแปลง เพื่อให้แน่ใจว่าแนวปฏิบัติในการปกครองยังคงเป็นไปตามข้อกำหนด รวมถึงตรวจสอบระบบ AI ของตนอย่างสม่ำเสมอเพื่อให้มั่นใจเป็นไปตามกฎที่ตั้งไว้หรือไม่

ที่มา : HBR, AI Sera

สอบถามข้อมูลผลิตภัณฑ์ “OneFence”

Tel. : 061-462-6414, 02-103-6462
Line : @securitypitch
Email : [email protected]

บทความที่น่าสนใจ

• เตือนภัยผู้ใช้ iPhone  ฟีเจอร์ ‘Mirroring’ เสี่ยงโดนเปิดเผยข้อมูล
• ภัยร้ายที่มากับ Free Wi-Fi
• ธุรกิจต้องรู้! กิจกรรมใดบ้าง ต้องขอความยินยอมตามกฎหมาย PDPA