LLM Gen AI กับ ความปลอดภัย

หลังจากเราได้เคยแชร์แนวคิดว่า Generative AI เอาไปทำอะไรได้ วันนี้มาต่อกันที่ สิ่งที่ควรคำนึงเกี่ยวกับความปลอดภัย 🔒 เวลานำ Gen AI มาใช้ในการทำงานบ้าง ใครที่กำลังจะเอา Gen AI มาใช้ในองค์กร หรือเอาช่วยทำงานกับข้อมูลที่มีความอ่อนไหว ลองอ่านดูก่อนได้เลย 📝

เครื่องมือ Gen AI ถูกพัฒนาขึ้นมาเพื่อเพิ่มประสิทธิภาพในการทำงานของเรา แต่นอกจากการพิจารณาว่ามันจะช่วยงานเราได้อย่างไรแล้ว ยังมีประเด็นเรื่องความปลอดภัย 🔒 ที่ต้องคำนึงถึงด้วย เช่น

1️⃣ ข้อมูลที่นำเข้าไปใน Gen AI ควรคำนึงถึงความปลอดภัยของข้อมูลผู้ใช้ (PII) โดยเฉพาะข้อมูลสำคัญ 🔒 เราไม่ควรส่งข้อมูลเหล่านั้นเข้าไปให้ Gen AI โดยตรง ควรนำข้อมูลที่สำคัญออกไปหรือแทนที่ด้วยข้อมูลอื่นก่อน เช่น หากผู้ใช้ชื่อ Alpha เราอาจเปลี่ยนเป็น A ก่อนส่งข้อมูลให้ Gen AI ประมวลผล 🔍 นอกจากนี้ ควรระมัดระวังผู้ใช้งานที่ไม่หวังดีที่อาจใส่ข้อมูลที่อาจนำไปใช้ในทางที่ผิด ดังนั้นจำเป็นต้องมีกระบวนการกลั่นกรองข้อมูลก่อนนำเข้าไปในระบบ

2️⃣ ข้อมูลที่ Gen AI สร้างขึ้น อาจมีคำที่ไม่เหมาะสมหรือมีความหมายเชิงลบปะปนอยู่ เนื่องจากข้อมูลที่ใช้ในการฝึกสอนในช่วงเริ่มต้น บางครั้งถึงแม้เราจะตั้งคำถามที่ดี แต่คำตอบที่ได้รับอาจมีคำดังกล่าวปรากฏขึ้น ดังนั้นจึงจำเป็นต้องมีวิธีการตรวจสอบและกรองข้อความก่อนที่จะส่งต่อให้กับผู้ใช้งาน 🔍

สำหรับหัวข้อ 1️⃣ และ 2️⃣ หากใครต้องการข้อมูลเพิ่มเติม ลองค้นหาด้วยคำว่า "Guardrail”

3️⃣ อีกเรื่องหนึ่งที่ควรคำนึงถึงเมื่อใช้ Gen AI ผ่านบริการต่างๆ คือ ข้อความที่เราส่งไป อาจถูกนำไปฝึกหรือใช้งานอื่นๆ ต่อได้ ดังนั้นเราควรประเมินความสำคัญของข้อมูลที่เราส่งไปให้ดี และตรวจสอบให้ละเอียดว่าบริการที่เราใช้นั้นนำข้อมูลของเราไปฝึกต่อหรือไม่ โดยปกติแล้ว เมื่อเราใช้ Gen AI Chat ของผู้ให้บริการต่างๆ เช่น OpenAI (chatgpt.com) หรือ Google (gemini.google.com) ข้อมูลจะถูกนำไปฝึกต่อ ซึ่งเราอาจไม่ต้องการเช่นนั้น 😕 ดังนั้นเราควรพิจารณาใช้เวอร์ชั่นอื่นที่ไม่ทำเช่นนั้น เช่น ใช้ผ่าน Playground ของ OpenAI แทน หากยังไม่สบายใจ บริการเหล่านี้ยังมีตัวเลือกให้รัน AI บนเครื่องของเราเอง ซึ่งจะสามารถเพิ่มการป้องกันอีกชั้นหนึ่งและควบคุมการเข้าถึงเครื่องนั้นด้วยตนเอง 💻 เพื่อให้มั่นใจว่าไม่มีการแอบส่งข้อมูลไปที่อื่น

หมดแล้วกับตัวอย่างที่เตรียมมา ทั้งหมดนี้ เป็นเพียงสิ่งที่เราควรคำนึงถึงเบื้องต้น หากจะนำ Gen AI มาใช้ในองค์กรจริงจัง ควรศึกษาเพิ่มเติมให้ละเอียดก่อนนำไปใช้

ในยุคนี้ที่ Generative AI เข้ามามีบทบาท เราควรเรียนรู้และทำความเข้าใจกับมันให้ดี เพื่อให้สามารถใช้งานได้อย่างปลอดภัยและมีประสิทธิภาพมากที่สุด หวังว่าโพสนี้จะช่วยให้เพื่อนๆ ได้รับมุมมองใหม่ๆ เกี่ยวกับการใช้งาน Generative AI และข้อควรระวังที่ควรทราบกันนะ 😊