AI Alert รู้ทันก่อนใช้ AI ยังไงให้ปลอดภัย ในเซสชัน Understanding The Mind of AI: Role of Mechanistic Interpretability in AI Safety เมื่อ AI ฉลาดขึ้น เราจะไว้ใจมันได้แค่ไหน? โดย คุณธีรัช ศักดิ์เดชยนต์ | KBTG Labs จากงาน DATA + AI DAY: EMPOWERING INTELLIGENCE
Risk AI is everywhere
- ในปัจจุบันเกิดเคสความเสี่ยงจากการใช้งาน AI ขึ้นมากมาย
- เทคโนโลยีสามารถทำ Deep Fake หลอกได้
- ผู้คนเริ่มเกิดความสับสนใน Data และขาด Fact-checking ข้อมูล
Explainable AI & Mechanistic Interpretability (MI)
- Explainable: การอธิบายผลลัพธ์ (Output)
- Interpretability: การแปลความและตีความข้างในของโมเดล
Explainable AI
โดยปกติแล้วการคิดของ AI มักจะอยู่ใน Blackbox ที่ไม่มีใครเข้าใจวิธีการคิดอย่างแท้จริง แต่เราสามารถทำความเข้าใจได้ เหมือนกับการทำความเข้าใจเครื่องยนต์
- Behavioral: การดูจากความสัมพันธ์ของ input และ output ที่ออกมา
- Attributional: การดูจากใส่ Input แตกต่างกันและทำให้ output เปลี่ยน
- Concept-based: การดูช่วงกลางของโมเดลว่ามีการคิดจากคอนเซปต์อะไรถึงออกมาเป็น output
- Mechanistic: การใส่ input หรือ data ที่ใส่เข้าไป แล้วแต่ละจุดมีเงื่อนไขหรือตัวแปรอะไรที่ทำให้เกิด output นั้น
วิธีคิดของ AI
Edges > Textures > Patterns > Parts > Objects = Output ที่ตามองเห็นและเข้าใจได้ เสมือนกับโมเดลเลโก้ที่หาทางต่อให้ได้ พร้อมคิดต่อยอดจากแต่ละจุดที่มีให้คิดต่อได้ AI Ethics Principles: ไกด์ไลน์การใช้ AI จาก ETDA
- Sustainable Development: ควรใช้งานในทางที่ดีและยั่งยืน
- Laws, Ethics & International Standard: การใช้งานให้มีหลักตามกฎหมายและจริยธรรม
- Transparency & Accountability: การเข้าใจการทำงานของ AI อย่างโปร่งใส และมีความรับผิดชอบต่อผลที่เกิดขึ้น
- Security & Privacy: วิเคราะห์ว่าข้อมูลที่นำมาใช้ถูกต้องไหม
- Fairness: การให้คำตอบต้องไม่ Bias ต่อผลประโยชน์ของคนบางกลุ่ม
- Reliability: ความแม่นยำในการให้คำตอบ แม้โมเดลจะไม่ถูกต้อง 100% แต่ก็ต้องมีทางแก้ปัญหารองรับได้
Pillars of AI Governance
- Data: การใช้ข้อมูลที่มาจาก AI ต้องเช็กว่ามีการ Bias เวลานำมาใช้ไหม หรือละเมิดอะไรไหม
- AI Model: โมเดล AI ที่ใช้แบบมีความน่าเชื่อถือจะต้องวัดผลแฟร์
- Business Application: วิเคราะห์ว่ามี Human in the loop หรือ Human over loop คอยมอนิเตอร์ซัปพอร์ตหากมีการคำนวณผิดพลาด
