Dataiku เปิดตัว Kiji Inspector เฟรมเวิร์กโอเพนซอร์สช่วยอธิบายผลลัพธ์ AI Agent บน NVIDIA Nemotron

ในขณะที่องค์กรต่างเร่งนำ AI Agent มาใช้งานในกระบวนงานสำคัญ ลำพังเพียงแค่ประสิทธิภาพนั้นไม่เพียงพออีกต่อไป แต่องค์กรจำเป็นต้องเข้าใจ ตรวจสอบ และกำกับดูแลได้ว่าระบบมีการวิเคราะห์ประมวลผลได้อย่างไร โดยเฉพาะในสถานการณ์ที่มีความสุ่มเสี่ยงและต้องมีการควบคุมอย่างเข้มงวด  วันนี้ Dataiku ซึ่งเป็น The Platform for AI Success ได้เปิดตัว Kiji Inspector™ ในออฟฟิศโอเพนซอร์ส 575 Lab ซึ่งเป็นเฟรมเวิร์กเพื่อการอธิบายผลลัพธ์ (Explainability Framework) แบบโอเพนซอร์สชุดแรกชุดหนึ่งที่สร้างขึ้นเพื่อ AI Agent สำหรับองค์กรโดยเฉพาะ โดยตระกูลโมเดลแรกที่ Kiji Inspector รองรับคือ โมเดล NVIDIA Nemotron แบบเปิด

เมื่อองค์กรต่างหันไปใช้ Sovereign AI และสร้างโครงสร้างพื้นฐาน AI ของตนเองมากขึ้น การผสานรวมโมเดล Nemotron ของ NVIDIA เข้ากับ Kiji Inspector ของ Dataiku จะยิ่งช่วยให้มองเห็นกระบวนการการตัดสินใจที่ขับเคลื่อนด้วย AI ได้อย่างชัดเจน โดย Kiji Inspector มีความสามารถในการอธิบายการตัดสินใจของ Agent ในตัว ช่วยแก้ปัญหาที่เร่งด่วนที่สุดประการหนึ่งของ Enterprise AI นั่นคือปัญหา “กล่องดำ (Black Box)”  หัวใจสำคัญของ Kiji Inspector™ ก็คือ Sparse Autoencoder ที่จะเข้าไปตรวจสอบภายในโมเดล ณ วินาทีที่โมเดลเลือกใช้เครื่องมือใดเครื่องมือหนึ่งเพื่อระบุสัญญาณที่อยู่เบื้องหลังการตัดสินใจนั้น ๆ และแปลผลให้เป็นคำอธิบายที่ชัดเจนซึ่งทีมงานสามารถเข้าใจ ติดตาม ตรวจสอบ และไว้วางใจได้โดยไม่ทำให้ระบบทำงานช้าลง

คุณ Hannes Hapke ผู้อำนวยการ 575 Lab แห่ง Dataiku กล่าวว่า “องค์กรต่างกำลังผนวก AI Agent เข้ากับการตัดสินใจสำคัญที่อาจส่งผลต่อรายได้ ความปลอดภัย การปฏิบัติตามกฎระเบียบ และความไว้วางใจของลูกค้า ทว่าส่วนใหญ่ยังคงมองไม่เห็นโครงสร้างทั้งหมดว่าระบบการวิเคราะห์ประมวลผลมีกระบวนการใช้เหตุผลอย่างไร หากไม่สามารถอธิบายผลลัพธ์ การนำ AI มาใช้ในวงกว้างมากขึ้นก็เท่ากับการเพิ่มความไม่แน่นอนไปด้วย การนำ Kiji Inspector มาใช้กับ NVIDIA Nemotron open model จึงเป็นการเปลี่ยนสมการดังกล่าว โดยช่วยให้องค์กรสามารถตรวจสอบและยกระดับความสามารถในการอธิบายของ AI ได้ก่อนที่จะเกิดความเสี่ยงขึ้นมาจริง ๆ ซึ่งเป็นสิ่งสำคัญอย่างยิ่งเมื่อระบบ Agentic ขยับขยายจากการทดลองไปสู่การเป็นโครงสร้างพื้นฐานที่เชื่อถือได้”

การเปิดตัวครั้งนี้ต่อยอดมาจากการยกระดับความร่วมมือระหว่าง Dataiku และ NVIDIA เพื่อส่งมอบ Generative AI และ Agentic AI ในมาตรฐานระดับการใช้งานจริง โดย NVIDIA Nemotron open model พร้อมมอบประสิทธิภาพระดับสูงและขีดความสามารถขั้นสูงที่จำเป็นสำหรับระบบ Agentic AI ขององค์กร ในขณะที่ Dataiku มาพร้อมกับการจัดการระบบที่ปรับเปลี่ยนขนาดได้ โดยผสานรวมแพลตฟอร์มข้อมูล แอปพลิเคชันขององค์กร และบริการ AI เข้าด้วยกันภายใต้เฟรมเวิร์กการกำกับดูแลที่อยู่รวมกันในที่เดียว

คุณ Amanda Saunders ผู้อำนวยการฝ่าย Generative AI ของ NVIDIA กล่าวว่า “การปรับเปลี่ยนขนาด AI Agent ที่สามารถตัดสินใจเองได้ไปทั่วองค์กรนั้นต้องการความน่าเชื่อถือที่มีรากฐานมาจากความโปร่งใสและความถูกต้อง โดยโมเดลแบบเปิดอย่าง NVIDIA Nemotron ช่วยให้องค์กรมองเห็นการทำงานของระบบ เปิดโอกาสให้เกิดความเข้าใจที่ลึกซึ้งยิ่งขึ้น ทั้งตรวจสอบและควบคุมได้มากขึ้น เมื่อผสานรวมโมเดลโอเพนซอร์สที่ล้ำสมัยของ Nemotron เข้ากับ Kiji Inspector ผู้ใช้งานจะสามารถเข้าใจได้ว่าสิ่งใดเป็นตัวขับเคลื่อนให้ LLM ของ Agent ตัดสินใจเช่นนั้น”

ความเชี่ยวชาญของ Dataiku ด้าน AI ที่สามารถอธิบายผลลัพธ์ได้รับความสนใจจากผู้นำอุตสาหกรรมที่ดำเนินงานในสภาพแวดล้อมที่ซับซ้อนและมีการควบคุมมาอย่างยาวนานด้วยจำนวนลูกค้าองค์กรกว่า 750 ราย โดย SLB บริษัทเทคโนโลยีระดับโลกที่ขับเคลื่อนนวัตกรรมพลังงานมานานกว่า 100 ปีเป็นบริษัทหนึ่งที่เล็งเห็นถึงความสำคัญของความโปร่งใสเพราะบริษัทกำลังนำ AI มาประยุกต์ใช้ในกระบวนการดำเนินงานและการตัดสินใจ

คุณ Sampath Reddy ผู้จัดการนวัตกรรมระดับโลกด้าน Data & AI แห่ง SLB กล่าวว่า “ในการดำเนินงานด้านพลังงาน AI จะมอบคุณค่าที่แท้จริงได้ก็ต่อเมื่อวิศวกรสามารถเข้าใจและไว้ใจการตัดสินใจของระบบได้ การมีเวิร์กโฟลว์ที่ผ่านการตรวจสอบและการกำกับดูแลที่ชัดเจนช่วยให้สามารถนำ Agentic AI เข้าสู่ระบบที่ใช้งานในชีวิตประจำวันได้โดยตรง เอื้อให้ทีมงานมีความมั่นใจในการปรับใช้และปรับเปลี่ยนขนาดเทคโนโลยีในสภาพแวดล้อมการทำงานจริงได้”

ด้วยการขยายขีดความสามารถของ Kiji Inspector ไปยัง NVIDIA Nemotron ทาง Dataiku ช่วยให้องค์กรสามารถใช้ประโยชน์จากประสิทธิภาพ AI โอเพนซอร์สที่ล้ำสมัยของ NVIDIA ได้โดยไม่ลดประสิทธิภาพของโมเดลที่เคยได้รับจากโมเดล APIs แบบ Closed Source  เมื่อ AI Agent มีความเป็นอิสระมากขึ้นและผสานรวมเข้ากับระบบขององค์กร การให้เหตุผลที่สามารถอธิบายได้จะเป็นรากฐานสำคัญสู่ความสำเร็จของ AI ในระยะยาว ความพร้อมด้านกฎระเบียบ และการสร้างความแตกต่างในการแข่งขัน

Kiji Inspector สำหรับ NVIDIA Nemotron พร้อมใช้งานแล้ววันนี้ องค์กรที่สนใจปรับใช้ AI Agent ที่มีการกำกับดูแลและสามารถอธิบายผลลัพธ์ได้สามารถอ่านรายละเอียดเพิ่มเติมได้ที่ www.dataiku.com/company/dataiku-for-the-future/open-source/.