Accenture สร้างโซลูชัน Knowledge Assist โดยใช้บริการ AI เชิงสร้างสรรค์บน AWS | อเมซอนเว็บเซอร์วิส

โพสต์นี้เขียนร่วมกับ Ilan Geller และ Shuyu Yang จาก Accenture

ปัจจุบันองค์กรต่างๆ เผชิญกับความท้าทายที่สำคัญในการใช้ข้อมูลและฐานความรู้เพื่อการดำเนินธุรกิจทั้งภายในและภายนอก เนื่องจากการดำเนินงาน กระบวนการ นโยบาย และข้อกำหนดด้านการปฏิบัติตามกฎระเบียบมีการพัฒนาอย่างต่อเนื่อง จึงเป็นเรื่องยากมากสำหรับพนักงานและลูกค้าในการติดตามข่าวสารล่าสุด ในขณะเดียวกัน ลักษณะที่ไม่มีโครงสร้างของเนื้อหาส่วนใหญ่ทำให้การค้นหาคำตอบโดยใช้การค้นหาแบบเดิมๆ ใช้เวลานาน

ภายในองค์กร พนักงานมักจะใช้เวลานับไม่ถ้วนในการค้นหาข้อมูลที่จำเป็นในการทำงาน ซึ่งนำไปสู่ความยุ่งยากและลดประสิทธิภาพการทำงาน และเมื่อพวกเขาไม่สามารถหาคำตอบได้ พวกเขาก็ต้องขยายประเด็นหรือตัดสินใจโดยไม่มีบริบทที่สมบูรณ์ ซึ่งสามารถสร้างความเสี่ยงได้

ภายนอก ลูกค้ายังพบว่าการค้นหาข้อมูลที่ต้องการนั้นน่าหงุดหงิด แม้ว่าฐานความรู้ขององค์กรจะปรับปรุงประสบการณ์ของลูกค้าเมื่อเวลาผ่านไป แต่ก็ยังมีความยุ่งยากและใช้งานยาก ไม่ว่าจะค้นหาคำตอบสำหรับคำถามเกี่ยวกับผลิตภัณฑ์หรือต้องการข้อมูลเกี่ยวกับเวลาทำการและสถานที่ ประสบการณ์ที่ไม่ดีอาจนำไปสู่ความคับข้องใจ หรือแย่กว่านั้นคือความบกพร่องของลูกค้า

ไม่ว่าในกรณีใด เนื่องจากการจัดการความรู้มีความซับซ้อนมากขึ้น AI เจนเนอเรชั่นจึงนำเสนอโอกาสในการเปลี่ยนแปลงเกมสำหรับองค์กรต่างๆ ในการเชื่อมโยงผู้คนกับข้อมูลที่พวกเขาจำเป็นต้องดำเนินการและสร้างสรรค์สิ่งใหม่ๆ ด้วยกลยุทธ์ที่เหมาะสม โซลูชันอัจฉริยะเหล่านี้สามารถเปลี่ยนวิธีการรวบรวม จัดระเบียบ และใช้งานความรู้ทั่วทั้งองค์กร

เพื่อช่วยรับมือกับความท้าทายนี้ Accenture ได้ร่วมมือกับ AWS เพื่อสร้างโซลูชัน AI เชิงนวัตกรรมที่เรียกว่า Knowledge Assist ด้วยการใช้บริการ AWS generative AI ทีมงานได้พัฒนาระบบที่สามารถนำเข้าและเข้าใจเนื้อหาองค์กรที่ไม่มีโครงสร้างจำนวนมหาศาล

แทนที่จะใช้การค้นหาคำหลักแบบเดิมๆ ขณะนี้ผู้ใช้สามารถถามคำถามและแยกคำตอบที่แม่นยำในอินเทอร์เฟซการสนทนาที่ตรงไปตรงมา Generative AI เข้าใจบริบทและความสัมพันธ์ภายในฐานความรู้เพื่อส่งมอบการตอบสนองที่เป็นส่วนตัวและแม่นยำ เนื่องจากมีการสอบถามมากขึ้น ระบบจะปรับปรุงการประมวลผลภาษาอย่างต่อเนื่องผ่านอัลกอริธึมการเรียนรู้ของเครื่อง (ML)

นับตั้งแต่เปิดตัวกรอบความช่วยเหลือ AI นี้ บริษัทต่างๆ ได้เห็นการปรับปรุงอย่างมากในด้านการรักษาความรู้และประสิทธิภาพการทำงานของพนักงาน ด้วยการให้การเข้าถึงข้อมูลที่รวดเร็วและแม่นยำและทำให้พนักงานสามารถให้บริการตนเองได้ โซลูชันนี้จึงช่วยลดเวลาการฝึกอบรมสำหรับพนักงานใหม่ได้มากกว่า 50% และลดการยกระดับได้มากถึง 40%

ด้วยพลังของ generative AI องค์กรต่างๆ สามารถเปลี่ยนวิธีการรวบรวม จัดระเบียบ และแบ่งปันความรู้ทั่วทั้งองค์กรได้ ด้วยการปลดล็อกฐานความรู้ที่มีอยู่ บริษัทต่างๆ จึงสามารถเพิ่มประสิทธิภาพการทำงานของพนักงานและความพึงพอใจของลูกค้าได้ ดังที่ความร่วมมือของ Accenture กับ AWS แสดงให้เห็น อนาคตของการจัดการความรู้ระดับองค์กรอยู่ในระบบที่ขับเคลื่อนด้วย AI ซึ่งพัฒนาผ่านการโต้ตอบระหว่างมนุษย์และเครื่องจักร

Accenture กำลังทำงานร่วมกับ AWS เพื่อช่วยลูกค้าปรับใช้ อเมซอน เบดร็อคใช้โมเดลพื้นฐานที่ทันสมัยที่สุดเช่น อเมซอนไททันและปรับใช้เทคโนโลยีชั้นนำของอุตสาหกรรมเช่น Amazon SageMaker JumpStart และ อเมซอน อินเฟอร์เรนเทีย ควบคู่ไปกับบริการ AWS ML อื่นๆ

โพสต์นี้ให้ภาพรวมของโซลูชัน AI เจนเนอเรชั่นแบบครบวงจรที่พัฒนาโดย Accenture สำหรับกรณีการใช้งานจริงโดยใช้ Amazon Bedrock และบริการของ AWS อื่นๆ

ภาพรวมโซลูชัน

ลูกค้าในภาคสาธารณสุขรายใหญ่ให้บริการประชาชนหลายล้านคนทุกวัน และพวกเขาต้องการการเข้าถึงข้อมูลที่ทันสมัยได้อย่างง่ายดายในภาพรวมด้านสุขภาพที่เปลี่ยนแปลงตลอดเวลา Accenture ได้รวมฟังก์ชันการทำงานของ AI เจนเนอเรชั่นนี้เข้ากับบอตคำถามที่พบบ่อย ซึ่งช่วยให้แชทบอตสามารถตอบคำถามของผู้ใช้ได้หลากหลายมากขึ้น การเพิ่มความสามารถสำหรับประชาชนในการเข้าถึงข้อมูลที่เกี่ยวข้องในลักษณะบริการตนเองช่วยประหยัดเวลาและเงินของแผนก และลดความจำเป็นในการโต้ตอบกับตัวแทนศูนย์บริการทางโทรศัพท์ คุณสมบัติที่สำคัญของโซลูชันประกอบด้วย:

• แนวทางเจตนาแบบผสมผสาน – ใช้เจตนากำเนิดและการฝึกอบรมล่วงหน้า
• การสนับสนุนหลายภาษา – การสนทนาเป็นภาษาอังกฤษและสเปน
• การวิเคราะห์การสนทนา – รายงานความต้องการ ความรู้สึก และข้อกังวลของผู้ใช้
• บทสนทนาที่เป็นธรรมชาติ – รักษาบริบทด้วยการประมวลผลภาษาธรรมชาติที่เหมือนมนุษย์ (NLP)
• การอ้างอิงที่โปร่งใส – แนะนำผู้ใช้ไปยังแหล่งข้อมูล

โซลูชัน generative AI ของ Accenture มีข้อได้เปรียบเหนือเฟรมเวิร์กแชทบอทที่มีอยู่หรือแบบดั้งเดิมดังต่อไปนี้:

• สร้างคำตอบที่ถูกต้อง ตรงประเด็น และเป็นธรรมชาติต่อคำถามของผู้ใช้อย่างรวดเร็ว
• จำบริบทและตอบคำถามติดตามผล
• จัดการคำถามและสร้างคำตอบในหลายภาษา (เช่น อังกฤษและสเปน)
• เรียนรู้และปรับปรุงการตอบสนองอย่างต่อเนื่องตามความคิดเห็นของผู้ใช้
• สามารถบูรณาการเข้ากับแพลตฟอร์มเว็บที่คุณมีอยู่ได้อย่างง่ายดาย
• นำเข้าพื้นที่เก็บข้อมูลขนาดใหญ่ของฐานความรู้ขององค์กร
• ตอบสนองในลักษณะของมนุษย์
• การพัฒนาความรู้มีอย่างต่อเนื่องโดยใช้ความพยายามเพียงเล็กน้อยหรือไม่มีเลย
• ใช้รูปแบบการจ่ายตามการใช้งานโดยไม่มีค่าใช้จ่ายล่วงหน้า

เวิร์กโฟลว์ระดับสูงของโซลูชันนี้เกี่ยวข้องกับขั้นตอนต่อไปนี้:

1. ผู้ใช้สร้างการผสานรวมอย่างง่ายกับแพลตฟอร์มเว็บที่มีอยู่​
2. ข้อมูลจะถูกนำเข้าเข้าสู่แพลตฟอร์มเป็นการอัปโหลดจำนวนมากในวันที่ 0 จากนั้นจึงอัปโหลดเพิ่มเติมในวันที่ 1+​
3. คำถามของผู้ใช้จะได้รับการประมวลผลแบบเรียลไทม์โดยมีการปรับขนาดระบบตามความต้องการของผู้ใช้
4. การสนทนาจะถูกบันทึกไว้ในฐานข้อมูลแอปพลิเคชัน (อเมซอน ไดนาโม DB) เพื่อรองรับการสนทนาหลายรอบ.​
5. โมเดลพื้นฐาน Anthropic Claude ถูกเรียกใช้ผ่าน Amazon Bedrock ซึ่งใช้เพื่อสร้างคำตอบการสืบค้นตามเนื้อหาที่เกี่ยวข้องมากที่สุด
6. แบบจำลองพื้นฐาน Anthropic Claude ใช้เพื่อแปลคำถามและการตอบกลับจากภาษาอังกฤษเป็นภาษาอื่นๆ ที่ต้องการ เพื่อรองรับการสนทนาหลายภาษา
7. โมเดลพื้นฐาน Amazon Titan ถูกเรียกใช้ผ่าน Amazon Bedrock เพื่อสร้างการฝังเวกเตอร์
8. ความเกี่ยวข้องของเนื้อหาถูกกำหนดโดยความคล้ายคลึงกันของการฝังเนื้อหาดิบและการฝังแบบสอบถามของผู้ใช้โดยใช้การฝังฐานข้อมูลเวกเตอร์ Pinecone​
9. บริบทพร้อมกับคำถามของผู้ใช้ถูกต่อท้ายเพื่อสร้างพรอมต์ ซึ่งเป็นอินพุตสำหรับโมเดล Anthropic Claude การตอบกลับที่สร้างขึ้นจะถูกส่งกลับไปยังผู้ใช้ผ่านทางแพลตฟอร์มเว็บ

ไดอะแกรมต่อไปนี้แสดงสถาปัตยกรรมโซลูชัน

กระแสสถาปัตยกรรมสามารถเข้าใจได้เป็นสองส่วน:

ในส่วนต่อไปนี้ เราจะหารือเกี่ยวกับแง่มุมต่างๆ ของโซลูชันและการพัฒนาโดยละเอียด

การเลือกรุ่น

กระบวนการในการเลือกแบบจำลองรวมถึงการทดสอบการถดถอยของโมเดลต่างๆ ที่มีอยู่ใน Amazon Bedrock ซึ่งรวมถึงโมเดลพื้นฐาน AI21 Labs, Cohere, Anthropic และ Amazon เราตรวจสอบกรณีการใช้งานที่รองรับ คุณลักษณะของโมเดล โทเค็นสูงสุด ต้นทุน ความแม่นยำ ประสิทธิภาพ และภาษา จากข้อมูลนี้ เราจึงเลือก Claude-2 ให้เหมาะสมที่สุดสำหรับกรณีการใช้งานนี้

แหล่งข้อมูล

เราสร้างดัชนี Amazon Kendra และเพิ่มแหล่งข้อมูลโดยใช้ตัวเชื่อมต่อโปรแกรมรวบรวมข้อมูลเว็บที่มี URL รูทของเว็บและความลึกของไดเร็กทอรีสองระดับ มีการนำหน้าเว็บหลายหน้าเข้าสู่ดัชนี Amazon Kendra และใช้เป็นแหล่งข้อมูล

กระบวนการร้องขอและตอบกลับแชทบอท GenAI

ขั้นตอนในกระบวนการนี้ประกอบด้วยการโต้ตอบจากต้นทางถึงปลายทางกับคำขอจาก อเมซอน เล็กซ์ และการตอบกลับจากโมเดลภาษาขนาดใหญ่ (LLM):

1. ผู้ใช้ส่งคำขอไปยังแอปพลิเคชันส่วนหน้าการสนทนาที่โฮสต์ใน บริการจัดเก็บข้อมูลอย่างง่ายของ Amazon (Amazon S3) ผ่านไปได้ Amazon เส้นทาง 53 และ Amazon CloudFront.
2. Amazon Lex เข้าใจเจตนาและส่งต่อคำขอไปยังผู้เรียบเรียงที่โฮสต์ใน AWS แลมบ์ดา ฟังก์ชัน
3. ฟังก์ชัน orchestrator Lambda ดำเนินการขั้นตอนต่อไปนี้:
   1. ฟังก์ชันโต้ตอบกับฐานข้อมูลแอปพลิเคชันซึ่งโฮสต์อยู่ในฐานข้อมูลที่จัดการ DynamoDB ฐานข้อมูลจะจัดเก็บ ID เซสชันและ ID ผู้ใช้สำหรับประวัติการสนทนา
   2. คำขออื่นจะถูกส่งไปยังดัชนี Amazon Kendra เพื่อรับผลการค้นหาที่เกี่ยวข้องห้าอันดับแรกเพื่อสร้างบริบทที่เกี่ยวข้อง การใช้บริบทนี้ มีการสร้างพร้อมท์ที่แก้ไขที่จำเป็นสำหรับโมเดล LLM
   3. การเชื่อมต่อถูกสร้างขึ้นระหว่าง Amazon Bedrock และผู้เรียบเรียง คำขอจะถูกโพสต์ไปยังโมเดล Amazon Bedrock Claude-2 เพื่อรับการตอบสนองจากโมเดล LLM ที่เลือก
4. ข้อมูลจะได้รับการประมวลผลภายหลังจากการตอบสนองของ LLM และการตอบสนองจะถูกส่งไปยังผู้ใช้

การรายงานออนไลน์

กระบวนการรายงานออนไลน์ประกอบด้วยขั้นตอนต่อไปนี้:

1. ผู้ใช้ปลายทางโต้ตอบกับแชทบอทผ่านเลเยอร์ฟรอนต์เอนด์ CloudFront CDN
2. การโต้ตอบคำขอ/ตอบกลับแต่ละครั้งได้รับการอำนวยความสะดวกโดย AWS SDK และส่งการรับส่งข้อมูลเครือข่ายไปยัง Amazon Lex (ส่วนประกอบ NLP ของบอต)
3. ข้อมูลเมตาเกี่ยวกับการจับคู่คำขอ/การตอบกลับจะถูกบันทึกไว้ อเมซอน คลาวด์วอตช์.
4. กลุ่มบันทึก CloudWatch ได้รับการกำหนดค่าด้วยตัวกรองการสมัครที่ส่งบันทึกเข้าไป บริการ Amazon OpenSearch.
5. เมื่อพร้อมใช้งานใน OpenSearch Service แล้ว คุณจะสามารถใช้บันทึกเพื่อสร้างรายงานและแดชบอร์ดโดยใช้ Kibana ได้

สรุป

ในโพสต์นี้ เราได้แสดงให้เห็นว่า Accenture ใช้บริการ AWS generative AI อย่างไรเพื่อปรับใช้แนวทางแบบครบวงจรต่อการเปลี่ยนแปลงทางดิจิทัล เราระบุช่องว่างในแพลตฟอร์มการตอบคำถามแบบดั้งเดิมและเพิ่มข้อมูลอัจฉริยะภายในกรอบงานเพื่อให้เวลาตอบสนองเร็วขึ้น และปรับปรุงระบบอย่างต่อเนื่องในขณะที่มีส่วนร่วมกับผู้ใช้ทั่วโลก ติดต่อทีม Accenture Center of Excellence เพื่อเจาะลึกเกี่ยวกับโซลูชันและปรับใช้โซลูชันนี้สำหรับลูกค้าของคุณ

แพลตฟอร์ม Knowledge Assist นี้สามารถนำไปใช้กับอุตสาหกรรมต่างๆ รวมถึงแต่ไม่จำกัดเพียงวิทยาศาสตร์สุขภาพ บริการทางการเงิน การผลิต และอื่นๆ แพลตฟอร์มนี้ให้การตอบคำถามที่เป็นธรรมชาติและเหมือนมนุษย์โดยใช้ความรู้ที่ปลอดภัย แพลตฟอร์มนี้ช่วยให้เกิดประสิทธิภาพ ประสิทธิผล และการดำเนินการที่แม่นยำยิ่งขึ้นสำหรับผู้ใช้

ความพยายามร่วมกันสร้างขึ้นจากความสัมพันธ์เชิงกลยุทธ์ที่มีมายาวนาน 15 ปีระหว่างบริษัทต่างๆ และใช้กลไกและตัวเร่งที่ได้รับการพิสูจน์แล้วแบบเดียวกับที่สร้างโดย กลุ่มธุรกิจ AWS ของ Accenture (เอเอบีจี).

เชื่อมต่อกับทีมงาน AABG ได้ที่ Accureaws@amazon.com เพื่อขับเคลื่อนผลลัพธ์ทางธุรกิจโดยการแปลงเป็นองค์กรข้อมูลอัจฉริยะบน AWS

สำหรับข้อมูลเพิ่มเติมเกี่ยวกับ generative AI บน AWS โดยใช้ Amazon Bedrock หรือ อเมซอน SageMakerเราขอแนะนำแหล่งข้อมูลต่อไปนี้:

คุณยังสามารถ ลงทะเบียนเพื่อรับจดหมายข่าว AWS generative AIซึ่งรวมถึงแหล่งข้อมูลด้านการศึกษา บล็อก และการอัปเดตบริการ

---

เกี่ยวกับผู้เขียน

อิลัน เกลเลอร์ เป็นกรรมการผู้จัดการของ Accenture โดยมุ่งเน้นที่ปัญญาประดิษฐ์ ช่วยเหลือลูกค้าในการปรับขนาดแอปพลิเคชันปัญญาประดิษฐ์ และหัวหน้าพันธมิตร GenAI COE ระดับโลกสำหรับ AWS

ซู่หยูหยาง เป็นผู้นำในการส่งมอบโมเดล AI และโมเดลภาษาขนาดใหญ่ และยังเป็นผู้นำทีม CoE (ศูนย์ความเป็นเลิศ) Accenture AI (มืออาชีพ AWS DevOps)

ชิคาร์ ควาตรา เป็นสถาปนิกโซลูชันผู้เชี่ยวชาญด้าน AI/ML ที่ Amazon Web Services ซึ่งทำงานร่วมกับ Global System Integrator ชั้นนำ เขาได้รับตำแหน่งหนึ่งในนักประดิษฐ์ระดับปรมาจารย์ชาวอินเดียที่อายุน้อยที่สุด ด้วยสิทธิบัตรมากกว่า 500 รายการในโดเมน AI/ML และ IoT Shikhar ช่วยในการออกแบบสถาปัตยกรรม สร้าง และบำรุงรักษาสภาพแวดล้อมระบบคลาวด์ที่คุ้มค่าและปรับขนาดได้สำหรับองค์กร และสนับสนุนคู่ค้า GSI ในการสร้างโซลูชันอุตสาหกรรมเชิงกลยุทธ์บน AWS

เจย์ พิไล เป็นสถาปนิกโซลูชันหลักที่ Amazon Web Services ในบทบาทนี้ เขาทำหน้าที่เป็นหัวหน้าสถาปนิก Global Generative AI และหัวหน้าสถาปนิกสำหรับโซลูชั่นซัพพลายเชนกับ AABG ในฐานะผู้นำด้านเทคโนโลยีสารสนเทศ Jay เชี่ยวชาญด้านปัญญาประดิษฐ์ การบูรณาการข้อมูล ระบบธุรกิจอัจฉริยะ และโดเมนอินเทอร์เฟซผู้ใช้ เขามีประสบการณ์กว้างขวาง 23 ปีในการทำงานร่วมกับลูกค้าหลายรายในห่วงโซ่อุปทาน เทคโนโลยีทางกฎหมาย อสังหาริมทรัพย์ บริการทางการเงิน ประกันภัย การชำระเงิน และโดเมนธุรกิจการวิจัยตลาด

คาร์ทิค สนติ นำทีมสถาปนิกโซลูชันระดับโลกที่มุ่งเน้นการวางแนวความคิด การสร้าง และการเปิดตัวโซลูชันแนวนอน ฟังก์ชัน และแนวตั้งด้วย Accenture เพื่อช่วยลูกค้าร่วมของเราในการเปลี่ยนแปลงธุรกิจในลักษณะที่แตกต่างบน AWS

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• PlatoData.Network Vertical Generative Ai เพิ่มพลังให้กับตัวเอง เข้าถึงได้ที่นี่.
• เพลโตไอสตรีม. Web3 อัจฉริยะ ขยายความรู้ เข้าถึงได้ที่นี่.
• เพลโตESG. คาร์บอน, คลีนเทค, พลังงาน, สิ่งแวดล้อม แสงอาทิตย์, การจัดการของเสีย. เข้าถึงได้ที่นี่.
• เพลโตสุขภาพ เทคโนโลยีชีวภาพและข่าวกรองการทดลองทางคลินิก เข้าถึงได้ที่นี่.
• ที่มา: https://aws.amazon.com/blogs/machine-learning/accenture-creates-a-knowledge-assist-solution-using-generative-ai-services-on-aws/