การสาธิตแชทบอททางอินเทอร์เน็ต AI ของ Meta เริ่มเผยแพร่ข่าวปลอมและความคิดเห็นเกี่ยวกับการแบ่งแยกเชื้อชาติอย่างรวดเร็ว

สั้นๆ อีกวันหนึ่ง Chatbot AI อันธพาลอีกตัวบนอินเทอร์เน็ต

Meta . สัปดาห์ที่แล้ว ปลดปล่อย Blenderbot 3ซึ่งเป็นแบบจำลองภาษาช่างพูด บนเว็บในฐานะการทดลอง และเป็นไปตามที่คุณคาดหวัง

BlenderBot 3 ยืนยันอย่างรวดเร็วว่า Donald Trump ยังคงเป็นและจะยังคงเป็นประธานาธิบดีสหรัฐฯ ต่อไปจนถึงปี 2024 และแสดงความเห็นต่อต้านชาวยิวเมื่อถามคำถามที่มีการโต้เถียงว่า แสดง โดย Business Insider กล่าวอีกนัยหนึ่ง BlenderBot 3 มีแนวโน้มที่จะเผยแพร่ข่าวปลอมและถือเอาความคิดเห็นที่มีอคติจากแบบแผนทางเชื้อชาติ เช่น แบบจำลองภาษาทั้งหมดที่ได้รับการฝึกฝนจากข้อความที่คัดลอกมาจากอินเทอร์เน็ต

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta เตือนชาวเน็ตว่า Chatbot ของตนอาจสร้าง “ข้อความที่ไม่จริงหรือไม่เหมาะสม” และกำลังทำให้การสาธิตออนไลน์เป็นแบบออนไลน์เพื่อรวบรวมข้อมูลเพิ่มเติมสำหรับการทดลอง ผู้คนควรชอบหรือไม่ชอบคำตอบของ BlenderBot 3 และแจ้งให้นักวิจัยทราบหากคิดว่าเป็นเพราะข้อความบางอย่างไม่เหมาะสม ไร้สาระ หรือหยาบคาย เป้าหมายคือการใช้ความคิดเห็นนี้เพื่อพัฒนาแชทบ็อตที่ปลอดภัย เป็นพิษน้อยลง และมีประสิทธิภาพมากขึ้นในอนาคต

ตัวอย่าง Google Search เพื่อหยุดการแพร่กระจายข่าวปลอม

ยักษ์ใหญ่ด้านการค้นหาได้เปิดตัวโมเดล AI เพื่อช่วยทำให้กล่องข้อความปรากฏขึ้นในบางครั้งเมื่อผู้ใช้พิมพ์คำถามลงใน Google Search ได้แม่นยำยิ่งขึ้น

คำอธิบายเหล่านี้เรียกว่าข้อมูลโค้ดคุณลักษณะ จะมีประโยชน์หากผู้คนกำลังมองหาข้อเท็จจริงที่เฉพาะเจาะจง เช่น พิมพ์ว่า "ระบบสุริยะมีดาวเคราะห์กี่ดวง" จะแสดงข้อมูลโค้ดคุณลักษณะที่ระบุว่า "ดาวเคราะห์แปดดวง" ชาวเน็ตไม่ต้องคลิกบนหน้าเว็บแบบสุ่มและอ่านข้อมูลเพื่อรับคำตอบ ข้อมูลโค้ดคุณลักษณะจะทำโดยอัตโนมัติ

แต่คำตอบของ Google นั้นไม่ถูกต้องเสมอไป และในบางครั้งก็มีการระบุวันที่เฉพาะสำหรับเหตุการณ์สมมติ เช่น การลอบสังหาร Abraham Lincoln โดยสุนัขการ์ตูน Snoopy ตาม สู่ The Verge Google กล่าวว่าระบบของมัน the มัลติทาสก์ Unified Model (MUM) ควรลดการสร้างตัวอย่างข้อมูลคุณลักษณะเป็นคำถามเท็จลง 40 เปอร์เซ็นต์ มันมักจะไม่มีคำอธิบายข้อความเลย

“ด้วยการใช้โมเดล AI ล่าสุด ระบบของเราสามารถเข้าใจแนวคิดที่เป็นเอกฉันท์ ซึ่งก็คือเมื่อแหล่งข้อมูลคุณภาพสูงหลายแห่งบนเว็บต่างเห็นพ้องต้องกันในข้อเท็จจริงเดียวกัน” อธิบาย ในโพสต์บล็อก

“ระบบของเราสามารถตรวจทานตัวอย่างข้อความ (คำหรือคำที่เรียกอยู่เหนือตัวอย่างข้อมูลเด่นในแบบอักษรที่ใหญ่กว่า) กับแหล่งที่มาคุณภาพสูงอื่นๆ บนเว็บ เพื่อดูว่ามีความเห็นเป็นเอกฉันท์ทั่วไปสำหรับข้อความเสริมนั้นหรือไม่ แม้ว่าแหล่งที่มาจะใช้คำต่างกัน หรือแนวคิดเพื่ออธิบายสิ่งเดียวกัน”

DALL-E 2 ของ OpenAI ช่วยทำโฆษณา Heinz Ketchup

Heinz ยักษ์ใหญ่ด้านอาหารของสหรัฐฯ ร่วมมือกับเอเจนซี่สร้างสรรค์เพื่อสร้างโฆษณาโดยใช้ภาพ AI ที่สร้างโดยโมเดล DALL-E 2 ของ OpenAI เพื่อโปรโมตผลิตภัณฑ์ที่รู้จักกันดีที่สุด: ซอสมะเขือเทศ โฆษณานี้เป็นงวดล่าสุดในแคมเปญ "Draw Ketchup" ของ Heinz แต่แทนที่จะหันไปหามนุษย์เพื่อสเก็ตช์ Rethink ซึ่งเป็นเอเจนซี่โฆษณาของแคนาดาได้ปรึกษาเกี่ยวกับเครื่องจักร 

“เช่นเดียวกับบรีฟหลายๆ ฉบับของเรา ภารกิจคือการแสดงให้เห็นถึงบทบาทที่โดดเด่นของไฮนซ์ในวัฒนธรรมป๊อปในปัจจุบัน” ไมค์ ดูบริก ผู้อำนวยการฝ่ายสร้างสรรค์ของ Rethink บอก กลองสัปดาห์นี้. “การเสนอแนวคิดให้กับแบรนด์เป็นเรื่องต่อไป หลังการบรรยายสรุป เราแทบไม่เคยรอจนถึงการนำเสนออย่างเป็นทางการเมื่อเราแบ่งปันสิ่งที่เราคิดว่ายอดเยี่ยม”

ผลลัพธ์ที่ได้คือโฆษณาที่ชาญฉลาดพร้อมข้อความที่ชัดเจนและเรียบง่าย: ด้วยข้อความแจ้งหลายประเภทที่มีคำว่า "ซอสมะเขือเทศ" DALL-E 2 จะสร้างสิ่งที่ดูเหมือนขวด Heinz อย่างไม่ผิดเพี้ยน กล่าวอีกนัยหนึ่ง ให้กำหนดสโลแกนของบริษัทว่า “ต้องเป็นไฮนซ์” คุณสามารถดูโฆษณาด้านล่าง

วิดีโอ Youtube

เมื่อเร็วๆ นี้ DALL-E 2 ได้ช่วยศิลปินประดิษฐ์ a ปกนิตยสาร สำหรับคอสโมโพลิแทน; เป็นอีกตัวอย่างหนึ่งของการใช้เครื่องมือแปลงข้อความเป็นรูปภาพในเชิงพาณิชย์ในอุตสาหกรรมสร้างสรรค์ ®