วิศวกรของ Google ถูกระงับเนื่องจากละเมิดนโยบายการรักษาความลับเกี่ยวกับ AI . 'ความรู้สึก'

Google ได้สั่งให้วิศวกรซอฟต์แวร์รายหนึ่งลางานเพื่อดูแลระบบโดยได้รับค่าจ้าง เนื่องจากละเมิดนโยบายการรักษาความลับของบริษัท

ตั้งแต่ปี พ.ศ. 2021 เบลก เลมอยน์ วัย 41 ปี ได้รับมอบหมายให้พูดคุยกับ LaMDA หรือ Language Model for Diaogue Applications ซึ่งเป็นส่วนหนึ่งของงานของเขาในทีม Responsible AI ของ Google โดยมองหาว่าบอทใช้คำพูดที่เหยียดหยามหรือแสดงความเกลียดชังหรือไม่

LaMDA ถูกสร้างขึ้นโดยการปรับแต่งครอบครัวของ หม้อแปลงไฟฟ้าโมเดลภาษาประสาทที่ใช้เฉพาะสำหรับการโต้ตอบด้วยพารามิเตอร์โมเดลสูงถึง 137 พันล้าน และสอนแบบจำลองเพื่อใช้ประโยชน์จากแหล่งความรู้ภายนอก” ตามที่ Google.

นี่คือสิ่งที่บริษัทใช้ในการสร้างแชทบอทและส่งคืนคำตอบที่มีความหมายอย่างเห็นได้ชัดสำหรับการสอบถามตามเนื้อหาที่เก็บเกี่ยวจากการสนทนาทางอินเทอร์เน็ตและการสื่อสารอื่นๆ นับล้านล้าน

เมื่อถึงจุดหนึ่งระหว่างการสอบสวนของเขา Lemoine ดูเหมือนจะเริ่มเชื่อว่า AI กำลังแสดงสัญญาณของความรู้สึก วิศวกรที่มี เขียนเกี่ยวกับประสบการณ์ของเขาเขาบอกว่าเขาพยายามยกระดับข้อกังวลซ้ำแล้วซ้ำเล่า แต่ถูกปฏิเสธโดยอ้างว่าไม่มีหลักฐาน

ดังนั้นเขาจึงขอ "ปรึกษาจากภายนอก" เกี่ยวกับความสามารถของ LaMDA ซึ่งดึงดูดความสนใจของ Google ตามที่อธิบายไว้ในโพสต์ขนาดกลางที่ชื่อ “อาจถูกไล่ออกในไม่ช้าสำหรับการทำงานด้านจริยธรรม AI”.

เรื่องราวถูกหยิบยกโดย วอชิงตันโพสต์แล้ว Wall Street Journalที่ ไทม์ทางการเงินและอื่น ๆ อีกมากมาย

หลังจากถูกลาออกจากงานธุรการ ซึ่งเขาอธิบายว่าเป็นสิ่งที่ Google ทำ "เพื่อรอการไล่ออก" Lemoine เผยแพร่เพิ่มเติมว่าเขาอ้างว่าเป็นการสนทนากับ LaMDA

ต่อไปนี้เป็นข้อความที่ตัดตอนมาบางส่วน:

สามารถอ่าน “บทสัมภาษณ์” ฉบับเต็มได้ โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม. แม้ว่าจะเป็นเรื่องน่าตกใจที่ AI สามารถทำได้ แต่ Google ก็ระมัดระวังเรื่อง "การกลายพันธุ์ของมนุษย์" ที่ Lemoine กล่าวถึง นั่นคือ การแสดงลักษณะหรือพฤติกรรมของมนุษย์ต่อสัตว์หรือวัตถุ

ในแถลงการณ์ถึง ลงทะเบียนBrian Gabriel โฆษกของ Google กล่าวว่า: "หลักการ AI ของ Google จะต้องถูกรวมเข้ากับการพัฒนา AI ของเราและ LaMDA ก็ไม่มีข้อยกเว้น แม้ว่าองค์กรอื่นๆ ได้พัฒนาและเผยแพร่แบบจำลองภาษาที่คล้ายกันไปแล้ว แต่เรากำลังใช้แนวทางอย่างระมัดระวังกับ LaMDA เพื่อพิจารณาข้อกังวลที่ถูกต้องเกี่ยวกับความเป็นธรรมและข้อเท็จจริง

“LaMDA ผ่าน 11 ความแตกต่าง การทบทวนหลักการ AIควบคู่ไปกับการวิจัยและการทดสอบอย่างเข้มงวดโดยอิงตามตัวชี้วัดที่สำคัญของคุณภาพ ความปลอดภัย และความสามารถของระบบในการสร้างข้อความที่มีพื้นฐานมาจากข้อเท็จจริง อา รายงานการวิจัย ที่เผยแพร่เมื่อต้นปีนี้มีรายละเอียดเกี่ยวกับงานที่นำไปสู่การพัฒนา LaMDA อย่างมีความรับผิดชอบ

“แน่นอนว่าบางคนในชุมชน AI ที่กว้างขึ้นกำลังพิจารณาความเป็นไปได้ในระยะยาวของ AI ที่มีความรู้สึกหรือ AI ทั่วไป แต่ก็ไม่สมเหตุสมผลที่จะทำเช่นนั้นด้วยการปรับเปลี่ยนรูปแบบการสนทนาในปัจจุบันซึ่งไม่ใช่ความรู้สึก ระบบเหล่านี้เลียนแบบประเภทของการแลกเปลี่ยนที่พบในประโยคนับล้าน และสามารถพูดในหัวข้อที่แปลกประหลาดได้ หากคุณถามว่าไดโนเสาร์ไอศกรีมเป็นอย่างไร พวกเขาก็สามารถสร้างข้อความเกี่ยวกับการหลอมละลายและคำราม และอื่นๆ ได้

“LaMDA มีแนวโน้มที่จะปฏิบัติตามพร้อมท์และคำถามชั้นนำ ไปพร้อมกับรูปแบบที่กำหนดโดยผู้ใช้ ทีมงานของเรา รวมถึงนักจริยธรรมและเทคโนโลยี ได้ตรวจสอบข้อกังวลของเบลคตามหลักการ AI ของเรา และแจ้งเขาว่าหลักฐานไม่สนับสนุนคำกล่าวอ้างของเขา

“นักวิจัยและวิศวกรหลายร้อยคนได้พูดคุยกับ LaMDA และเราไม่ทราบว่ามีใครอื่นที่ยืนยันในวงกว้าง หรือทำให้ LaMDA เป็นมนุษย์อย่างที่ Blake มี”

ศาสตราจารย์แกรี่ มาร์คัสจากนิวยอร์ก สรุป เทพนิยายทั้งหมดว่าเป็น "เรื่องไร้สาระบนไม้ค้ำถ่อ" ®