เครือข่ายประสาทบางส่วนเรียนรู้ภาษาเหมือนมนุษย์ | นิตยสารควอนตั้ม

สมองเรียนรู้ได้อย่างไร? เป็นเรื่องลึกลับอย่างหนึ่งที่ใช้ได้ทั้งกับอวัยวะที่เป็นรูพรุนในกะโหลกศีรษะของเราและกับอวัยวะดิจิทัลในเครื่องจักรของเรา แม้ว่าโครงข่ายประสาทเทียม (ANNs) จะถูกสร้างขึ้นจากโครงข่ายใยประสาทเทียมที่ซับซ้อน ซึ่งเลียนแบบวิธีที่สมองของเราประมวลผลข้อมูลอย่างเห็นได้ชัด แต่เราไม่รู้ว่าพวกมันประมวลผลข้อมูลเข้าในลักษณะเดียวกันหรือไม่   

“มีการถกเถียงกันมานานว่าเครือข่ายประสาทเรียนรู้ในลักษณะเดียวกับที่มนุษย์ทำหรือไม่” กล่าว วเซโวลอด คาปัตซินสกี้นักภาษาศาสตร์แห่งมหาวิทยาลัยออริกอน

ตอนนี้การศึกษา การตีพิมพ์ เมื่อเดือนที่แล้วชี้ให้เห็นว่าเครือข่ายธรรมชาติและเครือข่ายประดิษฐ์เรียนรู้ในลักษณะเดียวกัน อย่างน้อยก็ในด้านภาษา นักวิจัย - นำโดย กัชเปร์ เบกุชนักภาษาศาสตร์คอมพิวเตอร์แห่งมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ เปรียบเทียบคลื่นสมองของมนุษย์ที่ฟังเสียงธรรมดากับสัญญาณที่ผลิตโดยโครงข่ายประสาทเทียมที่วิเคราะห์เสียงเดียวกัน ผลลัพธ์ที่ได้เหมือนกันอย่างไม่น่าเชื่อ "จากความรู้ของเรา" Begušและเพื่อนร่วมงานของเขาเขียนไว้ การตอบสนองต่อสิ่งเร้าเดียวกันที่สังเกตได้ "เป็นสัญญาณของสมองและ ANN ที่คล้ายคลึงกันมากที่สุด"

ที่สำคัญที่สุด นักวิจัยได้ทดสอบเครือข่ายที่ประกอบด้วยเซลล์ประสาทที่ใช้งานทั่วไปซึ่งเหมาะสำหรับงานที่หลากหลาย “พวกเขาแสดงให้เห็นว่าแม้แต่เครือข่ายทั่วๆ ไป ซึ่งไม่มีอคติใดๆ ที่พัฒนาขึ้นสำหรับคำพูดหรือเสียงอื่นใด แต่ก็ยังแสดงความสอดคล้องกับการเข้ารหัสประสาทของมนุษย์” กล่าว แกรี่ ลูเปียนนักจิตวิทยาแห่งมหาวิทยาลัยวิสคอนซิน แมดิสัน ซึ่งไม่ได้เกี่ยวข้องกับงานนี้ ผลลัพธ์ไม่เพียงแต่ช่วยให้เข้าใจได้ง่ายขึ้นว่า ANNs เรียนรู้อย่างไร แต่ยังแนะนำว่าสมองของมนุษย์อาจไม่ได้ติดตั้งฮาร์ดแวร์และซอฟต์แวร์ที่ออกแบบมาเป็นพิเศษสำหรับภาษาอยู่แล้ว

เพื่อสร้างพื้นฐานสำหรับด้านมนุษย์ของการเปรียบเทียบ นักวิจัยเล่นเสียงพยางค์เดียว - "bah" - ซ้ำๆ ในสองช่วงความยาวแปดนาทีสำหรับผู้พูดภาษาอังกฤษ 14 คนและผู้พูดภาษาสเปน 15 คน ในขณะที่เล่น นักวิจัยได้บันทึกความผันผวนของกิจกรรมทางไฟฟ้าโดยเฉลี่ยของเซลล์ประสาทในก้านสมองของผู้ฟังแต่ละคน ซึ่งเป็นส่วนหนึ่งของสมองที่มีการประมวลผลเสียงเป็นอันดับแรก

นอกจากนี้ นักวิจัยยังป้อนเสียง "บาห์" เดียวกันให้กับโครงข่ายประสาทเทียมสองชุดที่แตกต่างกัน ชุดหนึ่งฝึกเสียงภาษาอังกฤษ อีกชุดหนึ่งฝึกเสียงภาษาสเปน จากนั้น นักวิจัยได้บันทึกกิจกรรมการประมวลผลของโครงข่ายประสาทเทียม โดยเน้นที่เซลล์ประสาทเทียมในชั้นของโครงข่ายที่มีการวิเคราะห์เสียงก่อน (เพื่อสะท้อนการอ่านค่าจากก้านสมอง) มันเป็นสัญญาณเหล่านี้ที่ใกล้เคียงกับคลื่นสมองของมนุษย์

นักวิจัยเลือกสถาปัตยกรรมโครงข่ายประสาทชนิดหนึ่งที่เรียกว่าเครือข่ายฝ่ายตรงข้ามเชิงกำเนิด (GAN) ซึ่งเดิมคิดค้นขึ้นในปี 2014 เพื่อสร้างภาพ GAN ประกอบด้วยเครือข่ายประสาทเทียม XNUMX เครือข่าย — เครื่องจำแนกและเครื่องกำเนิดสัญญาณ — ที่แข่งขันกันเอง ตัวสร้างจะสร้างตัวอย่างซึ่งอาจเป็นภาพหรือเสียงก็ได้ เครื่องจำแนกจะกำหนดว่ามันใกล้เคียงกับตัวอย่างการฝึกมากน้อยเพียงใด และเสนอผลป้อนกลับ ส่งผลให้เครื่องกำเนิดมีการทดลองอีกครั้ง และต่อไปเรื่อยๆ จนกว่า GAN จะสามารถส่งผลลัพธ์ที่ต้องการได้.

ในการศึกษานี้ ผู้จำแนกได้รับการฝึกฝนขั้นต้นเกี่ยวกับคอลเลกชันของเสียงภาษาอังกฤษหรือภาษาสเปน จากนั้นเครื่องกำเนิดไฟฟ้าซึ่งไม่เคยได้ยินเสียงเหล่านั้นจึงต้องหาทางผลิตมันขึ้นมา มันเริ่มต้นด้วยการสร้างเสียงแบบสุ่ม แต่หลังจากโต้ตอบกับผู้เลือกปฏิบัติประมาณ 40,000 รอบ เครื่องกำเนิดก็ดีขึ้นจนสร้างเสียงที่เหมาะสมได้ในที่สุด ผลจากการฝึกอบรมนี้ ผู้แยกแยะยังแยกแยะความแตกต่างระหว่างของจริงกับที่สร้างขึ้นได้ดีขึ้นด้วย

เมื่อถึงจุดนี้ หลังจากที่ผู้จำแนกได้รับการฝึกฝนอย่างเต็มที่ นักวิจัยจึงเล่นเสียง "บ๊ะ" ทีมวัดความผันผวนของระดับกิจกรรมเฉลี่ยของเซลล์ประสาทเทียมของผู้เลือกปฏิบัติ ซึ่งสร้างสัญญาณที่คล้ายกับคลื่นสมองของมนุษย์

ความคล้ายคลึงกันระหว่างระดับกิจกรรมของมนุษย์และเครื่องจักรนี้ชี้ให้เห็นว่าทั้งสองระบบมีส่วนร่วมในกิจกรรมที่คล้ายคลึงกัน “เช่นเดียวกับการวิจัยที่แสดงให้เห็นว่าคำติชมจากผู้ดูแลกำหนดการผลิตเสียงของทารก ความคิดเห็นจากเครือข่ายผู้เลือกปฏิบัติจะกำหนดการผลิตเสียงของเครือข่ายเครื่องกำเนิดเสียง” Kapatsinski ซึ่งไม่ได้มีส่วนร่วมในการศึกษากล่าว

การทดลองยังแสดงให้เห็นอีกคู่ขนานที่น่าสนใจระหว่างมนุษย์กับเครื่องจักร คลื่นสมองแสดงให้เห็นว่าผู้เข้าร่วมที่พูดภาษาอังกฤษและสเปนได้ยินเสียง "บาห์" ต่างกัน (ผู้พูดภาษาสเปนได้ยินเสียง "ปาห์" มากกว่า) และสัญญาณของ GAN ยังแสดงให้เห็นว่าเครือข่ายที่ฝึกภาษาอังกฤษประมวลผลเสียงค่อนข้างแตกต่างกว่า ผู้ที่ได้รับการฝึกฝนจากสเปน

“และความแตกต่างเหล่านั้นก็เป็นไปในทิศทางเดียวกัน” Beguš อธิบาย ก้านสมองของผู้พูดภาษาอังกฤษจะตอบสนองต่อเสียง "บา" เร็วกว่าก้านสมองของผู้พูดภาษาสเปนเล็กน้อย และ GAN ที่ได้รับการฝึกฝนเป็นภาษาอังกฤษจะตอบสนองต่อเสียงเดียวกันนั้นเร็วกว่ารุ่นที่ฝึกด้วยภาษาสเปนเล็กน้อย ทั้งในมนุษย์และเครื่องจักร ความแตกต่างของเวลาเกือบจะเท่ากัน คือประมาณหนึ่งในพันของวินาที นี่เป็นหลักฐานเพิ่มเติม Beguš กล่าวว่ามนุษย์และเครือข่ายเทียม “มีแนวโน้มที่จะประมวลผลสิ่งต่าง ๆ ในลักษณะเดียวกัน”

แม้ว่ายังไม่มีความชัดเจนว่าสมองประมวลผลและเรียนรู้ภาษาอย่างไร นักภาษาศาสตร์ นอม ชอมสกี้ เสนอในปี 1950 ว่ามนุษย์เกิดมาพร้อมกับความสามารถเฉพาะตัวในการเข้าใจภาษา Chomsky แย้งว่าความสามารถนั้นเชื่อมโยงเข้ากับสมองของมนุษย์อย่างแท้จริง

งานใหม่ซึ่งใช้เซลล์ประสาทเพื่อวัตถุประสงค์ทั่วไปที่ไม่ได้ออกแบบมาสำหรับภาษา แสดงให้เห็นเป็นอย่างอื่น Kapatsinski กล่าวว่า "เอกสารนี้แสดงหลักฐานอย่างชัดเจนกับแนวคิดที่ว่าคำพูดต้องใช้เครื่องจักรพิเศษในตัวและคุณสมบัติที่โดดเด่นอื่น ๆ

Beguš รับทราบว่าการโต้วาทีนี้ยังไม่ยุติ ในขณะเดียวกัน เขากำลังสำรวจความคล้ายคลึงกันระหว่างสมองมนุษย์และโครงข่ายประสาทเทียมเพิ่มเติมด้วยการทดสอบ เช่น คลื่นสมองที่มาจากเปลือกสมอง (ซึ่งประมวลผลการได้ยินหลังจากที่ก้านสมองได้ทำงานในส่วนของมันไปแล้ว) สอดคล้องกับสัญญาณที่เกิดจากสมองส่วนลึกหรือไม่ ชั้นของ GAN

ท้ายที่สุด Beguš และทีมของเขาหวังว่าจะพัฒนาโมเดลการเรียนรู้ภาษาที่เชื่อถือได้ ซึ่งอธิบายว่าทั้งเครื่องจักรและมนุษย์เรียนรู้ภาษาอย่างไร ทำให้เกิดการทดลองที่เป็นไปไม่ได้กับอาสาสมัครที่เป็นมนุษย์ “ตัวอย่างเช่น เราสามารถสร้างสภาพแวดล้อมที่ไม่พึงประสงค์ [เช่นที่เห็นกับทารกที่ถูกทอดทิ้ง] และดูว่าสิ่งนั้นนำไปสู่ความผิดปกติทางภาษาที่คล้ายคลึงกันหรือไม่” กล่าว คริสติน่า จ่าวนักประสาทวิทยาแห่งมหาวิทยาลัยวอชิงตัน ผู้ร่วมเขียนบทความฉบับใหม่กับ Beguš และ อลันโจวนักศึกษาปริญญาเอกที่มหาวิทยาลัยจอห์น ฮอปกินส์

“ตอนนี้เรากำลังพยายามดูว่าเราสามารถไปได้ไกลแค่ไหน ใกล้เคียงกับภาษามนุษย์ที่เราได้รับจากเซลล์ประสาทที่ใช้งานทั่วไปได้มากแค่ไหน” Beguš กล่าว “เราจะก้าวไปสู่ระดับประสิทธิภาพของมนุษย์ได้ด้วยสถาปัตยกรรมการคำนวณที่เรามี – เพียงแค่ทำให้ระบบของเราใหญ่ขึ้นและมีประสิทธิภาพมากขึ้น – หรือจะไม่มีทางเป็นไปได้เลย” แม้ว่าจะต้องมีการทำงานมากกว่านี้ก่อนที่เราจะรู้แน่ชัด เขากล่าวว่า "เราประหลาดใจแม้ในช่วงแรกๆ นี้ว่าการทำงานภายในของระบบเหล่านี้ - มนุษย์และ ANN - ดูเหมือนจะคล้ายคลึงกันมากเพียงใด"