Một số mạng thần kinh học ngôn ngữ như con người | Tạp chí lượng tử

Bộ não học như thế nào? Đó là một bí ẩn, một bí ẩn áp dụng cho cả các cơ quan xốp trong hộp sọ của chúng ta và các đối tác kỹ thuật số của chúng trong máy móc của chúng ta. Mặc dù các mạng nơ-ron nhân tạo (ANN) được xây dựng từ các mạng nơ-ron nhân tạo phức tạp, bề ngoài bắt chước cách bộ não của chúng ta xử lý thông tin, nhưng chúng ta không biết liệu chúng có xử lý đầu vào theo những cách tương tự hay không.   

“Đã có một cuộc tranh luận lâu dài về việc liệu các mạng lưới thần kinh có học theo cách giống như cách mà con người làm hay không,” cho biết Vsevolod Kapatsinski, một nhà ngôn ngữ học tại Đại học Oregon.

Bây giờ, một nghiên cứu công bố tháng trước gợi ý rằng các mạng tự nhiên và nhân tạo học theo những cách tương tự nhau, ít nhất là khi nói đến ngôn ngữ. Các nhà nghiên cứu - dẫn đầu bởi Gašper Bắt đầu, một nhà ngôn ngữ học máy tính tại Đại học California, Berkeley — đã so sánh sóng não của con người khi nghe một âm thanh đơn giản với tín hiệu do mạng thần kinh phân tích âm thanh tương tự tạo ra. Kết quả giống nhau đến kỳ lạ. “Theo hiểu biết của chúng tôi,” Beguš và các đồng nghiệp của ông đã viết, các phản ứng quan sát được đối với cùng một kích thích “là các tín hiệu não và ANN giống nhau nhất được báo cáo cho đến nay.”

Quan trọng nhất, các nhà nghiên cứu đã thử nghiệm các mạng được tạo thành từ các tế bào thần kinh có mục đích chung phù hợp với nhiều nhiệm vụ khác nhau. “Chúng cho thấy rằng ngay cả những mạng rất, rất chung chung, không có bất kỳ thành kiến ​​tiến hóa nào đối với lời nói hoặc bất kỳ âm thanh nào khác, tuy nhiên vẫn cho thấy sự tương ứng với mã hóa thần kinh của con người,” ông nói Gary Lupyan, một nhà tâm lý học tại Đại học Wisconsin, Madison, người không tham gia vào công việc. Kết quả không chỉ giúp làm sáng tỏ cách ANN học mà còn gợi ý rằng bộ não con người có thể chưa được trang bị phần cứng và phần mềm được thiết kế đặc biệt cho ngôn ngữ.

Để thiết lập cơ sở cho việc so sánh khía cạnh con người, các nhà nghiên cứu đã phát một âm tiết đơn lẻ - “bah” - lặp đi lặp lại trong hai khoảng thời gian 14 phút cho 15 người nói tiếng Anh và XNUMX người nói tiếng Tây Ban Nha. Trong khi nó phát, các nhà nghiên cứu đã ghi lại những dao động trong hoạt động điện trung bình của các tế bào thần kinh trong thân não của mỗi người nghe - phần não nơi âm thanh được xử lý lần đầu tiên.

Ngoài ra, các nhà nghiên cứu đã cung cấp cùng một âm thanh “bah” cho hai bộ mạng lưới thần kinh khác nhau – một bộ được đào tạo về âm tiếng Anh, bộ kia về tiếng Tây Ban Nha. Sau đó, các nhà nghiên cứu đã ghi lại hoạt động xử lý của mạng nơ-ron, tập trung vào các nơ-ron nhân tạo trong lớp của mạng nơi âm thanh được phân tích lần đầu tiên (để phản ánh kết quả đọc của thân não). Chính những tín hiệu này đã khớp chặt chẽ với sóng não của con người.

Các nhà nghiên cứu đã chọn một loại kiến ​​trúc mạng nơ-ron được gọi là mạng đối nghịch chung (GAN), ban đầu được phát minh vào năm 2014 để tạo ra hình ảnh. Một GAN bao gồm hai mạng thần kinh — một bộ phân biệt và một bộ tạo — cạnh tranh với nhau. Trình tạo tạo mẫu, có thể là hình ảnh hoặc âm thanh. Bộ phân biệt xác định mức độ gần với mẫu đào tạo và đưa ra phản hồi, dẫn đến một lần thử khác từ trình tạo, v.v. cho đến khi GAN có thể cung cấp đầu ra mong muốn.

Trong nghiên cứu này, người phân biệt ban đầu được đào tạo về tập hợp các âm tiếng Anh hoặc tiếng Tây Ban Nha. Sau đó, máy phát điện - vốn không bao giờ nghe thấy những âm thanh đó - phải tìm cách tạo ra chúng. Nó bắt đầu bằng cách tạo ra những âm thanh ngẫu nhiên, nhưng sau khoảng 40,000 vòng tương tác với bộ phân biệt đối xử, bộ tạo đã trở nên tốt hơn, cuối cùng tạo ra những âm thanh phù hợp. Kết quả của khóa đào tạo này là người phân biệt cũng phân biệt tốt hơn giữa thực tế và được tạo ra.

Tại thời điểm này, sau khi người phân biệt đã được đào tạo đầy đủ, các nhà nghiên cứu đã phát âm “bah” cho nó. Nhóm nghiên cứu đã đo lường sự dao động về mức độ hoạt động trung bình của các tế bào thần kinh nhân tạo của bộ phân biệt đối xử, tạo ra tín hiệu rất giống với sóng não của con người.

Sự giống nhau giữa mức độ hoạt động của con người và máy móc cho thấy hai hệ thống đang tham gia vào các hoạt động tương tự nhau. Kapatsinski, người không tham gia nghiên cứu, cho biết: “Giống như nghiên cứu đã chỉ ra rằng phản hồi từ những người chăm sóc định hình quá trình sản xuất âm thanh của trẻ sơ sinh, phản hồi từ mạng lưới phân biệt đối xử hình thành quá trình sản xuất âm thanh của mạng lưới máy phát điện.

Thí nghiệm cũng tiết lộ một điểm tương đồng thú vị khác giữa con người và máy móc. Sóng não cho thấy những người tham gia nói tiếng Anh và tiếng Tây Ban Nha nghe âm “bah” khác nhau (những người nói tiếng Tây Ban Nha nghe âm “pah” nhiều hơn) và tín hiệu của GAN cũng cho thấy mạng được đào tạo bằng tiếng Anh xử lý âm thanh hơi khác so với người được đào tạo ở Tây Ban Nha.

Beguš giải thích: “Và những khác biệt đó hoạt động theo cùng một hướng. Thân não của những người nói tiếng Anh phản ứng với âm “bah” sớm hơn một chút so với thân não của những người nói tiếng Tây Ban Nha và GAN ​​được đào tạo bằng tiếng Anh phản ứng với âm thanh đó sớm hơn một chút so với mô hình được đào tạo bằng tiếng Tây Ban Nha. Ở cả người và máy, sự khác biệt về thời gian gần như giống hệt nhau, khoảng một phần nghìn giây. Điều này cung cấp thêm bằng chứng, Beguš nói, rằng con người và các mạng nhân tạo “có khả năng xử lý mọi thứ theo cách tương tự.”

Mặc dù vẫn chưa rõ chính xác cách thức bộ não xử lý và học ngôn ngữ, nhưng nhà ngôn ngữ học Noam Chomsky đã đề xuất vào những năm 1950 rằng con người được sinh ra với khả năng hiểu ngôn ngữ bẩm sinh và độc nhất. Chomsky lập luận rằng khả năng đó thực sự được kết nối chặt chẽ với bộ não con người.

Công trình mới, sử dụng các tế bào thần kinh có mục đích chung không được thiết kế cho ngôn ngữ, lại gợi ý khác. Kapatsinski cho biết: “Bài báo chắc chắn cung cấp bằng chứng chống lại quan điểm cho rằng lời nói yêu cầu máy móc tích hợp đặc biệt và các tính năng đặc biệt khác.

Beguš thừa nhận rằng cuộc tranh luận này vẫn chưa được giải quyết. Trong khi đó, anh ấy đang tiếp tục khám phá sự tương đồng giữa bộ não con người và mạng lưới thần kinh bằng cách thử nghiệm, chẳng hạn, liệu sóng não đến từ vỏ não (thực hiện quá trình xử lý thính giác sau khi thân não đã thực hiện xong phần của nó) có tương ứng với các tín hiệu được tạo ra bởi vùng sâu hơn hay không. các lớp của GAN.

Cuối cùng, Beguš và nhóm của ông hy vọng sẽ phát triển một mô hình tiếp thu ngôn ngữ đáng tin cậy, mô tả cách cả máy móc và con người học ngôn ngữ, cho phép thực hiện các thử nghiệm không thể thực hiện được với các đối tượng là con người. “Ví dụ, chúng ta có thể tạo ra một môi trường bất lợi [như môi trường được nhìn thấy với trẻ sơ sinh bị bỏ rơi] và xem liệu điều đó có dẫn đến điều gì đó giống như rối loạn ngôn ngữ hay không,” cho biết Christina Triệu, một nhà thần kinh học tại Đại học Washington, đồng tác giả của bài báo mới với Beguš và Alan Chu, nghiên cứu sinh tiến sĩ tại Đại học Johns Hopkins.

Beguš cho biết: “Chúng tôi hiện đang cố gắng xem chúng tôi có thể đi bao xa, gần với ngôn ngữ của con người như thế nào với các tế bào thần kinh có mục đích chung. “Liệu chúng ta có thể đạt được mức hiệu suất của con người với các kiến ​​trúc điện toán mà chúng ta có — chỉ bằng cách làm cho hệ thống của chúng ta lớn hơn và mạnh hơn — hay điều đó sẽ không bao giờ khả thi?” Mặc dù cần phải nghiên cứu thêm trước khi chúng ta có thể biết chắc chắn, ông nói, “chúng tôi rất ngạc nhiên, ngay cả ở giai đoạn tương đối sớm này, bởi hoạt động bên trong của các hệ thống này – con người và ANN – có vẻ giống nhau như thế nào.”