Giống như một đứa trẻ, AI lấy cảm hứng từ não này có thể giải thích lý do của nó

Giống như một đứa trẻ, AI lấy cảm hứng từ não này có thể giải thích lý do của nó

Dấu thời gian: 22 tháng 2024 năm 4 16:XNUMX CH
Giống như một đứa trẻ, AI lấy cảm hứng từ não bộ này có thể giải thích lý do trí tuệ dữ liệu PlatoBlockchain của nó. Tìm kiếm dọc. Ái.

Trẻ em là những nhà khoa học tự nhiên. Họ quan sát thế giới, hình thành các giả thuyết và kiểm tra chúng. Cuối cùng, họ học cách giải thích lý do (đôi khi cực kỳ vui nhộn) của mình.

AI, không nhiều lắm. Không còn nghi ngờ gì nữa, deep learning—một loại máy học dựa trên bộ não một cách lỏng lẻo—đang thay đổi đáng kể công nghệ. Từ dự đoán các kiểu thời tiết khắc nghiệt đến thiết kế các loại thuốc mới hay chẩn đoán các bệnh ung thư chết người, AI đang ngày càng được tích hợp trên toàn thế giới. biên giới của khoa học.

Nhưng học sâu có một nhược điểm lớn: Các thuật toán không thể biện minh cho câu trả lời của chúng. Thường được gọi là vấn đề “hộp đen”, độ mờ đục này cản trở việc sử dụng chúng trong các tình huống có nguy cơ cao, chẳng hạn như trong y học. Bệnh nhân muốn một lời giải thích khi được chẩn đoán mắc một căn bệnh thay đổi cuộc sống. Hiện tại, các thuật toán dựa trên deep learning—ngay cả khi chúng có độ chính xác chẩn đoán cao—không thể cung cấp thông tin đó.

Để mở hộp đen, một nhóm nghiên cứu từ Trung tâm Y tế Tây Nam Đại học Texas đã khai thác tâm trí con người để lấy cảm hứng. TRONG một nghiên cứu in Khoa học tính toán tự nhiên, họ đã kết hợp các nguyên tắc từ việc nghiên cứu mạng lưới não bộ với cách tiếp cận AI truyền thống hơn dựa trên các khối xây dựng có thể giải thích được.

Kết quả AI hoạt động hơi giống một đứa trẻ. Nó ngưng tụ các loại thông tin khác nhau thành các “trung tâm”. Sau đó, mỗi trung tâm sẽ được phiên âm thành các hướng dẫn mã hóa để con người đọc—CliffsNotes dành cho lập trình viên giải thích kết luận của thuật toán về các mẫu mà thuật toán tìm thấy trong dữ liệu bằng tiếng Anh đơn giản. Nó cũng có thể tạo mã lập trình có thể thực thi đầy đủ để dùng thử.

Được mệnh danh là “chưng cất sâu”, AI hoạt động giống như một nhà khoa học khi được thử thách với nhiều nhiệm vụ khác nhau, chẳng hạn như các bài toán khó và nhận dạng hình ảnh. Bằng cách lục lọi dữ liệu, AI chắt lọc dữ liệu thành các thuật toán từng bước có thể hoạt động tốt hơn các thuật toán do con người thiết kế.

“Chưng cất sâu có thể khám phá các nguyên tắc tổng quát bổ sung cho kiến ​​thức chuyên môn của con người,” đã viết nhóm trong bài báo của họ.

Giấy mỏng

AI đôi khi mắc sai lầm trong thế giới thực. Hãy dùng robotaxis. Năm ngoái, một số người liên tục bị mắc kẹt ở khu phố San Francisco—gây phiền toái cho người dân địa phương nhưng vẫn cười khúc khích. Nghiêm trọng hơn, xe tự lái đã chặn đường giao thông và xe cứu thương, và trong một trường hợp, đã gây tổn hại nghiêm trọng cho người đi bộ.

Trong lĩnh vực chăm sóc sức khỏe và nghiên cứu khoa học, mức độ nguy hiểm cũng có thể rất cao.

Tiến sĩ Joseph Bakarji của Đại học Hoa Kỳ Beirut, người không tham gia vào nghiên cứu, khi nói đến các miền có rủi ro cao này, các thuật toán “yêu cầu khả năng sai sót thấp”. đã viết trong một đoạn đồng hành về tác phẩm.

Rào cản đối với hầu hết các thuật toán học sâu là tính không thể giải thích được của chúng. Chúng được cấu trúc như các mạng nhiều lớp. Bằng cách tiếp nhận hàng tấn thông tin thô và nhận vô số lượt phản hồi, mạng sẽ điều chỉnh các kết nối của mình để cuối cùng đưa ra câu trả lời chính xác.

Quá trình này là trung tâm của deep learning. Nhưng nó gặp khó khăn khi không có đủ dữ liệu hoặc nếu nhiệm vụ quá phức tạp.

Trở lại năm 2021, nhóm đã phát triển AI đã có một cách tiếp cận khác. Được gọi là lý luận “biểu tượng”, mạng lưới thần kinh mã hóa các quy tắc và trải nghiệm rõ ràng bằng cách quan sát dữ liệu.

So với deep learning, các mô hình biểu tượng dễ dàng được mọi người diễn giải hơn. Hãy coi AI như một tập hợp các khối Lego, mỗi khối đại diện cho một đối tượng hoặc khái niệm. Chúng có thể khớp với nhau theo những cách sáng tạo, nhưng các kết nối tuân theo một bộ quy tắc rõ ràng.

Bản thân AI đã mạnh mẽ nhưng dễ vỡ. Nó chủ yếu dựa vào kiến ​​thức trước đó để tìm ra các khối xây dựng. Khi bị thử thách với một tình huống mới mà không có kinh nghiệm trước đó, nó không thể suy nghĩ sáng tạo—và nó sẽ thất bại.

Đây chính là lúc khoa học thần kinh phát huy tác dụng. Nhóm nghiên cứu lấy cảm hứng từ các kết nối, là mô hình về cách các vùng não khác nhau hoạt động cùng nhau. Bằng cách kết nối mối liên hệ này với lý luận mang tính biểu tượng, họ đã tạo ra một AI có nền tảng vững chắc, có thể giải thích được nhưng cũng có thể thích ứng linh hoạt khi gặp phải các vấn đề mới.

Trong một số thử nghiệm, mô hình “nhận thức thần kinh” đã đánh bại các mạng lưới thần kinh sâu khác trong các nhiệm vụ đòi hỏi phải suy luận.

Nhưng liệu nó có thể hiểu được dữ liệu và thuật toán kỹ sư để giải thích nó không?

Một cú chạm của con người

Một trong những phần khó nhất của khám phá khoa học là quan sát dữ liệu nhiễu và rút ra kết luận. Quá trình này dẫn tới những vật liệu và dược phẩm mới, hiểu biết sâu sắc hơn về sinh học và những hiểu biết sâu sắc về thế giới vật chất của chúng ta. Thông thường, đó là một quá trình lặp đi lặp lại và mất nhiều năm.

AI có thể tăng tốc mọi thứ và có khả năng tìm ra những khuôn mẫu mà con người không thể nghĩ ra. Ví dụ, học sâu đặc biệt hữu ích trong việc dự đoán cấu trúc protein, nhưng lý do dự đoán các cấu trúc đó rất khó hiểu.

“Chúng ta có thể thiết kế các thuật toán học tập để chắt lọc các quan sát thành các quy tắc đơn giản, toàn diện như con người thường làm không?” Bakarji đã viết.

Nghiên cứu mới sử dụng mô hình nhận thức thần kinh hiện có của nhóm và mang lại cho nhóm một tài năng bổ sung: Khả năng viết mã.

Được gọi là chắt lọc sâu, AI nhóm các khái niệm tương tự lại với nhau, trong đó mỗi nơ-ron nhân tạo mã hóa một khái niệm cụ thể và mối liên hệ của nó với các khái niệm khác. Ví dụ, một tế bào thần kinh có thể học khái niệm về con mèo và biết nó khác với con chó. Một loại khác xử lý sự thay đổi khi thử thách với một bức tranh mới—chẳng hạn như một con hổ—để xác định xem nó giống một con mèo hay một con chó hơn.

Những tế bào thần kinh nhân tạo này sau đó được xếp chồng lên nhau thành một hệ thống phân cấp. Với mỗi lớp, hệ thống ngày càng phân biệt các khái niệm và cuối cùng tìm ra giải pháp.

Thay vì yêu cầu AI xử lý càng nhiều dữ liệu càng tốt, việc đào tạo được thực hiện theo từng bước—gần giống như dạy một đứa trẻ mới biết đi. Điều này giúp có thể đánh giá khả năng suy luận của AI khi nó dần dần giải quyết các vấn đề mới.

Bakarji giải thích: So với việc đào tạo mạng lưới thần kinh tiêu chuẩn, khía cạnh tự giải thích được tích hợp vào AI.

Trong một thử nghiệm, nhóm đã thử thách AI bằng một trò chơi điện tử cổ điển—Trò chơi cuộc sống của Conway. Được phát triển lần đầu tiên vào những năm 1970, trò chơi này nói về việc phát triển một ô kỹ thuật số thành nhiều mẫu khác nhau dựa trên một bộ quy tắc cụ thể (bạn hãy tự mình thử nhé). tại đây). Được đào tạo về dữ liệu mô phỏng trò chơi, AI có thể dự đoán các kết quả tiềm năng và chuyển đổi lý luận của nó thành các hướng dẫn hoặc mã lập trình máy tính mà con người có thể đọc được.

AI cũng hoạt động tốt trong nhiều tác vụ khác, chẳng hạn như phát hiện các đường kẻ trong hình ảnh và giải các bài toán khó. Trong một số trường hợp, nó tạo ra mã máy tính sáng tạo vượt trội hơn các phương pháp đã có sẵn và có thể giải thích lý do.

Quá trình chưng cất sâu có thể là động lực thúc đẩy các ngành khoa học vật lý và sinh học, nơi các bộ phận đơn giản có thể tạo ra các hệ thống cực kỳ phức tạp. Một ứng dụng tiềm năng cho phương pháp này là làm đồng khoa học cho các nhà nghiên cứu giải mã các chức năng DNA. Phần lớn DNA của chúng ta là “vật chất tối”, ở chỗ chúng ta không biết nó có vai trò gì nếu có. Một AI có thể giải thích được có khả năng xử lý các chuỗi di truyền và giúp các nhà di truyền học xác định các đột biến hiếm gặp gây ra các bệnh di truyền tàn khốc.

Ngoài nghiên cứu, nhóm còn rất hào hứng với triển vọng hợp tác giữa AI và con người mạnh mẽ hơn.

"Phương pháp tiếp cận biểu tượng thần kinh nhóm nghiên cứu viết.

Bakarji đồng ý. Nghiên cứu mới “vượt xa những tiến bộ kỹ thuật, chạm đến những thách thức về đạo đức và xã hội mà chúng ta đang phải đối mặt ngày nay”. Khả năng giải thích có thể hoạt động như một rào chắn, giúp hệ thống AI đồng bộ hóa với các giá trị của con người khi chúng được đào tạo. Đối với các ứng dụng có rủi ro cao, chẳng hạn như chăm sóc y tế, nó có thể tạo dựng niềm tin.

Hiện tại, thuật toán hoạt động tốt nhất khi giải quyết các vấn đề có thể chia thành các khái niệm. Nó không thể xử lý dữ liệu liên tục, chẳng hạn như luồng video.

Đó là bước tiếp theo trong quá trình chưng cất sâu, Bakarji viết. Nó “sẽ mở ra những khả năng mới trong tính toán khoa học và nghiên cứu lý thuyết.”

Ảnh: 7AV 7AV / Unsplash 

Dấu thời gian:

Thêm từ Trung tâm cá biệt