CCC đáp ứng yêu cầu của NTIA về thông tin về các mô hình AI nền tảng sử dụng kép với trọng lượng mô hình được cung cấp rộng rãi

Được xuất bản lại bởi Plato

Người theo dõi: 0

Tuần trước, CCC đã phản hồi lại yêu cầu của Cục Thông tin và Viễn thông Quốc gia. Yêu cầu thông tin về các mô hình trí tuệ nhân tạo nền tảng sử dụng kép với trọng lượng mô hình được cung cấp rộng rãi. Daniel Lopresti (Chủ tịch CCC và Đại học Lehigh) và David Danks (Ủy ban điều hành CCC và Đại học California, San Diego) đã giúp đưa ra phản hồi này cùng với một số thành viên khác của cộng đồng máy tính. Markus Buehler (Viện Công nghệ Massachusetts) và Duncan Watson-Parris (Đại học California, San Diego), cả hai đều phát biểu tại hội thảo AAAS do CCC tài trợ năm nay, có tiêu đề, AI sáng tạo trong khoa học: Lời hứa và cạm bẫy, cả hai đều đóng góp vào phản hồi của RFI, cùng với Casey Fiesler (Đại học Colorado, Boulder), người đã tham dự hội thảo của CCC Tương lai của nghiên cứu về công nghệ xã hội workshop vào tháng 11.

Trong câu trả lời của mình, các tác giả đã tập trung vào một số câu hỏi cụ thể từ RFI, một trong số đó hỏi những rủi ro liên quan đến việc phổ biến rộng rãi trọng số mô hình so với những rủi ro liên quan đến trọng số mô hình không công khai. Các tác giả trả lời rằng phần lớn rủi ro liên quan đến các mô hình tổng quát được giảm thiểu ở mức tối thiểu bằng cách phổ biến rộng rãi trọng số mô hình. Hầu hết các rủi ro liên quan đến các mô hình sinh sản đều có ở những mô hình này, vì chúng có khả năng nhanh chóng tạo ra lượng lớn nội dung đáng tin cậy dựa trên thông tin đầu vào của người dùng và các lĩnh vực ứng dụng gần như vô hạn của chúng. Việc cung cấp công khai các trọng số của mô hình không ảnh hưởng đến chức năng của các mô hình tổng quát và do đó hiện tại có rất ít bằng chứng cho thấy việc phổ biến rộng rãi các trọng số sẽ tạo ra rủi ro bổ sung đáng kể ngoài những gì có thể được thực hiện với các hệ thống độc quyền hoặc khép kín. Một rủi ro có thể trở nên tồi tệ hơn nếu trọng lượng của các mô hình độc quyền được phổ biến rộng rãi là khả năng dữ liệu đào tạo bị lộ. Khó có khả năng trọng số của mô hình có thể được thiết kế ngược để hiển thị dữ liệu huấn luyện, nhưng điều đó chưa được chứng minh là không thể về mặt toán học. Tuy nhiên, trong phản hồi của mình, chúng tôi đã nhấn mạnh rằng, vì các mô hình sáng tạo có thể sẽ tiếp tục được công chúng sử dụng nhiều, nên theo quan điểm của chúng tôi, rủi ro lớn nhất đến từ việc không công bố rộng rãi các trọng số cho các mô hình nền tảng đại diện. Việc từ chối các nhà nghiên cứu và các thành viên cộng đồng quan tâm quyền truy cập vào một số trọng số mô hình đối với các mô hình độc quyền sẽ ngăn cản xã hội hiểu rõ hơn về cách các mô hình này hoạt động cũng như cách thiết kế các mô hình toàn diện và dễ tiếp cận hơn.

Việc tiếp tục phát hành các mô hình khép kín sẽ tiếp tục duy trì sự thiếu đa dạng trong công nghệ và sẽ ngăn cản việc thực hiện một số loại nghiên cứu nhất định, chẳng hạn như kiểm toán thiên vị đối với các mô hình này, điều mà các công ty công nghệ lớn không được khuyến khích thực hiện. Giáo dục lực lượng lao động tương lai là một vấn đề cực kỳ quan trọng khác cần được cân nhắc. Hoa Kỳ không thể hy vọng duy trì vị trí dẫn đầu trong lĩnh vực AI tạo ra nếu không đào tạo thế hệ nhà phát triển tương lai về các loại mô hình này trong giáo dục đại học và sau đại học. Điều quan trọng là học sinh có thể khám phá những mô hình này trong quá trình học tập để hiểu chức năng cơ bản của chúng và học cách kết hợp những cân nhắc về đạo đức trong việc phát triển các mô hình mới. Việc chỉ cho phép các công ty công nghệ lớn sở hữu các công cụ để đào tạo thế hệ tiếp theo cũng có thể dẫn đến tư duy thiếu sáng suốt và các tổ chức này có thể bỏ qua một nền giáo dục toàn diện mà việc tiếp cận các mô hình này có thể mang lại để tạo ra một khuôn khổ học tập khi cần thiết hiệu quả hơn. Trong phản hồi của mình, chúng tôi cũng nhấn mạnh tầm quan trọng của việc thiết lập văn hóa cởi mở xung quanh sự phát triển của các mô hình này, nhấn mạnh rằng việc thiết lập một nền văn hóa như vậy có thể quan trọng như việc quản lý các công nghệ này. Nếu người ta kỳ vọng các công ty công nghệ sẽ tạo ra các mô hình sáng tạo một cách minh bạch thì các quy định trong tương lai sẽ trở nên dễ thực hiện hơn nhiều.

Cuối cùng, CCC nhấn mạnh sự cần thiết phải nghiên cứu bổ sung về các mô hình cơ bản, với lý do hiện tại công chúng thiếu hiểu biết về cách các mô hình này thực sự hoạt động và đạt được kết quả mà chúng đưa ra. Trong phản hồi của mình, chúng tôi đã liệt kê một số câu hỏi nghiên cứu chưa được trả lời mà các nhà nghiên cứu, nhà khoa học, học giả và chuyên gia về các vấn đề xã hội sẵn sàng bắt đầu trả lời, miễn là họ nhận được quyền truy cập mở mà họ cần vào các loại mô hình nền tảng lớn mà ngành công nghiệp hiện đang khai thác . Sự thành công liên tục của chúng ta với tư cách là một xã hội phụ thuộc vào nó.

Đọc phản hồi đầy đủ của CCC tại đây.