Holly Elmore dẫn đầu cuộc biểu tình về an toàn nguồn mở

Holly Elmore dẫn đầu cuộc biểu tình về an toàn nguồn mở

Dấu thời gian: 11 tháng 2023 năm 1 50:XNUMX sáng
Holly Elmore dẫn đầu cuộc phản đối về an toàn nguồn mở Thông minh dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.

Trong một bước đi táo bạo chống lại lập trường gần đây của Meta về trí tuệ nhân tạo (AI) nguồn mở, Holly Elmore, một người ủng hộ an toàn AI, đã dẫn đầu một cuộc biểu tình bên ngoài căn cứ của Meta ở San Francisco.

Trọng tâm của cuộc tranh chấp nằm ở nguy cơ tiềm ẩn của việc tự do tung ra các trọng lượng mô hình AI mạnh mẽ, điều mà Elmore và những người ủng hộ bà cho rằng có thể dẫn đến rủi ro “phổ biến không thể đảo ngược”.

Meta đã khuấy động vùng nước công nghệ vào đầu năm nay bằng cách phát hành sức nặng của dòng mô hình LLaMA đối với các nhà nghiên cứu AI, một quyết định khác biệt đáng kể so với chính sách của những gã khổng lồ công nghệ khác. Những trọng số này, quan trọng đối với chức năng của mô hình, có thể được các chuyên gia thao tác và sửa đổi, gây lo ngại về việc sử dụng sai mục đích. Quả thực, không mất nhiều thời gian để những trọng số này được rò rỉ trực tuyến, tăng cường chỉ trích cách tiếp cận nguồn mở của Meta.

Những rủi ro của việc thả tạ

Elmore, từng cộng tác với tổ chức tư vấn Rethink Priorities, đã bày tỏ mối quan ngại của mình:

“Giải phóng trọng lượng là một chính sách nguy hiểm vì bất kỳ ai cũng có thể sửa đổi các mô hình và không thể thu hồi được.”

Cô nhấn mạnh mối đe dọa ngày càng tăng khi các mô hình trở nên tiên tiến và mạnh mẽ hơn. Khi trọng số mô hình được công bố rộng rãi, chúng có khả năng bị sử dụng cho các hoạt động độc hại, từ xây dựng kế hoạch lừa đảo đến lập kế hoạch. Tấn công mạng. Elmore cảnh báo rằng một khi đã có trong tay những quả tạ, việc vượt qua các rào chắn an toàn sẽ trở nên dễ dàng đến mức đáng lo ngại.

Peter S. Park từ MIT lặp lại những quan điểm này. Ông cảnh báo về những nguy hiểm nếu cách tiếp cận nguồn mở hiện tại được chuyển sang AI tiên tiến hơn, có thể hoạt động với quyền tự chủ cao hơn, do đó tạo điều kiện cho việc lạm dụng ở quy mô lớn hơn và có hại hơn.

Một lập luận phản bác: Việc bảo vệ nguồn mở

Stella Biderman Tuy nhiên, EleutherAI lại đưa ra một góc nhìn khác. Biderman đặt câu hỏi về giả định ngay lập tức rằng việc giải phóng trọng lượng mô hình có liên quan trực tiếp đến khả năng sử dụng sai mục đích. Cô tin rằng thuật ngữ “phổ biến vũ khí hủy diệt hàng loạt” liên quan đến vũ khí hủy diệt hàng loạt là sai lệch trong bối cảnh AI. Lập luận rằng các yếu tố cơ bản để xây dựng các mô hình ngôn ngữ lớn đã được công khai, Biderman tin rằng bí mật có thể không phải là liều thuốc chữa bách bệnh cho những hành vi lạm dụng tiềm ẩn.

Cô nói thêm rằng việc thúc giục các công ty duy trì bí mật xung quanh các mô hình của họ có thể gây ra “những hậu quả nghiêm trọng đối với tính minh bạch, nhận thức cộng đồng và khoa học”. Một chính sách như vậy có thể vô tình gây tổn hại cho các nhà nghiên cứu và những người đam mê độc lập nhiều hơn là nó bảo vệ trước các mối đe dọa tiềm tàng.

Điều hướng vùng nước nguồn mở trong AI

Thuật ngữ 'mã nguồn mở‘ trong lĩnh vực AI đang bị xáo trộn. Như Stefano Maffulli từ Sáng kiến ​​Nguồn Mở (OSI) đã chỉ ra, các tổ chức khác nhau đã sử dụng thuật ngữ này, dẫn đến sự hiểu biết mơ hồ về ý nghĩa thực sự của nó trong AI. Để phần mềm thực sự là nguồn mở, tất cả các thành phần của nó, từ mã nguồn đến dữ liệu đào tạo, phải có thể truy cập công khai và có thể tái sử dụng.

Tương lai của AI nguồn mở vẫn đang được định hình, với OSI đang tích cực cố gắng xác định các tham số của nó. Maffulli vẫn kiên quyết về tầm quan trọng của cách tiếp cận mở, nhấn mạnh rằng AI chỉ có thể “đáng tin cậy, có trách nhiệm và chịu trách nhiệm” nếu nó phù hợp với các nguyên tắc nguồn mở.

Mặc dù cuộc tranh luận về AI nguồn mở vẫn chưa được giải quyết nhưng có một điều rõ ràng: sự tiến bộ nhanh chóng của công nghệ này đòi hỏi sự cân bằng cẩn thận giữa khả năng tiếp cận và bảo mật. Khi các công ty như Meta tiếp tục thực hiện các chính sách của mình, cộng đồng công nghệ và công chúng sẽ tiếp tục vật lộn với những thách thức và tác động của AI nguồn mở.

Dấu thời gian:

Thêm từ MetaNews