Các công ty công nghệ ký thư ngỏ cam kết giảm thiểu rủi ro AI

Các công ty công nghệ ký thư ngỏ cam kết giảm thiểu rủi ro AI

Dấu thời gian: Ngày 7 tháng 2024 năm 8 00:XNUMX sáng

Các nhà lãnh đạo công nghệ, bao gồm cả Sam Altman của OpenAI, cùng hợp tác trong một bức thư ngỏ của Ron Conway để ủng hộ việc phát triển AI có trách nhiệm, nhằm cân bằng giữa lợi ích và rủi ro xã hội.

Trong nỗ lực gần đây nhất của ngành công nghệ nhằm ủng hộ sự phát triển có trách nhiệm của trí tuệ nhân tạo, OpenAI, Salesforce Inc. và các công ty công nghệ khác đã ký một bức thư ngỏ nhấn mạnh “trách nhiệm tập thể” nhằm “tối đa hóa lợi ích của AI và giảm thiểu rủi ro” cho xã hội.

Rủi ro do AI gây ra

Kể từ khi phát hành ChatGPT Năm ngoái và sự phổ biến của lĩnh vực AI, nhiều người trong ngành đã đồng thời ủng hộ lợi ích của công nghệ và nêu lên mối lo ngại về những rủi ro đáng kể của nó.

Ngoài ra đọc: Thẩm phán Hoa Kỳ cho biết X của Elon Musk có thể thua vụ kiện về lời nói căm thù

Các nhà lãnh đạo AI, trong đó có Altman, đã ký một lá thư vào tháng 5 cảnh báo rằng trí tuệ nhân tạo có thể dẫn đến sự tuyệt chủng của loài người. Nhóm giám đốc điều hành doanh nghiệp nhận định rằng công nghệ trí tuệ nhân tạo mà họ đang phát triển một ngày nào đó có thể gây nguy hiểm cho loài người như vũ khí hạt nhân và đại dịch.

Theo tuyên bố của Trung tâm An toàn AI, “Giảm thiểu nguy cơ tuyệt chủng khỏi AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác, chẳng hạn như đại dịch và chiến tranh hạt nhân.”. Hơn 350 giám đốc điều hành, nhà nghiên cứu và kỹ sư làm việc về AI đã ký vào bức thư. Các giám đốc điều hành hàng đầu của ba công ty trí tuệ nhân tạo hàng đầu đã ký thỉnh nguyện thư: Dario Amodei, Giám đốc điều hành của Anthropic; Demis Hassabis, Giám đốc điều hành của Google DeepMind; và Sam Altman, Giám đốc điều hành của OpenAI.

Những người ký tên vào tuyên bố bao gồm các nhà nghiên cứu nổi tiếng trong lĩnh vực này, bao gồm Yoshua Bengio và Geoffrey Hinton, hai trong số ba nhà nghiên cứu đã giành được Giải thưởng Turing cho công trình của họ về mạng lưới thần kinh và thường được gọi là “bố già” của AI hiện đại. sự chuyển động.

Thông báo được đưa ra vào thời điểm những lo ngại về những hạn chế có thể xảy ra của trí tuệ nhân tạo đang gia tăng. Có những lo ngại rằng trí tuệ nhân tạo (AI) có thể sớm được sử dụng trên quy mô lớn để truyền bá thông tin sai lệch và tuyên truyền hoặc nó có thể thay thế hàng triệu công việc văn phòng do sự phát triển gần đây của cái gọi là mô hình ngôn ngữ lớn, loại AI. hệ thống được sử dụng bởi ChatGPT và các chatbot khác.

Các công ty công nghệ ký thư ngỏ cam kết giảm thiểu rủi ro AI Thông minh dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.

Bức thư thiên thần SV

OpenAI Giám đốc điều hành Sam Altman bày tỏ sự phấn khích với tinh thần của bức thư trong một bài đăng trên nền tảng truyền thông xã hội X. Bức thư được khởi xướng bởi nhà đầu tư mạo hiểm Ron Conway và công ty của ông, SV Angel.

Theo Altman, “một trong những yếu tố lớn nhất trong việc cải thiện chất lượng cuộc sống của con người” sẽ là những tiến bộ trong AI. Bức thư cũng liệt kê Ôm mặt, Quy mô AI, và nhiều công ty khởi nghiệp và công nghệ khác là những người ký kết.

Tác động của AI trái ngược với những tiến bộ công nghệ khác như máy in, động cơ đốt, điện và internet trong bức thư SV Angel. Như đã nêu trong thư, “Hành động và sự chu đáo của con người sẽ hình thành nên sự cân bằng giữa tác động tốt và xấu của nó đối với con người”. “Tất cả chúng ta phải làm việc cùng nhau để đưa ra quyết định nhằm tối ưu hóa lợi thế của AI và giảm thiểu rủi ro cho cả thế hệ hiện tại và tương lai.” Tuy nhiên, bức thư không đi sâu vào chi tiết về cách thực hiện điều đó.

Nhiều ngày sau đó Elon Musk kiện OpenAI, một công ty dẫn đầu thị trường về trí tuệ nhân tạo, cho rằng công ty khởi nghiệp đã vi phạm sứ mệnh sáng lập của mình khi ưu tiên lợi nhuận hơn lợi ích của nhân loại, một lá thư đã được gửi đi. OpenAI bày tỏ quan điểm "hoàn toàn không đồng ý" với vụ kiện của Musk trong một bản ghi nhớ nội bộ.

Dấu thời gian:

Thêm từ MetaNews