Cố vấn Chính phủ Vương quốc Anh cho biết AI sẽ hủy diệt loài người chỉ sau hai năm

Cố vấn Chính phủ Vương quốc Anh cho biết AI sẽ hủy diệt loài người chỉ sau hai năm

Dấu thời gian: ngày 14 tháng 2023 năm 2 30:XNUMX sáng
AI sẽ tiêu diệt loài người chỉ sau hai năm, Cố vấn Chính phủ Vương quốc Anh Plato, Trí tuệ dữ liệu Blockchain cho biết. Tìm kiếm dọc. Ái.

Nghị viện châu Âu, cơ quan lập pháp chính của Liên minh châu Âu (EU), đã thông qua một đạo luật được đề xuất sẽ điều chỉnh AI, khiến khối 27 quốc gia có thể cường quốc kinh tế lớn đầu tiên đưa ra các quy tắc toàn diện cho công nghệ.

Luật, được gọi là Đạo luật AI, sẽ hạn chế việc sử dụng các hệ thống AI được coi là có rủi ro cao, chẳng hạn như phần mềm nhận dạng khuôn mặt. Nó cũng sẽ yêu cầu các công ty phát triển hệ thống AI như ChatGPT để tiết lộ thêm thông tin về dữ liệu được sử dụng để huấn luyện chatbot.

Thành viên của Nghị viện châu Âu có trụ sở tại Pháp bỏ phiếu ủng hộ của luật mới vào thứ Tư. Cuộc bỏ phiếu diễn ra trong bối cảnh cảnh báo từ một số chuyên gia rằng trí tuệ nhân tạo có thể đặt ra một mối đe dọa cho nhân loại nếu nó được phát triển quá nhanh.

Ngoài ra đọc: Bộ quy tắc ứng xử AI sắp ra mắt 'trong vài tuần nữa' cho biết Hoa Kỳ và Châu Âu

Thiết lập tiêu chuẩn toàn cầu

Chủ tịch Nghị viện châu Âu Roberta Metsola cho biết việc thông qua các quy tắc mới cho thấy cam kết của châu Âu đối với sự phát triển có trách nhiệm của AI.

“Châu Âu đang dẫn đầu và sẽ tiếp tục dẫn đầu cách tiếp cận cân bằng và lấy con người làm trung tâm đối với Đạo luật AI đầu tiên trên thế giới. Luật pháp chắc chắn sẽ thiết lập tiêu chuẩn toàn cầu trong nhiều năm tới,” Metsola nói trong một video đăng trên Twitter.

“Và tất cả những điều này hoàn toàn phù hợp với mong muốn của chúng tôi là trở thành những người dẫn đầu thế giới về đổi mới kỹ thuật số dựa trên các giá trị của EU, chẳng hạn như quyền riêng tư và tôn trọng các quyền cơ bản. Tất cả là vì châu Âu đang dẫn đầu và chúng tôi làm theo cách của mình – một cách có trách nhiệm.”

Dự thảo hiện tại của Nghị viện châu Âu'Đạo luật AI của Mỹ đề xuất một cách tiếp cận dựa trên rủi ro để điều chỉnh các hệ thống trí tuệ nhân tạo. Các hệ thống AI sẽ được phân loại thành các mức độ rủi ro khác nhau, dựa trên khả năng gây hại cho người tiêu dùng.

Theo luật, danh mục rủi ro thấp nhất liên quan đến AI được sử dụng trong trò chơi điện tử hoặc bộ lọc thư rác. Loại rủi ro cao nhất bao gồm AI có thể được sử dụng để chấm điểm xã hội, một phương pháp chấm điểm cho các cá nhân, cho các khoản vay hoặc nhà ở, dựa trên hành vi của họ.

EU cho biết họ sẽ cấm các chương trình như vậy. Các công ty phát triển hoặc sử dụng cái gọi là AI có rủi ro cao sẽ được yêu cầu cung cấp thông tin về cách hệ thống của họ hoạt động. Điều này được thực hiện để đảm bảo rằng các chương trình AI công bằng và minh bạch, và chúng không phân biệt đối xử với các cá nhân, các quy tắc nói.

Người đứng đầu EU: Phân biệt đối xử là rủi ro AI lớn

Ủy viên cạnh tranh EU Margrethe Vestager, nói rằng “các rào cản” chẳng hạn như những rào cản được đề xuất theo Đạo luật AI có thể giúp bảo vệ mọi người trước một số rủi ro lớn nhất của AI, bao gồm cả phân biệt đối xử.

Ví dụ, AI có thể được sử dụng để đưa ra quyết định về việc ai sẽ nhận được khoản thế chấp hoặc công việc và những quyết định này có thể dựa trên các yếu tố như chủng tộc, giới tính hoặc tôn giáo, bà nói.

“Có lẽ [nguy cơ tuyệt chủng] có thể tồn tại, nhưng tôi nghĩ khả năng đó là khá nhỏ. Tôi nghĩ AI có nhiều rủi ro hơn khi mọi người sẽ bị phân biệt đối xử [chống lại], họ sẽ không được coi là chính mình,” Vestager nói với BBC sau cuộc bỏ phiếu của Nghị viện châu Âu.

“Nếu đó là một ngân hàng sử dụng nó để quyết định liệu tôi có thể vay thế chấp hay không, hoặc nếu đó là các dịch vụ xã hội ở thành phố của bạn, thì bạn muốn đảm bảo rằng bạn không bị phân biệt đối xử [chống lại] vì giới tính hoặc màu da của bạn. hoặc mã bưu điện của bạn,” cô nói thêm.

Vào thứ ba, cơ quan bảo vệ dữ liệu của Ireland (DPC) cho biết họ đã đặt kế hoạch triển khai dự án của Google Chatbot AI Bard ở EU bị đình trệ, Politico báo cáo. Google đã thông báo với cơ quan quản lý rằng họ dự định ra mắt Bard tại Liên minh Châu Âu trong tuần này.

Nhưng DPC cho biết họ không nhận được bất kỳ thông tin nào từ Google về cách công ty xác định và giảm thiểu rủi ro bảo vệ dữ liệu cho người dùng tiềm năng. Cơ quan quản lý lo ngại về khả năng Bard thu thập và sử dụng dữ liệu cá nhân mà không có sự đồng ý của người dùng.

Phó ủy viên DPC Graham Doyle cho biết chính quyền muốn có thông tin “như một vấn đề cấp bách”. Nó cũng hỏi Google để biết thêm thông tin về các hoạt động bảo vệ dữ liệu của mình.

Áp đặt 'lan can AI nghiêm ngặt

Theo các quy tắc mới được đề xuất cho AI của Nghị viện Châu Âu, việc sử dụng các hệ thống nhận dạng sinh trắc học và thu thập dữ liệu người dùng bừa bãi từ phương tiện truyền thông xã hội hoặc cảnh quay CCTV cho các mục đích như phần mềm nhận dạng khuôn mặt sẽ bị hạn chế.

Các đề xuất cấm sử dụng trí tuệ nhân tạo để giám sát hàng loạt và sẽ yêu cầu các công ty phải có được sự đồng ý rõ ràng từ người dùng trước khi thu thập thông tin của họ. Theo báo cáo của BBC, Vestager cho biết:

“Chúng tôi muốn đặt các hàng rào bảo vệ nghiêm ngặt để nó không được sử dụng trong thời gian thực mà chỉ trong những trường hợp cụ thể khi bạn đang tìm kiếm một đứa trẻ mất tích hoặc có một kẻ khủng bố đang chạy trốn.”

EU đang đi trước Hoa Kỳ và các chính phủ phương Tây lớn khác trong việc điều chỉnh AI. Khối đã tranh luận về quy định AI trong hơn hai năm và vấn đề này đã trở nên cấp bách hơn sau khi phát hành ChatGPT vào tháng XNUMX.

ChatGPT là một chatbot mô hình ngôn ngữ lớn được phát triển bởi OpenAI có thể tạo văn bản chất lượng như con người. Việc phát hành nó làm gia tăng mối lo ngại về các tác động tiêu cực tiềm ẩn của AI đối với việc làm và xã hội, chẳng hạn như dịch chuyển công việc và sự cô lập xã hội.

Cả Mỹ và Trung Quốc hiện đã bắt đầu phát triển các chính sách cụ thể để điều chỉnh AI. Các Nhà Trắng đã đưa ra một loạt các ý tưởng chính sách để điều chỉnh AI. Và Trung Quốc đã ban hành các quy định mới cấm sử dụng nội dung do AI tạo ra để truyền bá “tin giả”.

Vào tháng 7, các nhà lãnh đạo của cái gọi là các quốc gia GXNUMX đã gặp nhau tại Nhật Bản và kêu gọi phát triển các tiêu chuẩn kỹ thuật để giữ cho AI “đáng tin cậy”. Họ kêu gọi đối thoại quốc tế về quản trị AI, bản quyền, tính minh bạch và mối đe dọa của thông tin sai lệch.

Đạo luật AI của Châu Âu dự kiến ​​sẽ không có hiệu lực cho đến năm 2025. Ba nhánh quyền lực của EU: Ủy ban, Nghị viện và Hội đồng sẽ phải đồng ý về phiên bản cuối cùng của nó.

Dấu thời gian:

Thêm từ MetaNews