Khả năng an ninh mạng của quân đội Hoa Kỳ để tăng cường OpenAI

OpenAI đang phát triển các khả năng an ninh mạng do AI cung cấp cho quân đội Hoa Kỳ và chuyển công việc bảo mật bầu cử của mình lên cao độ, các nhà điều hành phòng thí nghiệm nói với Diễn đàn Kinh tế Thế giới (WEF) ở Davos trong tuần này.

Sự trở lại của công chúng về việc hợp tác với các lực lượng vũ trang diễn ra vài ngày sau một Thay đổi trong Ngôn ngữ chính sách của OpenAI, trước đây đã cấm sử dụng các mô hình AI tổng quát của nó cho các ứng dụng “quân sự và chiến tranh”, cũng như “tạo ra phần mềm độc hại” bằng công nghệ của nó. Những hạn chế đó hiện đã biến mất khỏi bản in đẹp của nhà sản xuất ChatGPT. Điều đó nói lên rằng, siêu phòng thí nghiệm nhấn mạnh rằng công nghệ của họ vẫn không được sử dụng cho mục đích bạo lực, phá hoại hoặc gián điệp liên lạc.

Người phát ngôn của OpenAI cho biết: “Chính sách của chúng tôi không cho phép sử dụng các công cụ của chúng tôi để làm hại con người, phát triển vũ khí, giám sát thông tin liên lạc hoặc làm bị thương người khác hoặc phá hủy tài sản”. Đăng ký hôm nay.

“Tuy nhiên, có những trường hợp sử dụng an ninh quốc gia phù hợp với sứ mệnh của chúng tôi.

“Chúng tôi đang làm việc với DARPA để thúc đẩy việc tạo ra các công cụ an ninh mạng mới nhằm bảo mật phần mềm nguồn mở mà cơ sở hạ tầng quan trọng và ngành công nghiệp phụ thuộc vào. Không rõ liệu các trường hợp sử dụng có lợi này có được cho phép theo 'quân sự' trong các chính sách trước đây của chúng tôi hay không. Vì vậy, mục tiêu của việc cập nhật chính sách của chúng tôi là mang lại sự rõ ràng và khả năng tiến hành các cuộc thảo luận này.” 

Vào thứ ba, trong một cuộc phỏng vấn Tại buổi thuyết trình WEF dành cho các nhà lãnh đạo thế giới, Phó Giám đốc phụ trách các vấn đề toàn cầu của OpenAI Anna Makanju cho biết mối quan hệ hợp tác của họ với Lầu Năm Góc bao gồm việc phát triển phần mềm an ninh mạng nguồn mở. Bà cho biết OpenAI cũng đang bắt đầu đàm phán với chính phủ Hoa Kỳ về cách công nghệ của họ có thể giúp ngăn chặn các vụ tự tử của cựu chiến binh.

Makanju cho biết: “Bởi vì trước đây chúng tôi đã ban hành lệnh cấm tổng thể đối với quân đội nên nhiều người nghĩ rằng điều đó sẽ cấm nhiều trường hợp sử dụng này, điều mà mọi người cho rằng rất phù hợp với những gì chúng tôi muốn thấy trên thế giới”. 

Tuy nhiên, mặc dù đã loại bỏ “quân sự và chiến tranh” cùng với “các mục đích sử dụng không được phép” khác đối với ChatGPT, Makanju cho biết OpenAI vẫn duy trì lệnh cấm sử dụng các mô hình của mình để phát triển vũ khí nhằm làm tổn thương con người. 

Cũng trong cuộc phỏng vấn tương tự, Giám đốc điều hành OpenAI Sam Altman cho biết biz đang thực hiện các bước để đảm bảo các công cụ AI tổng quát của mình không được sử dụng để truyền bá thông tin sai lệch liên quan đến bầu cử. 

Nó cũng diễn ra tương tự thúc đẩy bởi Microsoft, nhà đầu tư lớn nhất của OpenAI, vào tháng 2024 đã công bố chiến lược bảo vệ bầu cử gồm XNUMX bước cho “Hoa Kỳ và các quốc gia khác nơi các cuộc bầu cử quan trọng sẽ diễn ra vào năm XNUMX”. 

Altman cho biết hôm thứ Ba: “Có rất nhiều thứ bị đe dọa trong cuộc bầu cử này.

Điều này xảy ra một ngày sau khi cựu tổng thống Mỹ Donald Trump chiến thắng lớn trong cuộc họp kín ở Iowa vào thứ Hai.

Và tất cả các chủ đề này — AI, an ninh mạng và thông tin sai lệch — đóng vai trò nổi bật trong chương trình nghị sự như lãnh đạo thế giới gặp nhau tuần này ở Davos.

Theo WEF Báo cáo Rủi ro Toàn cầu 2024, được xuất bản vào tuần trước, “thông tin sai lệch và thông tin sai lệch” là rủi ro toàn cầu ngắn hạn hàng đầu, với “sự mất an ninh mạng” đứng ở vị trí thứ tư.

Sự trỗi dậy của AI tạo sinh càng làm trầm trọng thêm những thách thức này, với 56% giám đốc điều hành được khảo sát tại WEF Hội nghị thường niên về an ninh mạng vào tháng 2023 năm XNUMX nói AI sáng tạo sẽ mang lại cho kẻ tấn công và lợi thế hơn các hậu vệ trong vòng hai năm tới.

Bernard Montel, giám đốc kỹ thuật EMEA tại Tenable, nói: “Mối quan tâm đặc biệt xung quanh việc sử dụng công nghệ AI để tăng cường khả năng chiến tranh mạng là có lý do chính đáng”. Đăng ký. 

Ông nói thêm: “Trong khi AI đã đạt được những tiến bộ công nghệ vượt bậc trong 12 đến 24 tháng qua, việc cho phép một thiết bị tự động đưa ra phán quyết cuối cùng là điều không thể hiểu được ngày nay”.

“Mặc dù AI có khả năng nhanh chóng xác định và tự động hóa một số hành động cần thực hiện, nhưng điều bắt buộc là con người phải là người đưa ra những quyết định quan trọng về địa điểm và thời điểm hành động dựa trên trí thông minh mà AI cung cấp.” ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2024/01/16/us_military_openai/