Bộ Quốc phòng Hoa Kỳ được cho là đang hợp tác với công ty khởi nghiệp Scal AI để thử nghiệm các mô hình AI tổng quát cho mục đích quân sự.
AI quy mô sẽ xây dựng một khung công cụ và bộ dữ liệu mà Lầu Năm Góc có thể triển khai để đánh giá các mô hình ngôn ngữ lớn. Khuôn khổ này sẽ bao gồm “đo lường hiệu suất của mô hình, cung cấp phản hồi theo thời gian thực cho các chiến binh và tạo ra các bộ đánh giá khu vực công chuyên biệt để kiểm tra các mô hình AI cho các ứng dụng hỗ trợ quân sự, chẳng hạn như tổ chức các phát hiện từ các báo cáo sau hành động”, biz có trụ sở tại San Francisco. nói với Phòng thủScoop.
Khả năng phân tích và tạo văn bản của các mô hình ngôn ngữ lớn có thể tăng cường khả năng thu thập thông tin tình báo, lập kế hoạch hoạt động và từ đó hướng dẫn việc ra quyết định trong lĩnh vực chiến đấu của Lầu Năm Góc.
Craig Martell, giám đốc trí tuệ nhân tạo và kỹ thuật số của DoD cho biết: “Hãy tưởng tượng một thế giới nơi các chỉ huy chiến đấu có thể nhìn thấy mọi thứ họ cần thấy để đưa ra các quyết định chiến lược”.
“Hãy tưởng tượng một thế giới nơi những người chỉ huy chiến đấu không nhận được thông tin đó qua PowerPoint hoặc qua email từ [tổ chức] – thời gian xử lý để nhận thức tình huống giảm từ một hoặc hai ngày xuống còn mười phút,” ông tuyên bố trong Advantage DoD 2024: Hội nghị chuyên đề về Dữ liệu Quốc phòng và AI.
AI có thể xử lý nhanh chóng lượng lớn thông tin. Tuy nhiên, dữ liệu quân sự thường rất nhạy cảm – và các quan chức lo ngại rằng nếu nó tiếp cận các mô hình ngôn ngữ lớn, các cuộc tấn công tiêm nhiễm nhanh chóng hoặc lạm dụng API có thể khiến dữ liệu đó bị rò rỉ.
Rào cản lớn nhất đối với việc triển khai LLM trong quân sự là xu hướng tạo ra thông tin không chính xác hoặc sai lệch – được gọi là ảo giác. Bằng cách đưa vào AI quy mô, Lầu Năm Góc tin rằng họ có thể kiểm tra hiệu suất của các mô hình khác nhau để xác định các rủi ro tiềm ẩn trước khi xem xét sử dụng chúng để hỗ trợ chiến đấu hoặc tình báo.
Theo báo cáo, công ty khởi nghiệp sẽ biên soạn “bộ dữ liệu nắm giữ” chứa các ví dụ về phản hồi hiệu quả đối với các lời nhắc đầu vào sẽ hữu ích cho quân đội. Sau đó, các quan chức tại DoD có thể so sánh phản hồi của các mô hình khác nhau với cùng một lời nhắc và đánh giá tiện ích của chúng.
Năm ngoái, Bộ Quốc phòng đã đưa ra Lực lượng đặc nhiệm Lima – một đơn vị do Martell, trước đây là người đứng đầu bộ phận học máy tại công ty chia sẻ chuyến đi Lyft, lãnh đạo, để điều tra các ứng dụng quân sự cho AI tổng hợp.
Martell giải thích vào thời điểm đó: “DoD có trách nhiệm phải theo đuổi việc áp dụng các mô hình AI tổng hợp một cách có trách nhiệm đồng thời xác định các biện pháp bảo vệ thích hợp và giảm thiểu rủi ro an ninh quốc gia có thể phát sinh từ các vấn đề như dữ liệu đào tạo được quản lý kém”. “Chúng ta cũng phải xem xét mức độ mà đối thủ của chúng ta sẽ sử dụng công nghệ này và tìm cách phá vỡ việc sử dụng các giải pháp dựa trên AI của chính chúng ta.”
Các công cụ như ChatGPT đã được tạm thời bị cấm Tuy nhiên, trong nội bộ. Lực lượng Không gian Hoa Kỳ yêu cầu nhân viên không sử dụng phần mềm này vì lo ngại rằng bí mật quân sự có thể bị tiết lộ hoặc trích xuất.
AI quy mô từ chối bình luận về vấn đề này. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2024/02/21/dod_scaleai_contract/
- : có
- :là
- :không phải
- :Ở đâu
- 2024
- 7
- a
- có khả năng
- lạm dụng
- ngang qua
- Hoạt động
- Nhận con nuôi
- Lợi thế
- Sau
- AI
- Mô hình AI
- Ngoài ra
- số lượng
- an
- phân tích
- và
- api
- các ứng dụng
- nhân tạo
- trí tuệ nhân tạo
- AS
- đánh giá
- At
- Các cuộc tấn công
- nhận thức
- rào cản
- BE
- được
- trước
- tin
- biz
- tăng
- Đưa
- xây dựng
- by
- CAN
- ChatGPT
- chánh
- CO
- chống lại
- bình luận
- so sánh
- Hãy xem xét
- xem xét
- chứa
- có thể
- Craig
- Tạo
- dữ liệu
- bộ dữ liệu
- ngày
- quyết định
- Ra quyết định
- quyết định
- Phòng thủ
- bộ
- bộ quốc phòng
- triển khai
- khác nhau
- kỹ thuật số
- Làm gián đoạn
- được mệnh danh là
- suốt trong
- Hiệu quả
- đánh giá
- đánh giá
- tất cả mọi thứ
- ví dụ
- Giải thích
- mức độ
- sai
- nỗi sợ hãi
- thông tin phản hồi
- lĩnh vực
- phát hiện
- Trong
- Buộc
- trước kia
- Khung
- từ
- thu thập
- tạo ra
- thế hệ
- Trí tuệ nhân tạo
- được
- nhận được
- hướng dẫn
- Có
- he
- cái đầu
- giúp đỡ
- cao
- Tuy nhiên
- HTTPS
- xác định
- xác định
- if
- hình ảnh
- bắt buộc
- thực hiện
- in
- không chính xác
- thông tin
- đầu vào
- Sự thông minh
- nội bộ
- điều tra
- liên quan
- các vấn đề
- IT
- jpg
- Ngôn ngữ
- lớn
- lớn nhất
- phát động
- bị rò rỉ
- học tập
- Led
- Lượt thích
- Lyft
- máy
- học máy
- làm cho
- Làm
- quản lý
- người pha chế
- chất
- Có thể..
- các biện pháp
- đo lường
- Quân đội
- Ứng dụng quân sự
- Phút
- giảm nhẹ
- kiểu mẫu
- mô hình
- phải
- quốc dân
- An ninh quốc gia
- Cần
- of
- cung cấp
- Nhân viên văn phòng
- quan chức
- thường
- on
- Hoạt động
- or
- cơ quan
- tổ chức
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- riêng
- hình năm góc
- hiệu suất
- kế hoạch
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- tiềm năng
- quá trình
- nhắc nhở
- đúng
- bảo vệ
- công khai
- theo đuổi
- Mau
- Đạt
- thời gian thực
- báo cáo
- Báo cáo
- phản ứng
- có trách nhiệm
- kết quả
- Tiết lộ
- rủi ro
- s
- Nói
- tương tự
- San
- Quy mô
- quy mô ai
- bí mật
- ngành
- an ninh
- Rủi ro bảo mật
- xem
- Tìm kiếm
- nhạy cảm
- bộ
- thông minh hơn
- Phần mềm
- Giải pháp
- Không gian
- Không quân
- chuyên nghành
- Nhân sự
- khởi động
- Chiến lược
- như vậy
- hỗ trợ
- Hội nghị chuyên đề
- Công nghệ
- 10
- thử nghiệm
- văn bản
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- sau đó
- họ
- điều này
- những
- Như vậy
- thời gian
- đến
- nói với
- công cụ
- Hội thảo
- hai
- đơn vị
- us
- sử dụng
- hữu ích
- sử dụng
- tiện ích
- thông qua
- we
- cái nào
- trong khi
- sẽ
- với
- đang làm việc
- thế giới
- lo
- sẽ
- năm
- zephyrnet