Kemampuan keamanan siber militer AS mendapat peningkatan OpenAI

Kemampuan keamanan siber militer AS mendapat peningkatan OpenAI

Stempel Waktu: 16 Januari 2024 5:32
Kemampuan keamanan siber militer AS dengan OpenAI meningkatkan Intelijen Data PlatoBlockchain. Pencarian Vertikal. Ai.

OpenAI sedang mengembangkan kemampuan keamanan siber yang didukung AI untuk militer AS, dan meningkatkan upaya keamanan pemilunya, kata para eksekutif laboratorium tersebut kepada Forum Ekonomi Dunia (WEF) di Davos minggu ini.

Perubahan masyarakat dalam bekerja dengan angkatan bersenjata terjadi beberapa hari setelah a perubahan Bahasa kebijakan OpenAI, yang sebelumnya melarang penggunaan model AI generatifnya untuk aplikasi “militer dan peperangan”, serta “pembuatan malware”, dengan teknologinya. Pembatasan tersebut kini telah hilang dari ketentuan pembuat ChatGPT. Meskipun demikian, laboratorium super tersebut menekankan bahwa teknologinya tidak boleh digunakan untuk kekerasan, perusakan, atau spionase komunikasi.

“Kebijakan kami tidak mengizinkan alat kami digunakan untuk menyakiti orang, mengembangkan senjata, untuk pengawasan komunikasi, atau untuk melukai orang lain atau menghancurkan properti,” kata juru bicara OpenAI. Pendaftaran hari ini.

“Namun, ada kasus penggunaan keamanan nasional yang sejalan dengan misi kami.

“Kami telah bekerja sama dengan DARPA untuk memacu penciptaan alat keamanan siber baru guna mengamankan perangkat lunak sumber terbuka yang menjadi andalan infrastruktur dan industri penting. Tidak jelas apakah kasus penggunaan yang bermanfaat ini akan diizinkan dalam kebijakan ‘militer’ kami sebelumnya. Jadi tujuan pembaruan kebijakan kami adalah untuk memberikan kejelasan dan kemampuan untuk melakukan diskusi ini.” 

Pada hari Selasa, selama wawancara pada acara WEF untuk para pemimpin dunia, VP Urusan Global OpenAI Anna Makanju mengatakan kemitraannya dengan Pentagon mencakup pengembangan perangkat lunak keamanan siber sumber terbuka. OpenAI juga memulai pembicaraan dengan pemerintah AS tentang bagaimana teknologinya dapat membantu mencegah bunuh diri para veteran, katanya.

“Karena sebelumnya kita mempunyai larangan menyeluruh terhadap militer, banyak orang berpikir bahwa hal itu akan melarang banyak kasus penggunaan ini, yang menurut orang-orang sangat sejalan dengan apa yang ingin kita lihat di dunia,” kata Makanju. 

Namun, meskipun menghapus “militer dan peperangan” serta “penggunaan terlarang” lainnya untuk ChatGPT, Makanju mengatakan OpenAI tetap mempertahankan larangannya dalam menggunakan modelnya untuk mengembangkan senjata yang dapat melukai orang. 

Dalam wawancara yang sama, CEO OpenAI Sam Altman mengatakan perusahaannya mengambil langkah-langkah untuk memastikan alat AI generatifnya tidak digunakan untuk menyebarkan disinformasi terkait pemilu. 

Ini juga mengikuti hal serupa didorong oleh Microsoft, investor terbesar OpenAI, yang pada bulan November mengumumkan strategi perlindungan pemilu lima langkah untuk “Amerika Serikat dan negara-negara lain di mana pemilu penting akan diadakan pada tahun 2024.” 

“Ada banyak hal yang dipertaruhkan dalam pemilu ini,” kata Altman, Selasa.

Ini terjadi sehari setelah pernyataan mantan presiden AS Donald Trump Kemenangan Besar di kaukus Iowa pada hari Senin.

Dan semua topik ini — AI, keamanan siber, dan disinformasi — memainkan peran penting dalam agenda tersebut para pemimpin dunia bertemu minggu ini di Davos.

Menurut WEF Laporan Risiko Global 2024, yang diterbitkan minggu lalu, “misinformasi dan disinformasi” adalah risiko global jangka pendek teratas, dengan “ketidakamanan dunia maya” berada di peringkat keempat.

Munculnya AI generatif memperburuk tantangan ini, dengan 56 persen eksekutif yang disurvei di WEF Pertemuan Tahunan Keamanan Siber pada bulan November 2023 mengatakan AI generatif akan memberikan penyerang dan keuntungan atas pembela dalam dua tahun ke depan.

“Kekhawatiran khusus adalah penggunaan teknologi AI untuk meningkatkan kemampuan perang siber, dan hal ini memiliki alasan yang bagus,” kata Bernard Montel, direktur teknis EMEA di Tenable, kepada Pendaftaran. 

“Meskipun AI telah membuat kemajuan teknologi yang luar biasa dalam 12 hingga 24 bulan terakhir, memungkinkan perangkat otonom untuk membuat keputusan akhir masih belum dapat dipahami saat ini,” tambahnya.

“Meskipun AI mampu dengan cepat mengidentifikasi dan mengotomatiskan beberapa tindakan yang perlu diambil, penting bagi manusia untuk mengambil keputusan penting mengenai di mana dan kapan harus bertindak berdasarkan kecerdasan yang disediakan oleh AI.” ®

Stempel Waktu:

Lebih dari Pendaftaran