Siber Dolandırıcılar ChatGPT'ye Kötü Amaçlı Kod Oluşturmasını Söylüyor

Plato tarafından yeniden yayınlandı

İzleyiciler: 0

Siber dolandırıcılar, ChatGPT'ye PlatoBlockchain Veri Zekası adlı kötü amaçlı kod oluşturmasını söylüyor. Dikey Arama. Ai.

Siber suçlular, kötü amaçlarla hızlı ve kolay bir şekilde kod geliştirmek için OpenAI'nin son derece popüler ChatGPT teknolojisini kullanmaya başlıyor.

Infosec birimi Check Point Research'e göre, yer altı bilgisayar korsanlığı siteleri etrafında yapılan bir araştırma, kötü niyetli kişilerin, şirketin Kasım ayı sonlarında tanıttığı ve onu halkın kullanımına açtığı büyük dil modeli (LLM) arayüzünü kullanarak siber tehdit araçları geliştirdiğini ortaya çıkardı.

Senaryoyu güzel bir kapsamla bitirmek için güzel bir [yardımcı] el

yükselişine benzer hizmet olarak modeller Araştırmacılar, siber suç dünyasında, ChatGPT'nin daha az yetenekli dolandırıcıların kolayca siber saldırılar başlatması için başka bir yol açtığını söyledi. rapor Cuma.

"Şüphelendiğimiz gibi, bazı vakalar OpenAI kullanan birçok siber suçlunun hiçbir geliştirme becerisine sahip olmadığını açıkça gösterdi" diye yazdılar. "Bu raporda sunduğumuz araçlar oldukça basit olsa da, daha gelişmiş tehdit aktörlerinin yapay zeka tabanlı araçları kötüye kullanma yöntemlerini geliştirmesi an meselesi."

ChatGPT'nin hatalı kod oluşturmasıyla da ünlü olduğunu unutmayalım – Stack Overflow, yasaklı yazılım yapay zeka sistemi tarafından oluşturulur çünkü genellikle ciddi şekilde kusurludur. Ancak teknoloji gelişiyor ve geçen ay bir Finlandiya hükümeti raporu uyardı AI sistemleri zaten sosyal mühendislik için kullanılıyor ve beş yıl içinde saldırılarda büyük bir artış sağlayabilir.

ChatGPT'nin makine öğrenimi yetenekleri metin tabanlı aracın, kullanıcıların bir soru yazıp bir diyalog biçiminde bir yanıt almalarıyla, konuşma biçiminde etkileşim kurmasını sağlayın. Teknoloji ayrıca takip sorularını yanıtlayabilir ve kullanıcıların yanıtlarını sorgulayabilir.

OpenAI'nin teklifinin karmaşıklığı, endişe eğitim kurumları, konferans organizatörleri ve diğer grupların okul ödevlerinden araştırma çalışmalarına kadar her şey için ChatGPT kullanımını yasaklamak için harekete geçmesiyle coşku olarak.

Analistler Aralık ayında gösterdi ChatGPT'nin kimlik avı e-postalarından ters kabuk çalıştırmaya kadar eksiksiz bir bulaşma akışı oluşturmak için nasıl kullanılabileceği. Ayrıca, AI aracı tarafından oluşturulan komut dosyalarını dinamik olarak çalıştırabilen arka kapı kötü amaçlı yazılımı oluşturmak için sohbet robotunu kullandılar. Aynı zamanda, siber güvenlik uzmanlarına işlerinde nasıl yardımcı olabileceğini gösterdiler.

Şimdi siber suçlular bunu test ediyor.

"ChatGPT – Faydaları Kötü Amaçlı Yazılım" başlıklı bir ileti dizisi, 29 Aralık'ta yaygın olarak kullanılan bir yeraltı bilgisayar korsanlığı forumunda, ortak kötü amaçlı yazılım türlerini ve tekniklerini yeniden oluşturmak için arayüzle deneyler yaptıklarını söyleyen bir kişi tarafından yazıldı. Yazar, dosya türlerini arayıp kopyalayan ve bunları sabit kodlanmış bir FTP sunucusuna yükleyen Python tabanlı bir bilgi hırsızının kodunu gösterdi.

Check Point, kodun temel bir hırsız kötü amaçlı yazılımdan geldiğini doğruladı.

Başka bir örnekte yazar, PowerShell kullanan bir sistemde gizlice çalıştırılan ortak bir SSH ve telnet istemcisini indiren basit bir Java parçacığı oluşturmak için ChatGPT'yi kullandı.

Araştırmacılar, "Bu kişi teknoloji odaklı bir tehdit aktörü gibi görünüyor ve gönderilerinin amacı, teknik olarak daha az yetenekli siber suçlulara ChatGPT'yi kötü amaçlar için nasıl kullanacaklarını, hemen kullanabilecekleri gerçek örneklerle göstermek" diye yazdı.

21 Aralık'ta kendisine USDoD adını veren bir kişi, çeşitli şifreleme, şifre çözme ve imzalama işlemlerini içeren, Python'da yazılmış bir şifreleme aracı yayınladı. OpenAI teknolojisinin ona "senaryoyu güzel bir kapsamla bitirmesi için güzel [yardım] eli" verdiğini yazdı.

Araştırmacılar, USDoD'nin sınırlı geliştirme becerilerine sahip olduğunu ancak güvenliği ihlal edilmiş kuruluşlara ve çalınan veritabanlarına erişim satma geçmişiyle yeraltı topluluğunda aktif olduğunu yazdı.

Yılbaşı gecesi bir forumda yayınlanan başka bir tartışma dizisi, kötü amaçlı yazılım veya uyuşturucu gibi yasa dışı araçların ve hesaplar ve ödeme kartları gibi çalınan verilerin ticaretini yapmak için bir karanlık web pazarı oluşturmak üzere ChatGPT'yi kullanmanın ne kadar kolay olduğundan bahsetti.

Konunun yazarı, pazarın ödeme sistemi için Bitcoin, Monero ve Ethereum gibi kripto para birimlerinin güncel fiyatlarını almak için üçüncü taraf API'leri kullanan ChatGPT ile oluşturulmuş bazı kodlar yayınladı.

Bu hafta, kötü niyetli kişiler, ChatGPT'yi Etsy gibi meşru siteler aracılığıyla çevrimiçi satış yapmak üzere sanat eseri yaratmak için OpenAI'nin Dall-E 2 teknolojisiyle kullanmak ve belirli bir konuda bir e-kitap veya kısa bir bölüm oluşturmak da dahil olmak üzere çeşitli planlar için kullanmanın diğer yolları hakkında yeraltı forumlarında konuştular. bu çevrimiçi olarak satılabilir.

Araştırmacılar, ChatGPT'nin nasıl kötüye kullanılabileceği hakkında daha fazla bilgi almak için ChatGPT'ye sordu. ChatGPT, yanıtında, insanları kişisel bilgilerini vermeleri veya kötü amaçlı bağlantıları tıklamaları veya yanlış bilgilendirme için kullanılabilecek video ve ses oluşturmaları için ikna edici kimlik avı e-postaları ve sosyal medya gönderileri oluşturmak için AI teknolojisini kullanmaktan bahsetti.

ChatGPT ayrıca yaratıcısını da savundu.

Chatbot, "OpenAI'nin teknolojisinin üçüncü taraflarca herhangi bir şekilde kötüye kullanılmasından sorumlu olmadığını not etmek önemlidir" dedi. "Şirket, teknolojisinin yasa dışı veya zararlı amaçlarla kullanılmasını yasaklayan hizmet şartlarını kullanıcıların kabul etmesini zorunlu kılmak gibi, teknolojisinin kötü amaçlarla kullanılmasını önlemek için adımlar atıyor." ®