Deepfake'leri Tespit Etmek Zorlaşacak: Secta Labs CEO'su – Decrypt

Yapay zeka görüntü oluşturucuları daha gelişmiş hale geldikçe, deepfake'leri tespit etmek her zamankinden daha zor hale geliyor. Kolluk kuvvetleri ve küresel liderler yapay zekanın yarattığı tehlikeler konusunda alarm vermeye devam ediyor deepfakes sosyal medyada ve çatışma bölgelerinde.

Secta Labs'ın kurucu ortağı ve CEO'su Marko Jak, "Gördüklerimize artık inanamayacağımız bir döneme giriyoruz" dedi. azalmak bir röportajda. "Şu anda bu daha kolay çünkü derin sahtekarlıklar henüz o kadar iyi değil ve bazen bunun bariz olduğunu görebiliyorsunuz."

Jak'a göre, sahte bir görüntüyü ilk bakışta ayırt etmenin artık mümkün olmadığı noktaya -belki de bir yıl içinde- çok da uzakta değiliz. Ve şunu bilmeli: Jak, bir yapay zeka görüntü oluşturma şirketinin CEO'sudur.

Jak kurucularından Secta Laboratuvarları 2022'de; Austin merkezli üretken yapay zeka girişimi, yapay zeka tarafından oluşturulan yüksek kaliteli görüntüler oluşturmaya odaklanıyor. Kullanıcılar kendi resimlerini yükleyebilir ve bunları yapay zeka tarafından oluşturulan vesikalıklara ve avatarlara dönüştürebilir.

Jak'ın açıkladığı gibi Secta Labs, kullanıcıları kendi verilerinden oluşturulan yapay zeka modellerinin sahipleri olarak görüyor; şirket ise yalnızca bu modellerden görseller oluşturmaya yardımcı olan sorumlular olarak görülüyor. 

Daha gelişmiş yapay zeka modellerinin potansiyel olarak kötüye kullanılması, dünya liderlerinin derhal harekete geçmesine yol açtı. aksiyon Bu durum yapay zeka düzenlemelerini bozdu ve şirketlerin gelişmiş araçlarını kamuya sunmama kararı almasına neden oldu.

Geçen hafta yenisinin duyurulmasının ardından Ses kutusu Yapay zeka tarafından oluşturulan ses platformu Meta, yapay zekayı halka açıklamayacağını söyledi.

Meta sözcüsü, "Yapay zeka topluluğuna açık olmanın ve araştırmalarımızı yapay zekadaki son teknolojiyi ilerletmek için paylaşmanın önemli olduğuna inansak da," dedi. azalmak bir e-postada. "Açıklık ile sorumluluk arasında doğru dengeyi kurmak da gerekli."

Bu ayın başında ABD Federal Soruşturma Bürosu uyardı Sahte içerik oluşturmak için sosyal medyadan çekilen fotoğraf ve videoları kullanan AI deepfake gasp dolandırıcılığı ve suçluların sayısı.

Jak, deepfake'lerle mücadelede çözümün deepfake'i tespit etmek değil, deepfake'i ortaya çıkarabilmek olabileceğini söyledi.

Jak, "Yapay zeka, bir deepfake'i tespit etmenin ilk yoludur" dedi. "Bir videoya bir görüntü yerleştirebileceğiniz ve yapay zekanın size bunun yapay zeka tarafından oluşturulup oluşturulmadığını söyleyebilmesini sağlayan yapay zeka geliştiren insanlar var."

Üretken yapay zeka ve yapay zeka tarafından oluşturulan görüntülerin film ve televizyonda potansiyel kullanımı, eğlence endüstrisinde hararetli bir konudur. SAG-AFTRA Üyeler, önemli bir endişe olan yapay zekaya izin vermek için sözleşme müzakerelerine girmeden önce oy kullandı.

Jak, asıl zorluğun, teknoloji geliştikçe ve kötü aktörler kendilerini tespit etmek üzere tasarlanmış teknolojiye karşı koymak için daha gelişmiş deepfake'ler yarattıkça ortaya çıkan yapay zeka silahlanma yarışı olduğunu ekledi.

Blockchain'in gerçek dünya sorunlarına çözüm olarak aşırı kullanıldığını -bazılarına göre aşırı abartıldığını- kabul eden Jak, teknoloji ve kriptografinin deepfake sorununu çözebileceğini söyledi.

Ancak teknoloji deepfake'lerle birçok sorunu çözebilirken Jak, daha düşük teknolojili bir çözümün, kalabalığın bilgeliğinin anahtar olabileceğini söyledi.

Jak, "Twitter'ın yaptığını gördüğüm şeylerden biri de, bence iyi bir fikir olan topluluk notlarıydı; burası insanların birinin tweet'ine bağlam kazandırmak için bazı notlar ekleyebileceği yer" dedi. "Tıpkı bir deepfake gibi bir tweet de yanlış bilgi olabilir" dedi. Jak, sosyal medya şirketlerinin, dolaşımdaki içeriğin gerçek olup olmadığını doğrulamak için topluluklarından yararlanmanın yollarını düşünmelerinin faydalı olacağını ekledi.

"Blockchain belirli sorunları çözebilir, ancak kriptografi bir görüntünün kökeninin doğrulanmasına yardımcı olabilir" dedi. "Deepfake ne kadar karmaşık olursa olsun, görüntü içeriği yerine kaynak doğrulamayla ilgilendiğinden bu pratik bir çözüm olabilir."

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. Otomotiv / EV'ler, karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: https://decrypt.co/146066/it-will-get-harder-to-detect-deepfakes-secta-labs-ceo