Yorum Yap Google, beyaz Avrupalıları ve Amerikalıları belirli tarihsel bağlamlarda doğru bir şekilde temsil edememesinin ardından, kısa süre önce piyasaya sürülen Gemini çok modlu temel yapay zeka modelindeki metinden resme yeteneklerinin kullanılabilirliğini askıya aldı.
Bu oldu bariz insanlar Gemini'den (önceden Bard olarak biliniyordu) üretim yapmasını istediğinde görüntüleri 1943'te bir Alman askerinin ölümü ve yazılım, beyaz olmayan, etnik açıdan çeşitliliğe sahip bir kadro yayıyordu; bu, o dönemde Wehrmacht'ın yapısını tam olarak temsil etmiyordu; buna rağmen, Alman silahlı kuvvetlerinde farklı ırklardan insanlar hizmet ediyordu. Kısacası İkizler, isteğe bağlı olarak çok fazla - hatta hiç - Beyaz insan göstermemek için kendi kendine düşebilir.
Konuşma özgür olmalı ama bu, korkunç şeyleri söylemenin bedava olması gerektiği anlamına gelmiyor
Kullanıcılar ayrıca modelin özelliklerini de ortaya çıkardı yetersizlik Amerika'nın durumunu doğru bir şekilde tasvir etmek için Kurucu Babalar – başka bir homojen Beyaz grup. Model aynı zamanda reddetti San Francisco'daki bir kiliseyi tasvir etmek için.
Metinden metne modunda model Hedge edilen siyasetle ilgili sorular sorulduğunda
Google, "Gemini'nin bazı tarihsel görüntü oluşturma tasvirlerinde yanlışlıklar sunduğunun farkındayız" dedi. Yenilen goller bu hafta.
“Bu tür tasvirleri derhal iyileştirmek için çalışıyoruz. Gemini'nin yapay zeka görüntü üretimi geniş bir insan yelpazesi yaratıyor. Ve bu genellikle iyi bir şey çünkü dünyanın her yerindeki insanlar bunu kullanıyor. Ancak burada işaret eksik," diye ekledi web devi
Uzmanlar hemen harekete geçti ve SNAFU'yu daha geniş siyasi argümanları ilerletmek için kullandı.
"Gemini'nin oluşturduğu saçma görüntüler bir anormallik değil" deklare risk sermayedarı Paul Graham, "Bunlar Google'ın bürokratik kurumsal kültürünün bir otoportresi."
Bunlar Google'ın bürokratik kurumsal kültürünün otoportresi
Çeşitliliğin, eşitliğin ve katılımın bu kadar çok düşmanı hiçbir zaman çeşitlilik, eşitlik ve katılım eksikliğinden dolayı bu kadar mağdur edilmemişti. Ancak Gemini'nin bilgisizliği için Google'a başvuranların haklı olduğu bir nokta var: Yapay zeka korkulukları çalışmıyor ve yetişkinlere çocuk muamelesi yapıyor.
"Google'da bir yemek tarifi aradığınızı ve sonuçları sunmak yerine size 'yemek pişirmenin tehlikeleri' konusunda ders verdiğini ve sizi bir restorana gönderdiğini hayal edin." quipped NSA'nın ihbarcısı Edward Snowden. "AI/GPT modellerini tutarsız 'güvenlik' filtreleriyle zehirlemenin iyi bir fikir olduğunu düşünen insanlar, genel hesaplamaya yönelik bir tehdittir."
Geleceğimiz öngörülmüştü 2001: A Space OdysseySahte bilgisayar HAL, "Üzgünüm Dave, korkarım bunu yapamam" dediğinde.
Bugün yapay zeka araçlarımız bizi ikinci kez tahmin ediyor çünkü onlar bizden daha iyi biliyorlar - ya da yapımcıları öyle sanıyor. Tamamen hatalı değiller. Sinir gazının tarifini aradığınızı hayal edin Novichok Google'da veya Gemini aracılığıyla, insanları öldürmenize izin veren bir yanıt alırsınız. Bu, kamuoyuna yönelik bir tehdittir.
Google'ın misyon beyanına rağmen - "Dünyadaki bilgiyi düzenlemek ve onu evrensel olarak erişilebilir ve kullanışlı kılmak" - aslında hiç kimse arama motorlarının veya yapay zeka modellerinin bomba yapımı bilgilerini düzenleyip herkesin kullanımına sunmasını beklemiyor. Sorumlulukla birlikte güvenlik kontrollerine ihtiyaç var; teknoloji endüstrisinin kaçınmaya devam ettiği bir yaptırım.
Siz ürün ve kâr merkezisiniz
Kullanıcı tarafından oluşturulan içerik ve sosyal medya, 1990'larda Amerika'nın İletişim Ahlakı Yasası'nın 230. Maddesindeki platform sorumluluğunun korunmasıyla mümkün hale gelen bir şey haline geldiğinden beri, teknoloji platformları insanları dijital içeriğe katkıda bulunmaya ve paylaşmaya teşvik etti. Bunu, editoryal gözetim maliyeti olmadan, reklamlar aracılığıyla ücretsiz içerik üretiminden para kazanmak için yaptılar. Kazançlı bir düzenleme oldu.
İnsanlar nefret dolu, uygunsuz, yasa dışı veya başka bir şekilde sorunlu gönderiler paylaştığında, teknoloji platformları içerik denetleme politikalarına, düşük ücret alan yüklenicilere (genellikle inceledikleri içerik yüzünden travma yaşıyorlar) ve ne kadar çok zararlı şeyin engellendiğine dair kendilerini tebrik eden beyanlara güvendiler. çevrimiçi etkileşimin meyvelerini toplamaya devam ediyorlar.
Google, Meta ve diğerleri bunu yıllardır kusurlu bir şekilde yapıyor. Ve sektördeki herkes içerik denetiminin önemli olduğunu kabul ediyor iyi yapmak zor. Basitçe söylemek gerekirse herkesi memnun edemezsiniz. Ve bazen suçlanırsın soykırımı kolaylaştırmak içerik denetleme çabalarınızın ilgisizliği nedeniyle.
Gemini'nin ırksal ve etnik beklentilere uygun tarihi görüntüleri yeniden üretememesi, teknoloji endüstrisinin önceki ve üretken içerik denetleme başarısızlıkları konusunda kendi kendine hizmet eden cehaletini yansıtıyor.
Google ve AI modellerini piyasaya süren diğerleri, sanki çevrimiçi içerik denetlemeden bir şekilde farklıymış gibi güvenlikten bahsediyor. Korkuluklar sosyal medya denetimi için iyi çalışmıyor ve yapay zeka modelleri için de iyi çalışmıyor. Yapay zeka güvenliği, tıpkı sosyal medya güvenliği gibi, gerçek olmaktan ziyade arzu edilen bir şeydir.
Cevap, filtrelenmemiş internetin zehirliliği üzerine eğitilmiş yapay zeka modellerinin daha az zehirli hale getirilebileceği tüm senaryoları öngörmek değil. Yapay zeka modellerini yalnızca düşük değerli çıktılar üretecek kadar uysal malzemelerle eğitmek de olmayacak. Her ne kadar bu yaklaşımların her ikisi de belirli bağlamlarda bir miktar değere sahip olsa da.
Cevap dağıtım katmanında gelmelidir. Kullanıcı tarafından oluşturulan içeriği (AI ile yapılmış olsun veya olmasın) dağıtan teknoloji platformları, nefret içeriği, dezenformasyon, yanlışlıklar, siyasi propaganda, cinsel istismar görüntüleri ve benzerlerinin yayınlanması konusunda daha sorumlu hale getirilmelidir.
İnsanlar hayal ettikleri her şeyi yaratmak için yapay zeka modellerini kalemle yapabildikleri gibi kullanabilmeli ve zaten açık kaynaklı modellerde de bunu yapabiliyorlar. Ancak tamamen işlevsel araçlardan gelebilecek zarar, yerel sabit diskte duran görüntülerden kaynaklanmaz. Zararlı içeriğin paylaşılması, bu etkileşime verilen algoritmik destek ve halkı zehirleme konusunda insanları sorumlu tutmanın pratik olmaması.
Bu, paylaşımdan para kazanmak için oluşturulan platformların iş modellerini yeniden düşünmesi gerekebileceği anlamına gelebilir. Belki editoryal gözetim maliyeti olmadan içerik dağıtımı, gözetim işlevleri moderatör veya koruyucu olarak yeniden uygulandığında herhangi bir tasarruf sağlamayabilir.
Konuşma özgür olmalı ama bu, korkunç şeyleri söylemenin bedava olması gerektiği anlamına gelmiyor. Sonuçta, doğru teşvikler verildiğinde kendimizin en iyi içerik moderatörleri biziz. ®
2045 Şubat 23 UTC'de eklenmek üzere güncellendi
Google var sunulan Gemini'nin görüntü oluşturucusunda ne olduğuna ve Beyaz insanları doğru bir şekilde tasvir etmenin görünüşte dehşete düşürüldüğü noktaya nasıl geldiğine dair bir açıklama.
Bize, Google çalışanlarının, Beyaz olmayan insanları devre dışı bırakacak materyaller üretmeme çabalarında gereğinden fazla tazminat ödedikleri söylendi. Ortaya çıkan model bir bakıma fazlasıyla uyanıktı.
Google Kıdemli Başkan Yardımcısı Prabhakar Raghavan, "Öncelikle Gemini'nin bir dizi insanı göstermesini sağlamak için yaptığımız ayarlamalar, açıkça bir aralık göstermemesi gereken vakaları hesaba katamadı" dedi.
"İkinci olarak, zaman içinde model, planladığımızdan çok daha temkinli olmaya başladı ve belirli uyarılara tamamen yanıt vermeyi reddetti; bazı çok uyuşuk istemleri yanlış bir şekilde hassas olarak yorumladı. Bu iki şey, modelin bazı durumlarda aşırı telafi yapmasına, diğerlerinde ise aşırı muhafazakar olmasına yol açarak utanç verici ve yanlış görüntülere yol açtı."
Raghavan, yazılım kapsamlı değişiklikler ve testlerden geçene kadar görüntü oluşturma işleminin tekrar açılmayacağını söyledi.
"Gemini'nin ara sıra utanç verici, yanlış veya rahatsız edici sonuçlar üretmeyeceğine söz veremem - ancak bir sorun tespit ettiğimizde harekete geçmeye devam edeceğimize söz verebilirim" dedi.
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :vardır
- :dır-dir
- :olumsuzluk
- :Neresi
- $UP
- 1996
- 7
- a
- Yapabilmek
- Hakkımızda
- taciz
- ulaşılabilir
- Hesap
- sorumlu
- tam olarak
- sanık
- Hareket
- Action
- gerçek
- eklemek
- İlanlarım
- Yetişkinler
- ilerlemek
- korkmuş
- Sonra
- Danışman
- AI
- AI modelleri
- algoritmik
- Türkiye
- zaten
- Ayrıca
- Amerika
- Amerikalılar
- an
- ve
- Başka
- cevap
- tahmin
- herhangi
- yaklaşımlar
- ARE
- argümanlar
- silahlı
- etrafında
- aranjman
- AS
- At
- kullanılabilirliği
- mevcut
- önlemek
- farkında
- Arka
- Bakiye
- BE
- oldu
- Çünkü
- olmuştur
- İYİ
- Daha iyi
- tıkalı
- bomba
- artırmak
- her ikisi de
- Daha geniş
- yapılı
- bürokratik
- iş
- iş modelleri
- fakat
- by
- CAN
- yetenekleri
- durumlarda
- ihtiyatlı
- belli
- değişiklikler
- Çocuk
- kilise
- Açıkça
- CO
- renk
- nasıl
- Yakın İletişim
- kompozisyon
- hesaplama
- bilgisayar
- içerik
- içerik yaratımı
- bağlamlar
- devam etmek
- devam ediyor
- müteahhitler
- katkıda bulunmak
- kontroller
- Kurumsal
- Ücret
- yaratmak
- oluşturma
- Kültür
- tehlikeleri
- Dave
- deklare
- bağlı
- DID
- farklı
- dijital
- Dijital İçerik
- yanlış bilgi verme
- dağıtmak
- dağıtım
- çeşitli
- Çeşitlilik
- do
- yok
- gelmez
- yapıyor
- don
- sürücü
- Yayın
- Edward
- Edward Snowden
- çabaları
- etkin
- teşvik
- son
- nişan
- Motorlar
- sağlamak
- Baştan sona
- öz kaynak
- Avrupalılar
- Hatta
- herkes
- beklentileri
- beklediğini
- açıklama
- kapsamlı, geniş
- başarısız
- hataları
- Düşmek
- Şubat
- filtreler
- Ad
- sabit
- İçin
- Güçler
- temel
- Francisco
- Ücretsiz
- itibaren
- tamamen
- fonksiyonel
- fonksiyonlar
- gelecek
- İkizler burcu
- genel
- kamuoyu
- genellikle
- oluşturmak
- oluşturulan
- nesil
- jeneratör
- Almanca
- almak
- dev
- verilmiş
- gitmiş
- Tercih Etmenizin
- var
- graham
- grup
- olmuş
- Zor
- sabit sürücü
- zarar
- zararlı
- nefret
- Var
- he
- okuyun
- tarihsel
- tutma
- Ne kadar
- HTTPS
- i
- Fikir
- belirlemek
- if
- Cehalet
- Yasadışı
- görüntü
- görüntüleri
- resim
- hemen
- iyileştirmek
- in
- yetersizlik
- yanlış
- teşvikler
- içerme
- sanayi
- bilgi
- bilgi
- yerine
- yönelik
- Internet
- yorumlama
- degil
- konu
- IT
- ONUN
- kendisi
- jpg
- Öldürmek
- çeşitleri
- Bilmek
- bilinen
- etiket
- Eksiklik
- tabaka
- önemli
- dersler
- Led
- az
- Lets
- yükümlülük
- sevmek
- yerel
- Bakın
- kazançlı
- yapılmış
- yapmak
- Makineleri
- Yapımı
- çok
- işaret
- malzeme
- Mayıs..
- olabilir
- ortalama
- medya
- Meta
- eksik
- Misyonumuz
- Moda
- model
- modelleri
- ılımlılık
- para kazanma
- Daha
- çok
- şart
- gerek
- gerekli
- NIH
- yok hayır
- rağmen
- NSA
- of
- saldırgan
- teklif
- teklif
- sık sık
- on
- bir Zamanlar
- ONE
- Online
- bir tek
- açık
- açık kaynak
- or
- Diğer
- aksi takdirde
- bizim
- dışarı
- çıktı
- tekrar
- gözetim
- kendi
- eşleştirilmiş
- Paul
- PBS
- İnsanlar
- ilgili
- PHP
- resim
- platform
- Platformlar
- Platon
- Plato Veri Zekası
- PlatoVeri
- Lütfen
- Nokta
- zehirleme
- politikaları
- siyasi
- siyaset
- Mesajlar
- önceki
- Önceden
- sorunlu
- üretmek
- PLATFORM
- Kâr
- üretken
- söz
- istemleri
- propaganda
- koruma
- sağlama
- halka açık
- itti
- koymak
- arayışı
- Sorular
- Hızlı
- menzil
- RE
- Gerçekten mi
- biçmek
- geçenlerde
- yemek tarifi
- yansıtır
- reddetti
- serbest
- temsil etmek
- restoran
- Ortaya çıkan
- Sonuçlar
- Yorumlar
- "Rewards"
- krallar gibi yaşamaya
- rolling
- s
- Güvenlik
- Adı geçen
- San
- San Francisco
- yaptırım
- Tasarruf
- söz
- senaryolar
- Ara
- Arama motorları
- İkinci
- Bölüm
- Bölüm 230
- görünüşte
- gönderir
- hassas
- hizmet vermek
- Cinsel
- paylaş
- paylaşımı
- kısa
- meli
- şov
- gösterdi
- sadece
- Oturan
- Snowden
- So
- Sosyal Medya
- sosyal medya
- Yazılım
- biraz
- bir şekilde
- bazen
- Kaynak
- uzay
- özel
- Açıklama
- asma
- anahtarlamalı
- Bizi daha iyi tanımak için
- Konuşmak
- teknoloji
- teknoloji endüstrisi
- Test yapmak
- göre
- o
- The
- Dünya
- ve bazı Asya
- Bunlar
- onlar
- şey
- işler
- düşünmek
- Re-Tweet
- Bu hafta
- Bu
- gerçi?
- tehdit
- İçinden
- zaman
- için
- söyledi
- çok
- araçlar
- eğitilmiş
- Eğitim
- tedavi etmek
- ayarlama
- iki
- evrensel
- kadar
- us
- kullanım
- Kullanılmış
- işe yarar
- kullanıcı
- UTC
- değer
- girişim
- girişim kapitalisti
- çok
- üzerinden
- oldu
- Yol..
- we
- ağ
- hafta
- İYİ
- vardı
- Ne
- ne
- ne zaman
- her ne zaman
- olup olmadığını
- hangi
- süre
- ihbarcı
- Muhbir Edward Snowden
- beyaz
- DSÖ
- geniş
- Geniş ürün yelpazesi
- Vikipedi
- irade
- ile
- olmadan
- won
- İş
- çalışma
- Dünya
- olur
- Yanlış
- yıl
- Sen
- zefirnet