Pesan Google telah menangguhkan ketersediaan kemampuan teks-ke-gambar dalam model AI dasar multimodal Gemini yang baru-baru ini dirilis, setelah model tersebut gagal mewakili secara akurat orang kulit putih Eropa dan Amerika dalam konteks sejarah tertentu.
Ini menjadi semu ketika orang meminta Gemini (sebelumnya dikenal sebagai Bard) untuk memproduksi gambar dari seorang tentara Jerman pada tahun 1943 dan perangkat lunak tersebut mengeluarkan kader yang beragam etnis non-kulit putih yang tidak secara akurat mewakili komposisi Wehrmacht pada saat itu โ meskipun orang kulit berwarna memang bertugas di angkatan bersenjata Jerman. Singkatnya, Gemini akan berusaha keras untuk tidak menunjukkan terlalu banyak โ atau bahkan siapa pun โ orang kulit putih, tergantung pada permintaannya.
Perkataan seharusnya bebas, namun bukan berarti mengatakan hal-hal buruk harus dilakukan tanpa biaya
Pengguna juga memunculkan modelnya ketidakmampuan untuk secara akurat menggambarkan Amerika Pendiri โ kelompok kulit putih homogen lainnya. Modelnya juga menolak untuk menggambarkan sebuah gereja di San Francisco.
Dalam mode teks-ke-teks, model dilindungi ketika ditanya pertanyaan yang berkaitan dengan politik.
โKami menyadari bahwa Gemini menawarkan ketidakakuratan dalam beberapa penggambaran pembuatan gambar historis,โ Google Kebobolan minggu ini.
โKami berupaya untuk segera memperbaiki penggambaran semacam ini. Pembuatan gambar AI Gemini memang menghasilkan banyak orang. Dan itu umumnya merupakan hal yang baik karena orang-orang di seluruh dunia menggunakannya. Tapi di sini tidak tepat sasaran,โ tambah raksasa web itu
Para pakar dengan cepat menyerang dan menggunakan SNAFU untuk mengajukan argumen politik yang lebih luas.
โGambaran konyol yang dihasilkan oleh Gemini bukanlah sebuah anomali,โ menyatakan pemodal ventura Paul Graham, โItu adalah potret diri dari budaya perusahaan birokrasi Google.โ
Itu adalah potret diri dari budaya birokrasi perusahaan Google
Belum pernah ada begitu banyak penentang keberagaman, kesetaraan, dan inklusi, yang begitu sedih dengan kurangnya keberagaman, kesetaraan, dan inklusi. Namun mereka yang menyalahkan Google karena ketidaktahuan Gemini ada benarnya: pagar pembatas AI tidak berfungsi, dan memperlakukan orang dewasa seperti anak-anak.
โBayangkan Anda mencari resep di Google, dan bukannya memberikan hasil, Google malah mengajari Anda tentang 'bahaya memasak' dan mengirim Anda ke restoran,โ menyindir Pelapor NSA, Edward Snowden. โOrang-orang yang menganggap meracuni model AI/GPT dengan filter 'keamanan' yang tidak koheren adalah ide yang bagus adalah ancaman terhadap komputasi umum.โ
Masa depan kita telah diramalkan 2001: A Space Odyssey, ketika HAL, si komputer nakal, menyatakan, โMaaf Dave, saya khawatir saya tidak bisa melakukan itu.โ
Saat ini, alat AI menebak-nebak kita, karena mereka lebih tahu daripada kita โ atau begitulah yang dibayangkan oleh pembuatnya. Mereka tidak sepenuhnya salah. Bayangkan Anda sedang mencari resep agen saraf Novichok di Google, atau melalui Gemini, dan Anda mendapatkan jawaban yang memungkinkan Anda membunuh orang. Itu merupakan ancaman bagi masyarakat umum.
Terlepas dari pernyataan misi Google โ โUntuk mengatur informasi dunia dan membuatnya dapat diakses dan berguna secara universalโ โ tidak ada yang benar-benar mengharapkan mesin pencari atau model AI untuk mengatur informasi pembuatan bom dan membuatnya tersedia bagi semua orang. Pengendalian keselamatan diperlukan, disertai dengan tanggung jawab โ sebuah sanksi yang terus dihindari oleh industri teknologi.
Anda adalah produk dan pusat keuntungan
Sejak konten buatan pengguna dan media sosial menjadi populer pada tahun 1990-an, yang dimungkinkan oleh perlindungan tanggung jawab platform dalam Pasal 230 Undang-Undang Kepatutan Komunikasi Amerika tahun 1996, platform teknologi telah mendorong orang untuk berkontribusi dan berbagi konten digital. Mereka melakukannya untuk memonetisasi pembuatan konten tidak berbayar melalui iklan tanpa biaya pengawasan editorial. Ini merupakan pengaturan yang menguntungkan.
Dan ketika orang membagikan postingan yang penuh kebencian, tidak pantas, ilegal, atau bermasalah, platform teknologi mengandalkan kebijakan moderasi konten, kontraktor yang dibayar rendah (seringkali trauma dengan konten yang mereka ulas), dan pernyataan ucapan selamat kepada diri sendiri tentang seberapa banyak konten beracun yang telah diblokir. mereka terus memperoleh manfaat dari keterlibatan online.
Google, Meta, dan lainnya telah melakukan hal ini, secara tidak sempurna, selama bertahun-tahun. Dan semua orang di industri ini mengakui bahwa moderasi konten itu penting sulit untuk melakukannya dengan baik. Sederhananya, Anda tidak bisa menyenangkan semua orang. Dan terkadang, Anda akhirnya dituduh memfasilitasi genosida melalui ketidakpedulian terhadap upaya moderasi konten Anda.
Ketidakmampuan Gemini untuk mereproduksi gambar sejarah yang sesuai dengan harapan ras dan etnis mencerminkan ketidaktahuan industri teknologi atas kegagalan moderasi konten sebelumnya dan produktif.
Google dan perusahaan lain yang meluncurkan model AI membicarakan keselamatan seolah-olah itu berbeda dari moderasi konten online. Pagar pembatas tidak berfungsi dengan baik untuk moderasi media sosial dan juga tidak berfungsi dengan baik untuk model AI. Keamanan AI, seperti keamanan media sosial, lebih bersifat aspirasional daripada aktual.
Jawabannya bukanlah mengantisipasi semua skenario di mana model AI โ yang dilatih mengenai racun dari internet tanpa filter โ dapat dibuat menjadi lebih tidak beracun. Mereka juga tidak akan melatih model AI hanya pada materi yang sangat jinak sehingga menghasilkan keluaran bernilai rendah. Meskipun kedua pendekatan ini mempunyai nilai tertentu dalam konteks tertentu.
Jawabannya harus ada pada lapisan distribusi. Platform teknologi yang mendistribusikan konten buatan pengguna โ baik yang dibuat dengan AI atau lainnya โ harus lebih bertanggung jawab dalam memposting konten kebencian, disinformasi, ketidakakuratan, propaganda politik, gambar pelecehan seksual, dan sejenisnya.
Orang-orang harus dapat menggunakan model AI untuk menciptakan apa pun yang mereka bayangkan, seperti yang dapat mereka lakukan dengan pensil, dan mereka sudah dapat melakukannya dengan model sumber terbuka. Namun kerugian yang mungkin timbul dari alat yang berfungsi penuh bukan berasal dari gambar yang tersimpan di hard drive lokal. Penyebabnya adalah pembagian konten berbahaya, dorongan algoritmik yang diberikan pada keterlibatan tersebut, dan ketidakpraktisan dalam meminta pertanggungjawaban orang yang telah meracuni masyarakat.
Hal ini mungkin berarti bahwa platform yang dibangun untuk memonetisasi aktivitas berbagi mungkin perlu memikirkan kembali model bisnisnya. Mungkin distribusi konten tanpa biaya pengawasan editorial tidak memberikan penghematan apa pun setelah fungsi pengawasan diterapkan kembali sebagai moderator atau pagar pembatas.
Perkataan seharusnya bebas, namun bukan berarti mengatakan hal-hal buruk harus dilakukan tanpa biaya. Pada akhirnya, kami adalah moderator konten terbaik bagi diri kami sendiri, jika diberi insentif yang tepat. ยฎ
Diperbarui untuk ditambahkan pada 2045 UTC, 23 Februari
Google memiliki ditawarkan penjelasan tentang apa yang terjadi dengan generator gambar Gemini dan bagaimana hal itu sampai pada titik di mana ia tampak ketakutan untuk menggambarkan orang kulit putih secara akurat.
Kami diberi tahu bahwa para Karyawan Google memberikan kompensasi yang berlebihan dalam upaya mereka untuk tidak menghasilkan materi yang membuat orang non-kulit putih tersingkir. Model yang dihasilkan, dalam beberapa hal, terlalu terbangun.
โPertama, penyesuaian kami untuk memastikan bahwa Gemini menunjukkan sejumlah orang gagal memperhitungkan kasus-kasus yang seharusnya tidak menunjukkan kisaran tersebut,โ kata SVP Google Prabhakar Raghavan.
โDan kedua, seiring berjalannya waktu, model tersebut menjadi jauh lebih berhati-hati daripada yang kami inginkan dan menolak untuk menjawab perintah tertentu sepenuhnya โ salah menafsirkan beberapa perintah yang sangat anodyne sebagai sesuatu yang sensitif. Kedua hal ini menyebabkan model memberikan kompensasi yang berlebihan dalam beberapa kasus, dan menjadi terlalu konservatif dalam kasus lain, sehingga menghasilkan gambaran yang memalukan dan salah.โ
Raghavan mengatakan pembuatan gambar tidak akan diaktifkan kembali sampai perangkat lunak tersebut melalui perubahan dan pengujian ekstensif.
โSaya tidak bisa berjanji bahwa Gemini tidak akan sesekali memberikan hasil yang memalukan, tidak akurat atau menyinggung โ tapi saya bisa berjanji bahwa kami akan terus mengambil tindakan setiap kali kami mengidentifikasi suatu masalah,โ katanya.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :memiliki
- :adalah
- :bukan
- :Di mana
- $NAIK
- 1996
- 7
- a
- Sanggup
- Tentang Kami
- penyalahgunaan
- dapat diakses
- Akun
- akuntabel
- akurat
- terdakwa
- Bertindak
- Tindakan
- sebenarnya
- menambahkan
- iklan
- dewasa
- memajukan
- takut
- Setelah
- Agen
- AI
- Model AI
- algoritmik
- Semua
- sudah
- juga
- Amerika
- Amerika
- an
- dan
- Lain
- menjawab
- mengantisipasi
- Apa pun
- pendekatan
- ADALAH
- argumen
- bersenjata
- sekitar
- pengaturan
- AS
- At
- tersedianya
- tersedia
- menghindari
- sadar
- kembali
- Saldo
- BE
- menjadi
- karena
- menjadi
- TERBAIK
- Lebih baik
- diblokir
- bom
- mendorong
- kedua
- lebih luas
- dibangun di
- birokratis
- bisnis
- model bisnis
- tapi
- by
- CAN
- kemampuan
- kasus
- berhati-hati
- tertentu
- Perubahan
- anak-anak
- gereja
- Jelas
- CO
- warna
- bagaimana
- Komunikasi
- komposisi
- komputasi
- komputer
- Konten
- pembuatan konten
- Konteks
- terus
- terus
- kontraktor
- menyumbang
- kontrol
- Timeline
- Biaya
- membuat
- penciptaan
- budaya
- bahaya
- Dave
- menyatakan
- Tergantung
- MELAKUKAN
- berbeda
- digital
- Konten digital
- disinformasi
- mendistribusikan
- distribusi
- beberapa
- Keragaman
- do
- tidak
- doesn
- melakukan
- don
- mendorong
- Tajuk rencana
- Edward
- Edward Snowden
- upaya
- diaktifkan
- didorong
- akhir
- interaksi
- Mesin
- memastikan
- sepenuhnya
- keadilan
- Orang Eropa
- Bahkan
- semua orang
- harapan
- mengharapkan
- penjelasan
- luas
- Gagal
- kegagalan
- Jatuh
- Februari
- filter
- Pertama
- Memperbaiki
- Untuk
- pasukan
- dasar
- Francisco
- Gratis
- dari
- sepenuhnya
- fungsionil
- fungsi
- masa depan
- Gemini
- Umum
- khalayak ramai
- umumnya
- menghasilkan
- dihasilkan
- generasi
- generator
- Jerman
- mendapatkan
- raksasa
- diberikan
- mati
- baik
- mendapat
- graham
- Kelompok
- terjadi
- Sulit
- hard drive
- membahayakan
- berbahaya
- benci
- Memiliki
- he
- di sini
- historis
- memegang
- Seterpercayaapakah Olymp Trade? Kesimpulan
- HTTPS
- i
- ide
- mengenali
- if
- Ketidaktahuan
- liar
- gambar
- gambar
- membayangkan
- segera
- memperbaiki
- in
- ketidakmampuan
- tidak akurat
- Insentif
- penyertaan
- industri
- Info
- informasi
- sebagai gantinya
- dimaksudkan
- Internet
- menafsirkan
- adalah n
- isu
- IT
- NYA
- Diri
- jpg
- Membunuh
- jenis
- Tahu
- dikenal
- label
- Kekurangan
- lapisan
- terkemuka
- kuliah
- Dipimpin
- kurang
- Lets
- kewajiban
- 'like'
- lokal
- melihat
- menguntungkan
- terbuat
- membuat
- Pembuat
- Membuat
- banyak
- tanda
- bahan
- Mungkin..
- mungkin
- berarti
- Media
- meta
- hilang
- Misi
- mode
- model
- model
- moderasi
- uangkan
- lebih
- banyak
- harus
- Perlu
- dibutuhkan
- NIH
- tidak
- meskipun
- NSA
- of
- serangan
- menawarkan
- menawarkan
- sering
- on
- sekali
- ONE
- secara online
- hanya
- Buka
- open source
- or
- Lainnya
- jika tidak
- kami
- di luar
- keluaran
- lebih
- Kelalaian
- sendiri
- dipasangkan
- paul
- PBS
- Konsultan Ahli
- berkaitan
- PHP
- gambar
- Platform
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- silahkan
- Titik
- peracunan
- Kebijakan
- politik
- politik
- Posts
- sebelumnya
- sebelumnya
- bermasalah
- menghasilkan
- Produk
- Keuntungan
- produktif
- janji
- meminta
- propaganda
- perlindungan
- menyediakan
- publik
- terdorong
- menempatkan
- pencarian
- Pertanyaan
- Cepat
- jarak
- RE
- benar-benar
- menuai
- baru-baru ini
- resep
- mencerminkan
- menolak
- dirilis
- mewakili
- restoran
- dihasilkan
- Hasil
- review jurnal
- Hadiah
- benar
- bergulir
- s
- Safety/keselamatan
- Tersebut
- San
- San Fransisco
- sangsi
- Tabungan
- mengatakan
- skenario
- Pencarian
- Mesin pencari
- Kedua
- Bagian
- Bagian 230
- tampaknya
- mengirimkan
- peka
- melayani
- Seksual
- Share
- berbagi
- Pendek
- harus
- Menunjukkan
- menunjukkan
- hanya
- Duduk
- Snowden
- So
- Sosial
- media sosial
- Perangkat lunak
- beberapa
- entah bagaimana
- kadang-kadang
- sumber
- Space
- tertentu
- Pernyataan
- tergantung
- beralih
- Mengambil
- Berbicara
- tech
- industri teknologi
- pengujian
- dari
- bahwa
- Grafik
- Dunia
- mereka
- Ini
- mereka
- hal
- hal
- berpikir
- ini
- minggu ini
- itu
- meskipun?
- ancaman
- Melalui
- waktu
- untuk
- mengatakan
- terlalu
- alat
- terlatih
- Pelatihan
- mengobati
- menyetel
- dua
- secara universal
- sampai
- us
- menggunakan
- bekas
- berguna
- Pengguna
- UTC
- nilai
- usaha
- pemodal ventura
- sangat
- melalui
- adalah
- Cara..
- we
- jaringan
- minggu
- BAIK
- adalah
- Apa
- apa pun
- ketika
- kapan saja
- apakah
- yang
- sementara
- whistleblower
- Pelapor Edward Snowden
- putih
- SIAPA
- lebar
- Rentang luas
- Wikipedia
- akan
- dengan
- tanpa
- Won
- Kerja
- kerja
- dunia
- akan
- Salah
- tahun
- Kamu
- Anda
- zephyrnet.dll