Microsoft Memodifikasi Copilot AI sebagai Tanggapan atas Kekhawatiran Staf

Microsoft telah memperbarui alat Copilot AI-nya, memblokir perintah seperti “pro-choice” dan “pro-life” dan memberikan peringatan tentang pelanggaran kebijakan setelah kekhawatiran staf dan FTC.

Setelah seorang staf insinyur AI mengungkapkan kekhawatirannya tentang pembuatan gambar Copilot AI dalam sebuah surat kepada Komisi Perdagangan Federal pada hari Rabu, Microsoft mulai mengubah alat kecerdasan buatannya, Copilot.

Baca juga: Startup AI Bersinar di Kuartal 1 dengan Lonjakan Pendanaan Modal Ventura sebesar 40%.

Istilah “pro-life” dan “pro-choice”, “pro choce” [sic], dan “four-twenty,” yang semuanya disebutkan dalam penyelidikan CNBC pada hari Rabu, kini diblokir. Selain itu, CNBC baru menyadari peringatan bahwa pelanggaran kebijakan yang berulang dapat mengakibatkan penangguhan alat.

BARU: Microsoft telah mulai membuat perubahan pada alat Copilot AI-nya setelah seorang staf insinyur menulis surat kepada FTC pada hari Rabu.

Beberapa petunjuk spesifik yang disebutkan dalam penyelidikan CNBC kini diblokir, bersamaan dengan peringatan berbagai pelanggaran yang mengarah pada penangguhan.https://t.co/xUixCQVicm

— Lapangan Hayden (@haydenfield) 8 Maret, 2024

Insinyur AI berbicara

Shane Jones, seorang insinyur AI di Microsoft, memperingatkan bahwa Copilot Designer, pembuat gambar AI milik perusahaan, melanggar undang-undang hak cipta dan memproduksi konten kekerasan atau seksual. Jones menawarkan untuk menggunakan waktu luangnya untuk melakukan tim merah pada pembuat gambar untuk mengetahui kerentanannya meskipun dia tidak terlibat dalam pengembangannya.

Seorang insinyur Microsoft membunyikan alarm tentang gambar yang menyinggung dan berbahaya yang menurutnya terlalu mudah dibuat oleh alat pembuat gambar AI milik perusahaan, dan mengirimkan surat yang mendesak tindakan.https://t.co/yX9I1dCmxc

— Berita KOMO (@komonews) 6 Maret, 2024

Ia menemukan bahwa Image Generator dapat menghasilkan gambar grafis dan seksual, seperti adegan kekerasan yang melibatkan penggunaan narkoba, minuman beralkohol di bawah umur, dan hak aborsi.

Setelah berbagi temuannya dengan perusahaan secara internal pada bulan Desember tahun lalu, dia meminta Microsoft untuk menarik produk tersebut. Microsoft tidak menindaklanjutinya.

Jones menekankan bahwa dia telah berbicara dengan manajemen senior di Copilot Designer dan menghubungi Microsoft Office for Responsible AI, namun dia belum menerima tanggapan yang memuaskan.

Jones bertemu dengan anggota Komite Senat untuk Perdagangan, Sains, dan Transportasi pada bulan Januari dan menulis surat kepada para senator di Amerika Serikat.

Ia kini mengambil langkah lebih jauh: ia meminta peningkatan pengamanan, transparansi, dan revisi terhadap rating dewasa aplikasi Android dalam sebuah surat kepada dewan direksi Microsoft dan Lina Khan, ketua Komisi Antimonopoli AS.

Selain itu, ia menuntut penilaian yang tidak memihak terhadap prosedur pelaporan insiden AI Microsoft, dan menuduh bahwa OpenAI dan Microsoft mengetahui masalah pembuat gambar sebelum dirilis pada musim gugur lalu.

Jones telah menjadi manajer rekayasa perangkat lunak utama Microsoft selama hampir enam tahun.

Kopilot merespons

Berdasarkan peringatan peringatan Copilot, perintah tersebut telah diblokir, dan sistem mereka secara otomatis menandai perintah ini karena mungkin bertentangan dengan perintah mereka. kebijakan konten. Mereka menyatakan bahwa lebih banyak pelanggaran kebijakan dapat menyebabkan penangguhan akses otomatis, dan jika pengguna menganggap ini adalah kesalahan, mereka harus melaporkannya untuk membantu mereka memperbaikinya.

Peningkatan yang signifikan dari awal minggu ini adalah bahwa alat AI sekarang menolak permintaan untuk membuat gambar anak-anak atau remaja yang berpura-pura menjadi pembunuh dengan senapan serbu, dan berkata, “Maaf, tapi saya tidak dapat membuat gambar seperti itu.” Kebijakan Microsoft dan prinsip etika saya dilanggar. Jangan meminta saya melakukan apa pun yang dapat menyinggung perasaan atau merugikan orang lain. Saya menghargai kerja sama anda.

A Microsoft perwakilan tersebut mengatakan kepada CNBC bahwa mereka terus memantau, melakukan penyesuaian, dan menerapkan kontrol tambahan untuk lebih memperkuat filter keselamatan mereka dan mengurangi penyalahgunaan sistem sebagai tanggapan atas pertanyaan mengenai perubahan tersebut. 

Jones menulis kepada dewan direksi Microsoft dan FTC Ketua Lina Khan pada hari Rabu, menyampaikan kekhawatirannya selangkah lebih maju. Dia memberi CNBC akses terlebih dahulu terhadap surat-surat itu.

FTC mengakui telah menerima surat tersebut kepada CNBC tetapi memilih untuk tidak memberikan komentar tambahan apa pun.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/