TOKYO, 26 September 2023 โ (JCN Newswire) โ Fujitsu hari ini mengumumkan peluncuran dua teknologi kepercayaan AI baru untuk meningkatkan keandalan respons dari model AI percakapan. Teknologi baru yang dikembangkan mencakup teknik untuk mendeteksi halusinasi dalam model AI percakapan โ sebuah fenomena di mana AI generatif menghasilkan keluaran yang salah atau tidak berhubungan โ dan teknik yang dikembangkan bersama di laboratorium penelitian kecilnya (1) di Universitas Ben Gurion untuk mendeteksi URL situs phishing yang ditanamkan dalam respons AI melalui serangan peracunan yang menyuntikkan informasi palsu.
Dengan teknologi baru ini, Fujitsu bertujuan untuk menyediakan alat bagi pengguna korporat dan individu untuk mengevaluasi keandalan balasan dari AI percakapan, yang pada akhirnya berkontribusi pada penggunaan AI yang lebih aman di berbagai kasus penggunaan, termasuk untuk bisnis yang ingin menerapkan teknologi tersebut di operasi sebenarnya.
Profesor Yuval Elovici, Universitas Ben Gurion, berkomentar: โAI generatif merupakan domain yang sangat penting, dan di dalamnya, teknologi pendeteksi halusinasi yang dikembangkan Fujitsu menjadi sangat penting dalam membangun sistem AI percakapan yang dapat dipercaya. Para peneliti dari Universitas Ben-Gurion (BGU) dan Fujitsu telah memelopori teknik inovatif untuk meningkatkan keamanan pemfilteran URL berbasis AI terhadap ancaman musuh. Terobosan kami berfokus pada data tabular, sehingga menghasilkan mekanisme pertahanan yang lebih tangguh terhadap serangan musuh dalam bidang pemfilteran URL berbasis AI. Ke depan, Fujitsu dan Universitas Ben-Gurion akan berkolaborasi dalam menciptakan kemajuan baru yang berpusat pada keamanan dalam bidang AI Generatif.โ
Fujitsu akan memasukkan teknologi-teknologi baru ini ke dalam mesin inti AI percakapan yang disediakan melalui โFujitsu Kozuchi (nama kode) โ Fujitsu AI Platform,โ yang menawarkan pengguna akses ke berbagai teknologi AI dan ML yang canggih. Teknologi untuk mendeteksi halusinasi dalam AI percakapan akan tersedia untuk pengguna di Jepang mulai 28 September 2023, dan teknologi untuk mendeteksi URL situs phishing sebagai tanggapan AI percakapan mulai Oktober 2023. Teknologi baru ini akan tersedia untuk pengguna korporat sebagai lingkungan demo melalui Kozuchi dan untuk pengguna individu melalui situs portal khusus (2). Fujitsu berencana meluncurkan kedua teknologi tersebut ke pasar global di masa depan.
Saat menerapkan AI percakapan dalam operasi bisnis, bisnis sering kali menggunakan teknologi tersebut untuk mengekstrak informasi terkait pertanyaan dari data bisnis yang telah didaftarkan sebelumnya dan menambahkan data tersebut sebagai informasi referensi saat mengajukan pertanyaan ke AI percakapan eksternal. Meskipun metode ini memberikan balasan yang akurat dan mengurangi halusinasi, pencegahan halusinasi secara menyeluruh merupakan masalah yang sedang berlangsung karena AI percakapan dalam beberapa kasus tidak dapat mengekstrak informasi terkait pertanyaan dengan benar sehingga menghasilkan balasan yang tidak berhubungan dan salah. Meskipun ada metode untuk memperkirakan sejauh mana jawaban AI mungkin berupa halusinasi (skor halusinasi), estimasi akurat atas skor ini masih merupakan tugas yang sulit karena AI percakapan menggunakan berbagai frasa berbeda untuk mengungkapkan fakta yang sama.
Berdasarkan pengamatan bahwa AI percakapan sering kali menghasilkan informasi yang salah untuk kata benda dan angka, dan isi jawaban cenderung berbeda jika ditanya berulang kali, Fujitsu telah mengembangkan teknologi untuk mengidentifikasi dan fokus pada bagian kalimat yang kemungkinan besar akan menyebabkan halusinasi.
Untuk menghitung skor halusinasi yang sangat akurat, teknologi baru ini pertama-tama memecah jawaban AI menjadi tiga bagian (subjek, predikat, objek, dll.) dan kemudian secara otomatis mengidentifikasi entitas bernama dalam balasan tersebut. Sebagai langkah selanjutnya, teknologi ini membiarkan entitas bernama ini kosong dan berulang kali meminta AI eksternal untuk mendefinisikan ekspresi spesifik ini dengan lebih akurat. (Gambar 2)
Fujitsu membandingkan teknologi ini dengan menggunakan data terbuka, termasuk Kumpulan Data Halusinasi WikiBio GPT-3 (3) dan menemukan bahwa hal itu dapat meningkatkan akurasi deteksi (AUC-ROC) (4) sekitar 22% dibandingkan dengan metode canggih lainnya untuk mendeteksi halusinasi AI, seperti SelfCheckGPT (5).
Saat AI percakapan menciptakan respons berdasarkan data pelatihannya, entitas yang bermusuhan dapat mengelabui AI agar menciptakan respons yang mencakup informasi yang dimanipulasi seperti URL phishing yang mengarah ke situs web palsu dengan menanamkan informasi berbahaya dalam data pelatihan AI.
Untuk mengatasi masalah ini, Fujitsu telah mengembangkan teknologi untuk mendeteksi URL yang dimanipulasi dalam respons AI percakapan. Setelah teknologi mengidentifikasi URL phishing, teknologi akan mengeluarkan pesan peringatan kepada pengguna.
Teknologi baru Fujitsu tidak hanya mendeteksi URL phishing, namun juga meningkatkan ketahanan AI terhadap serangan yang ada yang mengelabui model AI agar membuat kesalahan penilaian yang disengaja untuk memastikan respons AI yang sangat andal. Teknologi yang baru dikembangkan ini memanfaatkan teknik yang dikembangkan bersama oleh Fujitsu dan Universitas Ben-Gurion Negev di Lab Penelitian Kecil Fujitsu yang didirikan di Universitas Ben-Gurion. Teknologi ini memanfaatkan kecenderungan entitas yang bermusuhan sering menyerang satu jenis model AI, dan mendeteksi data berbahaya dengan memproses informasi menggunakan berbagai model AI yang berbeda dan mengevaluasi perbedaan alasan hasil penilaian.
Teknologi ini tidak hanya dapat digunakan untuk mendeteksi URL phishing, tetapi juga untuk mencegah serangan umum untuk menipu model AI yang menggunakan data tabular, dan dengan demikian juga dapat digunakan untuk menghindari serangan terhadap layanan lain.
[1] Lab Penelitian Kecil Fujitsu :Inisiatif di mana peneliti Fujitsu disematkan di inkubator teknologi di universitas di Jepang dan internasional untuk melakukan penelitian bersama dengan beberapa pemikir terkemuka di bidangnya, termasuk profesor serta peneliti generasi berikutnya.
[2] Pengguna individu juga dapat mencoba API dan aplikasi web canggih Fujitsu dengan membuat akun di Portal Penelitian Fujitsu. (Portal Penelitian Fujitsu: situs portal yang telah dibuka untuk umum sejak Juni 2023 untuk memberikan pengguna terdaftar akses ke versi uji coba teknologi canggih Fujitsu. Fujitsu menawarkan teknologi canggih kepada pengguna korporat melalui โFujitsu Kozuchi (nama kode) โ Platform AI Fujitsuโ dan kepada pengguna individu melalui situs portal ini.)
[3] Kumpulan Data Halusinasi WikiBio GPT-3 :Data benchmark berdasarkan Wikipedia untuk deteksi halusinasi
[4] AUC-ROC (Area di Bawah Kurva Karakteristik Operasi Penerima):Area di bawah kurva kurva diperoleh ketika nilai ambang batas penilaian diubah terhadap skor kelainan dengan menempatkan laju positif sebenarnya pada sumbu vertikal dan laju positif palsu pada sumbu horizontal. Skor anomali acak adalah 0.5, dan jawaban sempurna adalah 1.0. Secara umum dianggap bahwa tingkat kinerja tertentu dapat dicapai bila lebih tinggi dari 0.7.
[5] Periksa MandiriGPT :Sebuah teknologi pendeteksi halusinasi yang dikembangkan di Universitas Cambridge, Inggris
Komitmen Fujitsu terhadap Tujuan Pembangunan Berkelanjutan (SDGs)
Tujuan Pembangunan Berkelanjutan (SDGs) yang diadopsi oleh Perserikatan Bangsa-Bangsa pada tahun 2015 mewakili serangkaian tujuan bersama yang akan dicapai di seluruh dunia pada tahun 2030. Tujuan Fujitsu โ โuntuk membuat dunia lebih berkelanjutan dengan membangun kepercayaan masyarakat melalui inovasiโ โ adalah janji untuk berkontribusi pada visi masa depan yang lebih baik yang diberdayakan oleh SDGs.
Tentang Fujitsu
Tujuan Fujitsu adalah menjadikan dunia lebih berkelanjutan dengan membangun kepercayaan masyarakat melalui inovasi. Sebagai mitra transformasi digital pilihan pelanggan di lebih dari 100 negara, 124,000 karyawan kami bekerja untuk menyelesaikan beberapa tantangan terbesar yang dihadapi umat manusia. Rangkaian layanan dan solusi kami memanfaatkan lima teknologi utama: Komputasi, Jaringan, AI, Data & Keamanan, dan Teknologi Konvergen, yang kami satukan untuk mewujudkan transformasi keberlanjutan. Fujitsu Limited (TSE:6702) melaporkan pendapatan konsolidasi sebesar 3.7 triliun yen (US$28 miliar) untuk tahun fiskal yang berakhir pada 31 Maret 2023 dan tetap menjadi perusahaan layanan digital teratas di Jepang berdasarkan pangsa pasar. Temukan lebih banyak lagi: www.fujitsu.com.
Kontak pers:
Fujitsu Limited
Divisi Hubungan Masyarakat dan Investor
Pertanyaan (https://bit.ly/3rrQ4mB)
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
- Sumber: https://www.jcnnewswire.com/pressrelease/86719/3/
- :memiliki
- :adalah
- :bukan
- :Di mana
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- mengakses
- demikian
- Akun
- ketepatan
- tepat
- akurat
- dicapai
- di seluruh
- sebenarnya
- menambahkan
- alamat
- diadopsi
- maju
- kemajuan
- permusuhan
- terhadap
- di depan
- AI
- Model AI
- Platform AI
- Sistem AI
- Pelatihan AI
- Bertujuan
- bertujuan
- juga
- Meskipun
- an
- dan
- mengumumkan
- menjawab
- Lebah
- aplikasi
- Menerapkan
- sekitar
- ADALAH
- DAERAH
- AS
- meminta
- At
- menyerang
- Serangan
- secara otomatis
- tersedia
- menghindari
- Sumbu
- berdasarkan
- BE
- menjadi
- ben
- Ben Gurion
- Universitas Ben-Gurion
- benchmark
- Lebih baik
- Milyar
- kedua
- istirahat
- terobosan
- membawa
- Bangunan
- bisnis
- bisnis
- tapi
- by
- menghitung
- cambridge
- CAN
- kasus
- tertentu
- tantangan
- berubah
- ciri
- pilihan
- kode
- Berkolaborasi
- komentar
- komitmen
- Umum
- perusahaan
- dibandingkan
- lengkap
- komputasi
- Mengadakan
- dianggap
- kontak
- isi
- menyumbang
- berkontribusi
- konvergen
- Teknologi konvergen
- percakapan
- AI percakapan
- Core
- Timeline
- bisa
- negara
- menciptakan
- membuat
- kritis
- melengkung
- pelanggan
- data
- dedicated
- Pertahanan
- menetapkan
- Derajat
- menyampaikan
- demo
- menemukan
- Deteksi
- dikembangkan
- Pengembangan
- berbeda
- perbedaan
- berbeda
- sulit
- digital
- layanan digital
- perusahaan layanan digital
- Transformasi digital
- Divisi
- domain
- turun
- seri
- tertanam
- muncul
- karyawan
- diberdayakan
- berakhir
- Mesin
- mempertinggi
- memastikan
- entitas
- Lingkungan Hidup
- mapan
- membangun
- memperkirakan
- dll
- mengevaluasi
- mengevaluasi
- ada
- ekspres
- ekspresi
- luar
- ekstrak
- menghadapi
- fakta
- gadungan
- palsu
- Fields
- Angka
- penyaringan
- Menemukan
- Pertama
- Fiskal
- lima
- Fokus
- berfokus
- Untuk
- Tempa
- ditemukan
- sering
- dari
- Fujitsu
- masa depan
- Umum
- umumnya
- menghasilkan
- generasi
- generatif
- AI generatif
- Aksi
- pasar global
- Anda
- terbesar
- Memiliki
- lebih tinggi
- sangat
- Horisontal
- HTTPS
- Kemanusiaan
- mengidentifikasi
- mengenali
- gambar
- melaksanakan
- memperbaiki
- in
- memasukkan
- Termasuk
- Meningkatkan
- Inkubator
- sendiri-sendiri
- informasi
- menyuntikkan
- Innovation
- inovatif
- internasional
- ke
- investor
- Divisi Hubungan Investor
- isu
- masalah
- IT
- NYA
- Jepang
- bersama
- jpg
- Juni
- kunci
- laboratorium
- jalankan
- meluncurkan
- memimpin
- terkemuka
- Tingkat
- memanfaatkan
- Mungkin
- Terbatas
- membuat
- Membuat
- dimanipulasi
- March
- Pasar
- pangsa pasar
- mekanisme
- pesan
- metode
- metode
- mungkin
- pikiran
- ML
- model
- model
- lebih
- bergerak
- nama
- Bernama
- Bangsa
- jaringan
- New
- Teknologi baru
- baru saja
- Newswire
- berikutnya
- kata benda
- novel
- nomor
- obyek
- diperoleh
- Oktober
- of
- Penawaran
- sering
- on
- sekali
- terus-menerus
- hanya
- Buka
- Data terbuka
- operasi
- Operasi
- or
- Lainnya
- kami
- di luar
- keluaran
- lebih
- ikhtisar
- pasangan
- bagian
- sempurna
- prestasi
- gejala
- Phishing
- frase
- memelopori
- sangat penting
- penempatan
- rencana
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- Portal
- positif
- kuat
- mencegah
- Pencegahan
- pengolahan
- janji
- tepat
- melindungi
- memberikan
- disediakan
- menyediakan
- publik
- tujuan
- Pertanyaan
- acak
- jarak
- Penilaian
- alasan
- dunia
- mengurangi
- terdaftar
- terkait
- hubungan
- keandalan
- dapat diandalkan
- sisa
- ulang
- BERKALI-KALI
- balasan
- Dilaporkan
- mewakili
- merupakan
- penelitian
- peneliti
- tabah
- Perlawanan
- menghormati
- tanggapan
- mengakibatkan
- dihasilkan
- pendapatan
- sama
- skor
- SDGs
- aman
- keamanan
- tujuh
- September
- Layanan
- perusahaan jasa
- set
- Share
- sejak
- tunggal
- situs web
- kecil
- Masyarakat
- Solusi
- beberapa
- tertentu
- berdiri
- Mulai
- state-of-the-art
- Langkah
- subyek
- seperti itu
- Keberlanjutan
- berkelanjutan
- Pembangunan berkelanjutan
- sistem
- tugas
- Teknologi
- Teknologi
- dari
- bahwa
- Grafik
- Masa depan
- Dunia
- mereka
- kemudian
- Ini
- ini
- ancaman
- tiga
- ambang
- Melalui
- Demikian
- untuk
- hari ini
- bersama
- alat
- puncak
- Pelatihan
- Transformasi
- mitra transformasi
- percobaan
- Triliun
- benar
- Kepercayaan
- Terpercaya
- terpercaya
- mencoba
- TSE:6702
- dua
- mengetik
- Akhirnya
- tidak mampu
- bawah
- Serikat
- Persatuan negara-negara
- Universitas
- universitas
- Universitas Cambridge
- URL
- menggunakan
- bekas
- Pengguna
- kegunaan
- menggunakan
- nilai
- berbagai
- Versi
- vertikal
- melalui
- penglihatan
- peringatan
- we
- jaringan
- aplikasi web
- situs web
- BAIK
- ketika
- yang
- sementara
- lebar
- Rentang luas
- Wikipedia
- akan
- dengan
- dalam
- Kerja
- dunia
- industri udang di seluruh dunia.
- tahun
- Yen
- zephyrnet.dll