TOKYO, 26. syyskuuta 2023 – (JCN Newswire) – Fujitsu ilmoitti tänään julkaisevansa kaksi uutta tekoälyteknologiaa, jotka parantavat keskustelupohjaisten tekoälymallien vastausten luotettavuutta. Äskettäin kehitetyt tekniikat sisältävät tekniikan hallusinaatioiden havaitsemiseksi keskustelullisissa tekoälymalleissa – ilmiö, jossa generatiivinen tekoäly tuottaa virheellisiä tai toisiinsa liittymättömiä tuloksia – sekä tekniikan, joka on kehitetty yhdessä sen pienessä tutkimuslaboratoriossa.1).
Uusien teknologioiden avulla Fujitsu pyrkii tarjoamaan yritys- ja yksittäisille käyttäjille työkalun, jolla voidaan arvioida keskustelun tekoälyn vastausten luotettavuutta, mikä viime kädessä edistää tekoälyn turvallisempaa käyttöä useissa eri käyttötapauksissa, mukaan lukien yritykset, jotka haluavat ottaa teknologian käyttöön varsinaisia operaatioita.
Professori Yuval Elovici Ben Gurion -yliopistosta kommentoi: "Generatiivinen tekoäly on kriittinen alue, ja sen sisällä Fujitsun kehittämä hallusinaatioiden havaitsemistekniikka on keskeinen tekijä luotettavien keskustelupohjaisten tekoälyjärjestelmien luomisessa. Ben-Gurion Universityn (BGU) ja Fujitsun tutkijat ovat kehittäneet innovatiivisen tekniikan parantaakseen tekoälypohjaisen URL-suodatuksen turvallisuutta haitallisia uhkia vastaan. Läpimurtomme keskittyy taulukkotietoihin, mikä johtaa joustavampaan puolustusmekanismiin vastustavia hyökkäyksiä vastaan tekoälypohjaisen URL-suodatuksen alalla. Jatkossa Fujitsu ja Ben-Gurion University aikovat tehdä yhteistyötä luodakseen uusia turvallisuuskeskeisiä edistysaskeleita Generative AI:n alueella.
Fujitsu sisällyttää nämä uudet teknologiat keskustelulliseen tekoälyydinmoottoriinsa, jonka tarjoaa "Fujitsu Kozuchi (koodinimi) – Fujitsu AI Platform", joka tarjoaa käyttäjille pääsyn laajaan valikoimaan tehokkaita tekoäly- ja ML-tekniikoita. Teknologia hallusinaatioiden havaitsemiseen keskustelun tekoälyssä on Japanin käyttäjien saatavilla 28. syyskuuta 2023 alkaen, ja tekniikka tietojenkalastelusivustojen URL-osoitteiden havaitsemiseen keskustelullisen tekoälyn vastauksissa lokakuusta 2023 alkaen. Uudet tekniikat ovat molemmat yrityskäyttäjien saatavilla demoympäristö Kozuchin kautta ja yksittäisille käyttäjille erillisen portaalisivuston kautta (2). Fujitsu suunnittelee molempien teknologioiden levittämistä globaaleille markkinoille tulevaisuudessa.
Kun käytät keskustelullista tekoälyä liiketoiminnassa, yritykset käyttävät usein tekniikkaa poimimaan kysymyksiin liittyviä tietoja esirekisteröitetyistä yritysdatasta ja lisäämään tiedot viitetiedoiksi esitettäessä kysymyksiä ulkoiselle keskustelutekoälylle. Vaikka tämä menetelmä tarjoaa tarkat vastaukset ja vähentää hallusinaatioita, hallusinaatioiden täydellinen ehkäisy on jatkuva ongelma, koska keskustelullinen tekoäly ei joissain tapauksissa pysty poimimaan oikein kysymyksiin liittyvää tietoa ja näin ollen luo aiheeseen liittymättömiä, vääriä vastauksia. Vaikka menetelmät sen arvioimiseksi, missä määrin tekoälyn vastaus saattaa olla hallusinaatio (hallusinaatiopisteet), tämän pistemäärän tarkka estimointi on edelleen vaikea tehtävä, koska keskustelun tekoäly käyttää useita erilaisia lauseita ilmaisemaan samaa tosiasiaa.
Perustuen havaintoon, että keskustelullinen tekoäly tuottaa usein virheellistä tietoa erisnimistä ja numeroista ja vastausten sisältö poikkeaa toistuvista kysymyksistä, Fujitsu on kehittänyt teknologian tunnistaakseen ja keskittyäkseen niihin lauseiden osiin, joissa hallusinaatioita todennäköisesti esiintyy.
Erittäin tarkan hallusinaatiopistemäärän laskemiseksi uusi tekniikka jakaa ensin tekoälyn vastauksen kolmeen osaan (kohde, predikaatti, objekti jne.) ja tunnistaa sitten automaattisesti nimetyt entiteetit vastauksessa. Seuraavana vaiheena tekniikka jättää nämä nimetyt entiteetit tyhjiksi ja pyytää toistuvasti ulkoista tekoälyä määrittelemään nämä tietyt lausekkeet tarkemmin. (Kuva 2)
Fujitsu testasi tätä tekniikkaa käyttämällä avointa dataa, mukaan lukien WikiBio GPT-3 Hallusination Dataset (3) ja havaitsi, että se voisi parantaa havaitsemisen tarkkuutta (AUC-ROC) (4) noin 22 % verrattuna muihin tekniikan huipputason menetelmiin tekoäly-hallusinaatioiden havaitsemiseksi, kuten SelfCheckGPT (5).
Kun keskustelullinen tekoäly luo vastauksia opetusdataan perustuen, vihamieliset tahot voivat huijata tekoälyä luomaan vastauksia, jotka sisältävät manipuloituja tietoja, kuten tietojenkalastelu-URL-osoitteita, jotka johtavat väärennetyille verkkosivustoille istuttamalla haitallista tietoa tekoälyn harjoitustietoihin.
Tämän ongelman ratkaisemiseksi Fujitsu on kehittänyt teknologian, joka havaitsee manipuloidut URL-osoitteet keskustelun tekoälyn vastauksista. Kun tekniikka tunnistaa tietojenkalastelu-URL-osoitteen, se lähettää käyttäjille varoitusviestin.
Fujitsun uusi tekniikka ei ainoastaan havaitse phishing-URL-osoitteita, vaan myös lisää tekoälyn vastustuskykyä olemassa oleville hyökkäyksille, jotka huijaavat tekoälymalleja tekemään tahallisia virhearvioita varmistaakseen tekoälyn erittäin luotettavat vastaukset. Äskettäin kehitetty tekniikka hyödyntää Fujitsun ja Ben-Gurion University of the Negevin yhdessä kehittämää tekniikkaa Fujitsun pienessä tutkimuslaboratoriossa, joka perustettiin Ben-Gurionin yliopistoon. Teknologia hyödyntää taipumusta, että vihamieliset tahot hyökkäävät usein yhden tyyppisen tekoälymallin kimppuun ja havaitsevat haitalliset tiedot käsittelemällä tietoja eri AI-malleilla ja arvioimalla eron perusteluissa tuomion tuloksessa.
Teknologiaa voidaan käyttää paitsi tietojenkalastelu-URL-osoitteiden havaitsemiseen, myös yleisten hyökkäysten estämiseen taulukkotietoa käyttävien tekoälymallien pettämiseksi, ja sitä voidaan siten käyttää myös muihin palveluihin kohdistuvien hyökkäysten välttämiseen.
[1] Fujitsu Small Research Lab:Aloite, jossa Fujitsun tutkijat upotetaan Japanin ja kansainvälisen yliopistojen teknologiahautomoihin tekemään yhteistä tutkimusta joidenkin oman alansa johtavien henkien, mukaan lukien professorien ja seuraavan sukupolven tutkijoiden kanssa.
[2] Yksittäiset käyttäjät voivat myös kokeilla Fujitsun edistyneitä sovellusliittymiä ja verkkosovelluksia luomalla tilin Fujitsun tutkimusportaaliin. (Fujitsu Research Portal: portaalisivusto, joka on ollut avoinna yleisölle kesäkuusta 2023 lähtien ja joka tarjoaa rekisteröityneille käyttäjille pääsyn Fujitsun edistyneiden teknologioiden kokeiluversioihin. Fujitsu tarjoaa kehittyneitä tekniikoita yrityskäyttäjille "Fujitsu Kozuchi (koodinimi) – Fujitsu AI Platform" kautta. ja yksittäisille käyttäjille tämän portaalisivuston kautta.)
[3] WikiBio GPT-3:n hallusinaatiotietojoukko:Wikipediaan perustuva vertailutieto hallusinaatioiden havaitsemiseen
[4] AUC-ROC (vastaanottimen toimintakäyrän käyrän alla oleva alue):Käyrän käyrän alla oleva pinta-ala, joka saadaan, kun tuomion kynnysarvoa muutetaan suhteessa poikkeavuuspisteeseen asettamalla todellinen positiivinen määrä pystyakselille ja väärä positiivinen suhde vaaka-akselille. Satunnainen poikkeamapiste on 0.5 ja täydellinen vastaus on 1.0. Yleisesti katsotaan, että tietty suoritustaso voidaan saavuttaa, kun se on korkeampi kuin 0.7.
[5] SelfCheckGPT:Cambridgen yliopistossa Iso-Britanniassa kehitetty hallusinaatioiden havaitsemistekniikka
Fujitsun sitoutuminen kestävän kehityksen tavoitteisiin (SDG)
YK: n vuonna 2015 hyväksymät kestävän kehityksen tavoitteet (SDG) edustavat joukkoa yhteisiä tavoitteita, jotka on saavutettava maailmanlaajuisesti vuoteen 2030 mennessä. Fujitsun tarkoitus - tehdä maailmasta kestävämpi rakentamalla luottamusta yhteiskuntaan innovaatioiden avulla - on lupaus edistää kestävän kehityksen tavoitteiden tarjoamaa näkemystä paremmasta tulevaisuudesta.
Tietoja Fujitsusta
Fujitsun tavoitteena on tehdä maailmasta kestävämpi rakentamalla luottamusta yhteiskuntaan innovaatioiden avulla. 100 124,000 työntekijämme työskentelevät yli 6702 maan asiakkaiden valitsemana digitaalisen muutoksen kumppanina ratkaistakseen joitakin ihmiskunnan suurimmista haasteista. Palvelu- ja ratkaisuvalikoimamme pohjautuu viiteen avainteknologiaan: tietotekniikka, verkot, tekoäly, tieto ja tietoturva sekä konvergoivat teknologiat, jotka yhdistämme kestävän kehityksen muutoksen aikaansaamiseksi. Fujitsu Limited (TSE:3.7) raportoi 28 biljoonan jenin (31 miljardin dollarin) konsolidoidun liikevaihdon 2023. maaliskuuta XNUMX päättyneeltä tilikaudelta ja on edelleen Japanin suurin digitaalipalveluyritys markkinaosuudellaan. Lue lisää: www.fujitsu.com.
Paina Yhteystiedot:
Fujitsu Limited
Yhteiskunta- ja sijoittajasuhdeosasto
Kyselyt (https://bit.ly/3rrQ4mB)
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://www.jcnnewswire.com/pressrelease/86719/3/
- :on
- :On
- :ei
- :missä
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- pääsy
- sen mukaisesti
- Tili
- tarkkuus
- tarkka
- tarkasti
- saavutettu
- poikki
- todellinen
- lisätä
- osoite
- hyväksytty
- kehittynyt
- edistysaskeleet
- kontradiktorisen
- vastaan
- eteenpäin
- AI
- AI-mallit
- Tekoälyalusta
- AI-järjestelmät
- AI-koulutus
- Tähtäimessä
- tavoitteet
- Myös
- Vaikka
- an
- ja
- ilmoitti
- vastaus
- API
- sovellukset
- Hakeminen
- suunnilleen
- OVAT
- ALUE
- AS
- pyytäminen
- At
- hyökkäys
- Hyökkäykset
- automaattisesti
- saatavissa
- välttää
- Akseli
- perustua
- BE
- ollut
- ben
- Ben Guron
- Ben-Gurionin yliopisto
- vertailuanalyysi
- Paremmin
- Miljardi
- sekä
- taukoja
- läpimurto
- tuoda
- Rakentaminen
- liiketoiminta
- yritykset
- mutta
- by
- laskea
- Cambridge
- CAN
- tapauksissa
- tietty
- haasteet
- muuttunut
- ominainen
- valinta
- koodi
- tehdä yhteistyötä
- kommentit
- sitoutuminen
- Yhteinen
- yritys
- verrattuna
- täydellinen
- tietojenkäsittely
- Suorittaa
- harkittu
- Yhteydet
- sisältö
- edistävät
- edistää
- kokoavaa
- Lähentyvät tekniikat
- puhekielen
- keskusteleva AI
- Ydin
- Yrityksen
- voisi
- maahan
- luo
- Luominen
- kriittinen
- käyrä
- Asiakkaat
- tiedot
- omistautunut
- Puolustus
- määritellä
- Aste
- toimittaa
- esittely
- havaita
- Detection
- kehitetty
- Kehitys
- erota
- ero
- eri
- vaikea
- digitaalinen
- digitaaliset palvelut
- digitaalisia palveluita tarjoava yritys
- Digital Transformation
- Divisioona
- verkkotunnuksen
- alas
- piirtää
- upotettu
- syntyy
- työntekijää
- valtuudet
- päättyi
- Moottori
- parantaa
- varmistaa
- yksiköt
- ympäristö
- vakiintunut
- perustamisesta
- arvio
- jne.
- arvioida
- arviointiin
- olemassa
- ilmaista
- ilmauksia
- ulkoinen
- uute
- päin
- tosiasia
- väärennös
- väärä
- Fields
- Kuva
- suodatus
- Löytää
- Etunimi
- syyttäjä
- viisi
- Keskittää
- keskittyy
- varten
- Taonta
- löytyi
- usein
- alkaen
- Fujitsu
- tulevaisuutta
- general
- yleensä
- synnyttää
- sukupolvi
- generatiivinen
- Generatiivinen AI
- Global
- maailmanmarkkinoilla
- Tavoitteet
- suurin
- Olla
- korkeampi
- erittäin
- Vaakasuora
- HTTPS
- Ihmiskunta
- tunnistaa
- tunnistaa
- kuva
- toteuttaa
- parantaa
- in
- sisältää
- Mukaan lukien
- Lisäykset
- yrityshautomot
- henkilökohtainen
- tiedot
- pistää
- Innovaatio
- innovatiivinen
- kansainvälisesti
- tulee
- sijoittaja
- Sijoittajasuhdeosasto
- kysymys
- kysymykset
- IT
- SEN
- Japani
- yhteinen
- jpg
- kesäkuu
- avain
- laboratorio
- käynnistää
- käynnistää
- johtaa
- johtava
- Taso
- vipusuhteita
- Todennäköisesti
- rajallinen
- tehdä
- Tekeminen
- manipuloitu
- maaliskuu
- markkinat
- markkinaosuus
- mekanismi
- viesti
- menetelmä
- menetelmät
- ehkä
- mielet
- ML
- malli
- mallit
- lisää
- liikkuvat
- nimi
- nimetty
- Nations
- verkot
- Uusi
- Uudet teknologiat
- hiljattain
- Newswire
- seuraava
- substantiiveja
- romaani
- numerot
- objekti
- saatu
- lokakuu
- of
- Tarjoukset
- usein
- on
- kerran
- jatkuva
- vain
- avata
- avoin data
- toiminta
- Operations
- or
- Muut
- meidän
- ulos
- ulostulo
- yli
- yleiskatsaus
- kumppani
- osat
- täydellinen
- suorituskyky
- ilmiö
- Phishing
- lausekkeet
- edelläkävijä
- keskeinen
- saattamisesta
- suunnitelmat
- foorumi
- Platon
- Platonin tietotieto
- PlatonData
- Portal
- positiivinen
- voimakas
- estää
- Ehkäisy
- käsittely
- lupaus
- asianmukainen
- suojella
- toimittaa
- mikäli
- tarjoaa
- julkinen
- tarkoitus
- kysymykset
- satunnainen
- alue
- hinta
- perussyyt
- valtakunta
- vähentää
- kirjattu
- liittyvä
- suhteet
- luotettavuus
- luotettava
- jäännökset
- toistuva
- TOISTUVASTI
- vastata
- raportoitu
- edustaa
- edustaa
- tutkimus
- Tutkijat
- kimmoisa
- vastus
- kunnioittaminen
- vasteet
- johtua
- Saatu ja
- tulot
- sama
- pisteet
- SDGs
- turvallinen
- turvallisuus
- seitsemän
- syyskuu
- Palvelut
- palveluyritys
- setti
- Jaa:
- koska
- single
- paikka
- pieni
- yhteiskunta
- Ratkaisumme
- jonkin verran
- erityinen
- seisoo
- Aloita
- huippu-
- Vaihe
- aihe
- niin
- kestävyys
- kestävä
- Kestävä kehitys
- järjestelmät
- Tehtävä
- Technologies
- Elektroniikka
- kuin
- että
- -
- Tulevaisuus
- maailma
- heidän
- sitten
- Nämä
- tätä
- uhat
- kolmella
- kynnys
- Kautta
- Näin
- että
- tänään
- yhdessä
- työkalu
- ylin
- koulutus
- Muutos
- muutoskumppani
- oikeudenkäynti
- Biljoona
- totta
- Luottamus
- luotettu
- luotettava
- yrittää
- TSE:6702
- kaksi
- tyyppi
- Lopulta
- kykenemätön
- varten
- Yhtenäinen
- Yhdistyneet kansakunnat
- Yliopistot
- yliopisto
- Cambridgen yliopisto
- URL
- käyttää
- käytetty
- Käyttäjät
- käyttötarkoituksiin
- käyttämällä
- arvo
- eri
- versiot
- pystysuora
- kautta
- visio
- varoitus
- we
- verkko
- web-sovellukset
- sivustot
- HYVIN
- kun
- joka
- vaikka
- leveä
- Laaja valikoima
- wikipedia
- tulee
- with
- sisällä
- Referenssit
- maailman-
- maailmanlaajuisesti
- vuosi
- Jeni
- zephyrnet