TOKYO, 26. september 2023 – (JCN Newswire) – Fujitsu teatas täna kahe uue tehisintellekti usaldustehnoloogia käivitamisest, et parandada vestluspõhise AI mudelite vastuste usaldusväärsust. Hiljuti välja töötatud tehnoloogiad hõlmavad tehnikat hallutsinatsioonide tuvastamiseks vestluspõhises AI mudelites – nähtus, mille puhul generatiivne tehisintellekt loob vale või mitteseotud väljundi – ja selle väikeses uurimislaboris ühiselt välja töötatud tehnikat (1) Ben Gurioni ülikoolis, et tuvastada andmepüügisaitide URL-id, mis on AI vastustesse siirdatud mürgistusrünnakute kaudu, mis sisestavad valeandmeid.
Uute tehnoloogiate abil soovib Fujitsu pakkuda ettevõtetele ja üksikkasutajatele tööriista vestluspõhisest tehisintellektist saadud vastuste usaldusväärsuse hindamiseks, aidates lõpuks kaasa tehisintellekti turvalisemale kasutamisele erinevatel kasutusjuhtudel, sealhulgas ettevõtete jaoks, kes soovivad seda tehnoloogiat kasutusele võtta. tegelikud toimingud.
Professor Yuval Elovici Ben Gurioni ülikoolist kommenteerib: "Generatiivne tehisintellekt on kriitiline valdkond ja selles on Fujitsu välja töötatud hallutsinatsioonide tuvastamise tehnoloogia keskse tähtsusega usaldusväärsete vestluspõhise AI-süsteemide loomisel. Ben-Gurioni ülikooli (BGU) ja Fujitsu teadlased on välja töötanud uuendusliku tehnika, et suurendada tehisintellektil põhineva URL-i filtreerimise turvalisust võistlevate ohtude vastu. Meie läbimurre keskendub tabeliandmetele, mille tulemuseks on vastupidavam kaitsemehhanism võistlevate rünnakute vastu AI-põhise URL-i filtreerimise valdkonnas. Edasi liikudes kavatsevad Fujitsu ja Ben-Gurioni ülikool tegema koostööd uudsete turvakesksete edusammude loomiseks generatiivse AI valdkonnas.
Fujitsu lisab need uued tehnoloogiad oma vestluspõhisesse AI põhimootorisse, mida pakub Fujitsu Kozuchi (koodnimi) – Fujitsu AI platvorm, mis pakub kasutajatele juurdepääsu suurele hulgale võimsatele AI- ja ML-tehnoloogiatele. Tehnoloogia hallutsinatsioonide tuvastamiseks vestluspõhises tehisintellektis on Jaapani kasutajatele saadaval alates 28. septembrist 2023 ja tehnoloogia andmepüügisaitide URL-ide tuvastamiseks vestluspõhise tehisintellekti vastustes alates 2023. aasta oktoobrist. Mõlemad uued tehnoloogiad on saadaval ärikasutajatele. demokeskkond Kozuchi kaudu ja üksikkasutajatele spetsiaalse portaali saidi kaudu (2). Fujitsu plaanib tulevikus mõlema tehnoloogia kasutuselevõttu maailmaturule.
Vestluspõhise tehisintellekti rakendamisel äritegevuses kasutavad ettevõtted sageli seda tehnoloogiat eelregistreeritud äriandmetest küsimustega seotud teabe hankimiseks ja andmete lisamiseks välisele vestlus-AI-le küsimuste esitamisel võrdlusteabena. Kuigi see meetod annab täpseid vastuseid ja vähendab hallutsinatsioone, kujutab hallutsinatsioonide täielik ennetamine endast pidevat probleemi, kuna mõnel juhul ei suuda vestluses toimuv tehisintellekt küsimustega seotud teavet õigesti eraldada ja loob seega seosetuid, valesid vastuseid. Kuigi meetodid selle hindamiseks, mil määral võib tehisintellekti vastus olla hallutsinatsioon (hallutsinatsiooniskoor), on selle skoori täpne hindamine endiselt keeruline ülesanne, kuna vestluses kasutatavate tehisintellekti puhul kasutatakse sama fakti väljendamiseks erinevaid fraase.
Tuginedes tähelepanekule, et vestluses toimuv AI genereerib sageli õigete nimisõnade ja numbrite kohta valet teavet ning vastuste sisu kipub korduvate küsimuste korral erinema, on Fujitsu välja töötanud tehnoloogia, mis võimaldab tuvastada ja keskenduda lauseosadele, kus hallutsinatsioonid võivad tekkida.
Väga täpse hallutsinatsiooni skoori arvutamiseks jagab uus tehnoloogia tehisintellekti vastuse esmalt kolmeks osaks (subjekt, predikaat, objekt jne) ja seejärel tuvastab vastuses automaatselt nimelised olemid. Järgmise sammuna jätab tehnoloogia need nimega olemid tühjaks ja palub korduvalt välisel AI-l need konkreetsed väljendid täpsemalt määratleda. (Joonis 2)
Fujitsu võrdles seda tehnoloogiat avatud andmete, sealhulgas WikiBio GPT-3 hallutsinatsiooniandmete abil (3) ja leidis, et see võib parandada tuvastamise täpsust (AUC-ROC) (4) ligikaudu 22% võrreldes teiste tehisintellekti hallutsinatsioonide tuvastamise nüüdisaegsete meetoditega, nagu SelfCheckGPT (5).
Kuna vestluse tehisintellekt loob vastuseid oma koolitusandmete põhjal, võivad vaenulikud üksused petta tehisintellekti vastuseid, mis sisaldavad manipuleeritud teavet, nagu andmepüügi URL-id, mis viivad võltsitud veebisaitidele, implanteerides tehisintellekti koolitusandmetesse pahatahtlikku teavet.
Selle probleemi lahendamiseks on Fujitsu välja töötanud tehnoloogia manipuleeritud URL-ide tuvastamiseks vestluse AI vastustes. Kui tehnoloogia tuvastab andmepüügi URL-i, saadab see kasutajatele hoiatusteate.
Fujitsu uus tehnoloogia mitte ainult ei tuvasta andmepüügi URL-e, vaid suurendab ka tehisintellekti vastupanuvõimet olemasolevatele rünnakutele, mis meelitavad tehisintellekti mudeleid tegema tahtliku väärhinnangu, et tagada tehisintellekti väga usaldusväärsed vastused. Värskelt välja töötatud tehnoloogia kasutab Fujitsu ja Ben-Gurioni Negevi ülikooli ühiselt välja töötatud tehnikat Fujitsu väikeses uurimislaboris, mis asutati Ben-Gurioni ülikoolis. Tehnoloogia kasutab suundumust, et vaenulikud üksused ründavad sageli ühte tüüpi tehisintellekti mudelit ja tuvastavad pahatahtlikud andmed, töödeldes teavet erinevate erinevate tehisintellekti mudelitega ja hinnates hinnangute tulemuste erinevust.
Tehnoloogiat saab kasutada mitte ainult andmepüügi URL-ide tuvastamiseks, vaid ka üldiste rünnakute ärahoidmiseks, et petta tabeliandmeid kasutavaid tehisintellekti mudeleid, ja seega saab seda kasutada ka teiste teenuste rünnakute vältimiseks.
[1] Fujitsu väike uurimislabor:Algatus, mille käigus Fujitsu teadlased on kaasatud Jaapani ja rahvusvaheliselt ülikoolide tehnoloogiainkubaatoritesse, et viia läbi ühiseid uuringuid oma valdkonna juhtivate inimestega, sealhulgas professorite ja järgmise põlvkonna teadlastega.
[2] Üksikkasutajad saavad ka Fujitsu täiustatud API-sid ja veebirakendusi proovida, luues Fujitsu uurimisportaalis konto. (Fujitsu teadusportaal: portaalisait, mis on olnud avalikkusele avatud alates 2023. aasta juunist, et pakkuda registreeritud kasutajatele juurdepääsu Fujitsu täiustatud tehnoloogiate prooviversioonidele. Fujitsu pakub ärikasutajatele täiustatud tehnoloogiaid „Fujitsu Kozuchi (koodinimi) – Fujitsu AI platvormi” kaudu. ja üksikutele kasutajatele selle portaali saidi kaudu.)
[3] WikiBio GPT-3 hallutsinatsioonide andmestik:Vikipeedial põhinevad võrdlusandmed hallutsinatsioonide tuvastamiseks
[4] AUC-ROC (vastuvõtja töökarakteristiku kõvera alune ala):Kõvera kõvera alune pindala, mis saadakse, kui otsuse läviväärtust muudetakse ebanormaalsuse skoori suhtes, asetades tõelise positiivse määra vertikaalteljele ja valepositiivse määra horisontaalteljele. Juhusliku anomaalia skoor on 0.5 ja täiuslik vastus on 1.0. Üldiselt arvatakse, et teatud jõudluse tase on saavutatav, kui see on kõrgem kui 0.7.
[5] SelfCheckGPT:Ühendkuningriigis Cambridge'i ülikoolis välja töötatud hallutsinatsioonide tuvastamise tehnoloogia
Fujitsu pühendumus säästva arengu eesmärkidele (SDG)
ÜRO poolt 2015. aastal vastu võetud säästva arengu eesmärgid (SDG) kujutavad endast ühiste eesmärkide kogumit, mis tuleb saavutada kogu maailmas aastaks 2030. Fujitsu eesmärk – „muuta maailm jätkusuutlikumaks, luues innovatsiooni kaudu ühiskonnas usaldust“ – on lubadus kestliku arengu eesmärgid toetavad visiooni paremast tulevikust.
Fujitsu kohta
Fujitsu eesmärk on muuta maailm jätkusuutlikumaks, luues innovatsiooni kaudu ühiskonnas usaldust. Meie 100 124,000 töötajat, kes on enam kui 6702 riigis klientidele valitud digitaalse ümberkujundamise partner, töötavad selle nimel, et lahendada inimkonna ees seisvaid suurimaid väljakutseid. Meie teenuste ja lahenduste valik põhineb viiel võtmetehnoloogial: andmetöötlus, võrgud, tehisintellekt, andme- ja turvalisus ning ühtlustavad tehnoloogiad, mille ühendame jätkusuutlikkuse muutmiseks. Fujitsu Limited (TSE:3.7) teatas 28. märtsil 31 lõppenud eelarveaasta konsolideeritud tuludest 2023 triljonit jeeni (XNUMX miljardit USA dollarit) ja on turuosa poolest Jaapanis endiselt suurim digiteenuste ettevõte. Leia rohkem: www.fujitsu.com.
Vajutage Kontaktid:
Fujitsu Limited
Avalike ja investorsuhete osakond
Päringud (https://bit.ly/3rrQ4mB)
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://www.jcnnewswire.com/pressrelease/86719/3/
- :on
- :on
- :mitte
- : kus
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- juurdepääs
- vastavalt
- konto
- täpsus
- täpne
- täpselt
- saavutada
- üle
- tegelik
- lisama
- aadress
- vastu
- edasijõudnud
- edusammud
- võistlev
- vastu
- eespool
- AI
- AI mudelid
- AI platvorm
- Tehisintellekti süsteemid
- AI koolitus
- Eesmärk
- Eesmärgid
- Ka
- Kuigi
- an
- ja
- teatas
- vastus
- API-liidesed
- rakendused
- Rakendades
- umbes
- OLEME
- PIIRKOND
- AS
- küsib
- At
- rünnak
- Reageerib
- automaatselt
- saadaval
- vältima
- Telg
- põhineb
- BE
- olnud
- ben
- Ben-Gurion
- Ben-Gurioni ülikool
- võrdlusuuring
- Parem
- Miljard
- mõlemad
- puruneb
- läbimurre
- tooma
- Ehitus
- äri
- ettevõtted
- kuid
- by
- arvutama
- Cambridge
- CAN
- juhtudel
- kindel
- väljakutseid
- muutunud
- iseloomulik
- valik
- kood
- Teevad koostööd
- kommentaarid
- kohustus
- ühine
- ettevõte
- võrreldes
- täitma
- arvutustehnika
- Läbi viima
- kaaluda
- sidemed
- sisu
- aitama kaasa
- kaasa
- lähenevad
- Lähenevad tehnoloogiad
- jutukas
- jutukas AI
- tuum
- Korporatiivne
- võiks
- riikides
- loob
- loomine
- kriitiline
- kõver
- Kliendid
- andmed
- pühendunud
- kaitse
- määratlema
- Kraad
- tarnima
- demo
- avastama
- Detection
- arenenud
- & Tarkvaraarendus
- erinevad
- erinevus
- erinev
- raske
- digitaalne
- digitaalteenused
- digiteenuste ettevõte
- Digitaalne Transformation
- jaotus
- domeen
- alla
- juhtida
- varjatud
- tekib
- töötajad
- volitatud
- lõppes
- Mootor
- suurendama
- tagama
- üksuste
- keskkond
- asutatud
- asutades
- hinnata
- jms
- hindama
- hindamine
- olemasolevate
- ekspress
- väljendeid
- väline
- väljavõte
- ees
- asjaolu
- võlts
- vale
- Valdkonnad
- Joonis
- filtreerimine
- leidma
- esimene
- Maksualane
- viis
- Keskenduma
- keskendub
- eest
- Metalli sepistamine
- avastatud
- sageli
- Alates
- Fujitsu
- tulevik
- Üldine
- üldiselt
- genereerib
- põlvkond
- generatiivne
- Generatiivne AI
- Globaalne
- maailmaturul
- Eesmärgid
- suurim
- Olema
- rohkem
- kõrgelt
- Horisontaalne
- HTTPS
- Inimkond
- identifitseerib
- identifitseerima
- pilt
- rakendada
- parandama
- in
- sisaldama
- Kaasa arvatud
- Tõstab
- Laboratoorne inkubaator
- eraldi
- info
- süstima
- Innovatsioon
- uuenduslik
- rahvusvaheliselt
- sisse
- investor
- Investorsuhete osakond
- probleem
- küsimustes
- IT
- ITS
- Jaapan
- ühine
- jpg
- juuni
- Võti
- labor
- algatama
- käivitab
- viima
- juhtivate
- Tase
- võimendab
- Tõenäoliselt
- piiratud
- tegema
- Tegemine
- manipuleeritav
- Märts
- Turg
- turuosa
- mehhanism
- sõnum
- meetod
- meetodid
- võib
- mõtetes
- ML
- mudel
- mudelid
- rohkem
- liikuv
- nimi
- Nimega
- Rahvaste
- võrgustikud
- Uus
- Uued tehnoloogiad
- äsja
- Newswire
- järgmine
- nimisõnad
- romaan
- numbrid
- objekt
- saadud
- oktoober
- of
- Pakkumised
- sageli
- on
- kunagi
- jätkuv
- ainult
- avatud
- avatud andmete
- tegutsevad
- Operations
- or
- Muu
- meie
- välja
- väljund
- üle
- ülevaade
- partner
- osad
- täiuslik
- jõudlus
- nähtus
- Phishing
- fraasid
- teerajajaks
- Keskses
- paigutamine
- plaanid
- inimesele
- Platon
- Platoni andmete intelligentsus
- PlatoData
- Portal
- positiivne
- võimas
- vältida
- Ennetamine
- töötlemine
- lubadus
- korralik
- kaitsma
- anda
- tingimusel
- annab
- avalik
- eesmärk
- Küsimused
- juhuslik
- valik
- määr
- põhjendus
- realm
- vähendab
- registreeritud
- seotud
- suhted
- usaldusväärsus
- usaldusväärne
- jäänused
- korduv
- KORDUVALT
- vastus
- Teatatud
- esindama
- esindab
- teadustöö
- Teadlased
- vetruv
- Vastupidavus
- suhtes
- vastuste
- kaasa
- tulemuseks
- tulud
- sama
- skoor
- SDGs
- kindlustama
- turvalisus
- seitse
- September
- Teenused
- teenindusettevõte
- komplekt
- Jaga
- alates
- ühekordne
- site
- väike
- Ühiskond
- Lahendused
- mõned
- konkreetse
- seisab
- Käivitus
- modernne
- Samm
- teema
- selline
- Jätkusuutlikkus
- jätkusuutlik
- Säästev areng
- süsteemid
- Ülesanne
- Tehnoloogiad
- Tehnoloogia
- kui
- et
- .
- Tulevik
- maailm
- oma
- SIIS
- Need
- see
- ähvardused
- kolm
- künnis
- Läbi
- Seega
- et
- täna
- kokku
- tööriist
- ülemine
- koolitus
- Transformation
- ümberkujundamise partner
- kohtuprotsess
- triljon
- tõsi
- Usalda
- Usaldatud
- usaldusväärne
- püüdma
- TSE:6702
- kaks
- tüüp
- lõpuks
- ei suuda
- all
- Ühendatud
- Ühendrahvad
- Ülikoolid
- Ülikool
- Cambridge'i ülikool
- URL
- kasutama
- Kasutatud
- Kasutajad
- kasutusalad
- kasutamine
- väärtus
- eri
- versioonid
- vertikaalne
- kaudu
- nägemus
- hoiatus
- we
- web
- veebirakendused
- veebilehed
- Hästi
- millal
- mis
- kuigi
- lai
- Lai valik
- Wikipedia
- will
- koos
- jooksul
- Töö
- maailm
- ülemaailmne
- aasta
- Jeen
- sephyrnet