TOKYO, 26 septembrie 2023 – (JCN Newswire) – Fujitsu a anunțat astăzi lansarea a două noi tehnologii de încredere AI pentru a îmbunătăți fiabilitatea răspunsurilor de la modelele AI conversaționale. Tehnologiile nou dezvoltate includ o tehnică de detectare a halucinațiilor în modelele AI conversaționale – un fenomen în care IA generativă creează rezultate incorecte sau fără legătură – și o tehnică dezvoltată în comun la micul său laborator de cercetare (1) de la Universitatea Ben Gurion pentru a detecta URL-urile site-urilor de phishing implantate în răspunsurile AI prin atacuri de otrăvire care injectează informații false.
Cu noile tehnologii, Fujitsu își propune să ofere utilizatorilor corporativi și individuali un instrument pentru a evalua fiabilitatea răspunsurilor din IA conversațională, contribuind în cele din urmă la o utilizare mai sigură a AI într-o gamă largă de cazuri de utilizare, inclusiv pentru companiile care doresc să implementeze tehnologia în operațiuni efective.
Profesorul Yuval Elovici, Universitatea Ben Gurion, comentează: „IA generativă este un domeniu critic și, în cadrul acestuia, tehnologia de detectare a halucinațiilor dezvoltată de Fujitsu este esențială pentru stabilirea unor sisteme AI conversaționale de încredere. Cercetătorii de la Universitatea Ben-Gurion (BGU) și Fujitsu au lansat o tehnică inovatoare pentru a spori securitatea filtrarii URL bazate pe inteligență artificială împotriva amenințărilor adverse. Descoperirea noastră se concentrează pe datele tabulare, rezultând un mecanism de apărare mai rezistent împotriva atacurilor adverse în domeniul filtrării URL bazate pe inteligență artificială. Mergând mai departe, Fujitsu și Universitatea Ben-Gurion sunt pregătite să colaboreze pentru a crea noi progrese centrate pe securitate în domeniul AI generativ.”
Fujitsu va include aceste noi tehnologii în motorul său de bază AI conversațional furnizat prin „Fujitsu Kozuchi (nume de cod) – Fujitsu AI Platform”, care oferă utilizatorilor acces la o gamă largă de tehnologii puternice AI și ML. Tehnologia de detectare a halucinațiilor în IA conversațională va fi disponibilă utilizatorilor din Japonia începând cu 28 septembrie 2023, iar tehnologia de detectare a adreselor URL ale site-urilor de phishing în răspunsurile AI conversaționale, începând cu octombrie 2023. Noile tehnologii vor fi disponibile atât pentru utilizatorii corporativi ca și mediu demo prin Kozuchi și utilizatorilor individuali printr-un site portal dedicat (2). Fujitsu plănuiește o lansare a ambelor tehnologii pe piața globală în viitor.
Atunci când aplică IA conversațională în operațiunile de afaceri, companiile folosesc adesea tehnologia pentru a extrage informații legate de întrebări din datele comerciale pre-înregistrate și pentru a adăuga datele ca informații de referință atunci când pun întrebări unui AI conversațional extern. În timp ce această metodă oferă răspunsuri precise și reduce halucinațiile, prevenirea completă a halucinațiilor reprezintă o problemă continuă, deoarece AI conversațional, în unele cazuri, nu poate extrage corect informații legate de întrebări și, în consecință, creează răspunsuri incorecte, fără legătură. Deși metodele de estimare a gradului în care răspunsul unui IA ar putea fi o halucinație (scor de halucinație), estimarea precisă a acestui scor rămâne o sarcină dificilă, deoarece IA conversațională folosește diferite expresii diferite pentru a exprima același fapt.
Pe baza observației că IA conversațională generează frecvent informații incorecte pentru substantive și numere proprii, iar conținutul răspunsurilor tinde să difere cu întrebările repetate, Fujitsu a dezvoltat o tehnologie pentru a identifica și a se concentra asupra părților de propoziție în care este posibil să apară halucinații.
Pentru a calcula un scor de halucinație foarte precis, noua tehnologie descompune mai întâi răspunsul AI în trei părți (subiect, predicat, obiect etc.) și apoi identifică automat entitățile numite în răspuns. Ca un pas următor, tehnologia lasă aceste entități numite necompletate și solicită în mod repetat AI extern să definească mai precis aceste expresii specifice. (Figura 2)
Fujitsu a evaluat această tehnologie folosind date deschise, inclusiv setul de date WikiBio GPT-3 Hallucination Dataset (3) și a constatat că ar putea îmbunătăți acuratețea detectării (AUC-ROC) (4) cu aproximativ 22% în comparație cu alte metode de ultimă generație pentru detectarea halucinațiilor AI, cum ar fi SelfCheckGPT (5).
Pe măsură ce IA conversațională creează răspunsuri pe baza datelor sale de antrenament, entitățile ostile pot păcăli AI să creeze răspunsuri care includ informații manipulate, cum ar fi adrese URL de phishing care duc la site-uri web false prin implantarea de informații rău intenționate în datele de antrenament AI.
Pentru a rezolva această problemă, Fujitsu a dezvoltat o tehnologie de detectare a adreselor URL manipulate în răspunsurile AI conversaționale. Odată ce tehnologia identifică o adresă URL de phishing, emite un mesaj de avertizare pentru utilizatori.
Noua tehnologie Fujitsu nu numai că detectează adresele URL de phishing, dar mărește și rezistența AI la atacurile existente care păcălesc modelele AI să facă o evaluare greșită deliberată pentru a asigura răspunsuri extrem de fiabile din partea AI. Tehnologia nou dezvoltată folosește o tehnică dezvoltată în comun de Fujitsu și Universitatea Ben-Gurion din Negev la laboratorul de cercetare Fujitsu Small Research stabilit la Universitatea Ben-Gurion. Tehnologia valorifică tendința ca entitățile ostile să atace adesea un singur tip de model AI și detectează date rău intenționate prin procesarea informațiilor cu diferite modele AI diferite și evaluând diferența de rațiune pentru rezultatul judecății.
Tehnologia nu poate fi folosită doar pentru detectarea adreselor URL de phishing, ci și pentru a preveni atacurile generale pentru a înșela modelele AI care folosesc date tabulare și, astfel, poate fi folosită și pentru a evita atacurile asupra altor servicii.
[1] Fujitsu Small Research Lab:Inițiativă prin care cercetătorii Fujitsu sunt încorporați în incubatoarele tehnologice din universitățile din Japonia și la nivel internațional pentru a efectua cercetări în comun cu unele dintre mințile de vârf din domeniile lor, inclusiv profesori, precum și următoarea generație de cercetători.
[2] Utilizatorii individuali pot încerca, de asemenea, API-urile și aplicațiile web avansate Fujitsu creând un cont pe portalul de cercetare Fujitsu. (Fujitsu Research Portal: site-ul portal care este deschis publicului din iunie 2023 pentru a oferi utilizatorilor înregistrați acces la versiunile de încercare ale tehnologiilor avansate Fujitsu. Fujitsu oferă tehnologii avansate utilizatorilor corporativi prin „Fujitsu Kozuchi (nume de cod) – Fujitsu AI Platform” și utilizatorilor individuali prin intermediul acestui portal.)
[3] Setul de date WikiBio GPT-3 pentru halucinații:Date de referință bazate pe Wikipedia pentru detectarea halucinațiilor
[4] AUC-ROC (Aria de sub curba curbei caracteristice de funcționare a receptorului):Aria de sub curba curbei obținute atunci când valoarea de prag a judecății este modificată în raport cu scorul de anomalie prin plasarea ratei pozitive adevărate pe axa verticală și rata pozitivă fals pe axa orizontală. Un scor de anomalie aleatoare este 0.5, iar un răspuns perfect este 1.0. În general, se consideră că un anumit nivel de performanță poate fi atins atunci când acesta este mai mare de 0.7.
[5] SelfCheckGPT:O tehnologie de detectare a halucinațiilor dezvoltată la Universitatea din Cambridge, Marea Britanie
Angajamentul Fujitsu față de obiectivele de dezvoltare durabilă (ODD)
Obiectivele de dezvoltare durabilă (ODD) adoptate de Națiunile Unite în 2015 reprezintă un set de obiective comune care trebuie atinse la nivel mondial până în 2030. Scopul Fujitsu – „de a face lumea mai sustenabilă prin construirea încrederii în societate prin inovare” – este o promisiune de a contribuie la viziunea unui viitor mai bun, împuternicit de ODD.
Despre Fujitsu
Scopul Fujitsu este de a face lumea mai sustenabilă prin construirea încrederii în societate prin inovare. În calitate de partener de transformare digitală ales pentru clienții din peste 100 de țări, cei 124,000 de angajați ai noștri lucrează pentru a rezolva unele dintre cele mai mari provocări cu care se confruntă omenirea. Gama noastră de servicii și soluții se bazează pe cinci tehnologii cheie: Computing, Networks, AI, Data & Security și Converging Technologies, pe care le aducem împreună pentru a oferi transformarea sustenabilității. Fujitsu Limited (TSE:6702) a raportat venituri consolidate de 3.7 trilioane de yeni (28 miliarde USD) pentru anul fiscal încheiat la 31 martie 2023 și rămâne cea mai mare companie de servicii digitale din Japonia după cota de piață. Află mai multe: www.fujitsu.com.
Contacte de presă:
Fujitsu Limited
Divizia Relații Publice și Investitori
Întrebări (https://bit.ly/3rrQ4mB)
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://www.jcnnewswire.com/pressrelease/86719/3/
- :are
- :este
- :nu
- :Unde
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- acces
- în consecință
- Cont
- precizie
- precis
- precis
- realizat
- peste
- curent
- adăuga
- adresa
- adoptată
- avansat
- progresele
- contradictorialității
- împotriva
- înainte
- AI
- Modele AI
- Platforma AI
- Sisteme AI
- Instruire AI
- Urmarind
- isi propune
- de asemenea
- Cu toate ca
- an
- și
- a anunțat
- răspunde
- API-uri
- aplicatii
- Aplicarea
- aproximativ
- SUNT
- ZONĂ
- AS
- solicitând
- At
- ataca
- Atacuri
- în mod automat
- disponibil
- evita
- Axă
- bazat
- BE
- fost
- ben
- Ben Guron
- Universitatea Ben-Gurion
- comparativ
- Mai bine
- Miliard
- atât
- pauze
- descoperire
- aduce
- Clădire
- afaceri
- întreprinderi
- dar
- by
- calcula
- Cambridge
- CAN
- cazuri
- sigur
- provocări
- si-a schimbat hainele;
- caracteristică
- alegere
- cod
- colabora
- comentarii
- angajament
- Comun
- companie
- comparație
- Completă
- tehnica de calcul
- Conduce
- luate în considerare
- contacte
- conținut
- a contribui
- contribuind
- convergente
- Tehnologii convergente
- de conversaţie
- AI de conversație
- Nucleu
- Istoria
- ar putea
- țări
- creează
- Crearea
- critic
- curba
- clienţii care
- de date
- dedicat
- Apărare
- defini
- Grad
- livra
- Demo
- detecta
- Detectare
- dezvoltat
- Dezvoltare
- diferi
- diferenţă
- diferit
- dificil
- digital
- servicii digitale
- companie de servicii digitale
- Transformarea digitală
- diviziune
- domeniu
- jos
- a desena
- încorporat
- apare
- de angajați
- împuternicit
- încheiat
- Motor
- spori
- asigura
- entități
- Mediu inconjurator
- stabilit
- stabilirea
- estima
- etc
- evalua
- evaluarea
- existent
- expres
- expresii
- extern
- extrage
- cu care se confruntă
- fapt
- fals
- fals
- Domenii
- Figura
- filtrare
- Găsi
- First
- Fiscal
- cinci
- Concentra
- se concentrează
- Pentru
- Forjare
- găsit
- frecvent
- din
- Fujitsu
- viitor
- General
- în general
- generează
- generaţie
- generativ
- AI generativă
- Caritate
- piata globala
- Goluri
- cea mai mare
- Avea
- superior
- extrem de
- Orizontală
- HTTPS
- Umanitate
- identifică
- identifica
- imagine
- punerea în aplicare a
- îmbunătăţi
- in
- include
- Inclusiv
- Creșteri
- Incubatoare
- individ
- informații
- injecta
- Inovaţie
- inovatoare
- pe plan internațional
- în
- investitor
- Divizia Relații cu Investitorii
- problema
- probleme de
- IT
- ESTE
- Japonia
- comun
- jpg
- iunie
- Cheie
- de laborator
- lansa
- lansează
- conduce
- conducere
- Nivel
- pîrghii
- Probabil
- Limitat
- face
- Efectuarea
- manipulat
- Martie
- Piață
- cotă de piață
- mecanism
- mesaj
- metodă
- Metode
- ar putea
- mințile
- ML
- model
- Modele
- mai mult
- în mişcare
- nume
- Numit
- Națiuni
- rețele
- Nou
- Noi tehnologii
- recent
- Newswire
- următor
- substantive
- roman
- numere
- obiect
- obținut
- octombrie
- of
- promoții
- de multe ori
- on
- dată
- în curs de desfășurare
- afară
- deschide
- de date deschise
- de operare
- Operațiuni
- or
- Altele
- al nostru
- afară
- producție
- peste
- Prezentare generală
- partener
- piese
- Perfect
- performanță
- fenomen
- Phishing
- Expresii
- pionier
- pivot
- plasare
- Planurile
- platformă
- Plato
- Informații despre date Platon
- PlatoData
- Portal
- pozitiv
- puternic
- împiedica
- Prevenirea
- prelucrare
- promisiune
- adecvat
- proteja
- furniza
- prevăzut
- furnizează
- public
- scop
- Întrebări
- aleator
- gamă
- rată
- Argumentare
- tărâm
- reduce
- înregistrată
- legate de
- relaţii
- încredere
- de încredere
- rămășițe
- repetat
- REPETAT
- răspuns
- Raportat
- reprezenta
- reprezintă
- cercetare
- cercetători
- elastic
- Rezistență
- respect
- răspunsuri
- rezultat
- rezultând
- venituri
- acelaşi
- scor
- SDG
- sigur
- securitate
- Șapte
- Septembrie
- Servicii
- companie de servicii
- set
- Distribuie
- întrucât
- singur
- teren
- mic
- Societate
- soluţii
- unele
- specific
- Standuri
- Pornire
- de ultimă oră
- Pas
- subiect
- astfel de
- Durabilitate
- durabilă
- Dezvoltare Durabilă
- sisteme
- Sarcină
- Tehnologii
- Tehnologia
- decât
- acea
- Viitorul
- lumea
- lor
- apoi
- Acestea
- acest
- amenințări
- trei
- prag
- Prin
- Prin urmare
- la
- astăzi
- împreună
- instrument
- top
- Pregătire
- Transformare
- partener de transformare
- proces
- Trilion
- adevărat
- Încredere
- de încredere
- demn de încredere
- încerca
- TSE:6702
- Două
- tip
- în cele din urmă
- incapabil
- în
- Unit
- Națiunile Unite
- Universități
- universitate
- Universitatea Cambridge
- URL-ul
- utilizare
- utilizat
- utilizatorii
- utilizări
- folosind
- valoare
- diverse
- Versiunile
- vertical
- de
- viziune
- de avertizare
- we
- web
- aplicații web
- site-uri web
- BINE
- cand
- care
- în timp ce
- larg
- Gamă largă
- Wikipedia
- voi
- cu
- în
- Apartamente
- lume
- la nivel internațional.
- an
- Yen
- zephyrnet