TOKYO, 26. september 2023 – (JCN Newswire) – Fujitsu annoncerede i dag lanceringen af to nye AI-tillidsteknologier for at forbedre pålideligheden af svarene fra konversations-AI-modeller. De nyudviklede teknologier omfatter en teknik til at detektere hallucinationer i konversations-AI-modeller - et fænomen, hvor generativ AI skaber forkert eller ikke-relateret output - og en teknik udviklet i fællesskab på dets lille forskningslaboratorium (1) ved Ben Gurion University for at opdage phishing-webadresser, der er implanteret i svarene fra AI gennem forgiftningsangreb, der injicerer falsk information.
Med de nye teknologier sigter Fujitsu mod at give virksomheder og individuelle brugere et værktøj til at evaluere pålideligheden af svar fra konversations-AI, hvilket i sidste ende bidrager til en mere sikker brug af AI på tværs af en række brugssager, herunder for virksomheder, der sigter på at implementere teknologien i faktiske operationer.
Professor Yuval Elovici, Ben Gurion University, kommenterer: "Generativ AI står som et kritisk domæne, og inden for det fremstår hallucinationsdetektionsteknologien, som Fujitsu har udviklet, som afgørende for etablering af pålidelige samtale-AI-systemer. Forskere fra Ben-Gurion University (BGU) og Fujitsu har været banebrydende for en innovativ teknik til at forbedre sikkerheden ved AI-baseret URL-filtrering mod modstridende trusler. Vores gennembrud fokuserer på tabeldata, hvilket resulterer i en mere modstandsdygtig forsvarsmekanisme mod modstridende angreb inden for AI-drevet URL-filtrering. Fremover er Fujitsu og Ben-Gurion University klar til at samarbejde om at skabe nye sikkerhedscentrerede fremskridt inden for generativ AI."
Fujitsu vil inkludere disse nye teknologier i sin samtale-AI-kernemotor, der leveres gennem "Fujitsu Kozuchi (kodenavn) - Fujitsu AI Platform", som giver brugerne adgang til en bred vifte af kraftfulde AI- og ML-teknologier. Teknologien til at detektere hallucinationer i konversations-AI vil være tilgængelig for brugere i Japan fra den 28. september 2023, og teknologien til at detektere phishing-websteders webadresser som svar på samtale-AI fra oktober 2023. De nye teknologier vil både være tilgængelige for virksomhedsbrugere som en demomiljø via Kozuchi og til individuelle brugere via et dedikeret portalwebsted (2). Fujitsu planlægger en udrulning af begge teknologier til det globale marked i fremtiden.
Når de anvender konversations-AI i forretningsdrift, bruger virksomheder ofte teknologien til at udtrække information relateret til spørgsmål fra præregistrerede forretningsdata og tilføje dataene som referenceoplysninger, når de stiller spørgsmål til en ekstern samtale-AI. Selvom denne metode giver nøjagtige svar og reducerer hallucinationer, repræsenterer fuldstændig forebyggelse af hallucinationer et løbende problem, da samtale-AI i nogle tilfælde ikke er i stand til korrekt at udtrække information relateret til spørgsmål og derfor skaber urelaterede, forkerte svar. Selvom metoder til at estimere, i hvilken grad svaret fra en AI kan være en hallucination (hallucinationsscore), forbliver nøjagtig estimering af denne score en vanskelig opgave, da samtale-AI bruger forskellige forskellige sætninger til at udtrykke det samme faktum.
Baseret på observationen af, at konversations-AI ofte genererer forkert information for egennavne og tal, og indholdet af svar har en tendens til at variere med gentagne spørgsmål, har Fujitsu udviklet en teknologi til at identificere og fokusere på dele af sætninger, hvor hallucinationer sandsynligvis vil forekomme.
For at beregne en meget nøjagtig hallucinationsscore opdeler den nye teknologi først AI's svar i tre dele (emne, prædikat, objekt osv.) og identificerer derefter automatisk navngivne enheder i svaret. Som et næste trin efterlader teknologien disse navngivne enheder tomme og beder gentagne gange den eksterne AI om at definere disse specifikke udtryk mere præcist. (Figur 2)
Fujitsu benchmarked denne teknologi ved hjælp af åbne data, herunder WikiBio GPT-3 Hallucination Dataset (3) og fandt ud af, at det kunne forbedre detektionsnøjagtigheden (AUC-ROC) (4) med cirka 22 % sammenlignet med andre avancerede metoder til påvisning af AI-hallucinationer, såsom SelfCheckGPT (5).
Da konversations-AI skaber svar baseret på dets træningsdata, kan fjendtlige enheder narre AI til at skabe svar, der inkluderer manipuleret information såsom phishing-URL'er, der fører til falske websteder ved at implantere ondsindet information i AI-træningsdataene.
For at løse dette problem har Fujitsu udviklet en teknologi til at detektere manipulerede URL'er i svarene fra konversations-AI. Når teknologien identificerer en phishing-URL, sender den en advarselsmeddelelse til brugerne.
Fujitsus nye teknologi registrerer ikke kun phishing-URL'er, men øger også AI'ens modstand mod eksisterende angreb, der narrer AI-modeller til at lave en bevidst fejlvurdering for at sikre yderst pålidelige svar fra AI. Den nyudviklede teknologi udnytter en teknik, der er udviklet i fællesskab af Fujitsu og Ben-Gurion University of the Negev ved Fujitsu Small Research Lab etableret ved Ben-Gurion University. Teknologien udnytter tendensen til, at fjendtlige enheder ofte angriber en enkelt type AI-model, og detekterer ondsindede data ved at behandle information med forskellige forskellige AI-modeller og evaluere forskellen i begrundelsen for bedømmelsesresultatet.
Teknologien kan ikke kun bruges til detektering af phishing-URL'er, men også til at forhindre generelle angreb for at snyde AI-modeller, der bruger tabeldata, og kan dermed også bruges til at undgå angreb på andre tjenester.
[1] Fujitsu Small Research Lab:Initiativ, hvor Fujitsu-forskere er indlejret i teknologiinkubatorer på universiteter i Japan og internationalt for at udføre fælles forskning med nogle af de førende hjerner inden for deres områder, herunder professorer såvel som den næste generation af forskere.
[2] Individuelle brugere kan også prøve Fujitsus avancerede API'er og webapplikationer ved at oprette en konto på Fujitsu Research Portal. (Fujitsu Research Portal: portalside, der har været åben for offentligheden siden juni 2023 for at give registrerede brugere adgang til prøveversioner af Fujitsus avancerede teknologier. Fujitsu tilbyder avancerede teknologier til virksomhedsbrugere via "Fujitsu Kozuchi (kodenavn) – Fujitsu AI Platform" og til individuelle brugere via denne portalside.)
[3] WikiBio GPT-3 Hallucinationsdatasæt:Benchmark-data baseret på Wikipedia til hallucinationsdetektion
[4] AUC-ROC (areal under kurven for modtagerens driftskarakteristik):Arealet under kurvens kurve opnået, når tærskelværdien for bedømmelsen ændres i forhold til abnormitetsscoren ved at placere den sande positive rate på den vertikale akse og den falske positive rate på den vandrette akse. En tilfældig anomali score er 0.5, og et perfekt svar er 1.0. Det anses generelt for, at et vist niveau af ydeevne kan opnås, når det er højere end 0.7.
[5] SelfCheckGPT:En hallucinationsdetektionsteknologi udviklet ved University of Cambridge, Storbritannien
Fujitsus forpligtelse til målene for bæredygtig udvikling (SDG'er)
De bæredygtige udviklingsmål (SDG'er), som blev vedtaget af FN i 2015, repræsenterer et sæt fælles mål, der skal nås på verdensplan inden 2030. Fujitsus formål - "at gøre verden mere bæredygtig ved at opbygge tillid til samfundet gennem innovation" - er et løfte om at bidrage til visionen om en bedre fremtid styrket af SDG'erne.
Om Fujitsu
Fujitsus formål er at gøre verden mere bæredygtig ved at skabe tillid til samfundet gennem innovation. Som den foretrukne digitale transformationspartner for kunder i over 100 lande, arbejder vores 124,000 medarbejdere på at løse nogle af de største udfordringer, som menneskeheden står over for. Vores udvalg af tjenester og løsninger trækker på fem nøgleteknologier: Computing, Networks, AI, Data & Security og Converging Technologies, som vi samler for at levere bæredygtighedstransformation. Fujitsu Limited (TSE:6702) rapporterede en konsolideret omsætning på 3.7 billioner yen (28 milliarder USD) for regnskabsåret, der sluttede 31. marts 2023, og er fortsat den bedste digitale servicevirksomhed i Japan efter markedsandel. Find ud af mere: www.fujitsu.com.
Tryk på Kontakter:
Fujitsu Limited
Public and Investor Relations Division
Forespørgsler (https://bit.ly/3rrQ4mB)
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://www.jcnnewswire.com/pressrelease/86719/3/
- :har
- :er
- :ikke
- :hvor
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26 %
- 28
- 31
- 7
- a
- adgang
- derfor
- Konto
- nøjagtighed
- præcis
- præcist
- opnået
- tværs
- faktiske
- tilføje
- adresse
- vedtaget
- fremskreden
- fremskridt
- kontradiktorisk
- mod
- forude
- AI
- AI modeller
- AI platform
- AI-systemer
- AI -træning
- sigter
- målsætninger
- også
- Skønt
- an
- ,
- annoncerede
- besvare
- API'er
- applikationer
- Anvendelse
- cirka
- ER
- OMRÅDE
- AS
- spørge
- At
- angribe
- Angreb
- automatisk
- til rådighed
- undgå
- Axis
- baseret
- BE
- været
- ben
- Ben Guron
- Ben-Gurion Universitet
- benchmarkes
- Bedre
- Billion
- både
- pauser
- gennembrud
- bringe
- Bygning
- virksomhed
- virksomheder
- men
- by
- beregne
- Cambridge
- CAN
- tilfælde
- vis
- udfordringer
- ændret
- karakteristisk
- valg
- kode
- samarbejde
- kommentarer
- engagement
- Fælles
- selskab
- sammenlignet
- fuldføre
- computing
- Adfærd
- betragtes
- kontakter
- indhold
- bidrage
- bidrager
- konvergerende
- Konvergerende teknologier
- konversation
- samtale AI
- Core
- Corporate
- kunne
- lande
- skaber
- Oprettelse af
- kritisk
- skøger
- Kunder
- data
- dedikeret
- Forsvar
- definere
- Degree
- levere
- demo
- opdage
- Detektion
- udviklet
- Udvikling
- afvige
- forskel
- forskellige
- svært
- digital
- digitale tjenester
- digital servicevirksomhed
- Digital Transformation
- Afdeling
- domæne
- ned
- tegne
- indlejret
- fremgår
- medarbejdere
- bemyndiget
- sluttede
- Engine (Motor)
- forbedre
- sikre
- enheder
- Miljø
- etableret
- oprettelse
- skøn
- etc.
- evaluere
- evaluere
- eksisterende
- Express
- udtryk
- ekstern
- ekstrakt
- vender
- Faktisk
- falsk
- falsk
- Fields
- Figur
- filtrering
- Finde
- Fornavn
- Fiscal
- fem
- Fokus
- fokuserer
- Til
- Smedning
- fundet
- hyppigt
- fra
- Fujitsu
- fremtiden
- Generelt
- generelt
- genererer
- generation
- generative
- Generativ AI
- Global
- globale marked
- Mål
- størst
- Have
- højere
- stærkt
- Vandret
- HTTPS
- Menneskelighed
- identificerer
- identificere
- billede
- gennemføre
- Forbedre
- in
- omfatter
- Herunder
- Stigninger
- Inkubatorer
- individuel
- oplysninger
- injicerbar
- Innovation
- innovativ
- internationalt
- ind
- investor
- Investor Relations Division
- spørgsmål
- spørgsmål
- IT
- ITS
- Japan
- fælles
- jpg
- juni
- Nøgle
- lab
- lancere
- lanceringer
- føre
- førende
- Niveau
- Udnytter
- Sandsynlig
- Limited
- lave
- Making
- manipuleret
- Marts
- Marked
- markedsandel
- mekanisme
- besked
- metode
- metoder
- måske
- sind
- ML
- model
- modeller
- mere
- flytning
- navn
- Som hedder
- nationer
- net
- Ny
- Nye teknologier
- nyligt
- Newswire
- næste
- substantiver
- roman
- numre
- objekt
- opnået
- oktober
- of
- Tilbud
- tit
- on
- engang
- igangværende
- kun
- åbent
- åbne data
- drift
- Produktion
- or
- Andet
- vores
- ud
- output
- i løbet af
- oversigt
- partner
- dele
- perfekt
- ydeevne
- fænomen
- Phishing
- sætninger
- banebrydende
- afgørende
- anbringelse
- planer
- perron
- plato
- Platon Data Intelligence
- PlatoData
- Portal
- positiv
- vigtigste
- forhindre
- Forebyggelse
- forarbejdning
- løfte
- passende
- beskytte
- give
- forudsat
- giver
- offentlige
- formål
- Spørgsmål
- tilfældig
- rækkevidde
- Sats
- rationale
- rige
- reducerer
- registreret
- relaterede
- relationer
- pålidelighed
- pålidelig
- resterne
- gentaget
- GENTAGNE GANGE
- svar
- rapporteret
- repræsentere
- repræsenterer
- forskning
- forskere
- elastisk
- Modstand
- respekt
- reaktioner
- resultere
- resulterer
- indtægter
- samme
- score
- SDGs
- sikker
- sikkerhed
- syv
- september
- Tjenester
- servicevirksomhed
- sæt
- Del
- siden
- enkelt
- websted
- lille
- Samfund
- Løsninger
- nogle
- specifikke
- står
- Starter
- state-of-the-art
- Trin
- emne
- sådan
- Bæredygtighed
- bæredygtig
- Bæredygtig udvikling
- Systemer
- Opgaver
- Teknologier
- Teknologier
- end
- at
- Fremtiden
- verdenen
- deres
- derefter
- Disse
- denne
- trusler
- tre
- tærskel
- Gennem
- Dermed
- til
- i dag
- sammen
- værktøj
- top
- Kurser
- Transformation
- transformationspartner
- retssag
- trillion
- sand
- Stol
- betroet
- troværdig
- prøv
- TSE:6702
- to
- typen
- Ultimativt
- ude af stand
- under
- Forenet
- Forenede Nationer
- Universiteter
- universitet
- University of Cambridge
- URL
- brug
- anvendte
- brugere
- bruger
- ved brug af
- værdi
- forskellige
- versioner
- lodret
- via
- vision
- advarsel
- we
- web
- webapplikationer
- websites
- GODT
- hvornår
- som
- mens
- bred
- Bred rækkevidde
- Wikipedia
- vilje
- med
- inden for
- Arbejde
- world
- verdensplan
- år
- Yen
- zephyrnet