TOKIÓ, 26. szeptember 2023. – (JCN Newswire) – A Fujitsu ma bejelentette két új mesterséges intelligencia megbízható technológia bevezetését a párbeszédes AI-modellek válaszainak megbízhatóságának javítására. Az újonnan kifejlesztett technológiák magukban foglalják a társalgási AI-modellek hallucinációinak kimutatására szolgáló technikát – egy olyan jelenséget, amelyben a generatív MI hibás vagy nem kapcsolódó kimenetet hoz létre –, valamint egy technikát, amelyet a kis kutatólaboratóriumában közösen fejlesztettek ki.1) a Ben Gurion Egyetemen, hogy észlelje az AI válaszaiba beültetett adathalász webhelyek URL-címeit, hamis információkat injektáló mérgező támadások révén.
Az új technológiákkal a Fujitsu arra törekszik, hogy a vállalati és egyéni felhasználók számára eszközt biztosítson a társalgási mesterséges intelligencia válaszainak megbízhatóságának értékelésére, végső soron hozzájárulva a mesterséges intelligencia biztonságosabb használatához számos felhasználási esetben, beleértve a technológiát bevezetni kívánó vállalkozásokat is. tényleges műveletek.
Yuval Elovici, a Ben Gurion Egyetem professzora megjegyzi: „A generatív mesterséges intelligencia kritikus terület, és ezen belül a Fujitsu által kifejlesztett hallucináció-észlelési technológia kulcsfontosságú szerepet tölt be a megbízható társalgási AI-rendszerek létrehozásában. A Ben-Gurion Egyetem (BGU) és a Fujitsu kutatói úttörőként vezettek be egy innovatív technikát az AI-alapú URL-szűrés biztonságának fokozására az ellenséges fenyegetésekkel szemben. Áttörésünk a táblázatos adatokra összpontosít, ami egy ellenállóbb védelmi mechanizmust eredményezett az ellenséges támadásokkal szemben az AI-vezérelt URL-szűrés területén. Tovább haladva a Fujitsu és a Ben-Gurion Egyetem együttműködésre készül, hogy új, biztonságközpontú fejlesztéseket kovácsoljon a Generatív AI területén.
A Fujitsu ezeket az új technológiákat beépíti a „Fujitsu Kozuchi (kódnév) – Fujitsu AI Platform”-on keresztül biztosított párbeszédes AI-magmotorjába, amely a hatékony AI és ML technológiák széles skálájához kínál hozzáférést a felhasználóknak. A társalgási mesterséges intelligencia hallucinációinak észlelésére szolgáló technológia 28. szeptember 2023-tól válik elérhetővé a japán felhasználók számára, az adathalász webhelyek URL-címeinek a társalgási mesterséges intelligencia válaszaiban való észlelésére alkalmas technológia pedig 2023 októberétől. Az új technológiák a vállalati felhasználók számára is elérhetők lesznek. demókörnyezet a Kozuchi-n keresztül, az egyéni felhasználók pedig egy dedikált portálon keresztül (2). A Fujitsu azt tervezi, hogy a jövőben mindkét technológiát bevezeti a globális piacra.
Amikor a társalgási MI-t alkalmazzák az üzleti tevékenységekben, a vállalkozások gyakran használják a technológiát a kérdésekkel kapcsolatos információk kinyerésére az előre regisztrált üzleti adatokból, és az adatokat referenciainformációként adják hozzá, amikor kérdéseket tesznek fel egy külső párbeszédes MI-nek. Míg ez a módszer pontos válaszokat ad és csökkenti a hallucinációkat, a hallucinációk teljes megelőzése folyamatos probléma, mivel a társalgási mesterséges intelligencia bizonyos esetekben nem képes helyesen kinyerni a kérdésekhez kapcsolódó információkat, és ennek megfelelően nem kapcsolódó, helytelen válaszokat hoz létre. Bár a módszerek annak becslésére, hogy egy mesterséges intelligencia válasza milyen mértékben lehet hallucináció (hallucinációs pontszám), ennek a pontszámnak a pontos becslése továbbra is nehéz feladat, mivel a társalgási MI különböző kifejezéseket használ ugyanazon tény kifejezésére.
Arra a megfigyelésre alapozva, hogy a társalgási mesterséges intelligencia gyakran hibás információkat generál a tulajdonnevekre és számokra vonatkozóan, és a válaszok tartalma az ismétlődő kérdések esetén általában eltérő, a Fujitsu kifejlesztett egy technológiát a mondatok azon részei azonosítására és összpontosítására, amelyekben valószínűleg hallucinációk fordulnak elő.
A rendkívül pontos hallucinációs pontszám kiszámításához az új technológia először három részre bontja az AI válaszát (alany, predikátum, objektum stb.), majd automatikusan azonosítja a megnevezett entitásokat a válaszban. Következő lépésként a technológia üresen hagyja ezeket a megnevezett entitásokat, és többször megkéri a külső AI-t, hogy pontosabban határozza meg ezeket a konkrét kifejezéseket. (2. ábra)
A Fujitsu ezt a technológiát nyílt adatok, többek között a WikiBio GPT-3 hallucinációs adatkészlet segítségével benchmarkolta (3), és megállapította, hogy javíthatja az észlelés pontosságát (AUC-ROC) (4) körülbelül 22%-kal az AI-hallucinációk kimutatására szolgáló egyéb korszerű módszerekhez képest, mint például a SelfCheckGPT (5).
Mivel a társalgási MI a betanítási adatai alapján hoz létre válaszokat, az ellenséges entitások rávehetik az MI-t, hogy olyan manipulált információkat tartalmazó válaszokat hozzanak létre, mint például az adathalász URL-ek, amelyek hamis webhelyekre vezetnek, rosszindulatú információkat ültetve be az AI betanítási adataiba.
A probléma megoldására a Fujitsu kifejlesztett egy olyan technológiát, amely képes észlelni a manipulált URL-eket a párbeszédes AI válaszaiban. Amint a technológia azonosít egy adathalász URL-t, figyelmeztető üzenetet küld a felhasználóknak.
A Fujitsu új technológiája nemcsak az adathalász URL-eket észleli, hanem növeli a mesterséges intelligencia ellenálló képességét a meglévő támadásokkal szemben, amelyek az AI modelleket szándékos tévedésbe csalják, így biztosítva az AI rendkívül megbízható válaszait. Az újonnan kifejlesztett technológia a Fujitsu és a Ben-Gurion University of the Negev által közösen kifejlesztett technikát alkalmazza a Ben-Gurion Egyetemen létrehozott Fujitsu Small Research Labban. A technológia kihasználja azt a tendenciát, hogy az ellenséges entitások gyakran egyetlen típusú mesterséges intelligencia-modellt támadnak meg, és a rosszindulatú adatokat azáltal észlelik, hogy különböző mesterséges intelligencia-modellekkel dolgozzák fel az információkat, és értékelik az ítélet eredményének indokai közötti különbséget.
A technológia nemcsak adathalász URL-ek észlelésére használható, hanem a táblázatos adatokat használó mesterséges intelligencia modellek megtévesztésére irányuló általános támadások megelőzésére is, így más szolgáltatások elleni támadások elkerülésére is.
[1] Fujitsu Small Research Lab:Kezdeményezés, amelyben a Fujitsu kutatói a japán és nemzetközi egyetemek technológiai inkubátoraiba ágyazódnak be, hogy közös kutatásokat végezzenek szakterületük vezető elméjeivel, beleértve a professzorokat és a kutatók következő generációját.
[2] Egyéni felhasználók is kipróbálhatják a Fujitsu fejlett API-jait és webes alkalmazásait, ha létrehoznak egy fiókot a Fujitsu kutatási portálon. (Fujitsu Research Portal: 2023 júniusa óta nyilvános portál, amely a regisztrált felhasználók számára hozzáférést biztosít a Fujitsu fejlett technológiáinak próbaverzióihoz. A Fujitsu fejlett technológiákat kínál vállalati felhasználóknak a „Fujitsu Kozuchi (kódnév) – Fujitsu AI Platform” segítségével. és egyéni felhasználóknak ezen a portálon keresztül.)
[3] WikiBio GPT-3 hallucinációs adatkészlet:A Wikipédián alapuló referenciaadatok a hallucinációk kimutatására
[4] AUC-ROC (a vevő működési jellemzői görbéje alatti terület):A görbe görbe alatti területe, amelyet akkor kapunk, ha az ítélet küszöbértékét megváltoztatjuk az abnormalitási pontszámhoz képest úgy, hogy a valódi pozitív arányt a függőleges tengelyre, a hamis pozitív arányt a vízszintes tengelyre helyezzük. A véletlen anomália pontszáma 0.5, a tökéletes válasz pedig 1.0. Általában úgy tartják, hogy egy bizonyos teljesítményszint akkor érhető el, ha az meghaladja a 0.7-et.
[5] SelfCheckGPT:A Cambridge-i Egyetemen (Egyesült Királyság) kifejlesztett hallucináció-észlelő technológia
A Fujitsu elkötelezettsége a fenntartható fejlődési célok (SDG) iránt
Az Egyesült Nemzetek Szervezete által 2015-ben elfogadott Fenntartható Fejlődési Célok (SDG-k) olyan közös célokat képviselnek, amelyeket világszerte 2030-ig el kell érni. A Fujitsu célja – „a világ fenntarthatóbbá tétele a társadalomba vetett bizalom innováció révén történő kiépítésével” – ígéret hozzájárulnak a fenntartható fejlesztési célok által felhatalmazott jobb jövő víziójához.
A Fujitsu-ról
A Fujitsu célja, hogy fenntarthatóbbá tegye a világot azáltal, hogy innováción keresztül bizalmat épít a társadalomba. Több mint 100 ország ügyfelei számára választott digitális transzformációs partnerként 124,000 6702 alkalmazottunk azon dolgozik, hogy megoldja az emberiség előtt álló legnagyobb kihívásokat. Szolgáltatásaink és megoldásaink öt kulcsfontosságú technológiára épülnek: számítástechnikára, hálózatokra, mesterséges intelligenciára, adat- és biztonságtechnikára és konvergáló technológiákra, amelyeket a fenntarthatóság átalakítása érdekében egyesítünk. A Fujitsu Limited (TSE:3.7) 28 billió jen (31 milliárd USD) konszolidált bevételről számolt be a 2023. március XNUMX-én végződő pénzügyi évben, és piaci részesedését tekintve továbbra is a vezető digitális szolgáltató vállalat Japánban. Tudjon meg többet: www.fujitsu.com.
Sajtókapcsolatok:
Fujitsu Limited
Köz- és Befektetői Kapcsolatok Osztály
Érdeklődés (https://bit.ly/3rrQ4mB)
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://www.jcnnewswire.com/pressrelease/86719/3/
- :van
- :is
- :nem
- :ahol
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- hozzáférés
- Eszerint
- Fiók
- pontosság
- pontos
- pontosan
- elért
- át
- tényleges
- hozzá
- cím
- fogadott
- fejlett
- fejlesztések
- ellenséges
- ellen
- előre
- AI
- AI modellek
- AI platform
- AI rendszerek
- AI képzés
- Célzás
- célok
- Is
- Bár
- an
- és a
- bejelentés
- válasz
- API-k
- alkalmazások
- Alkalmazása
- körülbelül
- VANNAK
- TERÜLET
- AS
- kér
- At
- támadás
- Támadások
- automatikusan
- elérhető
- elkerülése érdekében
- Tengely
- alapján
- BE
- óta
- am
- Ben-Gurion
- Ben-Gurion Egyetem
- összehasonlított
- Jobb
- Billió
- mindkét
- szünetek
- áttörés
- hoz
- Épület
- üzleti
- vállalkozások
- de
- by
- számít
- Cambridge
- TUD
- esetek
- bizonyos
- kihívások
- megváltozott
- jellegzetes
- választás
- kód
- együttműködik
- Hozzászólások
- elkötelezettség
- Közös
- vállalat
- képest
- teljes
- számítástechnika
- Magatartás
- figyelembe vett
- Kapcsolatok
- tartalom
- contribuer
- hozzájáruló
- összetartó
- Konvergáló technológiák
- társalgó
- társalgási AI
- Mag
- Társasági
- tudott
- országok
- teremt
- létrehozása
- kritikai
- görbe
- Ügyfelek
- dátum
- elszánt
- Védelem
- meghatározott
- Fok
- szállít
- demó
- kimutatására
- Érzékelés
- fejlett
- Fejlesztés
- különbözik
- különbség
- különböző
- nehéz
- digitális
- digitális szolgáltatások
- digitális szolgáltató cég
- digitális átalakítás
- osztály
- domain
- le-
- húz
- beágyazott
- kiemelkedik
- alkalmazottak
- felhatalmazott
- véget ért
- Motor
- növelése
- biztosítására
- Szervezetek
- Környezet
- megalapozott
- létrehozó
- becslés
- stb.
- értékelni
- értékelő
- létező
- expressz
- kifejezések
- külső
- kivonat
- néző
- tény
- hamisítvány
- hamis
- Fields
- Ábra
- szűrő
- Találjon
- vezetéknév
- Fiscal
- öt
- Összpontosít
- koncentrál
- A
- Kovácsolás
- talált
- gyakran
- ból ből
- Fujitsu
- jövő
- általános
- általában
- generál
- generáció
- nemző
- Generatív AI
- Globális
- világpiac
- Célok
- legnagyobb
- Legyen
- <p></p>
- nagyon
- Vízszintes
- HTTPS
- Emberiség
- azonosítja
- azonosítani
- kép
- végre
- javul
- in
- tartalmaz
- Beleértve
- Növeli
- Inkubátorok
- egyéni
- információ
- injekciót
- Innováció
- újító
- nemzetközileg
- bele
- befektető
- Befektetői Kapcsolatok Osztály
- kérdés
- kérdések
- IT
- ITS
- Japán
- közös
- jpg
- június
- Kulcs
- labor
- indít
- elindítja
- vezet
- vezető
- szint
- kihasználja
- Valószínű
- Korlátozott
- csinál
- Gyártás
- manipulált
- március
- piacára
- piaci részesedés
- mechanizmus
- üzenet
- módszer
- mód
- esetleg
- elmék
- ML
- modell
- modellek
- több
- mozgó
- név
- Nevezett
- Nemzetek
- hálózatok
- Új
- Új technológiák
- újonnan
- Newswire
- következő
- főnevek
- regény
- számok
- tárgy
- kapott
- október
- of
- Ajánlatok
- gyakran
- on
- egyszer
- folyamatban lévő
- csak
- nyitva
- nyílt adatok
- üzemeltetési
- Művelet
- or
- Más
- mi
- ki
- teljesítmény
- felett
- áttekintés
- partner
- alkatrészek
- tökéletes
- teljesítmény
- jelenség
- Adathalászat
- kifejezés
- úttörő
- döntő
- forgalomba
- tervek
- emelvény
- Plató
- Platón adatintelligencia
- PlatoData
- Portál
- pozitív
- erős
- megakadályozása
- Megelőzés
- feldolgozás
- ígéret
- megfelelő
- védelme
- ad
- feltéve,
- biztosít
- nyilvános
- cél
- Kérdések
- véletlen
- hatótávolság
- Arány
- logika
- birodalom
- csökkenti
- nyilvántartott
- összefüggő
- kapcsolatok
- megbízhatóság
- megbízható
- maradványok
- megismételt
- TÖBBSZÖR
- válasz
- Számolt
- képvisel
- jelentése
- kutatás
- kutatók
- rugalmas
- Ellenállás
- tisztelet
- válaszok
- eredményez
- kapott
- bevételek
- azonos
- pontszám
- SDGs
- biztonság
- biztonság
- hét
- szeptember
- Szolgáltatások
- szolgáltató cég
- készlet
- Megosztás
- óta
- egyetlen
- weboldal
- kicsi
- Társadalom
- Megoldások
- néhány
- különleges
- állványok
- Kezdve
- csúcs-
- Lépés
- tárgy
- ilyen
- Fenntarthatóság
- fenntartható
- Fenntartható fejlődés
- Systems
- Feladat
- Technologies
- Technológia
- mint
- hogy
- A
- A jövő
- a világ
- azok
- akkor
- Ezek
- ezt
- fenyegetések
- három
- küszöb
- Keresztül
- Így
- nak nek
- Ma
- együtt
- szerszám
- felső
- Képzések
- Átalakítás
- átalakuló partner
- próba
- Trillió
- igaz
- Bízzon
- Megbízható
- megbízható
- megpróbál
- TSE:6702
- kettő
- típus
- Végül
- képtelen
- alatt
- Egyesült
- Egyesült Nemzetek
- Egyetemek
- egyetemi
- cambridge-i egyetem
- URL
- használ
- használt
- Felhasználók
- használ
- segítségével
- érték
- különféle
- verzió
- függőleges
- keresztül
- látomás
- figyelmeztetés
- we
- háló
- webes alkalmazások
- honlapok
- JÓL
- amikor
- ami
- míg
- széles
- Széleskörű
- Wikipedia
- lesz
- val vel
- belül
- Munka
- világ
- világszerte
- év
- Jen
- zephyrnet