TOKYO, 26 settembre 2023 – (JCN Newswire) – Fujitsu ha annunciato oggi il lancio di due nuove tecnologie di fiducia AI per migliorare l'affidabilità delle risposte dei modelli di AI conversazionale. Le tecnologie di recente sviluppo includono una tecnica per rilevare allucinazioni nei modelli di intelligenza artificiale conversazionale – un fenomeno in cui l’intelligenza artificiale generativa crea output errati o non correlati – e una tecnica sviluppata congiuntamente nel suo piccolo laboratorio di ricerca (1) presso l'Università Ben Gurion per rilevare gli URL dei siti di phishing impiantati nelle risposte dell'intelligenza artificiale attraverso attacchi di avvelenamento che inseriscono informazioni false.
Con le nuove tecnologie, Fujitsu mira a fornire agli utenti aziendali e individuali uno strumento per valutare l'affidabilità delle risposte provenienti dall'intelligenza artificiale conversazionale, contribuendo in definitiva a un uso più sicuro dell'intelligenza artificiale in una vasta gamma di casi d'uso, anche per le aziende che mirano a implementare la tecnologia in operazioni effettive.
Il professor Yuval Elovici, dell’Università Ben Gurion, commenta: “L’intelligenza artificiale generativa rappresenta un ambito critico e, al suo interno, la tecnologia di rilevamento delle allucinazioni sviluppata da Fujitsu emerge come fondamentale per la creazione di sistemi di intelligenza artificiale conversazionale affidabili. I ricercatori della Ben-Gurion University (BGU) e Fujitsu hanno aperto la strada a una tecnica innovativa per migliorare la sicurezza del filtraggio URL basato sull’intelligenza artificiale contro le minacce avversarie. La nostra innovazione si concentra sui dati tabulari, creando un meccanismo di difesa più resiliente contro gli attacchi avversari nel campo del filtraggio URL basato sull’intelligenza artificiale. Andando avanti, Fujitsu e la Ben-Gurion University collaboreranno per creare nuovi progressi incentrati sulla sicurezza nel campo dell’intelligenza artificiale generativa”.
Fujitsu includerà queste nuove tecnologie nel suo motore principale di intelligenza artificiale conversazionale fornito attraverso “Fujitsu Kozuchi (nome in codice) – Fujitsu AI Platform”, che offre agli utenti l’accesso a un’ampia gamma di potenti tecnologie AI e ML. La tecnologia per rilevare le allucinazioni nell'intelligenza artificiale conversazionale sarà disponibile per gli utenti in Giappone a partire dal 28 settembre 2023, mentre la tecnologia per rilevare gli URL dei siti di phishing nelle risposte dell'intelligenza artificiale conversazionale a partire da ottobre 2023. Le nuove tecnologie saranno entrambe disponibili per gli utenti aziendali come ambiente demo tramite Kozuchi e ai singoli utenti tramite un sito portale dedicato (2). Fujitsu prevede in futuro il lancio di entrambe le tecnologie sul mercato globale.
Quando si applica l'intelligenza artificiale conversazionale nelle operazioni aziendali, le aziende spesso utilizzano la tecnologia per estrarre informazioni relative alle domande da dati aziendali preregistrati e aggiungere i dati come informazioni di riferimento quando si pongono domande a un'intelligenza artificiale conversazionale esterna. Sebbene questo metodo fornisca risposte accurate e riduca le allucinazioni, la prevenzione completa delle allucinazioni rappresenta un problema costante poiché l’intelligenza artificiale conversazionale in alcuni casi non è in grado di estrarre correttamente le informazioni relative alle domande e di conseguenza crea risposte errate e non correlate. Nonostante i metodi per stimare il grado in cui la risposta di un'intelligenza artificiale potrebbe essere un'allucinazione (punteggio dell'allucinazione), la stima accurata di questo punteggio rimane un compito difficile poiché l'intelligenza artificiale conversazionale utilizza varie frasi diverse per esprimere lo stesso fatto.
Basandosi sull'osservazione che l'intelligenza artificiale conversazionale genera spesso informazioni errate per nomi e numeri propri e che i contenuti delle risposte tendono a differire con domande ripetute, Fujitsu ha sviluppato una tecnologia per identificare e concentrarsi su parti di frasi in cui è probabile che si verifichino allucinazioni.
Per calcolare un punteggio altamente accurato per le allucinazioni, la nuova tecnologia suddivide innanzitutto la risposta dell'intelligenza artificiale in tre parti (soggetto, predicato, oggetto, ecc.) e quindi identifica automaticamente le entità denominate all'interno della risposta. Come passo successivo, la tecnologia lascia vuote queste entità nominate e chiede ripetutamente all’intelligenza artificiale esterna di definire in modo più accurato queste espressioni specifiche. (Figura 2)
Fujitsu ha confrontato questa tecnologia utilizzando dati aperti, incluso il WikiBio GPT-3 Hallucination Dataset (3) e ha scoperto che potrebbe migliorare la precisione del rilevamento (AUC-ROC) (4) di circa il 22% rispetto ad altri metodi all'avanguardia per il rilevamento delle allucinazioni dell'IA, come SelfCheckGPT (5).
Mentre l’intelligenza artificiale conversazionale crea risposte basate sui suoi dati di addestramento, entità ostili possono ingannare l’intelligenza artificiale nel creare risposte che includono informazioni manipolate come URL di phishing che portano a siti Web falsi impiantando informazioni dannose nei dati di addestramento dell’intelligenza artificiale.
Per risolvere questo problema, Fujitsu ha sviluppato una tecnologia per rilevare URL manipolati nelle risposte dell'intelligenza artificiale conversazionale. Una volta che la tecnologia identifica un URL di phishing, invia un messaggio di avviso agli utenti.
La nuova tecnologia di Fujitsu non solo rileva gli URL di phishing, ma aumenta anche la resistenza dell'intelligenza artificiale contro gli attacchi esistenti che inducono i modelli di intelligenza artificiale a commettere deliberatamente errori di valutazione per garantire risposte altamente affidabili da parte dell'intelligenza artificiale. La tecnologia appena sviluppata sfrutta una tecnica sviluppata congiuntamente da Fujitsu e dall'Università Ben-Gurion del Negev presso il Fujitsu Small Research Lab istituito presso l'Università Ben-Gurion. La tecnologia sfrutta la tendenza secondo cui entità ostili spesso attaccano un singolo tipo di modello di intelligenza artificiale e rileva dati dannosi elaborando le informazioni con vari modelli di intelligenza artificiale diversi e valutando la differenza nella logica alla base del risultato del giudizio.
La tecnologia può essere utilizzata non solo per il rilevamento di URL di phishing, ma anche per prevenire attacchi generali volti a ingannare i modelli di intelligenza artificiale che utilizzano dati tabulari e può quindi essere utilizzata anche per evitare attacchi ad altri servizi.
, Piccolo laboratorio di ricerca Fujitsu:Iniziativa in cui i ricercatori Fujitsu sono integrati negli incubatori tecnologici delle università in Giappone e a livello internazionale per condurre ricerche congiunte con alcune delle menti leader nei loro campi, inclusi professori e la prossima generazione di ricercatori.
, I singoli utenti possono anche provare le API avanzate e le applicazioni web di Fujitsu creando un account sul Fujitsu Research Portal. (Portale di ricerca Fujitsu: sito portale aperto al pubblico da giugno 2023 per fornire agli utenti registrati l'accesso alle versioni di prova delle tecnologie avanzate Fujitsu. Fujitsu offre tecnologie avanzate agli utenti aziendali tramite "Fujitsu Kozuchi (nome in codice) - Fujitsu AI Platform" e ai singoli utenti attraverso questo sito portale.)
, WikiBio GPT-3 Set di dati sulle allucinazioni:Dati di riferimento basati su Wikipedia per il rilevamento delle allucinazioni
, AUC-ROC (area sotto la curva della curva caratteristica operativa del ricevitore):L'area sotto la curva della curva ottenuta quando si modifica il valore soglia del giudizio rispetto al punteggio di anomalia ponendo il tasso di veri positivi sull'asse verticale e il tasso di falsi positivi sull'asse orizzontale. Un punteggio di anomalia casuale è 0.5 e una risposta perfetta è 1.0. Si ritiene generalmente che un certo livello di prestazione possa essere raggiunto quando è superiore a 0.7.
, AutocontrolloGPT:Una tecnologia di rilevamento delle allucinazioni sviluppata presso l'Università di Cambridge, nel Regno Unito
L'impegno di Fujitsu per gli obiettivi di sviluppo sostenibile (SDG)
Gli obiettivi di sviluppo sostenibile (SDGs) adottati dalle Nazioni Unite nel 2015 rappresentano una serie di obiettivi comuni da raggiungere in tutto il mondo entro il 2030. L'obiettivo di Fujitsu - "rendere il mondo più sostenibile costruendo la fiducia nella società attraverso l'innovazione" - è una promessa di contribuire alla visione di un futuro migliore potenziato dagli SDGs.
A proposito di Fujitsu
Lo scopo di Fujitsu è rendere il mondo più sostenibile creando fiducia nella società attraverso l'innovazione. In qualità di partner per la trasformazione digitale preferito dai clienti in oltre 100 paesi, i nostri 124,000 dipendenti lavorano per risolvere alcune delle più grandi sfide che l'umanità deve affrontare. La nostra gamma di servizi e soluzioni si basa su cinque tecnologie chiave: informatica, reti, intelligenza artificiale, dati e sicurezza e tecnologie convergenti, che riuniamo per realizzare la trasformazione della sostenibilità. Fujitsu Limited (TSE:6702) ha registrato un fatturato consolidato di 3.7 trilioni di yen (28 miliardi di dollari USA) per l'anno fiscale conclusosi il 31 marzo 2023 e rimane la prima società di servizi digitali in Giappone per quota di mercato. Scopri di più: www.fujitsu.com.
Contatti Stampa:
Fujitsu Limited
Divisione Pubbliche e Relazioni con gli Investitori
Indagini (https://bit.ly/3rrQ4mB)
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Fonte: https://www.jcnnewswire.com/pressrelease/86719/3/
- :ha
- :È
- :non
- :Dove
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- accesso
- di conseguenza
- Il mio account
- precisione
- preciso
- con precisione
- raggiunto
- operanti in
- presenti
- aggiungere
- indirizzo
- adottato
- Avanzate
- avanzamenti
- contraddittorio
- contro
- avanti
- AI
- Modelli AI
- Piattaforma AI
- Sistemi di intelligenza artificiale
- Addestramento AI
- Mirare
- mira
- anche
- Sebbene il
- an
- ed
- ha annunciato
- rispondere
- API
- applicazioni
- AMMISSIONE
- circa
- SONO
- RISERVATA
- AS
- chiedendo
- At
- attacco
- attacchi
- automaticamente
- disponibile
- evitare
- Axis
- basato
- BE
- stato
- Ben
- Ben Guron
- Università Ben Gurion
- confrontato
- Meglio
- Miliardo
- entrambi
- pause
- sfondamento
- portare
- Costruzione
- affari
- aziende
- ma
- by
- calcolare
- cambridge
- Materiale
- casi
- certo
- sfide
- cambiato
- caratteristica
- scegliere
- codice
- collaboreranno
- Commenti
- impegno
- Uncommon
- azienda
- rispetto
- completamento di una
- informatica
- Segui il codice di Condotta
- considerato
- contatti
- testuali
- contribuire
- contribuendo
- convergenti
- Tecnologie convergenti
- discorsivo
- AI conversazionale
- Nucleo
- Aziende
- potuto
- paesi
- crea
- Creazione
- critico
- curva
- Clienti
- dati
- dedicato
- Difesa
- definire
- Laurea
- consegnare
- dimostrazione
- individuare
- rivelazione
- sviluppato
- Mercato
- differire
- differenza
- diverso
- difficile
- digitale
- servizi digitali
- società di servizi digitali
- DIGITAL TRANSFORMATION
- Divisione
- dominio
- giù
- disegnare
- incorporato
- emerge
- dipendenti
- il potere
- finito
- motore
- accrescere
- garantire
- entità
- Ambiente
- sviluppate
- stabilire
- stima
- eccetera
- valutare
- la valutazione
- esistente
- esprimere
- espressioni
- esterno
- estratto
- di fronte
- fatto
- falso
- falso
- campi
- figura
- filtraggio
- Trovare
- Nome
- Fiscale
- cinque
- Focus
- si concentra
- Nel
- Forgiatura
- essere trovato
- frequentemente
- da
- Fujitsu
- futuro
- Generale
- generalmente
- genera
- ELETTRICA
- generativo
- AI generativa
- globali
- mercato globale
- Obiettivi
- maggiore
- Avere
- superiore
- vivamente
- Orizzontale
- HTTPS
- Umanità
- identifica
- identificare
- Immagine
- realizzare
- competenze
- in
- includere
- Compreso
- Aumenta
- Incubatori
- individuale
- informazioni
- iniettare
- Innovazione
- creativi e originali
- certificato
- ai miglioramenti
- investitore
- Divisione Relazioni con gli investitori
- problema
- sicurezza
- IT
- SUO
- Giappone
- giunto
- jpg
- giugno
- Le
- laboratorio
- lanciare
- lancia
- portare
- principale
- Livello
- leveraggi
- probabile
- Limitato
- make
- Fare
- manipolata
- Marzo
- Rappresentanza
- quota di mercato
- meccanismo
- messaggio
- metodo
- metodi
- forza
- menti
- ML
- modello
- modelli
- Scopri di più
- in movimento
- Nome
- Detto
- Nazioni
- reti
- New
- Nuove tecnologie
- recentemente
- Newswire
- GENERAZIONE
- sostantivi
- romanzo
- numeri
- oggetto
- ottenuto
- ottobre
- of
- Offerte
- di frequente
- on
- una volta
- in corso
- esclusivamente
- aprire
- dati aperti
- operativo
- Operazioni
- or
- Altro
- nostro
- su
- produzione
- ancora
- panoramica
- partner
- Ricambi
- perfetta
- performance
- fenomeno
- phishing
- Frasi
- pioniere
- centrale
- sistemazione
- piani
- piattaforma
- Platone
- Platone Data Intelligence
- PlatoneDati
- Portale
- positivo
- potente
- prevenire
- Frodi
- lavorazione
- PROMETTIAMO
- corretto
- protegge
- fornire
- purché
- fornisce
- la percezione
- scopo
- Domande
- casuale
- gamma
- tasso
- fondamento logico
- regno
- riduce
- registrato
- relazionato
- relazioni
- problemi di
- affidabile
- resti
- ripetuto
- RIPETUTAMENTE
- rispondere
- Segnalati
- rappresentare
- rappresenta
- riparazioni
- ricercatori
- elastico
- resistenza all'usura
- rispetto
- risposte
- colpevole
- risultante
- ricavi
- stesso
- Punto
- SDGs
- sicuro
- problemi di
- Settembre
- Settembre
- Servizi
- società di servizi
- set
- Condividi
- da
- singolo
- site
- piccole
- Società
- Soluzioni
- alcuni
- specifico
- si
- Di partenza
- state-of-the-art
- step
- soggetto
- tale
- Sostenibilità
- sostenibile
- Sviluppo sostenibile
- SISTEMI DI TRATTAMENTO
- Task
- Tecnologie
- Tecnologia
- di
- che
- I
- Il futuro
- il mondo
- loro
- poi
- Strumenti Bowman per analizzare le seguenti finiture:
- questo
- minacce
- tre
- soglia
- Attraverso
- così
- a
- oggi
- insieme
- top
- Training
- Trasformazione
- partner di trasformazione
- prova
- Trilione
- vero
- Affidati ad
- di fiducia
- affidabili sul mercato
- prova
- TSE:6702
- seconda
- Digitare
- in definitiva
- incapace
- per
- Unito
- Nazioni unite
- Università
- Università
- Università di Cambridge
- URL
- uso
- utilizzato
- utenti
- usa
- utilizzando
- APPREZZIAMO
- vario
- versioni
- verticale
- via
- visione
- identificazione dei warning
- we
- sito web
- applicazioni web
- siti web
- WELL
- quando
- quale
- while
- largo
- Vasta gamma
- wikipedia
- volere
- con
- entro
- Lavora
- mondo
- In tutto il mondo
- anno
- Yen
- zefiro