Tre vulnerabilità di sicurezza scoperte nelle funzioni di estensione utilizzate da ChatGPT aprono la porta all'accesso non autorizzato e senza clic agli account e ai servizi degli utenti, inclusi repository sensibili su piattaforme come GitHub.
I plug-in ChatGPT e le versioni personalizzate di ChatGPT pubblicate dagli sviluppatori estendono le capacità del modello AI, consentendo interazioni con servizi esterni garantendo al popolare chatbot AI generativo di OpenAI l'accesso e le autorizzazioni per eseguire attività su vari siti Web di terze parti, tra cui GitHub e Google Drive .
I ricercatori di Salt Labs hanno scoperto il tre vulnerabilità critiche che colpiscono ChatGPT, il primo dei quali si verifica durante l'installazione di nuovi plug-in, quando ChatGPT reindirizza gli utenti ai siti Web di plug-in per l'approvazione del codice. Sfruttando questo, gli aggressori potrebbero indurre gli utenti ad approvare codice dannoso, portando all'installazione automatica di plug-in non autorizzati e alla potenziale compromissione degli account successivi.
In secondo luogo, PluginLab, un framework per lo sviluppo di plug-in, non dispone di un’adeguata autenticazione dell’utente, consentendo agli aggressori di impersonare gli utenti ed eseguire il furto degli account, come visto con il plug-in “AskTheCode” che collega ChatGPT con GitHub.
Infine, i ricercatori di Salt hanno scoperto che alcuni plug-in erano suscettibili a Manipolazione del reindirizzamento OAuth, consentendo agli aggressori di inserire URL dannosi e rubare le credenziali degli utenti, facilitando ulteriori acquisizioni di account.
Il rapporto rileva che i problemi sono stati risolti da allora e non c'erano prove che le vulnerabilità fossero state sfruttate, quindi gli utenti dovrebbero aggiornare le loro app il prima possibile.
I problemi di sicurezza di GenAI mettono a rischio un vasto ecosistema
Yaniv Balmas, vicepresidente della ricerca presso Salt Security, afferma che i problemi rilevati dal team di ricerca potrebbero mettere a rischio centinaia di migliaia di utenti e organizzazioni.
"I leader della sicurezza di qualsiasi organizzazione devono comprendere meglio il rischio, quindi dovrebbero esaminare quali plug-in e GPT utilizza la loro azienda e quali account di terze parti sono esposti tramite tali plug-in e GPT", afferma. "Come punto di partenza, suggeriremmo di effettuare una revisione della sicurezza del loro codice."
Per gli sviluppatori di plug-in e GPT, Balmas consiglia agli sviluppatori di essere più consapevoli degli aspetti interni dell'ecosistema GenAI, delle misure di sicurezza coinvolte, di come utilizzarli e di come abusarne. Ciò include specificamente quali dati vengono inviati a GenAI e quali autorizzazioni vengono concesse alla piattaforma GenAI o ai plug-in di terze parti collegati, ad esempio l'autorizzazione per Google Drive o GitHub.
Balmas sottolinea che il team di ricerca Salt ha controllato solo una piccola percentuale di questo ecosistema e afferma che i risultati indicano che esiste un rischio maggiore relativo ad altre piattaforme GenAI e a molti plug-in GenAI esistenti e futuri.
Balmas afferma inoltre che OpenAI dovrebbe porre maggiore enfasi sulla sicurezza nella documentazione per gli sviluppatori, il che aiuterà a ridurre i rischi.
I rischi per la sicurezza del plug-in GenAI probabilmente aumenteranno
Sarah Jones, analista di ricerca sull'intelligence sulle minacce informatiche presso Critical Start, concorda sul fatto che i risultati di Salt Lab suggeriscono che a rischio per la sicurezza più ampio associato ai plug-in GenAI.
“Man mano che GenAI diventa sempre più integrata con i flussi di lavoro, le vulnerabilità nei plug-in potrebbero fornire agli aggressori l’accesso a dati o funzionalità sensibili all’interno di varie piattaforme”, afferma.
Ciò sottolinea la necessità di solidi standard di sicurezza e controlli regolari sia per le piattaforme GenAI che per i loro ecosistemi plug-in, poiché gli hacker iniziano a individuare i difetti in queste piattaforme.
Darren Guccione, CEO e co-fondatore di Keeper Security, afferma che queste vulnerabilità servono da “forte promemoria” sui rischi per la sicurezza intrinseci associati alle applicazioni di terze parti e dovrebbero spingere le organizzazioni a rafforzare le proprie difese.
“Mentre le organizzazioni si affrettano a sfruttare l’intelligenza artificiale per ottenere un vantaggio competitivo e migliorare l’efficienza operativa, la pressione per implementare rapidamente queste soluzioni non dovrebbe avere la precedenza sulle valutazioni della sicurezza e sulla formazione dei dipendenti”, afferma.
Anche la proliferazione di applicazioni abilitate all’intelligenza artificiale ha introdotto sfide sicurezza della catena di fornitura del software, imponendo alle organizzazioni di adattare i propri controlli di sicurezza e le politiche di governance dei dati.
Sottolinea che i dipendenti inseriscono sempre più dati proprietari negli strumenti di intelligenza artificiale, tra cui proprietà intellettuale, dati finanziari, strategie aziendali e altro ancora, e l’accesso non autorizzato da parte di un attore malintenzionato potrebbe essere paralizzante per un’organizzazione.
"Un attacco di acquisizione di un account che metta a repentaglio l'account GitHub di un dipendente, o altri account sensibili, potrebbe avere impatti altrettanto dannosi", avverte.
- Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
- PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
- PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
- PlatoneESG. Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
- Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
- Fonte: https://www.darkreading.com/vulnerabilities-threats/critical-chatgpt-plugin-vulnerabilities-expose-sensitive-data
- :ha
- :È
- :non
- $ SU
- 7
- a
- WRI
- abuso
- accesso
- Il mio account
- conti
- adattare
- che interessano
- concorda
- AI
- AI chatbot
- Consentire
- anche
- an
- analista
- ed
- in qualsiasi
- applicazioni
- approvazione
- applicazioni
- SONO
- AS
- associato
- At
- attacco
- audit
- Autenticazione
- Automatico
- consapevole
- BE
- diventa
- stato
- essendo
- Meglio
- maggiore
- entrambi
- affari
- by
- funzionalità
- avvertenze
- ceo
- certo
- catena
- sfide
- chatbot
- ChatGPT
- controllato
- Co-fondatore
- codice
- azienda
- competitivo
- compromesso
- collegato
- Collegamento
- controlli
- potuto
- Credenziali
- paralizzante
- critico
- costume
- Cyber
- danneggiamento
- dati
- difese
- sviluppatori
- Mercato
- documentazione
- Porta
- guidare
- durante
- ecosistema
- ecosistemi
- bordo
- efficienza
- enfasi
- sottolinea
- Dipendente
- dipendenti
- impiega
- consentendo
- accrescere
- entrare
- Allo stesso modo
- valutazioni
- prova
- esempio
- eseguire
- esistente
- Exploited
- sfruttando
- esposto
- estendere
- estensione
- esterno
- facilitando
- finanziario
- dati finanziari
- I risultati
- Nome
- fisso
- difetti
- Nel
- essere trovato
- Contesto
- funzionalità
- funzioni
- ulteriormente
- futuro
- Guadagno
- genio
- generativo
- AI generativa
- GitHub
- dato
- la governance
- rilascio
- hacker
- ha avuto
- Avere
- he
- Aiuto
- Come
- Tutorial
- HTTPS
- centinaia
- impatti
- impersonare
- realizzare
- in
- inclusi
- Compreso
- Aumento
- sempre più
- indicare
- inerente
- installazione
- integrato
- intellettuale
- proprietà intellettuale
- Intelligence
- interazioni
- ai miglioramenti
- introdotto
- coinvolto
- sicurezza
- Jones
- jpg
- laboratorio
- Labs
- capi
- principale
- Leva
- piace
- probabile
- Fare
- maligno
- molti
- Maggio..
- analisi
- modello
- Scopri di più
- devono obbligatoriamente:
- Bisogno
- New
- no
- noto
- of
- on
- esclusivamente
- aprire
- OpenAI
- operativa
- or
- organizzazione
- organizzazioni
- Altro
- su
- ancora
- percentuale
- autorizzazione
- permessi
- piattaforma
- Piattaforme
- Platone
- Platone Data Intelligence
- PlatoneDati
- punto
- punti
- Termini e Condizioni
- Popolare
- possibile
- potenziale
- Presidente
- pressione
- corretto
- proprietà
- proprio
- fornire
- pubblicato
- metti
- rapidamente
- raccomanda
- ridurre
- Basic
- pertinente
- promemoria
- rapporto
- riparazioni
- ricercatori
- recensioni
- Rischio
- rischi
- robusto
- corsa
- s
- sale
- dice
- problemi di
- Misure di sicurezza
- rischi per la sicurezza
- visto
- delicata
- inviato
- servire
- Servizi
- lei
- dovrebbero
- da
- piccole
- So
- Soluzioni
- presto
- in particolare
- standard
- rigido
- inizia a
- Di partenza
- strategie
- suggerire
- fornire
- supply chain
- adatto
- Fai
- acquisizione
- task
- team
- che
- Il
- loro
- Li
- Là.
- Strumenti Bowman per analizzare le seguenti finiture:
- di
- di parti terze standard
- questo
- quelli
- migliaia
- minaccia
- Attraverso
- a
- strumenti
- Training
- trucco
- non autorizzato
- scoperto
- capire
- Aggiornanento
- uso
- Utente
- utenti
- utilizzando
- vario
- Fisso
- versioni
- vice
- Vicepresidente
- vulnerabilità
- Prima
- we
- siti web
- sono stati
- Che
- quando
- quale
- volere
- con
- entro
- flussi di lavoro
- sarebbe
- zefiro