Tre sikkerhetssårbarheter avdekket i utvidelsesfunksjonene ChatGPT bruker åpner døren for uautorisert, null-klikk tilgang til brukernes kontoer og tjenester, inkludert sensitive depoter på plattformer som GitHub.
ChatGPT-plugin-moduler og tilpassede versjoner av ChatGPT publisert av utviklere utvider mulighetene til AI-modellen, og muliggjør interaksjoner med eksterne tjenester ved å gi OpenAIs populære generative AI-chatbot tilgang og tillatelser til å utføre oppgaver på forskjellige tredjepartsnettsteder, inkludert GitHub og Google Drive .
Salt Labs forskere avdekket tre kritiske sårbarheter som påvirker ChatGPT, hvorav den første skjer under installasjonen av nye plug-ins, når ChatGPT omdirigerer brukere til plug-in-nettsteder for kodegodkjenning. Ved å utnytte dette, kan angripere lure brukere til å godkjenne ondsinnet kode, noe som fører til automatisk installasjon av uautoriserte plugin-moduler og potensielt oppfølgende kontokompromittering.
For det andre mangler PluginLab, et rammeverk for utvikling av plugin-moduler, riktig brukerautentisering, noe som gjør det mulig for angripere å etterligne brukere og utføre kontoovertakelser, som sett med "AskTheCode"-plugin-modulen som kobler ChatGPT med GitHub.
Til slutt fant Salt-forskere at visse plug-ins var mottakelige for OAuth-omdirigeringsmanipulasjon, slik at angripere kan sette inn ondsinnede URL-er og stjele brukerlegitimasjon, noe som letter ytterligere kontoovertakelser.
Rapporten bemerket at problemene siden har blitt løst og det var ingen bevis for at sårbarhetene hadde blitt utnyttet, så brukere bør oppdatere appene sine så snart som mulig.
GenAI-sikkerhetsproblemer setter store økosystemer i fare
Yaniv Balmas, visepresident for forskning ved Salt Security, sier at problemene forskningsteamet fant kan sette hundretusenvis av brukere og organisasjoner i fare.
"Sikkerhetsledere i enhver organisasjon må bedre forstå risikoen, så de bør vurdere hvilke plugin-moduler og GPT-er bedriften deres bruker og hvilke tredjepartskontoer som blir eksponert gjennom disse plugin-modulene og GPT-ene," sier han. "Som et utgangspunkt vil vi foreslå å gjøre en sikkerhetsgjennomgang av koden deres."
For plug-ins og GPT-utviklere anbefaler Balmas utviklere å være bedre oppmerksomme på det indre av GenAI-økosystemet, sikkerhetstiltakene som er involvert, hvordan de skal brukes og hvordan de skal misbrukes. Det inkluderer spesifikt hvilke data som sendes til GenAI, og hvilke tillatelser som gis til GenAI-plattformen eller de tilkoblede tredjeparts plugin-modulene – for eksempel tillatelse for Google Drive eller GitHub.
Balmas påpeker at Salt-forskningsteamet bare sjekket en liten prosentandel av dette økosystemet, og sier at funnene indikerer at det er en større risiko relevant for andre GenAI-plattformer, og mange eksisterende og fremtidige GenAI-plugin-moduler.
Balmas sier også at OpenAI bør legge mer vekt på sikkerhet i sin dokumentasjon for utviklere, noe som vil bidra til å redusere risikoen.
GenAI Plug-in Sikkerhetsrisikoer vil sannsynligvis øke
Sarah Jones, cybertrusselsetterretningsanalytiker ved Critical Start, er enig i at Salt Lab-funnene antyder en bredere sikkerhetsrisiko knyttet til GenAI-plugin-moduler.
"Når GenAI blir mer integrert med arbeidsflyter, kan sårbarheter i plug-ins gi angripere tilgang til sensitive data eller funksjoner innenfor ulike plattformer," sier hun.
Dette understreker behovet for robuste sikkerhetsstandarder og regelmessige revisjoner for både GenAI-plattformer og deres plug-in-økosystemer, ettersom hackere begynner å målfeil i disse plattformene.
Darren Guccione, administrerende direktør og medgründer i Keeper Security, sier at disse sårbarhetene fungerer som en "sterk påminnelse" om de iboende sikkerhetsrisikoene forbundet med tredjepartsapplikasjoner og bør få organisasjoner til å styrke forsvaret sitt.
"Når organisasjoner skynder seg å utnytte AI for å oppnå et konkurransefortrinn og forbedre operasjonell effektivitet, bør ikke presset for å raskt implementere disse løsningene gå foran sikkerhetsevalueringer og opplæring av ansatte," sier han.
Spredningen av AI-aktiverte applikasjoner har også introdusert utfordringer i programvare forsyningskjeden sikkerhet, som krever at organisasjoner tilpasser sikkerhetskontrollene og retningslinjer for datastyring.
Han påpeker at ansatte i økende grad legger inn proprietære data i AI-verktøy – inkludert åndsverk, økonomiske data, forretningsstrategier og mer – og uautorisert tilgang fra en ondsinnet aktør kan være ødeleggende for en organisasjon.
"Et kontoovertakelsesangrep som setter en ansatts GitHub-konto eller andre sensitive kontoer i fare, kan ha like skadelige konsekvenser," advarer han.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://www.darkreading.com/vulnerabilities-threats/critical-chatgpt-plugin-vulnerabilities-expose-sensitive-data
- : har
- :er
- :ikke
- $OPP
- 7
- a
- Om oss
- misbruk
- adgang
- Logg inn
- kontoer
- tilpasse
- påvirker
- er enig
- AI
- AI chatbot
- tillate
- også
- an
- analytiker
- og
- noen
- søknader
- godkjenning
- apps
- ER
- AS
- assosiert
- At
- angripe
- revisjoner
- Autentisering
- Automatisk
- klar
- BE
- blir
- vært
- være
- Bedre
- større
- både
- virksomhet
- by
- evner
- advarsler
- konsernsjef
- viss
- kjede
- utfordringer
- chatbot
- ChatGPT
- sjekket
- Med-grunnlegger
- kode
- Selskapet
- konkurranse
- kompromiss
- tilkoblet
- Tilkobling
- kontroller
- kunne
- Credentials
- krøplende
- kritisk
- skikk
- cyber
- skade
- dato
- forsvar
- utviklere
- Utvikling
- dokumentasjon
- Av
- stasjonen
- under
- økosystem
- økosystemer
- Edge
- effektivitet
- vekt
- legger vekt på
- Ansatt
- ansatte
- anvender
- muliggjør
- forbedre
- går inn
- like
- evalueringer
- bevis
- eksempel
- henrette
- eksisterende
- Exploited
- utnytte
- utsatt
- utvide
- forlengelse
- utvendig
- tilrettelegging
- finansiell
- Økonomiske data
- funn
- Først
- fikset
- feil
- Til
- funnet
- Rammeverk
- funksjonalitet
- funksjoner
- videre
- framtid
- Gevinst
- genai
- generative
- Generativ AI
- GitHub
- gitt
- styresett
- innvilgelse
- hackere
- HAD
- Ha
- he
- hjelpe
- Hvordan
- Hvordan
- HTTPS
- Hundrevis
- Konsekvenser
- ligne
- iverksette
- in
- inkluderer
- Inkludert
- Øke
- stadig
- indikerer
- iboende
- installasjon
- integrert
- intellektuell
- intellektuell eiendom
- Intelligens
- interaksjoner
- inn
- introdusert
- involvert
- saker
- jones
- jpg
- lab
- Labs
- ledere
- ledende
- Leverage
- i likhet med
- Sannsynlig
- Making
- skadelig
- mange
- Kan..
- målinger
- modell
- mer
- må
- Trenger
- Ny
- Nei.
- bemerket
- of
- on
- bare
- åpen
- OpenAI
- operasjonell
- or
- organisasjon
- organisasjoner
- Annen
- ut
- enn
- prosent
- tillatelse
- tillatelser
- plattform
- Plattformer
- plato
- Platon Data Intelligence
- PlatonData
- Point
- poeng
- Politikk
- Populær
- mulig
- potensiell
- president
- press
- ordentlig
- eiendom
- proprietær
- gi
- publisert
- sette
- raskt
- anbefaler
- redusere
- regelmessig
- relevant
- påminnelse
- rapporterer
- forskning
- forskere
- anmeldelse
- Risiko
- risikoer
- robust
- jag
- s
- salt
- sier
- sikkerhet
- Sikkerhetstiltak
- sikkerhetsrisiko
- sett
- sensitive
- sendt
- betjene
- Tjenester
- hun
- bør
- siden
- liten
- So
- Solutions
- snart
- spesielt
- standarder
- stark
- Begynn
- Start
- strategier
- foreslår
- levere
- forsyningskjeden
- utsatt
- Ta
- overtakelse
- oppgaver
- lag
- Det
- De
- deres
- Dem
- Der.
- Disse
- de
- tredjeparts
- denne
- De
- tusener
- trussel
- Gjennom
- til
- verktøy
- Kurs
- trick
- uautorisert
- avdekket
- forstå
- Oppdater
- bruke
- Bruker
- Brukere
- ved hjelp av
- ulike
- enorme
- versjoner
- vice
- Vice President
- Sikkerhetsproblemer
- var
- we
- nettsteder
- var
- Hva
- når
- hvilken
- vil
- med
- innenfor
- arbeidsflyt
- ville
- zephyrnet