Tre säkerhetsbrister som uppdagats i tilläggsfunktionerna ChatGPT använder öppnar dörren till obehörig åtkomst med noll klick till användarnas konton och tjänster, inklusive känsliga arkiv på plattformar som GitHub.
ChatGPT-plugin-program och anpassade versioner av ChatGPT publicerade av utvecklare utökar AI-modellens möjligheter, vilket möjliggör interaktioner med externa tjänster genom att ge OpenAIs populära generativa AI-chatbot åtkomst och behörighet att utföra uppgifter på olika tredjepartswebbplatser, inklusive GitHub och Google Drive .
Salt Labs forskare upptäckte tre kritiska sårbarheter som påverkar ChatGPT, av vilka den första inträffar under installationen av nya plugin-program, när ChatGPT omdirigerar användare till plugin-webbplatser för kodgodkännande. Genom att utnyttja detta kan angripare lura användare att godkänna skadlig kod, vilket leder till automatisk installation av obehöriga plugin-program och potentiella uppföljningskonton.
För det andra saknar PluginLab, ett ramverk för plug-in-utveckling, korrekt användarverifiering, vilket gör det möjligt för angripare att utge sig för användare och utföra kontoövertaganden, vilket kan ses med plugin-programmet "AskTheCode" som ansluter ChatGPT med GitHub.
Slutligen fann Saltforskare att vissa plugin-program var mottagliga för OAuth-omdirigeringsmanipulation, vilket gör att angripare kan infoga skadliga webbadresser och stjäla användaruppgifter, vilket underlättar ytterligare kontoövertaganden.
Rapporten noterade att problemen sedan dess har åtgärdats och att det inte fanns några bevis för att sårbarheterna hade utnyttjats, så användare bör uppdatera sina appar så snart som möjligt.
GenAI-säkerhetsproblem sätter stora ekosystem i fara
Yaniv Balmas, vice vd för forskning på Salt Security, säger att de problem som forskargruppen fann kan utsätta hundratusentals användare och organisationer i fara.
"Säkerhetsledare i alla organisationer måste förstå risken bättre, så de bör granska vilka plugin-program och GPT:er deras företag använder och vilka tredjepartskonton som exponeras genom dessa plug-ins och GPTs", säger han. "Som utgångspunkt skulle vi föreslå att du gör en säkerhetsgranskning av deras kod."
För plugin- och GPT-utvecklare rekommenderar Balmas utvecklare att vara bättre medvetna om GenAI-ekosystemets inre delar, säkerhetsåtgärderna som är involverade, hur man använder dem och hur man missbrukar dem. Det inkluderar specifikt vilken data som skickas till GenAI, och vilka behörigheter som ges till GenAI-plattformen eller de anslutna tredjeparts plugin-program – till exempel tillstånd för Google Drive eller GitHub.
Balmas påpekar att forskarteamet i Salt endast kontrollerade en liten andel av detta ekosystem och säger att resultaten tyder på att det finns en större risk som är relevant för andra GenAI-plattformar och många befintliga och framtida GenAI-plugin-program.
Balmas säger också att OpenAI borde lägga mer vikt vid säkerhet i sin dokumentation för utvecklare, vilket kommer att bidra till att minska riskerna.
GenAI Plug-in Säkerhetsrisker kommer sannolikt att öka
Sarah Jones, forskningsanalytiker för cyberhotsintelligens vid Critical Start, håller med om att Salt Lab-resultaten tyder på en bredare säkerhetsrisk associerade med GenAI-plugin-program.
"När GenAI blir mer integrerat med arbetsflöden, kan sårbarheter i plugin-program ge angripare tillgång till känslig data eller funktioner inom olika plattformar", säger hon.
Detta understryker behovet av robusta säkerhetsstandarder och regelbundna revisioner för både GenAI-plattformar och deras plug-in-ekosystem, när hackare börjar målbrister i dessa plattformar.
Darren Guccione, VD och medgrundare på Keeper Security, säger att dessa sårbarheter fungerar som en "stark påminnelse" om de inneboende säkerhetsriskerna med tredjepartsapplikationer och bör få organisationer att stödja sina försvar.
"När organisationer skyndar sig att utnyttja AI för att få en konkurrensfördel och förbättra den operativa effektiviteten, bör trycket att snabbt implementera dessa lösningar inte ha företräde framför säkerhetsutvärderingar och personalutbildning", säger han.
Spridningen av AI-aktiverade applikationer har också infört utmaningar i mjukvaruförsörjningskedjans säkerhet, vilket kräver att organisationer anpassar sina säkerhetskontroller och datastyrningspolicyer.
Han påpekar att anställda i allt högre grad lägger in egen data i AI-verktyg – inklusive immateriella rättigheter, finansiella data, affärsstrategier och mer – och obehörig åtkomst av en illvillig aktör kan vara förödande för en organisation.
"En övertagandeattack som äventyrar en anställds GitHub-konto, eller andra känsliga konton, kan ha lika skadliga effekter", varnar han.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://www.darkreading.com/vulnerabilities-threats/critical-chatgpt-plugin-vulnerabilities-expose-sensitive-data
- : har
- :är
- :inte
- $UPP
- 7
- a
- Om oss
- missbruk
- tillgång
- Konto
- konton
- anpassa
- påverkar
- instämmer
- AI
- AI chatbot
- tillåta
- också
- an
- analytiker
- och
- vilken som helst
- tillämpningar
- godkännande
- appar
- ÄR
- AS
- associerad
- At
- attackera
- revisioner
- Autentisering
- Automat
- medveten
- BE
- blir
- varit
- Där vi får lov att vara utan att konstant prestera,
- Bättre
- större
- båda
- företag
- by
- kapacitet
- försiktighetsåtgärder
- VD
- vissa
- kedja
- utmaningar
- chatbot
- ChatGPT
- kontrollerade
- Medgrundare
- koda
- företag
- konkurrenskraftig
- kompromiss
- anslutna
- Anslutning
- kontroller
- kunde
- referenser
- förlamande
- kritisk
- beställnings
- cyber
- skada
- datum
- försvar
- utvecklare
- Utveckling
- dokumentation
- Dörr
- driv
- under
- ekosystemet
- ekosystem
- kant
- effektivitet
- vikt
- betonar
- Anställd
- anställda
- sysselsätter
- möjliggör
- förbättra
- in
- lika
- utvärderingar
- bevis
- exempel
- exekvera
- befintliga
- utnyttjas
- utnyttja
- utsatta
- förlänga
- förlängning
- extern
- underlättande
- finansiella
- finansiella data
- resultat
- Förnamn
- fixerad
- brister
- För
- hittade
- Ramverk
- funktionaliteter
- funktioner
- ytterligare
- framtida
- Få
- genai
- generativ
- Generativ AI
- GitHub
- ges
- styrning
- beviljande
- hackare
- hade
- Har
- he
- hjälpa
- Hur ser din drömresa ut
- How To
- HTTPS
- Hundratals
- Konsekvenser
- imitera
- genomföra
- in
- innefattar
- Inklusive
- Öka
- alltmer
- indikerar
- inneboende
- Installationen
- integrerade
- intellektuella
- immateriella rättigheter
- Intelligens
- interaktioner
- in
- introducerade
- involverade
- problem
- jones
- jpg
- lab
- Labs
- ledare
- ledande
- Hävstång
- tycka om
- sannolikt
- Framställning
- skadlig
- många
- Maj..
- åtgärder
- modell
- mer
- måste
- Behöver
- Nya
- Nej
- noterade
- of
- on
- endast
- öppet
- OpenAI
- operativa
- or
- organisation
- organisationer
- Övriga
- ut
- över
- procentuell
- tillstånd
- behörigheter
- plattform
- Plattformar
- plato
- Platon Data Intelligence
- PlatonData
- Punkt
- poäng
- Strategier
- Populära
- möjlig
- potentiell
- VD
- tryck
- rätt
- egenskapen
- proprietary
- ge
- publicerade
- sätta
- snabbt
- rekommenderar
- minska
- regelbunden
- relevanta
- påminnelse
- rapport
- forskning
- forskare
- översyn
- Risk
- risker
- robusta
- rusa
- s
- salt
- säger
- säkerhet
- Säkerhetsåtgärder
- säkerhetsrisker
- sett
- känslig
- skickas
- tjänar
- Tjänster
- hon
- skall
- eftersom
- Small
- So
- Lösningar
- snart
- specifikt
- standarder
- skarp
- starta
- Starta
- strategier
- föreslå
- leverera
- leveranskedjan
- apt
- Ta
- övertagande
- uppgifter
- grupp
- den där
- Smakämnen
- deras
- Dem
- Där.
- Dessa
- de
- tredje part
- detta
- de
- tusentals
- hot
- Genom
- till
- verktyg
- Utbildning
- knep
- obehörig
- avtäckt
- förstå
- Uppdatering
- användning
- Användare
- användare
- med hjälp av
- olika
- Omfattande
- versioner
- vice
- Vice President
- sårbarheter
- var
- we
- webbsidor
- były
- Vad
- när
- som
- kommer
- med
- inom
- arbetsflöden
- skulle
- zephyrnet