W funkcjach rozszerzeń ChatGPT wykryto trzy luki w zabezpieczeniach, które umożliwiają nieautoryzowany dostęp bez kliknięć do kont i usług użytkowników, w tym do wrażliwych repozytoriów na platformach takich jak GitHub.
Wtyczki ChatGPT i niestandardowe wersje ChatGPT publikowane przez programistów rozszerzają możliwości modelu AI, umożliwiając interakcję z usługami zewnętrznymi, przyznając popularnemu generatywnemu chatbotowi AI OpenAI dostęp i uprawnienia do wykonywania zadań w różnych witrynach stron trzecich, w tym GitHub i Google Drive .
Badacze z Salt Labs odkryli trzy krytyczne luki wpływające na ChatGPT, z czego pierwszy ma miejsce podczas instalacji nowych wtyczek, gdy ChatGPT przekierowuje użytkowników do witryn z wtyczkami w celu zatwierdzenia kodu. Wykorzystując to, osoby atakujące mogą nakłonić użytkowników do zatwierdzenia złośliwego kodu, co może prowadzić do automatycznej instalacji nieautoryzowanych wtyczek i potencjalnego naruszenia bezpieczeństwa konta kontynuacyjnego.
Po drugie, PluginLab, platforma do tworzenia wtyczek, nie posiada odpowiedniego uwierzytelnienia użytkownika, co umożliwia atakującym podszywanie się pod użytkowników i przejmowanie kont, co widać w przypadku wtyczki „AskTheCode” łączącej ChatGPT z GitHub.
Wreszcie badacze Salt odkryli, że niektóre wtyczki są podatne na ataki Manipulacja przekierowaniem OAuth, umożliwiając atakującym wstawianie złośliwych adresów URL i kradzież danych uwierzytelniających użytkowników, ułatwiając dalsze przejęcia kont.
W raporcie wskazano, że problemy zostały już naprawione i nie ma dowodów na wykorzystanie luk, dlatego użytkownicy powinni jak najszybciej zaktualizować swoje aplikacje.
Problemy z bezpieczeństwem GenAI zagrażają ogromnemu ekosystemowi
Yaniv Balmas, wiceprezes ds. badań w Salt Security, twierdzi, że problemy wykryte przez zespół badawczy mogą narazić na ryzyko setki tysięcy użytkowników i organizacji.
„Liderzy bezpieczeństwa w każdej organizacji muszą lepiej rozumieć ryzyko, dlatego powinni sprawdzić, jakich wtyczek i GPT używa ich firma oraz jakie konta stron trzecich są ujawniane za pośrednictwem tych wtyczek i GPT” – mówi. „Na początek sugerowalibyśmy dokonanie przeglądu bezpieczeństwa ich kodu”.
W przypadku twórców wtyczek i GPT Balmas zaleca, aby programiści byli bardziej świadomi wewnętrznych elementów ekosystemu GenAI, związanych z nimi środków bezpieczeństwa, sposobu ich używania i sposobów ich nadużywania. Dotyczy to w szczególności tego, jakie dane są wysyłane do GenAI i jakie uprawnienia są nadawane platformie GenAI lub podłączonym wtyczkom innych firm – na przykład uprawnienia do Dysku Google lub GitHub.
Balmas zwraca uwagę, że zespół badawczy Salt sprawdził jedynie niewielki procent tego ekosystemu i twierdzi, że ustalenia wskazują, że istnieje większe ryzyko związane z innymi platformami GenAI oraz wieloma istniejącymi i przyszłymi wtyczkami GenAI.
Balmas twierdzi również, że OpenAI powinno położyć większy nacisk na bezpieczeństwo w swojej dokumentacji dla programistów, co pomoże zmniejszyć ryzyko.
Zagrożenia bezpieczeństwa wtyczek GenAI prawdopodobnie wzrosną
Sarah Jones, analityk ds. badań nad zagrożeniami cybernetycznymi w Critical Start, zgadza się, że ustalenia Salt Lab sugerują, że: szersze ryzyko bezpieczeństwa powiązane z wtyczkami GenAI.
„W miarę coraz większej integracji GenAI z przepływami pracy luki we wtyczkach mogą zapewnić atakującym dostęp do wrażliwych danych lub funkcjonalności na różnych platformach” – mówi.
Podkreśla to potrzebę solidnych standardów bezpieczeństwa i regularnych audytów zarówno platform GenAI, jak i ich ekosystemów wtyczek, w miarę jak hakerzy zaczynają celuj w wady tych platform.
Darren Guccione, dyrektor generalny i współzałożyciel Keeper Security, twierdzi, że luki te „wyraźnie przypominają” o nieodłącznych zagrożeniach bezpieczeństwa związanych z aplikacjami innych firm i powinny skłonić organizacje do wzmocnienia swoich zabezpieczeń.
„Ponieważ organizacje spieszą się, aby wykorzystać sztuczną inteligencję do zdobycia przewagi konkurencyjnej i zwiększenia wydajności operacyjnej, presja na szybkie wdrożenie tych rozwiązań nie powinna przeważać nad ocenami bezpieczeństwa i szkoleniami pracowników” – mówi.
Rozpowszechnianie się aplikacji obsługujących sztuczną inteligencję stworzyło również wyzwania w zakresie: bezpieczeństwo łańcucha dostaw oprogramowania, wymagając od organizacji dostosowania swoich mechanizmów kontroli bezpieczeństwa i zasad zarządzania danymi.
Zwraca uwagę, że pracownicy coraz częściej wprowadzają zastrzeżone dane do narzędzi sztucznej inteligencji – w tym dane dotyczące własności intelektualnej, danych finansowych, strategii biznesowych i nie tylko – a nieautoryzowany dostęp złośliwego podmiotu może być paraliżujący dla organizacji.
„Atak polegający na przejęciu konta, zagrażający kontu pracownika w GitHubie lub innym wrażliwym kontom, może mieć równie szkodliwe skutki” – ostrzega.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://www.darkreading.com/vulnerabilities-threats/critical-chatgpt-plugin-vulnerabilities-expose-sensitive-data
- :ma
- :Jest
- :nie
- $W GÓRĘ
- 7
- a
- O nas
- nadużycie
- dostęp
- Konto
- Konta
- przystosować
- wpływający
- Zgadza się
- AI
- Chatbot AI
- Pozwalać
- również
- an
- analityk
- i
- każdy
- aplikacje
- zatwierdzenie
- mobilne i webowe
- SĄ
- AS
- powiązany
- At
- atakować
- kontrole
- Uwierzytelnianie
- automatycznie
- świadomy
- BE
- staje się
- być
- jest
- Ulepsz Swój
- większe
- obie
- biznes
- by
- możliwości
- przestrogi
- ceo
- pewien
- łańcuch
- wyzwania
- chatbot
- ChatGPT
- w kratę
- Współzałożyciel
- kod
- sukcesy firma
- konkurencyjny
- kompromis
- połączony
- Podłączanie
- kontroli
- mógłby
- Listy uwierzytelniające
- okaleczający
- krytyczny
- zwyczaj
- cyber
- szkodliwe
- dane
- Obrony
- deweloperzy
- oprogramowania
- dokumentacja
- Drzwi
- napęd
- podczas
- Ekosystem
- Ekosystemy
- krawędź
- efektywność
- nacisk
- podkreśla
- Pracownik
- pracowników
- zatrudnia
- umożliwiając
- wzmacniać
- wprowadzenie
- Równie
- oceny
- dowód
- przykład
- wykonać
- Przede wszystkim system został opracowany
- eksploatowany
- wykorzystywanie
- narażony
- rozciągać się
- rozbudowa
- zewnętrzny
- ułatwienie
- budżetowy
- dane finansowe
- Ustalenia
- i terminów, a
- ustalony
- Skazy
- W razie zamówieenia projektu
- znaleziono
- Framework
- funkcjonalności
- Funkcje
- dalej
- przyszłość
- Wzrost
- genialne
- generatywny
- generatywna sztuczna inteligencja
- GitHub
- dany
- zarządzanie
- przyznanie
- hakerzy
- miał
- Have
- he
- pomoc
- W jaki sposób
- How To
- HTTPS
- Setki
- Oddziaływania
- podszywać się
- wdrożenia
- in
- obejmuje
- Włącznie z
- Zwiększać
- coraz bardziej
- wskazać
- nieodłączny
- instalacja
- zintegrowany
- intelektualny
- własność intelektualna
- Inteligencja
- Interakcje
- najnowszych
- wprowadzono
- zaangażowany
- problemy
- Jones
- jpg
- laboratorium
- Labs
- Przywódcy
- prowadzący
- Dźwignia
- lubić
- Prawdopodobnie
- Dokonywanie
- złośliwy
- wiele
- Może..
- środków
- model
- jeszcze
- musi
- Potrzebować
- Nowości
- Nie
- zauważyć
- of
- on
- tylko
- koncepcja
- OpenAI
- operacyjny
- or
- organizacja
- organizacji
- Inne
- na zewnątrz
- koniec
- procent
- pozwolenie
- uprawnienia
- Platforma
- Platformy
- plato
- Analiza danych Platona
- PlatoDane
- punkt
- zwrotnica
- polityka
- Popularny
- możliwy
- potencjał
- prezydent
- nacisk
- właściwy
- własność
- własność
- zapewniać
- opublikowany
- położyć
- szybko
- zaleca
- zmniejszyć
- regularny
- przypomnienie
- raport
- Badania naukowe
- Badacze
- przeglądu
- Ryzyko
- ryzyko
- krzepki
- pędzić
- s
- sól
- mówią
- bezpieczeństwo
- Środki bezpieczeństwa
- zagrożenia bezpieczeństwa
- widziany
- wrażliwy
- wysłany
- służyć
- Usługi
- ona
- powinien
- ponieważ
- mały
- So
- Rozwiązania
- wkrótce
- swoiście
- standardy
- sztywny
- początek
- Startowy
- strategie
- sugerować
- Dostawa
- łańcuch dostaw
- wrażliwy
- Brać
- Przejęcie
- zadania
- zespół
- że
- Połączenia
- ich
- Im
- Tam.
- Te
- one
- innych firm
- to
- tych
- tysiące
- groźba
- Przez
- do
- narzędzia
- Trening
- sztuczka
- Nieupoważniony
- odkryte
- zrozumieć
- Aktualizacja
- posługiwać się
- Użytkownik
- Użytkownicy
- za pomocą
- różnorodny
- Naprawiono
- Wersje
- wice
- Wiceprezes
- Luki w zabezpieczeniach
- była
- we
- strony internetowe
- były
- Co
- jeśli chodzi o komunikację i motywację
- który
- będzie
- w
- w ciągu
- przepływów pracy
- by
- zefirnet