A legújabb kultúrát megrengető mesterséges intelligencia-eszközök első felhajtásától kezdve a fejlesztők és a kódolásra kíváncsiak egyaránt arra használják őket, hogy egyetlen gombnyomással kódot generáljanak. A biztonsági szakértők gyorsan rámutattak, hogy sok esetben az előállított kód igen rossz minőségű és sebezhető és a kevés biztonsági tudatossággal rendelkezők kezében lavinát okozhat nem biztonságos alkalmazások és webfejlesztés hogy eltalálja a gyanútlan fogyasztókat.
És vannak olyanok is, akiknek van elég biztonsági tudásuk ahhoz, hogy rosszra használják fel. Úgy tűnik, minden elképesztő mesterséges intelligencia bravúr esetében létezik egy ellenütés, amely ugyanazt a technológiát használja aljas célok. Adathalászat, mély hamis átverési videók, rosszindulatú programok létrehozása, általános forgatókönyv-cselekedetek – ezek a bomlasztó tevékenységek most sokkal gyorsabban megvalósíthatók, alacsonyabb belépési korlátokkal.
Minden bizonnyal sok kattintáscsali hirdeti ezt az eszközt forradalminak, vagy legalábbis az élre kerül, ha „átlagos” emberi képességekkel párosul. Noha elkerülhetetlennek tűnik, hogy a nagy nyelvi modellek – stílusú (LLM) AI-technológia megváltoztatja a munka számos aspektusát – nem csak a szoftverfejlesztést –, de egy lépést hátra kell lépnünk, és mérlegelnünk kell a szalagcímeken túlmutató kockázatokat.
Kódolótársként pedig hibái talán a legemberibb tulajdonsága.
Gyenge kódolási minták dominálják az általános megoldásokat
A több évtizedes meglévő kódon és tudásbázison kiképzett ChatGPT-vel nem meglepő, hogy minden csodája és rejtélye ellenére ugyanazoktól a gyakori buktatóktól szenved, amelyekkel az emberek a kódban való navigálás során szembesülnek. A rossz kódolási minták a lényeg, és még mindig szükség van egy biztonságtudatos illesztőprogramra, hogy biztonságos kódolási példákat generáljon a megfelelő kérdések feltevésével és a megfelelő azonnali tervezéssel.
Még ekkor sem garantálható, hogy a megadott kódrészletek pontosak és működőképesek biztonsági szempontból; a technológia hajlamos a hallucinációra, sőt nem létező könyvtárak létrehozása amikor bizonyos JSON-műveletek végrehajtására kérik. Ez a fenyegetés szereplőinek „hallucinációihoz” vezethet, akik túlságosan is szívesen felpörgetnek néhány rosszindulatú programot, amelyet a ChatGPT teljes bizalommal ajánlott kitalált könyvtárnak álcázva.
Végső soron szembe kell néznünk azzal a valósággal, hogy általában nem vártuk el a fejlesztőktől, hogy kellően biztonságtudatosak legyenek, és iparágként sem készítettük fel őket megfelelően arra, hogy alapértelmezett állapotként biztonságos kódot írjanak. Ez nyilvánvaló lesz a ChatGPT-be betáplált hatalmas mennyiségű betanítási adatban, és legalábbis kezdetben hasonló, halvány biztonsági eredményekre számíthatunk a kimenetétől. A fejlesztőknek képesnek kell lenniük azonosítani a biztonsági hibákat, és vagy maguknak kijavítaniuk, vagy jobb figyelmeztetéseket kell készíteniük a robusztusabb eredmény érdekében.
Az első nagyszabású felhasználói tanulmány a Stanford Egyetem kutatói által elvégzett vizsgálat, hogy a felhasználók miként lépnek kapcsolatba egy mesterséges intelligencia kódoló asszisztenssel a biztonsággal kapcsolatos különféle funkciók megoldása érdekében, alátámasztja ezt az elképzelést.
Ez és a jövőnket átható, elkerülhetetlen, mesterséges intelligencia okozta fenyegetések között a fejlesztőknek most minden eddiginél jobban kell csiszolniuk biztonsági készségeiket, és fel kell emelniük a lécet a kód minőségére, függetlenül annak eredetétől.
Az adatszivárgáshoz vezető út jó szándékkal van kikövezve
Nem meglepő, hogy a mesterséges intelligencia kódoló társak népszerűek, különösen azért, mert a fejlesztők egyre nagyobb felelősséggel, szigorúbb határidőkkel és a vállukon nyugvó vállalati innovációs törekvésekkel néznek szembe. Azonban még a legjobb szándék ellenére is, ha a mesterséges intelligencia kódolásra való használatakor nem ismerjük a hatékony biztonsági tudatosságot, ez elkerülhetetlenül kirívó biztonsági problémákhoz vezet. Minden AI/ML eszközzel rendelkező fejlesztő több kódot generál, és a biztonsági kockázat szintje a képzettség szintjétől függ. A szervezeteknek nagyon tisztában kell lenniük azzal, hogy a képzetlen emberek minden bizonnyal gyorsabban generálják a kódot, de ugyanígy megnövelik a technikai biztosítékok adósságának sebességét is.
Még az áprilisi ChatGPT-vel végzett előzetes tesztünk is azt mutatta, hogy nagyon alapvető hibákat fog generálni, amelyeknek pusztító következményei lehetnek. Amikor megkértük, hogy építsen fel egy bejelentkezési rutint PHP-ben MySQL adatbázis használatával, a funkcionális kód gyorsan létrejött. Alapértelmezés szerint azonban a jelszavakat egyszerű szövegben tárolta az adatbázisban, az adatbázis-kapcsolat hitelesítő adatait kódban tárolta, és olyan kódolási mintát használt, amely SQL injekciót eredményezhet (bár bizonyos szintű szűrést végzett a bemeneti paramétereken és kiköpte az adatbázis-hibákat ). Minden újonc hiba bármilyen mértékkel:
A további felszólítás biztosította a hibák kijavítását, de a kijavításhoz jelentős biztonsági ismeretek szükségesek. Ezeknek az eszközöknek az ellenőrizetlen és széles körű használata nem jobb, mint a fiatal fejlesztők szabadjára engedni a projektjeit, és ha ez a kód érzékeny infrastruktúrát épít ki vagy személyes adatokat dolgoz fel, akkor egy időzített bombát nézünk.
Természetesen, ahogy a fiatal fejlesztők kétségtelenül fejlesztik tudásukat az idő múlásával, az AI/ML képességek javulását várjuk. Egy év múlva lehet, hogy nem követ el ilyen nyilvánvaló és egyszerű biztonsági hibákat. Ez azonban drámaian megnöveli a biztonsági készségeket, amelyek szükségesek a súlyosabb, rejtett, nem triviális biztonsági hibák felderítéséhez, amelyeket továbbra is veszélyben okozhat.
Továbbra sem vagyunk felkészülve a biztonsági rések felkutatására és kijavítására, és a mesterséges intelligencia növeli a szakadékot
Míg évek óta sok szó esik a „balra váltásról”, a tény továbbra is az, hogy a legtöbb szervezet esetében jelentős hiányosságok vannak a gyakorlati biztonsági ismeretek terén a fejlesztési csoportban, ezért keményebben kell dolgoznunk, hogy biztosítsa a megfelelő eszközöket és oktatást hogy segítse őket az úton.
Jelenleg nem vagyunk felkészülve azokra a biztonsági hibákra, amelyekkel már találkozunk, nem is beszélve az olyan új, mesterséges intelligencia okozta problémákról, mint az azonnali injekció és a hallucinációs guggolás, amelyek teljesen új támadási vektorokat képviselnek, amelyek futótűzként indulnak el. Az AI kódoló eszközök valóban a fejlesztők kódolási arzenáljának jövőjét képviselik, de a termelékenységi fegyverek biztonságos használatára vonatkozó oktatásnak most kell megérkeznie.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Autóipar / elektromos járművek, Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- BlockOffsets. A környezetvédelmi ellentételezési tulajdon korszerűsítése. Hozzáférés itt.
- Forrás: https://www.darkreading.com/vulnerabilities-threats/when-it-comes-to-secure-coding-chatgpt-is-quintessentially-human
- :van
- :is
- :nem
- $ UP
- 7
- a
- Képes
- pontos
- tevékenységek
- szereplők
- megfelelő
- AI
- AI / ML
- hasonló
- Minden termék
- már
- Bár
- ambíciók
- között
- összeg
- an
- és a
- bármilyen
- megközelítés
- alkalmazások
- április
- VANNAK
- fegyverraktár
- AS
- szempontok
- Helyettes
- At
- támadás
- Lavina
- átlagos
- tudatában van
- tudatosság
- vissza
- bár
- akadályok
- alapvető
- BE
- óta
- hogy
- BEST
- Jobb
- Túl
- bomba
- megsértése
- bogarak
- épít
- Épület
- de
- gomb
- by
- TUD
- képességek
- esetek
- Okoz
- biztosan
- változik
- ChatGPT
- clickbait
- kód
- Kódolás
- kohort
- hogyan
- jön
- érkező
- Közös
- társ
- társak
- vállalat
- lefolytatott
- bizalom
- kapcsolat
- Következmények
- Fontolja
- Fogyasztók
- tudott
- Tanfolyam
- teremtés
- Hitelesítő adatok
- VESZÉLY
- dátum
- adatok megsértése
- adatbázis
- Adósság
- évtizedek
- mély
- Mély hamis
- alapértelmezett
- átadó
- Design
- pusztító
- Fejlesztő
- fejlesztők
- Fejlesztés
- DID
- katasztrófa
- bomlasztó
- do
- dominálnak
- le-
- drámaian
- gépkocsivezető
- Oktatás
- hatás
- bármelyik
- Mérnöki
- hatalmas
- elég
- teljesen
- belépés
- hibák
- különösen
- Még
- EVER
- Minden
- nyilvánvaló
- vizsgálva
- példák
- létező
- vár
- várható
- szakértők
- Arc
- szembe
- tény
- hamisítvány
- gyorsabb
- tett
- Fed
- szűrő
- Találjon
- vezetéknév
- Rögzít
- hibái
- A
- ból ből
- Tele
- funkcionális
- funkciók
- jövő
- általános
- generál
- generált
- adott
- jó
- garancia
- kezek
- boldog
- Legyen
- Headlines
- segít
- Rejtett
- Találat
- Hogyan
- azonban
- HTTPS
- emberi
- hype
- azonosítani
- if
- javul
- in
- Növelje
- növekvő
- ipar
- elkerülhetetlen
- elkerülhetetlenül
- Infrastruktúra
- alapvetően
- Innováció
- bemenet
- szándékok
- kölcsönhatásba
- bele
- kérdések
- IT
- ITS
- json
- éppen
- tudás
- hiány
- Fakó
- nyelv
- nagy
- legutolsó
- vezet
- legkevésbé
- balra
- szint
- könyvtár
- mint
- kis
- LLM
- Belépés
- keres
- Sok
- alacsonyabb
- csinál
- malware
- Malwarebytes
- sok
- csoda
- párosított
- Anyag
- max-width
- Lehet..
- intézkedés
- hibákat
- több
- a legtöbb
- sok
- kell
- mysql
- Rejtély
- navigálás
- Szükség
- Új
- nem
- nem létező
- fogalom
- Most
- Nyilvánvaló
- of
- kedvezmény
- on
- Művelet
- or
- szervezetek
- származás
- mi
- ki
- Eredmény
- teljesítmény
- felett
- paraméterek
- jelszavak
- Mintás
- minták
- Emberek (People)
- Teljesít
- talán
- személyes
- személyes adat
- perspektíva
- Adathalászat
- PHP
- Plató
- Platón adatintelligencia
- PlatoData
- szegény
- Népszerű
- Gyakorlati
- előkészített
- problémák
- feldolgozás
- Készült
- termelő
- termelékenység
- projektek
- világítás
- Kérdések
- gyorsan
- emel
- RE
- Valóság
- ajánlott
- marad
- maradványok
- képvisel
- kötelező
- kutatók
- felelősség
- pihenő
- eredményez
- Eredmények
- Revealed
- forradalmi
- jobb
- Kockázat
- kockázatok
- út
- erős
- s
- biztosan
- azonos
- Átverés
- biztonság
- biztonság
- Biztonsági tudatosság
- Úgy tűnik,
- érzékeny
- súlyos
- készlet
- VÁLTOZÁS
- kellene
- jelentős
- hasonló
- Egyszerű
- jártasság
- készségek
- So
- szoftver
- szoftverfejlesztés
- SOLVE
- néhány
- különleges
- sebesség
- Centrifugálás
- állványok
- Stanford
- Stanford Egyetem
- Állami
- Lépés
- Még mindig
- tárolása
- ilyen
- szenved
- Támogatja
- meglepetés
- Vesz
- tart
- Beszél
- Műszaki
- Technológia
- teszt
- mint
- hogy
- A
- A jövő
- azok
- Őket
- maguk
- akkor
- Ott.
- Ezek
- ők
- ezt
- azok
- fenyegetés
- fenyegetés szereplői
- fenyegetések
- ketyegés
- szorosabb
- idő
- nak nek
- is
- szerszámok
- felső
- érintse
- vágány
- kiképzett
- Képzések
- kétségtelenül
- egyetemi
- használ
- használt
- használó
- Felhasználók
- segítségével
- fajta
- nagyon
- Videók
- sérülékenységek
- volt
- Út..
- we
- Fegyverek
- háló
- JÓL
- voltak
- amikor
- míg
- WHO
- széles körben elterjedt
- lesz
- val vel
- Munka
- lenne
- ír
- év
- év
- A te
- zephyrnet