Varnostni pritiski naraščajo okoli obljub in nevarnosti umetne inteligence

BLACK HAT ZDA – Las Vegas – petek, 11. avgust – Umetna inteligenca (AI) ni novinec v tehnološkem svetu, a ker jo ChatGPT in podobne ponudbe potiskajo onkraj laboratorijskih okolij in primerov uporabe, kot je Siri, je Maria 'Azeria' Markstedter, ustanoviteljica in izvršna direktorica Azeria Labs, dejala, da morajo strokovnjaki za varnost bodite pozorni na to, kako bo njegov razvoj vplival na njihovo vsakodnevno realnost.

V šali je trdila, da je umetna inteligenca "zdaj v varnih rokah velikih tehnoloških podjetij, ki tekmujejo s časom in tekmujejo za zaščito pred izločitvijo," po OpenAI izdaja svoj model ChatGPT medtem ko so se druga podjetja zadržala. »Z vzpon ChatGPT, Googlovega pristopa v mirnem času je bilo konec in vsi so skočili,« je dejala, ko je ta teden govorila z osrednjega odra na Black Hat USA.

Videti, kam gre denar

Podjetja vlagajo milijone dolarjev financiranja v umetno inteligenco, a kadar koli se svet usmeri k novi vrsti tehnologije, »korporacijske oboroževalne tekme ne vodi skrb za varnost ali varnost, saj varnost upočasnjuje napredek«.

Rekla je, da primeri uporabe integrirati AI se razvijajo in začenjajo prinašati veliko denarja, zlasti tistim, ki prevladujejo na trgu. Vendar obstaja potreba po "ustvarjalci, da bi ga zlomili, in jo popraviti ter na koncu preprečiti, da bi tehnologija v prihodnjih primerih uporabe eksplodirala pred našimi očmi.«

Dodala je, da podjetja morda doživljajo nekoliko neracionalno razposajenost. »Vsako podjetje želi biti trenutno poslovni vzorčni stroj z umetno inteligenco in način, kako bodo naša podjetja izkoristila ta orodja za integracijo umetne inteligence, bo pomembno vplival na naš model groženj,« je dejala. Vendar pa hitro sprejemanje umetne inteligence pomeni, da njen učinek na celoten model kibernetske grožnje ostaja neznanka.

Vzpon groženj ChatGPT

Priznanje tega ChatGPT je bilo "precej težko ubežati v zadnjih devetih mesecih," je Markstedter dejal, da je skokovito povečanje števila uporabnikov povzročilo, da so nekatera podjetja omejila dostop do njega. Podjetja so bila skeptična, je dejala, saj je OpenAI črna skrinjica in vse, kar vnesete v ChatGPT, bo del nabora podatkov OpenAI.

Povedala je: »Podjetja ne želijo razkriti svojih občutljivih podatkov zunanjemu ponudniku, zato so začela prepoved zaposlenih od uporabe ChatGPT za delo, vendar vsako podjetje še vedno želi in je celo pod pritiskom, da svoje izdelke in storitve za delovno silo razširi z AI; preprosto ne zaupajo občutljivih podatkov … zunanjim ponudnikom, ki so lahko del nabora podatkov.«

Vendar pa bosta intenzivna osredotočenost in hiter tempo razvoja in integracije OpenAI strokovnjake za varnost prisilila k hitremu razvoju.

»Torej, način, kako bodo naše organizacije uporabljale te stvari, se precej hitro spreminja: od nečesa, s čimer preverite za brskalnik, do nečesa, kar podjetja integrirajo v lastno infrastrukturo, do nečesa, kar bo kmalu izvirno iz našega operacijskega sistema in mobilne naprave. ,« je rekla.

Priložnost za industrijo

Markstedter je dejal, da je največja težava za AI in kibernetsko varnost to, da nimamo dovolj ljudi z spretnosti in znanja oceniti te sisteme in ustvariti zaščitne ograje, ki jih potrebujemo. "Iz teh majhnih izzivov torej že nastajajo novi okusi delovnih mest," je dejala.

V zaključku je Markstedter poudaril štiri zaključke: Prvič, da se sistemi umetne inteligence ter njihovi primeri uporabe in zmogljivosti razvijajo; drugič, da moramo resno jemati možnost, da avtonomni agenti AI postanejo resničnost v našem podjetju; tretjič, je, da moramo ponovno razmisliti o naših konceptih glede identitete in aplikacij; in četrtič, ponovno moramo razmisliti o naših konceptih glede varnosti podatkov.

»Torej se moramo naučiti o tehnologiji, ki spreminja naše sisteme in naš model groženj, da bi rešili te nastajajoče težave, in tehnološke spremembe za nas niso nekaj novega,« je dejala. »Nimamo priročnikov, ki bi nam povedali, kako odpraviti prejšnje težave. Vsi smo na tak ali drugačen način samouki in zdaj naša industrija privablja kreativne ume s celotno miselnostjo. Zato vemo, kako preučevati nove sisteme in najti kreativne načine, kako jih razbiti.«

Zaključila je z besedami, da je to naša priložnost, da na novo odkrijemo sebe, svojo varnostno držo in našo obrambo. "Za naslednjo nevarnost varnostnih izzivov se moramo zbrati kot skupnost in spodbujati raziskave na teh področjih," je dejala.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• PlatoData.Network Vertical Generative Ai. Opolnomočite se. Dostopite tukaj.
• PlatoAiStream. Web3 Intelligence. Razširjeno znanje. Dostopite tukaj.
• PlatoESG. Avtomobili/EV, Ogljik, CleanTech, Energija, Okolje, sončna energija, Ravnanje z odpadki. Dostopite tukaj.
• PlatoHealth. Obveščanje o biotehnologiji in kliničnih preskušanjih. Dostopite tukaj.
• ChartPrime. Izboljšajte svojo igro trgovanja s ChartPrime. Dostopite tukaj.
• BlockOffsets. Posodobitev okoljskega offset lastništva. Dostopite tukaj.
• vir: https://www.darkreading.com/threat-intelligence/security-pressure-mounts-ai-promises-peril