Sikkerhetspress øker rundt AIs løfter og fare

Sikkerhetspress øker rundt AIs løfter og fare

Tidsstempel: 11. august 2023 4:36
Sikkerhetspress øker rundt AIs løfter og fare PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

BLACK HAT USA – Las Vegas – fredag ​​11. august – Kunstig intelligens (AI) er ikke en nykommer i teknologiverdenen, men ettersom ChatGPT og lignende tilbud skyver det utover laboratoriemiljøer og brukssaker som Siri, sa Maria 'Azeria' Markstedter, grunnlegger og administrerende direktør i Azeria Labs, at sikkerhetsutøvere må være på vakt for hvordan utviklingen vil påvirke deres daglige realiteter.

Spøkende hevdet hun at AI er «nå i trygge hender av store teknologiselskaper som kjemper mot tiden for å konkurrere om å være trygge fra eliminering», i kjølvannet av OpenAI gir ut sin ChatGPT-modell mens andre selskaper holdt tilbake. "Med fremveksten av ChatGPT, Googles tilnærming til fredstid var over, og alle hoppet inn,» sa hun, da hun talte fra hovedscenen på Black Hat USA denne uken.

Å se hvor pengene blir av

Selskaper investerer millioner av dollar i finansiering i kunstig intelligens, men hver gang verden skifter mot en ny type teknologi, "drives ikke bedriftens våpenkappløp av bekymring for sikkerhet eller sikkerhet, ettersom sikkerhet bremser fremdriften."

Hun sa brukstilfellene til integrere AI er i utvikling, og det begynner å tjene mye penger, spesielt de som dominerer markedet. Det er imidlertid behov for "skaperne for å bryte den, og fikse det, og til slutt forhindre at teknologien i dens kommende brukstilfeller blåser opp i ansiktene våre.»

Hun la til at selskaper kan oppleve litt irrasjonell overflod. "Alle bedrifter ønsker å være en AI-forretningsprøvemaskin akkurat nå, og måten bedriftene våre kommer til å utnytte disse verktøyene for å integrere AI vil ha betydelig innvirkning på trusselmodellen vår," sa hun. Imidlertid betyr den raske bruken av AI at effekten på hele cybertrusselmodellen forblir ukjent.

Fremveksten av ChatGPT-trusler

Erkjenner det ChatGPT var "ganske vanskelig å unnslippe i løpet av de siste ni månedene," sa Markstedter at den skyhøye økningen i brukere førte til at noen selskaper begrenset tilgangen til den. Bedrifter var skeptiske, sa hun, siden OpenAI er en svart boks, og alt du mater til ChatGPT vil være en del av OpenAI-datasettet.

Hun sa: "Bedrifter ønsker ikke å lekke sensitive data til en ekstern leverandør, så de startet forby ansatte fra å bruke ChatGPT på jobb, men enhver bedrift ønsker fortsatt å, og blir til og med presset til, å utvide arbeidsstyrken sine produkter og tjenester med AI; de stoler bare ikke på sensitive data til ... eksterne leverandører som kan utgjøre en del av datasettet."

Imidlertid vil det intense fokuset og det raske utviklings- og integrasjonshastigheten til OpenAI tvinge sikkerhetsutøvere til å utvikle seg raskt.

"Så måten organisasjonene våre skal bruke disse tingene på endrer seg ganske raskt: fra noe du sjekker med for nettleseren, til noe bedrifter integrerer med sin egen infrastruktur, til noe som snart vil være hjemmehørende i operativsystemet og mobilenheten vår. ," hun sa.

Muligheten for industrien

Markstedter sa at det største problemet for AI og cybersikkerhet er at vi ikke har nok folk med ferdigheter og kunnskap å vurdere disse systemene og lage rekkverkene vi trenger. "Så det er allerede nye jobbsmaker som dukker opp ut av disse små utfordringene," sa hun.

Avslutningsvis fremhevet Markstedter fire takeaways: For det første at AI-systemer og deres brukstilfeller og evner er i utvikling; for det andre, at vi må ta muligheten for at autonome AI-agenter blir en realitet i virksomheten vår på alvor; for det tredje er at vi må revurdere konseptene våre rundt identitet og apper; og for det fjerde må vi revurdere konseptene våre rundt datasikkerhet.

"Så vi må lære om selve teknologien som endrer systemene våre og trusselmodellen vår for å løse disse nye problemene, og teknologiske endringer er ikke nye for oss," sa hun. "Vi har ingen manualer som forteller oss hvordan vi skal fikse våre tidligere problemer. Vi er alle selvlærte på en eller annen måte, og nå tiltrekker bransjen vår kreative hoder med et helt tankesett. Så vi vet hvordan vi skal studere nye systemer og finne kreative måter å bryte dem på.»

Hun avsluttet med å si at dette er vår sjanse til å gjenoppfinne oss selv, vår sikkerhetsstilling og vårt forsvar. "For den neste faren for sikkerhetsutfordringer, må vi komme sammen som et fellesskap og fremme forskning på disse områdene," sa hun.

Tidstempel:

Mer fra Mørk lesning