Sikkerhedspresset stiger omkring AI's løfter og fare

Sikkerhedspresset stiger omkring AI's løfter og fare

Tidsstempel: 11. august 2023 kl. 4
Sikkerhedspresset stiger omkring AI's løfter og fare PlatoBlockchain Data Intelligence. Lodret søgning. Ai.

BLACK HAT USA – Las Vegas – fredag ​​den 11. august – Kunstig intelligens (AI) er ikke en nybegynder i teknologiverdenen, men da ChatGPT og lignende tilbud skubber det ud over laboratoriemiljøer og use cases som Siri, sagde Maria 'Azeria' Markstedter, grundlægger og administrerende direktør for Azeria Labs, at sikkerhedsudøvere skal være opmærksomme på, hvordan dens udvikling vil påvirke deres daglige realiteter.

Spøgende hævdede hun, at AI "nu er i trygge hænder hos store teknologivirksomheder, der kæmper mod tiden for at konkurrere om at være sikker fra eliminering," i kølvandet på OpenAI frigiver sin ChatGPT-model mens andre virksomheder holdt tilbage. "Med fremkomsten af ​​ChatGPT, Googles fredstidstilgang var forbi, og alle sprang til,” sagde hun, da hun talte fra hovedscenen på Black Hat USA i denne uge.

At se, hvor pengene bliver af

Virksomheder investerer millioner af dollars i finansiering i kunstig intelligens, men hver gang verden skifter mod en ny type teknologi, "drives virksomheders våbenkapløb ikke af bekymring for sikkerhed eller sikkerhed, da sikkerhed bremser fremskridt."

Hun sagde use cases til integrere AI udvikler sig, og det begynder at tjene mange penge, især dem der dominerer markedet. Der er dog behov for "skabere til at bryde det, og ordne det, og i sidste ende forhindre teknologien i dens kommende use cases i at sprænge i vores ansigter."

Hun tilføjede, at virksomhederne måske oplever en smule irrationel overflod. "Enhver virksomhed ønsker at være en AI-forretningsprøvemaskine lige nu, og den måde, som vores virksomheder vil udnytte disse værktøjer til at integrere AI, vil have betydelig indflydelse på vores trusselsmodel," sagde hun. Den hurtige indførelse af kunstig intelligens betyder dog, at dens effekt på hele cybertrusselmodellen forbliver ukendt.

Rise of ChatGPT-trusler

At erkende det ChatGPT var "temmelig svært at undslippe i løbet af de sidste ni måneder," sagde Markstedter, at den voldsomme stigning i brugere førte til, at nogle virksomheder begrænsede adgangen til det. Virksomheder var skeptiske, sagde hun, da OpenAI er en sort boks, og alt hvad du fodrer til ChatGPT vil være en del af OpenAI-datasættet.

Hun sagde: "Virksomheder ønsker ikke at lække deres følsomme data til en ekstern udbyder, så de startede at forbyde medarbejdere fra at bruge ChatGPT til arbejde, men enhver virksomhed ønsker stadig at, og er endda presset til, at udvide deres arbejdsstyrkeprodukter og -tjenester med AI; de stoler bare ikke på følsomme data til ... eksterne udbydere, der kan indgå i datasættet."

Det intense fokus og det hurtige udviklingstempo og integration af OpenAI vil dog tvinge sikkerhedsudøvere til at udvikle sig hurtigt.

"Så måden, vores organisationer vil bruge disse ting på, ændrer sig ret hurtigt: fra noget, du tjekker med til browseren, til noget, virksomheder integrerer i deres egen infrastruktur, til noget, der snart vil være hjemmehørende i vores operativsystem og mobilenhed ," hun sagde.

Muligheden for industrien

Markstedter sagde, at det største problem for kunstig intelligens og cybersikkerhed er, at vi ikke har nok folk med færdigheder og viden at vurdere disse systemer og skabe de autoværn, som vi har brug for. "Så der er allerede nye jobsmag dukker op ud af disse små udfordringer," sagde hun.

Afslutningsvis fremhævede Markstedter fire takeaways: For det første at AI-systemer og deres use cases og muligheder udvikler sig; for det andet, at vi er nødt til at tage muligheden for, at autonome AI-agenter bliver en realitet i vores virksomhed, alvorligt; for det tredje er, at vi skal genoverveje vores koncepter omkring identitet og apps; og for det fjerde skal vi genoverveje vores koncepter omkring datasikkerhed.

"Så vi er nødt til at lære om netop den teknologi, der ændrer vores systemer og vores trusselsmodel for at løse disse nye problemer, og teknologiske ændringer er ikke nye for os," sagde hun. "Vi har ingen manualer til at fortælle os, hvordan vi løser vores tidligere problemer. Vi er alle selvlærte på den ene eller anden måde, og nu tiltrækker vores branche kreative hjerner med et helt mindset. Så vi ved, hvordan vi studerer nye systemer og finder kreative måder at bryde dem på."

Hun afsluttede med at sige, at dette er vores chance for at genopfinde os selv, vores sikkerhedsstilling og vores forsvar. "For den næste fare for sikkerhedsudfordringer er vi nødt til at komme sammen som et fællesskab og fremme forskning i disse områder," sagde hun.

Tidsstempel:

Mere fra Mørk læsning