Säkerhetstrycket ökar runt AI:s löften och fara

BLACK HAT USA – Las Vegas – fredag ​​11 augusti – Artificiell intelligens (AI) är inte en nykomling i teknikvärlden, men eftersom ChatGPT och liknande erbjudanden driver det bortom labbmiljöer och användningsfall som Siri, sa Maria 'Azeria' Markstedter, grundare och VD för Azeria Labs, att säkerhetsutövare måste vara uppmärksamma på hur dess utveckling kommer att påverka deras dagliga verklighet.

Skämtsamt hävdade hon att AI "nu är i säkra händer på stora teknikföretag som tävlar mot tiden för att tävla för att vara säkra från eliminering", i kölvattnet av OpenAI släpper sin ChatGPT-modell medan andra företag höll tillbaka. "Med uppkomsten av ChatGPT, Googles strategi för fredstid var över och alla hoppade in”, sa hon när hon talade från keynote-scenen på Black Hat USA den här veckan.

Att se vart pengarna tar vägen

Företag investerar miljontals dollar i finansiering i AI, men närhelst världen övergår till en ny typ av teknologi, "drivs inte företags kapprustning av oro för säkerhet eller säkerhet, eftersom säkerhet bromsar framstegen."

Hon sa att användningsfallen till integrera AI utvecklas, och det börjar tjäna mycket pengar, särskilt de som dominerar marknaden. Det finns dock ett behov av "skapare att bryta den, och fixa det, och i slutändan förhindra att tekniken i dess kommande användningsfall blåser upp i våra ansikten."

Hon tillade att företag kan uppleva lite irrationell överdåd. "Varje företag vill vara en AI-företagsexempelmaskin just nu och det sätt som våra företag kommer att utnyttja dessa verktyg för att integrera AI kommer att ha betydande inverkan på vår hotmodell," sa hon. Men det snabba antagandet av AI innebär att dess effekt på hela cyberhotsmodellen förblir okänd.

Rise of ChatGPT-hot

Att erkänna det ChatGPT var "ganska svårt att undkomma under de senaste nio månaderna", sa Markstedter att den skyhöga ökningen av användare ledde till att vissa företag begränsade åtkomsten till den. Företag var skeptiska, sa hon, eftersom OpenAI är en svart låda, och allt du matar in till ChatGPT kommer att ingå i OpenAI-datauppsättningen.

Hon sa: "Företag vill inte läcka sina känsliga uppgifter till en extern leverantör, så de började förbjuda anställda från att använda ChatGPT för arbetet, men alla företag vill fortfarande, och är till och med pressade att, utöka sina arbetsstyrkaprodukter och tjänster med AI; de litar helt enkelt inte på känslig information till ... externa leverantörer som kan vara en del av datamängden."

Det intensiva fokuset och den snabba utvecklingen och integrationen av OpenAI kommer dock att tvinga säkerhetsutövare att utvecklas snabbt.

"Så hur våra organisationer kommer att använda dessa saker förändras ganska snabbt: från något du kollar med för webbläsaren, till något företag integrerar med sin egen infrastruktur, till något som snart kommer att vara inbyggt i vårt operativsystem och mobila enhet ," Hon sa.

Möjligheten för industrin

Markstedter sa att det största problemet för AI och cybersäkerhet är att vi inte har tillräckligt med människor med kunskaper att bedöma dessa system och skapa de skyddsräcken som vi behöver. "Så det finns redan nya jobbsmaker som växer fram ur dessa små utmaningar," sa hon.

Avslutningsvis lyfte Markstedter fram fyra takeaways: För det första att AI-system och deras användningsfall och möjligheter utvecklas; för det andra att vi måste ta möjligheten att autonoma AI-agenter blir verklighet inom vårt företag på allvar; för det tredje är att vi måste ompröva våra koncept kring identitet och appar; och för det fjärde måste vi ompröva våra koncept kring datasäkerhet.

"Så vi måste lära oss om själva tekniken som förändrar våra system och vår hotmodell för att lösa dessa nya problem, och tekniska förändringar är inte nya för oss", sa hon. "Vi har inga manualer som talar om för oss hur vi löser våra tidigare problem. Vi är alla självlärda på ett eller annat sätt, och nu lockar vår bransch till sig kreativa hjärnor med ett helt tänkesätt. Så vi vet hur man studerar nya system och hittar kreativa sätt att bryta dem.”

Hon avslutade med att säga att detta är vår chans att återuppfinna oss själva, vår säkerhetsställning och vårt försvar. "För nästa fara med säkerhetsutmaningar måste vi samlas som en gemenskap och främja forskning om dessa områden," sa hon.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Fordon / elbilar, Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• ChartPrime. Höj ditt handelsspel med ChartPrime. Tillgång här.
• BlockOffsets. Modernisera miljökompensation ägande. Tillgång här.
• Källa: https://www.darkreading.com/threat-intelligence/security-pressure-mounts-ai-promises-peril