Rör dig snabbt och bryt företaget med AI

Rör dig snabbt och bryt företaget med AI

Tidsstämpel: 23 januari 2024 9:30
Rör dig snabbt och knäck företaget med AI PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Att arbeta för ett stort företag i många år ger dig ofta en stark känsla av att allt för alltid kommer att vara detsamma. Visst, vissa saker förändras, till och med drastiskt. Det finns upp- och nedgångar, omorganiseringar på en regelbunden takt, och ibland återuppfinner och föryngrar företag till och med sig själva som Satya Nadellas Microsoft gjorde de senaste åren. Men det mesta förblir detsamma och kulturen sitter på djupet. Det finns en inneboende ovilja att förändra; trots allt är det stora, framgångsrika företag — varför förändras?

Säkerhetspersonal når ofta en punkt i sin karriär där de ser tillbaka och frågar: Har vi gjort några framsteg? Är organisationer verkligen säkrare i dag än för 20 år sedan? Visst, hotbilden är annorlunda, men det är också mängden pengar och, ännu viktigare, mindshare som spenderas på säkerhet i hela branschen. Även med allt detta förändras vissa saker aldrig. Vi har vintergröna ordspråk, som "utvecklare bryr sig inte om säkerhet", "du kan inte säkra omkretsen", "x är den nya omkretsen", och min personliga (o)favorit, "användare är den svagaste länken."

Att trygga ett stort företag innebär att man måste ta itu med problemen i ett stort företag, som, som nämnts ovan, har en grundläggande ovilja att förändra.

Tills det gör det.

Ändra med hastigheten på AI

Ange artificiell intelligens (AI). Uppmuntrade av teknikens löfte om att förändra alla branscher, mobiliserar stora företag sina AI-initiativ blixtsnabbt. Det har varit otroligt (och skrämmande) att se hur snabbt Microsoft och andra, inklusive Salesforce, Google och Amazon, har drivit AI direkt in i sina kärnverksamheter. De gör detta trots att de vet att AI har allvarliga problem som ingen riktigt kan lösa ännu, som uppriktning med mänskliga värderingar och säkerhet risker. De gör detta för att deras kunder – hela företagsmarknaden – är angelägna om att ta till sig den blödande fördelen för att få en upp i konkurrenterna.

Om du är en AI-entusiast eller en AI-skeptiker spelar ingen roll just nu. Förändringens vindar blåser och en möjlighet har öppnats där företag är villiga att riskera sina kärnkompetenser för att skörda frukterna av AI innan deras konkurrenter gör det.

Att slå sönder företaget

Det viktigaste framstegen inom företags-AI är affärscopiloter. Varje stor Microsoft-butik tittar på Microsoft 365 Copilot att söka uppfyllandet av löftet om en enorm produktivitetsökning. Google, AWSoch Salesforce har släppt sina egna versioner: Duet AI, Amazon Q respektive Einstein. De gör det här för att de ser ett stort värde att vinna. Denna idé om en Copilot också går sönder helt nyckelantaganden om hur ett företag fungerar.

  • Bryter behörigheter. För att betjäna mina förfrågningar måste min personliga företags-AI mumsa igenom all data jag kan komma åt för att indexera den så att den är tillgänglig för frågor. Ganska snart kan vi förvänta oss att det tränar på det tidigare samtalet jag hade med det. Låt oss nu fundera på vad som händer när jag flyttar till en annan roll i företaget eller någon tar bort min åtkomst. Kan vi ta bort den kunskapen från AI:s neurala nätverk? Det verkar inte vara en befintlig förmåga hos modeller idag. Kanske imorgon?

  • Att bryta datagränser. Om en enskild AI kan svara på frågor över all min företagsdataåtkomst är det svårt att se hur datagränser kan upprätthållas. Varje kontroll vi sätter framför data blir meningslös när AI:n kan läsa data och skriva oändliga gånger från dess "minne".

  • Brytande aktivitetsövervakning. Vi är vana vid att övervaka användaraktivitet för att hitta anställda som snokar eller skilja mellan mänskligt beteende och manusbeteende. När AI fungerar genom att efterlikna användare och måste röra varje bit av data som jag har tillgång till för att bygga ett index, gör onormal tillgång betyder något längre?

Dessa problem kan ha lösningar precis runt hörnet, eller så kan de vara oöverstigliga i AI:s nuvarande form och kräver en grundläggande omtanke. Men en sak är klar: problemen är inte lösta, men vi går ändå framåt. Och det kommer säkert att bli intressant.

Tidsstämpel:

Mer från Mörk läsning