Turvalisus peab andma tehisintellekti arendajatele kohe võimaluse

Pole kahtlust, et GenAI muudab äritegevust. Uuringufirmad prognoosivad tohutut tootlikkuse kasvu kõigis sektorites, mis täitumisel muudaks täielikult iga majandusharu. Sellise suure potentsiaalse kasu juures on selge, miks iga ettevõte püüab võimaldada oma meeskondadel luua tehisintellektil põhinevaid rakendusi nii kiiresti kui võimalik. Turvameeskonnad peavad aga tegutsema kohe, et tagada nende rakenduste kontrollimine.

Võidujooks esmalt tehisintellekti äriväärtuse püüdmiseks

Mõned ettevõtted on juba loonud sadu tehisintellekti toega rakendusi. Arengutempo on lihtsalt uskumatu, selliste märkimisväärsete näidetega nagu Microsoft annab välja Copiloti rakendused kiirusega, mis on palju suurem kui suurettevõte tavaliselt.

Raamistiku ja ümberkaudsete tööriistade ebaküpsuse tõttu AI rakenduste arendamine, neid ehitatakse mitmesuguste tehnoloogiate abil. Arendusraamistikke, mis tuginevad vähestele põhimudelitele, on palju ja need erinevad märkimisväärselt ning neid ilmub pidevalt. Raamistikud nagu LangChain ja AutoGPT on saavutanud enneolematu kiirusega märkimisväärse populaarsuse. Suures ettevõttes võite kergesti eeldada, et leiate nende rakenduste loomiseks kümneid erinevaid raamistikke.

Esimesed organisatsioonid, kes suudavad tehisintellektilt tootlikkuse kasvu enne teisi tabada, saavad tohutu võidu. Seetõttu osaleme võidujooksul, kus peame leppima praegu saadaolevate raamistikega ja lihtsalt asju ajama. Tõenäoliselt võtab raamistike standardimine kaua aega ja selleks ajaks olete juba mängu hiljaks jäänud.

Peame reaalsusega silmitsi seisma: äri kujundatakse ümber – tõestamata tööriistade, raamistike ja ohumudelitega – enneolematu kiirusega.

Turvalisus: kust me üldse alustame?

Nii paljude uute rakenduste loomine nii lühikese aja jooksul avaldab tohutut mõju turvalisusele. Esiteks on need lihtsalt rohkem rakendusi, millel on samad turvariskid nagu mis tahes muu rakendus; nad peavad saama identiteedi, andmevoo ja salajase haldamise õiguse, kui nimetada mõnda muret. Teiseks loob GenAI unikaalseid turbeprobleeme, mille raamistikud nagu OWASP LLM Top 10 aidata jäädvustada ja harida.

Täiustatud turbeorganisatsioonid loovad koostöös IT-ga spetsiaalseid keskusi nende rakenduste inventeerimiseks, hindamiseks ja kaitsmiseks. Pange tähele, et need nõuavad täiesti uute protsesside loomist ja äsja delegeeritud kohustusi. Ideaalis võivad need keskused toimida arendajatele võimaldava ressursina, pakkudes ohtude modelleerimise ja disaini ülevaatuse teenuseid, et tagada turvastandardite järgimine.

Sellise tsentraliseeritud ressursi loomine pole lihtne. Kõigi AI-toega projektide leidmine ettevõttes on tohutu väljakutse laoseisu on alati. Nende rakenduste auditeerimiseks vajalike tehniliste oskuste arendamine on samuti keeruline – eriti erinevate tehisintellekti raamistike leviku tõttu, millest igaühel on oma veidrused ja vead. Nende rakenduste jälgimine tootmises on veel üks väljakutse nii tehnilisest vaatenurgast, et saada ebaküpsetest arendusraamistikest õigeid andmeid, kui ka turvaanalüüsi vaatenurgast, et teada saada, mida otsida.

Need ei ole siiski ületamatud väljakutsed. Tegelikult järgivad nad tüüpilist rakenduse turbeprobleemide valemit, milleks on inventuuri, turbehinnangu ja käitusaja kaitse. Et jõuda edasi ja võimaldada meie ettevõttel esmalt AI revolutsiooni tabada, peame nende probleemide lahendamisel edusamme tegema.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://www.darkreading.com/edge/security-must-empower-ai-developers-now