Securitatea trebuie să împuternicească dezvoltatorii AI acum

Nu există nicio îndoială că GenAI va schimba modul în care se desfășoară afacerile. Firmele de cercetare estimează câștiguri uriașe de productivitate în toate sectoarele, care, dacă ar fi îndeplinite, ar transforma complet fiecare industrie. Cu un câștig potențial atât de mare, este clar de ce fiecare întreprindere se străduiește să permită echipelor lor să creeze aplicații bazate pe inteligență artificială cât mai repede posibil. Cu toate acestea, echipele de securitate trebuie să acționeze acum pentru a se asigura că aceste aplicații vor rezista controlului.

În primul rând, cursa pentru a capta valoarea afacerii AI

Unele întreprinderi au construit deja sute de aplicații bazate pe inteligență artificială până acum. Rata de dezvoltare este pur și simplu incredibilă, cu exemple notabile precum Microsoft lansează aplicații Copilot la o rată mult peste ceea ce oferă de obicei o întreprindere uriașă.

Din cauza imaturității cadrelor și a instrumentelor din jur Dezvoltarea aplicației AI, acestea sunt construite cu o gamă largă de tehnologii. Cadrele de dezvoltare care se bazează pe câteva modele fundamentale sunt numeroase și variază semnificativ și continuă să apară. Cadre ca LangChain și AutoGPT au câștigat o popularitate semnificativă într-un ritm fără precedent. Într-o întreprindere majoră, vă puteți aștepta cu ușurință să găsiți zeci de cadre diferite folosite pentru a construi aceste aplicații.

Primele organizații care sunt capabile să obțină câștiguri de productivitate din AI înaintea altora vor avea un câștig uriaș. Prin urmare, participăm la o cursă în care trebuie să ne descurcăm cu cadrele disponibile chiar acum și să ducem lucrurile la bun sfârșit. Probabil că va dura mult timp pentru ca cadrele să se standardizeze și până atunci vei întârzia deja jocul.

Trebuie să ne confruntăm cu realitatea: afacerile sunt reimaginate – cu instrumente, cadre și modele de amenințare nedovedite – într-un ritm fără precedent.

Securitate: de unde începem?

Construirea atât de multe aplicații noi într-un interval de timp atât de scurt are implicații uriașe de securitate. În primul rând, acestea sunt doar mai multe aplicații, cu aceleași riscuri de securitate pe care le introduce orice altă aplicație; trebuie să obțină identitatea, fluxul de date și gestionarea secretelor corecte, pentru a numi câteva preocupări. În al doilea rând, GenAI creează unele provocări unice de securitate, care cadre precum OWASP LLM Top 10 ajuta la captarea si educarea asupra.

Organizațiile avansate de securitate, în colaborare cu IT, creează centre dedicate pentru inventarierea, evaluarea și securizarea acestor aplicații. Rețineți că acestea necesită crearea de procese complet noi și responsabilități nou delegate. În mod ideal, aceste centre pot acționa ca o resursă activatoare pentru dezvoltatori, oferind servicii de modelare a amenințărilor și de revizuire a designului pentru a se asigura că sunt îndeplinite standardele de securitate.

Crearea unei resurse centralizate ca acestea nu este o ispravă ușoară. Găsirea tuturor proiectelor bazate pe inteligență artificială într-o întreprindere este o provocare uriașă, așa cum inventarul este întotdeauna. Dezvoltarea abilităților tehnice necesare pentru auditarea acestor aplicații este, de asemenea, dificilă – mai ales din cauza proliferării diferitelor cadre de AI, fiecare cu propriile sale ciudații și probleme. Monitorizarea acestor aplicații în producție este încă o provocare, atât din perspectiva tehnică a obținerii datelor potrivite din cadrele de dezvoltare imature, cât și din perspectiva analizei de securitate a știi ce să căutați.

Acestea nu sunt însă provocări de netrecut. De fapt, ele urmează formula tipică a problemei de securitate a aplicațiilor de inventar, evaluare a securității și protecție în timpul execuției. Pentru a merge mai departe și a permite afacerii noastre să surprindă mai întâi revoluția AI, trebuie să începem să facem progrese în rezolvarea acestor probleme.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://www.darkreading.com/edge/security-must-empower-ai-developers-now