A biztonságnak most fel kell hatalmaznia az AI-fejlesztőket

Nem kétséges, hogy a GenAI megváltoztatja az üzletmenetet. A kutatócégek hatalmas termelékenységnövekedést becsülnek minden ágazatban, ami teljesülése esetén minden iparágat teljesen átalakítana. Ilyen nagy potenciális haszonnal világos, hogy miért törekszik minden vállalat arra, hogy csapatai a lehető leggyorsabban MI-alapú alkalmazásokat építsenek. A biztonsági csapatoknak azonban most kell cselekedniük, hogy biztosítsák, hogy ezek az alkalmazások kibírják a vizsgálatot.

Verseny a mesterséges intelligencia üzleti értékének megragadásához először

Egyes vállalatok már több száz AI-alapú alkalmazást építettek eddig. A fejlődés üteme egyszerűen hihetetlen, figyelemre méltó példákkal, mint pl A Microsoft kiadja a Copilot alkalmazásokat sokkal nagyobb ütemben, mint amit egy hatalmas vállalat általában teljesít.

A keretek és a körülöttük lévő szerszámok kiforratlansága miatt AI alkalmazás fejlesztés, ezek a technológia széles skálájával készülnek. A néhány alapvető modellre épülő fejlesztési keretrendszer számos és jelentősen eltér egymástól, és folyamatosan felbukkannak. Keretrendszerek, mint LangChain és a AutoGPT példátlan ütemben tettek szert jelentős népszerűségre. Egy nagyvállalatnál könnyen számíthat arra, hogy több tíz különböző keretrendszert használnak ezeknek az alkalmazásoknak az elkészítéséhez.

Az első szervezetek, amelyek képesek megragadni az AI termelékenységnövekedését a többiek előtt, hatalmas győzelmet aratnak. Ezért egy olyan versenyen veszünk részt, ahol be kell érnünk a jelenleg elérhető keretekkel, és csak elintéznünk kell a dolgokat. Valószínűleg sokáig tart a keretrendszerek szabványosítása, és addigra már elkésik a játéktól.

Szembe kell néznünk a valósággal: az üzletet – még nem bizonyított eszközökkel, keretrendszerekkel és fenyegetési modellekkel – példátlan ütemben újragondolják.

Biztonság: hol kezdjük?

A sok új alkalmazás ilyen rövid időn belüli felépítése óriási biztonsági következményekkel jár. Először is, ezek csak több alkalmazás, ugyanazokkal a biztonsági kockázatokkal, mint bármely más alkalmazás; meg kell szerezniük a személyazonosságot, az adatáramlást és a titkos kezelést, hogy néhány aggályt említsünk. Másodszor, a GenAI egyedi biztonsági kihívásokat hoz létre, amelyek például a OWASP LLM Top 10 segít megörökíteni és oktatni.

A fejlett biztonsági szervezetek az IT-vel együttműködve dedikált központokat állítanak össze az alkalmazások leltározására, értékelésére és biztonságossá tételére. Vegye figyelembe, hogy ezekhez teljesen új folyamatok létrehozása és újonnan delegált felelősségek szükségesek. Ideális esetben ezek a központok megfelelő erőforrásként működhetnek a fejlesztők számára, fenyegetésmodellezési és tervezési felülvizsgálati szolgáltatásokat kínálva a biztonságos szabványok betartásának biztosítása érdekében.

Egy ilyen központosított erőforrás létrehozása nem könnyű feladat. Az AI-alapú projektek megtalálása egy vállalaton belül óriási kihívás leltár mindig van. Az ilyen alkalmazások auditálásához szükséges technikai készségek fejlesztése is nehéz – különösen a különféle mesterséges intelligencia keretrendszerek elterjedése miatt, amelyek mindegyikének megvannak a maga furcsaságai és hiányosságai. Ezeknek az alkalmazásoknak a nyomon követése a termelésben újabb kihívást jelent, mind technikai szempontból a megfelelő adatok beszerzése kiforratlan fejlesztési keretrendszerekből, mind pedig a biztonsági elemzés szempontjából, hogy tudjuk, mit kell keresni.

Ezek azonban nem leküzdhetetlen kihívások. Valójában a leltár, a biztonsági értékelés és a futásidejű védelem tipikus alkalmazásbiztonsági problémaképletét követik. Ahhoz, hogy előbbre jussunk, és lehetővé tegyük vállalkozásunk számára, hogy először megragadhassa a mesterséges intelligencia forradalmát, el kell kezdenünk haladni e problémák megoldásában.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://www.darkreading.com/edge/security-must-empower-ai-developers-now