Turvallisuuden on annettava tekoälykehittäjille mahdollisuus nyt

Turvallisuuden on annettava tekoälykehittäjille mahdollisuus nyt

Aikaleima: 16. lokakuuta 2023 7
Turvallisuuden on annettava tekoälykehittäjille nyt PlatoBlockchain Data Intelligence. Pystysuuntainen haku. Ai.

Ei ole epäilystäkään siitä, että GenAI tulee muuttamaan tapaa, jolla liiketoiminta hoidetaan. Tutkimusyritykset arvioivat valtavia tuottavuuden nousuja kaikilla aloilla, mikä toteutuessaan muuttaisi täysin jokaisen toimialan. Näin suurella mahdollisella hyödyllä on selvää, miksi jokainen yritys pyrkii antamaan tiimilleen mahdollisuuden rakentaa tekoälypohjaisia ​​sovelluksia mahdollisimman nopeasti. Turvatiimien on kuitenkin toimittava nyt varmistaakseen, että nämä sovellukset kestävät tarkastelun.

Kilpajuoksu tekoälyn liiketoiminnan arvon taltioimiseksi ensin

Jotkut yritykset ovat jo rakentaneet satoja tekoälyllä varustettuja sovelluksia tähän mennessä. Kehitysvauhti on aivan uskomatonta, kuten merkittäviä esimerkkejä Microsoft julkaisee Copilot-sovelluksia nopeudella, joka ylittää sen, mitä suuri yritys tyypillisesti tuottaa.

Kehysten ja ympärillä olevien työkalujen epäkypsyyden vuoksi AI-sovelluskehitys, niitä rakennetaan monenlaisilla teknologioilla. Kehityskehyksiä, jotka rakentuvat muutamien perusmallien päälle, on lukuisia ja ne vaihtelevat merkittävästi, ja niitä tulee jatkuvasti esiin. Kehykset kuten LangChain ja AutoGPT ovat saavuttaneet suuren suosion ennennäkemättömällä vauhdilla. Suuressa yrityksessä voit helposti odottaa löytäväsi kymmeniä erilaisia ​​kehyksiä, joita käytetään näiden sovellusten rakentamiseen.

Ensimmäiset organisaatiot, jotka pystyvät saamaan tuottavuuden kasvun tekoälystä ennen muita, saavat valtavan voiton. Siksi osallistumme kilpailuun, jossa meidän täytyy tyytyä juuri nyt saatavilla oleviin kehyksiin ja vain saada asiat tehtyä. Kehysten standardoituminen kestää luultavasti kauan, ja siihen mennessä olet jo myöhässä pelistä.

Meidän on kohdattava todellisuus: liiketoimintaa suunnitellaan uudelleen – todistamattomilla työkaluilla, kehyksillä ja uhkamalleilla – ennennäkemättömällä vauhdilla.

Turvallisuus: Mistä edes aloitamme?

Niin monien uusien sovellusten rakentamisella näin lyhyessä ajassa on valtavia turvallisuusvaikutuksia. Ensinnäkin nämä ovat vain enemmän sovelluksia, joilla on samat turvallisuusriskit kuin mikä tahansa muu sovellus. Heidän on saatava identiteetti, tietovirta ja salainen hallinta oikein, mainitakseni muutamia huolenaiheita. Toiseksi GenAI luo ainutlaatuisia tietoturvahaasteita, jotka sisältävät mm OWASP LLM Top 10 auttaa vangitsemaan ja kouluttamaan.

Kehittyneet tietoturvaorganisaatiot muodostavat yhteistyössä IT:n kanssa omistettuja keskuksia näiden sovellusten inventoimiseksi, arvioimiseksi ja suojaamiseksi. Huomaa, että nämä edellyttävät täysin uusien prosessien luomista ja uusia delegoituja vastuita. Ihannetapauksessa nämä keskukset voivat toimia kehitysresursseina tarjoamalla uhkien mallinnus- ja suunnittelupalveluita turvallisten standardien noudattamisen varmistamiseksi.

Tällaisen keskitetyn resurssin luominen ei ole helppoa. Kaikkien AI-käyttöisten projektien löytäminen yrityksestä on valtava haaste varasto on aina. Myös näiden sovellusten auditointiin tarvittavien teknisten taitojen kehittäminen on vaikeaa – erityisesti erilaisten tekoälykehysten yleistymisen vuoksi, joista jokaisella on omat omituisuutensa ja hankaluutensa. Näiden sovellusten seuranta tuotannossa on jälleen yksi haaste sekä teknisestä näkökulmasta oikean tiedon saamiseksi epäkypsistä kehityskehyksistä että tietoturva-analyysin näkökulmasta, jotta tiedät mitä etsiä.

Nämä eivät kuitenkaan ole ylitsepääsemättömiä haasteita. Itse asiassa ne noudattavat tyypillistä sovelluksen tietoturvaongelman kaavaa inventaario, tietoturva-arviointi ja ajonaikainen suojaus. Jotta voimme päästä eteenpäin ja mahdollistaaksemme yrityksemme vangita tekoälyvallankumouksen ensin, meidän on edettävä näiden ongelmien ratkaisemisessa.

Aikaleima:

Lisää aiheesta Pimeää luettavaa