Turvapaineet nousevat tekoälyn lupausten ja vaarojen ympärille

Turvapaineet nousevat tekoälyn lupausten ja vaarojen ympärille

Aikaleima: 11. elokuuta 2023 4
Tekoälyn lupausten ja vaaran PlatoBlockchain Data Intelligence -tiedon ympärille kasvaa turvallisuuspaineita. Pystysuuntainen haku. Ai.

BLACK HAT USA – Las Vegas – perjantai, 11. elokuuta – Tekoäly (AI) ei ole uusi tulokas teknologiamaailmassa, mutta kun ChatGPT ja vastaavat tarjoukset vievät sen laboratorioympäristöjen ja Sirin kaltaisten käyttötapausten ulkopuolelle, Maria 'Azeria' Markstedter, Azeria Labsin perustaja ja toimitusjohtaja, sanoi, että turvallisuusalan ammattilaisten on olla valppaana sen suhteen, kuinka sen kehitys vaikuttaa heidän päivittäiseen todellisuuteensa.

Hän väitti leikkimielisesti, että tekoäly on nyt "suurten teknologiayritysten turvallisissa käsissä, jotka kilpailevat aikaa vastaan ​​ollakseen turvassa eliminoimiselta". OpenAI julkaisee ChatGPT-mallinsa kun taas muut yritykset pidättelivät. "Kanssa ChatGPT:n nousu, Googlen rauhanaika oli ohi ja kaikki hyppäsivät mukaan", hän sanoi puhuessaan Black Hat USA:n tämän viikon pääpuhujavaiheesta.

Nähdään mihin rahat menevät

Yritykset investoivat miljoonia dollareita rahoitusta tekoälyyn, mutta aina kun maailma siirtyy kohti uudenlaista teknologiaa, "yritysten kilpavarustelu ei johdu turvallisuudesta, koska turvallisuus hidastaa edistymistä."

Hän sanoi käyttötapauksia integroida AI kehittyvät, ja se alkaa ansaita paljon rahaa, etenkin ne, jotka hallitsevat markkinoita. Tarvitaan kuitenkin "luojat murtamaan sen, ja korjaa se ja viime kädessä estä teknologiaa räjähtämästä kasvoihimme tulevissa käyttötapauksissa."

Hän lisäsi, että yritykset saattavat kokea hieman irrationaalista ylenpalttista. "Jokainen yritys haluaa olla tekoälyliiketoiminnan mallikone juuri nyt, ja tapa, jolla yrityksemme aikovat hyödyntää näitä työkaluja tekoälyn integroimiseen, vaikuttaa merkittävästi uhkamalliimme", hän sanoi. Tekoälyn nopea käyttöönotto tarkoittaa kuitenkin, että sen vaikutus koko kyberuhan malliin on edelleen tuntematon.

ChatGPT-uhkien nousu

Sen tunnustaminen ChatGPT oli "melko vaikea paeta viimeisen yhdeksän kuukauden aikana", Markstedter sanoi, että käyttäjien räjähdysmäinen kasvu johti siihen, että jotkut yritykset rajoittivat pääsyä siihen. Yritykset suhtautuivat skeptisesti, hän sanoi, koska OpenAI on musta laatikko, ja kaikki, mitä syötät ChatGPT:hen, on osa OpenAI-tietojoukkoa.

Hän sanoi: ”Yritykset eivät halua vuotaa arkaluontoisia tietojaan ulkoiselle palveluntarjoajalle, joten he aloittivat työntekijöiden kieltäminen ChatGPT:n käyttämisestä töissä, mutta jokainen yritys haluaa edelleen ja on jopa painostettu lisäämään työvoimatuotteitaan ja -palveluitaan tekoälyllä; he eivät vain luota arkaluontoisia tietoja… ulkopuolisiin palveluntarjoajiin, jotka voivat olla osa tietojoukkoa."

OpenAI:n intensiivinen keskittyminen ja nopea kehitys- ja integraatiotahti pakottavat kuitenkin tietoturvan ammattilaiset kehittymään nopeasti.

"Joten tapa, jolla organisaatiomme aikovat käyttää näitä asioita, muuttuu melko nopeasti: jostain, jonka avulla tarkistat selaimen, jostain, jota yritykset integroivat omaan infrastruktuuriinsa, johonkin, joka on pian natiivi käyttöjärjestelmämme ja mobiililaitteemme. ," hän sanoi.

Teollisuuden mahdollisuus

Markstedter sanoi, että tekoälyn ja kyberturvallisuuden suurin ongelma on, että meillä ei ole tarpeeksi ihmisiä taitoja ja tietoja arvioidaksemme näitä järjestelmiä ja luodaksemme tarvitsemamme suojakaiteet. "Joten näistä pienistä haasteista syntyy jo uusia työmakuja", hän sanoi.

Lopuksi Markstedter korosti neljää asiaa: Ensinnäkin tekoälyjärjestelmät ja niiden käyttötapaukset ja -ominaisuudet kehittyvät; toiseksi meidän on otettava vakavasti mahdollisuus, että itsenäisistä tekoälyagenteista tulee todellisuutta yrityksessämme; Kolmanneksi meidän on harkittava uudelleen käsitteitämme identiteetistä ja sovelluksista; ja neljänneksi meidän on harkittava uudelleen tietoturvakäsityksiämme.

"Joten meidän on opittava juuri siitä teknologiasta, joka muuttaa järjestelmiämme ja uhkamalliamme, jotta voimme käsitellä näitä nousevia ongelmia, eivätkä tekniset muutokset ole meille uusia", hän sanoi. "Meillä ei ole käsikirjoja, joissa kerrottaisiin, kuinka aiemmat ongelmamme korjataan. Olemme kaikki tavalla tai toisella itseoppineita, ja nyt toimialamme houkuttelee luovia mieliä kokonaisella ajattelutavalla. Joten tiedämme kuinka tutkia uusia järjestelmiä ja löytää luovia tapoja murtaa ne."

Hän päätti toteamalla, että tämä on tilaisuutemme keksiä uudelleen itsemme, turvallisuusasentomme ja puolustuksemme. "Seuraavien turvallisuushaasteiden vaaraa varten meidän on tultava yhteen yhteisönä ja edistettävä näiden alueiden tutkimusta", hän sanoi.

Aikaleima:

Lisää aiheesta Pimeää luettavaa