Kuinka rakentaa tekoäly turvallisesti kyberturvallisuusohjelmissasi

Kyberturvallisuusyritys Group-IB paljasti kesäkuun lopussa merkittävän tietoturvaloukkaus, joka vaikutti ChatGPT-tileihin. Yhtiö tunnisti hämmästyttävät 100,000 XNUMX vaarantunutta laitetta, joista jokaisessa oli ChatGPT-tunniste, ja joita myytiin myöhemmin laittomilla Dark Web -markkinapaikoilla kuluneen vuoden aikana. Tämä tietomurto vaati välitöntä huomiota ChatGPT-tilien vaarantuneen turvallisuuden korjaamiseksi, koska arkaluonteisia tietoja sisältävät hakukyselyt altistuvat hakkereille.

Toisessa tapahtumassa, alle kuukauden sisällä, Samsung kärsi kolme dokumentoitua tapausta, joissa työntekijät vahingossa vuotanut arkaluonteisia tietoja ChatGPT:n kautta. Koska ChatGPT säilyttää käyttäjien syötetiedot parantaakseen omaa suorituskykyään, nämä Samsungille kuuluvat arvokkaat liikesalaisuudet ovat nyt tekoälypalvelun takana olevan OpenAI:n hallussa. Tämä aiheuttaa merkittäviä huolta Samsungin omistamien tietojen luottamuksellisuudesta ja turvallisuudesta.

Koska ChatGPT on huolissaan EU:n yleisen tietosuoja-asetuksen (GDPR) noudattamisesta, joka määrää tiukat ohjeet tietojen keräämiselle ja käytölle, Italia on asettanut valtakunnallisen kiellon ChatGPT:n käytöstä.

Tekoälyn ja luovien tekoälysovellusten nopea kehitys on avannut uusia mahdollisuuksia nopeuttaa liiketoimintatiedon, tuotteiden ja toimintojen kasvua. Mutta kyberturvallisuusohjelmien omistajien on varmistettava tietojen yksityisyys odottaessaan lakien kehittämistä.

Julkinen moottori vs. yksityinen moottori

Käsitteiden ymmärtämiseksi paremmin aloitetaan määrittelemällä julkinen tekoäly ja yksityinen tekoäly. Julkinen tekoäly viittaa julkisesti saatavilla oleviin tekoälyohjelmistosovelluksiin, jotka on koulutettu tietojoukkoihin, jotka usein hankitaan käyttäjiltä tai asiakkailta. Hyvä esimerkki julkisesta tekoälystä on ChatGPT, joka hyödyntää Internetistä julkisesti saatavilla olevia tietoja, kuten tekstiartikkeleita, kuvia ja videoita.

Julkinen tekoäly voi sisältää myös algoritmeja, jotka käyttävät tietojoukkoja, jotka eivät ole yksinomaan tietylle käyttäjälle tai organisaatiolle. Tästä syystä julkisen tekoälyn asiakkaiden tulee olla tietoisia siitä, että heidän tietonsa eivät välttämättä pysy täysin yksityisinä.

Yksityinen tekoäly sen sijaan sisältää koulutusalgoritmeja tiedoilla, jotka ovat ainutlaatuisia tietylle käyttäjälle tai organisaatiolle. Jos tässä tapauksessa käytät koneoppimisjärjestelmiä mallin kouluttamiseen käyttämällä tiettyä tietojoukkoa, kuten laskuja tai verolomakkeita, tämä malli on organisaatiosi yksinoikeus. Alustatoimittajat eivät käytä tietojasi omien malliensa kouluttamiseen, joten yksityinen tekoäly estää tietojesi käytön kilpailijoiden auttamiseksi.

Integroi tekoäly koulutusohjelmiin ja käytäntöihin

Kokeillakseen, kehittääkseen ja integroidakseen tekoälysovelluksia tuotteisiinsa ja palveluihinsa parhaita käytäntöjä noudattaen, kyberturvallisuushenkilöstön tulee toteuttaa seuraavat käytännöt.

Käyttäjien tietoisuus ja koulutus: Kouluta käyttäjiä tekoälyn käyttöön liittyvistä riskeistä ja rohkaise heitä olemaan varovaisia ​​lähettäessään arkaluontoisia tietoja. Edistä turvallisia viestintäkäytäntöjä ja neuvo käyttäjiä varmistamaan tekoälyjärjestelmän aitous.

• Tietojen minimointi: Anna tekoälymoottorille vain vähimmäismäärä dataa, joka tarvitaan tehtävän suorittamiseen. Vältä jakamasta tarpeettomia tai arkaluonteisia tietoja, jotka eivät liity tekoälyn käsittelyyn.
• Anonymisointi ja tunnistamisen poistaminen: Aina kun mahdollista, anonymisoi tiedot tai poista niiden tunnistaminen ennen niiden syöttämistä tekoälymoottoriin. Tämä tarkoittaa henkilökohtaisten tunnistetietojen (PII) tai muiden arkaluonteisten määritteiden poistamista, joita ei tarvita tekoälyn käsittelyyn.

Turvalliset tiedonkäsittelykäytännöt: Luo tiukat käytännöt ja menettelyt arkaluonteisten tietojen käsittelyä varten. Rajoita pääsy vain valtuutettuun henkilöstöön ja käytä vahvoja todennusmekanismeja luvattoman käytön estämiseksi. Kouluta työntekijöitä tietosuojan parhaista käytännöistä ja ota käyttöön loki- ja auditointimekanismeja tietojen pääsyn ja käytön seuraamiseksi.

Säilytys ja hävittäminen: Määritä tietojen säilytyskäytännöt ja hävitä tiedot turvallisesti, kun niitä ei enää tarvita. Toteuta oikein tietojen hävittämismekanismit, kuten suojattu poistaminen tai salauksen poistaminen, jotta voidaan varmistaa, että tietoja ei voida palauttaa, kun niitä ei enää tarvita.

Oikeudelliset ja vaatimustenmukaisuusnäkökohdat: Ymmärrä tekoälymoottoriin syöttämiesi tietojen oikeudelliset seuraukset. Varmista, että tapa, jolla käyttäjät käyttävät tekoälyä, noudattaa asiaankuuluvia säännöksiä, kuten tietosuojalakeja tai toimialakohtaisia ​​standardeja.

Myyjän arvio: Jos käytät kolmannen osapuolen toimittamaa tekoälymoottoria, suorita perusteellinen arvio heidän turvatoimistaan. Varmista, että toimittaja noudattaa alan parhaita käytäntöjä tietoturvan ja yksityisyyden suhteen ja että heillä on asianmukaiset suojatoimenpiteet tietojesi suojaamiseksi. Esimerkiksi ISO- ja SOC-sertifikaatit tarjoavat arvokkaita kolmannen osapuolen vahvistuksia siitä, että toimittaja noudattaa tunnustettuja standardeja ja sitoutuu tietoturvaan.

Virallista tekoälyn hyväksyttävän käytön käytäntö (AUP): Tekoälyn hyväksyttävän käytön käytännössä tulisi hahmotella politiikan tarkoitus ja tavoitteet korostaen tekoälyteknologioiden vastuullista ja eettistä käyttöä. Sen tulisi määritellä hyväksyttävät käyttötapaukset ja määrittää tekoälyn käytön laajuus ja rajat. AUP:n tulisi edistää läpinäkyvyyttä, vastuullisuutta ja vastuullista päätöksentekoa tekoälyn käytössä, mikä edistää eettisten tekoälykäytäntöjen kulttuuria organisaatiossa. Säännölliset tarkistukset ja päivitykset varmistavat politiikan merkityksen kehittyvän tekoälytekniikan ja etiikan kannalta.

Päätelmät

Noudattamalla näitä ohjeita ohjelmien omistajat voivat hyödyntää tekoälytyökaluja tehokkaasti ja samalla turvata arkaluonteiset tiedot ja noudattaa eettisiä ja ammatillisia standardeja. On erittäin tärkeää tarkistaa tekoälyn luoman materiaalin tarkkuus ja samalla suojata syötetyt tiedot, joita käytetään vastauskehotteiden luomiseen.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. Autot / sähköautot, hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• BlockOffsets. Ympäristövastuun omistuksen nykyaikaistaminen. Pääsy tästä.
• Lähde: https://www.darkreading.com/edge/how-to-safely-architect-ai-in-your-cybersecurity-programs