Kuidas oma küberjulgeolekuprogrammides tehisintellekti ohutult üles ehitada

Juuni lõpus avaldas küberjulgeolekufirma Group-IB märkimisväärset turvarikkumine, mis mõjutas ChatGPT kontosid. Ettevõte tuvastas hämmastavalt 100,000 XNUMX ohustatud seadet, millest igaühel on ChatGPT mandaadid, millega kaubeldi viimase aasta jooksul ebaseaduslikel Dark Webi turgudel. See rikkumine ajendas viivitamatult tähelepanu pöörama ChatGPT kontode ohustatud turvalisusele, kuna tundlikku teavet sisaldavad otsingupäringud satuvad häkkerite kätte.

Ühes teises intsidendis, vähem kui kuu aja jooksul, koges Samsung kolm dokumenteeritud juhtumit, kus töötajad kogemata lekitas tundlikku teavet ChatGPT kaudu. Kuna ChatGPT säilitab oma jõudluse parandamiseks kasutajate sisendandmeid, on need Samsungile kuuluvad väärtuslikud ärisaladused nüüd tehisintellekti teenuse taga oleva ettevõtte OpenAI valduses. See tekitab olulisi probleeme seoses Samsungi omandiõigusega kaitstud teabe konfidentsiaalsuse ja turvalisusega.

Kuna on mures ChatGPT vastavuse pärast ELi andmekaitse üldmäärusele (GDPR), mis näeb ette ranged juhised andmete kogumiseks ja kasutamiseks, Itaalia on kehtestanud üleriigilise keelu ChatGPT kasutamise kohta.

Tehisintellekti ja generatiivsete AI rakenduste kiire areng on avanud uusi võimalusi äriteabe, toodete ja toimingute kasvu kiirendamiseks. Kuid küberturbeprogrammide omanikud peavad seaduste väljatöötamist oodates tagama andmete privaatsuse.

Avalik mootor versus eramootor

Mõistete paremaks mõistmiseks alustame avaliku ja privaatse AI määratlemisest. Avalik tehisintellekt viitab avalikult juurdepääsetavatele tehisintellekti tarkvararakendustele, mida on koolitatud andmekogude osas, mis on sageli pärit kasutajatelt või klientidelt. Avaliku tehisintellekti suurepärane näide on ChatGPT, mis kasutab Internetist avalikult kättesaadavaid andmeid, sealhulgas tekstiartikleid, pilte ja videoid.

Avalik tehisintellekt võib hõlmata ka algoritme, mis kasutavad andmekogumeid, mis ei ole ainult konkreetse kasutaja või organisatsiooni jaoks. Järelikult peaksid avaliku AI kliendid teadma, et nende andmed ei pruugi jääda täiesti privaatseks.

Privaatne AI seevastu hõlmab koolitusalgoritme andmetel, mis on konkreetse kasutaja või organisatsiooni jaoks ainulaadsed. Sel juhul, kui kasutate masinõppesüsteeme mudeli koolitamiseks, kasutades konkreetset andmekogumit (nt arveid või maksuvorme), jääb see mudel teie organisatsiooni eksklusiivseks. Platvormi müüjad ei kasuta teie andmeid oma mudelite koolitamiseks, nii et privaatne AI takistab teie andmete kasutamist konkurentide abistamiseks.

Integreerige tehisintellekt koolitusprogrammidesse ja poliitikatesse

Selleks, et katsetada, arendada ja integreerida tehisintellekti rakendusi oma toodetesse ja teenustesse, järgides samal ajal parimaid tavasid, peaksid küberjulgeoleku töötajad rakendama järgmisi põhimõtteid.

Kasutajate teadlikkus ja haridus: Õpetage kasutajaid tehisintellekti kasutamisega seotud riskidest ja julgustage neid olema tundliku teabe edastamisel ettevaatlik. Edendage turvalisi suhtlustavasid ja soovitage kasutajatel kontrollida tehisintellektisüsteemi autentsust.

• Andmete minimeerimine: Esitage tehisintellekti mootorile ülesande täitmiseks vajalik minimaalne kogus andmeid. Vältige tarbetu või tundliku teabe jagamist, mis ei ole tehisintellekti töötlemise jaoks asjakohane.
• Anonüümseks muutmine ja identifitseerimine: Võimaluse korral muutke andmed enne tehisintellekti mootorisse sisestamist anonüümseks või deidentifitseerituks. See hõlmab isikut tuvastava teabe (PII) või muude tundlike atribuutide eemaldamist, mis pole tehisintellekti töötlemiseks vajalikud.

Turvalised andmetöötlustavad: Kehtestage oma tundlike andmete käsitlemiseks ranged eeskirjad ja protseduurid. Piirake juurdepääsu ainult volitatud töötajatele ja jõustage volitamata juurdepääsu vältimiseks tugevad autentimismehhanismid. Koolitage töötajaid andmete privaatsuse parimate tavade osas ning rakendage logimis- ja auditeerimismehhanisme, et jälgida andmetele juurdepääsu ja nende kasutamist.

Säilitamine ja kõrvaldamine: Määrake andmete säilitamise eeskirjad ja kõrvaldage andmed turvaliselt, kui neid enam vaja pole. Rakenda korralikult andmete kõrvaldamise mehhanismid, nagu turvaline kustutamine või krüptograafiline kustutamine, tagamaks, et andmeid ei saa taastada pärast seda, kui neid enam ei vajata.

Juriidilised ja vastavuskaalutlused: Mõistke tehisintellekti mootorisse sisestatavate andmete õiguslikke tagajärgi. Veenduge, et viis, kuidas kasutajad tehisintellekti kasutavad, vastaks asjakohastele eeskirjadele, nagu andmekaitseseadused või tööstusharuspetsiifilisi standardeid.

Müüja hinnang: Kui kasutate kolmanda osapoole müüja pakutavat tehisintellekti mootorit, hinnake põhjalikult nende turvameetmeid. Veenduge, et müüja järgib andmeturbe ja privaatsuse valdkonnas valdkonna parimaid tavasid ning et neil on teie andmete kaitsmiseks kehtestatud asjakohased kaitsemeetmed. Näiteks ISO ja SOC atesteerimine pakuvad väärtuslikku kolmanda osapoole kinnitust selle kohta, et müüja järgib tunnustatud standardeid ja pühendub teabeturbele.

Tehke tehisintellekti vastuvõetava kasutamise poliitika (AUP) ametlikuks. Tehisintellekti vastuvõetava kasutamise poliitika peaks kirjeldama poliitika eesmärki ja eesmärke, rõhutades tehisintellekti tehnoloogiate vastutustundlikku ja eetilist kasutamist. See peaks määratlema vastuvõetavad kasutusjuhud, täpsustades tehisintellekti kasutamise ulatuse ja piirid. AUP peaks soodustama läbipaistvust, vastutust ja vastutustundlikku otsuste tegemist tehisintellekti kasutamisel, edendades organisatsioonis eetiliste tehisintellekti tavade kultuuri. Regulaarsed ülevaatused ja värskendused tagavad poliitika asjakohasuse areneva tehisintellekti tehnoloogia ja eetika jaoks.

Järeldused

Nendest juhistest kinni pidades saavad programmiomanikud tehisintellekti tööriistu tõhusalt kasutada, kaitstes samal ajal tundlikku teavet ning järgides eetilisi ja kutsestandardeid. Ülioluline on AI-ga loodud materjali täpsuse üle vaadata, kaitstes samal ajal vastuseviipade genereerimiseks kasutatavaid sisendandmeid.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Autod/elektrisõidukid, Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• BlockOffsets. Keskkonnakompensatsiooni omandi ajakohastamine. Juurdepääs siia.
• Allikas: https://www.darkreading.com/edge/how-to-safely-architect-ai-in-your-cybersecurity-programs