Cum să arhitecți în siguranță AI în programele tale de securitate cibernetică

La sfârșitul lunii iunie, firma de securitate cibernetică Group-IB a dezvăluit un notabil încălcarea securității care a afectat conturile ChatGPT. Compania a identificat un număr uimitor de 100,000 de dispozitive compromise, fiecare cu acreditări ChatGPT care au fost ulterior tranzacționate pe piețele ilicite Dark Web în cursul anului trecut. Această încălcare a determinat apeluri pentru atenție imediată pentru a aborda securitatea compromisă a conturilor ChatGPT, deoarece interogările de căutare care conțin informații sensibile devin expuse hackerilor.

Într-un alt incident, într-un interval de mai puțin de o lună, Samsung a suferit trei cazuri documentate în care angajații din neatenție a scurs informații sensibile prin ChatGPT. Deoarece ChatGPT reține datele introduse de utilizator pentru a-și îmbunătăți propria performanță, aceste secrete comerciale valoroase aparținând Samsung sunt acum în posesia OpenAI, compania din spatele serviciului AI. Acest lucru ridică preocupări semnificative cu privire la confidențialitatea și securitatea informațiilor proprietare Samsung.

Din cauza unor astfel de îngrijorări legate de conformitatea ChatGPT cu Regulamentul general al UE privind protecția datelor (GDPR), care impune linii directoare stricte pentru colectarea și utilizarea datelor, Italia a impus o interdicție la nivel național despre utilizarea ChatGPT.

Progresele rapide în AI și aplicațiile AI generative au deschis noi oportunități pentru accelerarea creșterii în business intelligence, produse și operațiuni. Dar proprietarii de programe de securitate cibernetică trebuie să asigure confidențialitatea datelor în timp ce așteaptă elaborarea legilor.

Motor public versus motor privat

Pentru a înțelege mai bine conceptele, să începem prin a defini IA publică și AI privată. AI public se referă la aplicații software AI accesibile public care au fost instruite pe seturi de date, adesea provenite de la utilizatori sau clienți. Un prim exemplu de inteligență artificială publică este ChatGPT, care utilizează date disponibile public de pe Internet, inclusiv articole text, imagini și videoclipuri.

Inteligența artificială publică poate include, de asemenea, algoritmi care utilizează seturi de date care nu sunt exclusiv pentru un anumit utilizator sau organizație. În consecință, clienții AI publicului ar trebui să fie conștienți de faptul că datele lor ar putea să nu rămână în întregime private.

AI privată, pe de altă parte, implică algoritmi de instruire pe date care sunt unice pentru un anumit utilizator sau organizație. În acest caz, dacă utilizați sisteme de învățare automată pentru a instrui un model folosind un anumit set de date, cum ar fi facturi sau formulare fiscale, modelul respectiv rămâne exclusiv pentru organizația dvs. Furnizorii de platforme nu vă folosesc datele pentru a-și antrena propriile modele, așa că AI privată împiedică orice utilizare a datelor dvs. pentru a vă ajuta concurenții.

Integrați AI în programele și politicile de formare

Pentru a experimenta, dezvolta și integra aplicații AI în produsele și serviciile lor, respectând în același timp cele mai bune practici, personalul de securitate cibernetică ar trebui să pună în practică următoarele politici.

Conștientizarea și educarea utilizatorilor: Educați utilizatorii despre riscurile asociate utilizării AI și încurajați-i să fie precauți atunci când transmit informații sensibile. Promovați practicile de comunicare sigură și sfătuiți utilizatorii să verifice autenticitatea sistemului AI.

• Minimizarea datelor: Furnizați motorului AI doar cantitatea minimă de date necesară pentru îndeplinirea sarcinii. Evitați partajarea informațiilor inutile sau sensibile care nu sunt relevante pentru procesarea AI.
• Anonimizare și deidentificare: Ori de câte ori este posibil, anonimizați sau de-identificați datele înainte de a le introduce în motorul AI. Aceasta implică eliminarea informațiilor de identificare personală (PII) sau a oricăror alte atribute sensibile care nu sunt necesare pentru procesarea AI.

Practici securizate de manipulare a datelor: Stabiliți politici și proceduri stricte pentru gestionarea datelor dvs. sensibile. Limitați accesul numai personalului autorizat și aplicați mecanisme de autentificare puternice pentru a preveni accesul neautorizat. Instruiți angajații cu privire la cele mai bune practici de confidențialitate a datelor și implementați mecanisme de înregistrare și auditare pentru a urmări accesul și utilizarea datelor.

Păstrarea și eliminarea: Definiți politicile de păstrare a datelor și eliminați în siguranță datele atunci când nu mai sunt necesare. Implementați corect mecanisme de eliminare a datelor, cum ar fi ștergerea securizată sau ștergerea criptografică, pentru a se asigura că datele nu pot fi recuperate după ce nu mai sunt necesare.

Considerații legale și de conformitate: Înțelegeți ramificațiile legale ale datelor pe care le introduceți în motorul AI. Asigurați-vă că modul în care utilizatorii folosesc AI respectă reglementările relevante, cum ar fi legile privind protecția datelor sau standarde specifice industriei.

Evaluarea furnizorului: Dacă utilizați un motor AI furnizat de un furnizor terță parte, efectuați o evaluare amănunțită a măsurilor de securitate ale acestuia. Asigurați-vă că furnizorul urmează cele mai bune practici din industrie pentru securitatea datelor și confidențialitatea și că are măsuri de protecție adecvate pentru a vă proteja datele. Atestarea ISO și SOC, de exemplu, oferă validări valoroase de la terți ale aderării unui furnizor la standardele recunoscute și angajamentului lor față de securitatea informațiilor.

Formalizați o politică de utilizare acceptabilă a AI (AUP): O politică de utilizare acceptabilă a IA ar trebui să sublinieze scopul și obiectivele politicii, subliniind utilizarea responsabilă și etică a tehnologiilor AI. Ar trebui să definească cazuri de utilizare acceptabile, specificând domeniul de aplicare și limitele utilizării AI. AUP ar trebui să încurajeze transparența, responsabilitatea și luarea deciziilor responsabile în utilizarea AI, promovând o cultură a practicilor etice AI în cadrul organizației. Evaluările și actualizările regulate asigură relevanța politicii pentru tehnologiile și etica IA în evoluție.

Concluzii

Aderând la aceste linii directoare, proprietarii de programe pot folosi eficient instrumentele AI, salvând în același timp informațiile sensibile și respectând standardele etice și profesionale. Este esențial să revizuiți materialul generat de inteligență artificială pentru acuratețe, protejând în același timp datele introduse care sunt folosite pentru generarea solicitărilor de răspuns.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. Automobile/VE-uri, carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• BlockOffsets. Modernizarea proprietății de compensare a mediului. Accesați Aici.
• Sursa: https://www.darkreading.com/edge/how-to-safely-architect-ai-in-your-cybersecurity-programs