Le pressioni sulla sicurezza aumentano intorno alle promesse e ai pericoli dell'IA

BLACK HAT USA – Las Vegas – venerdì 11 agosto – L'intelligenza artificiale (AI) non è una novità nel mondo della tecnologia, ma poiché ChatGPT e offerte simili la spingono oltre gli ambienti di laboratorio e casi d'uso come Siri, Maria "Azeria" Markstedter, fondatrice e CEO di Azeria Labs, ha affermato che i professionisti della sicurezza devono essere in allerta per come la sua evoluzione influenzerà le loro realtà quotidiane.

Scherzosamente ha affermato che l'intelligenza artificiale è "ora in mani sicure di grandi aziende tecnologiche che corrono contro il tempo per competere per essere al sicuro dall'eliminazione", sulla scia di OpenAI rilascia il suo modello ChatGPT mentre altre società si sono trattenute. "Con l'ascesa di ChatGPT, l'approccio in tempo di pace di Google era finito e tutti si sono lanciati", ha detto, parlando dal palco principale al Black Hat USA questa settimana.

Vedere dove vanno a finire i soldi

Le aziende stanno investendo milioni di dollari di finanziamenti nell'intelligenza artificiale, ma ogni volta che il mondo si sposta verso un nuovo tipo di tecnologia, "la corsa agli armamenti delle aziende non è guidata dalla preoccupazione per la sicurezza o la protezione, poiché la sicurezza rallenta il progresso".

Ha detto che i casi d'uso a integrare l'intelligenza artificiale si stanno evolvendo e sta iniziando a fare molti soldi, soprattutto quelli che dominano il mercato. Tuttavia, c'è bisogno di "creatori per romperlo, e risolverlo, e alla fine impedire che la tecnologia nei suoi prossimi casi d'uso ci esploda in faccia ".

Ha aggiunto che le aziende potrebbero sperimentare un po' di esuberanza irrazionale. "Ogni azienda vuole essere una macchina campione di business AI in questo momento e il modo in cui le nostre aziende sfrutteranno questi strumenti per integrare l'IA avrà un impatto significativo sul nostro modello di minaccia", ha affermato. Tuttavia, la rapida adozione dell'intelligenza artificiale significa che il suo effetto sull'intero modello di minaccia informatica rimane un'incognita.

Aumento delle minacce ChatGPT

Riconoscendolo ChatGPT è stato "abbastanza difficile da sfuggire negli ultimi nove mesi", ha affermato Markstedter, l'aumento vertiginoso degli utenti ha portato alcune aziende a limitarne l'accesso. Le aziende erano scettiche, ha affermato, poiché OpenAI è una scatola nera e tutto ciò che fornisci a ChatGPT farà parte del set di dati OpenAI.

Ha detto: “Le aziende non vogliono far trapelare i loro dati sensibili a un fornitore esterno, quindi hanno iniziato bandire i dipendenti dall'utilizzo di ChatGPT per lavoro, ma ogni azienda vuole ancora, ed è persino sotto pressione, aumentare i propri prodotti e servizi per la forza lavoro con l'intelligenza artificiale; semplicemente non affidano i dati sensibili a... fornitori esterni che possono far parte del set di dati".

Tuttavia, l'intensa attenzione e il rapido ritmo di sviluppo e integrazione di OpenAI costringeranno i professionisti della sicurezza a evolversi rapidamente.

"Quindi, il modo in cui le nostre organizzazioni utilizzeranno queste cose sta cambiando abbastanza rapidamente: da qualcosa che controlli per il browser, a qualcosa che le aziende integrano nella propria infrastruttura, a qualcosa che presto sarà nativo per il nostro sistema operativo e dispositivo mobile ," lei disse.

L'opportunità per l'industria

Markstedter ha affermato che il problema più grande per l'intelligenza artificiale e la sicurezza informatica è che non abbiamo abbastanza persone con il abilità e conoscenza per valutare questi sistemi e creare i guardrail di cui abbiamo bisogno. "Quindi ci sono già nuovi tipi di lavoro che emergono da queste piccole sfide", ha detto.

Concludendo, Markstedter ha evidenziato quattro aspetti da asporto: primo, che i sistemi di intelligenza artificiale e i loro casi d'uso e capacità si stanno evolvendo; in secondo luogo, che dobbiamo prendere sul serio la possibilità che agenti di intelligenza artificiale autonomi diventino una realtà all'interno della nostra impresa; terzo, è che dobbiamo ripensare i nostri concetti su identità e app; e quarto, dobbiamo ripensare i nostri concetti sulla sicurezza dei dati.

"Quindi dobbiamo conoscere la stessa tecnologia che sta cambiando i nostri sistemi e il nostro modello di minaccia per affrontare questi problemi emergenti, ei cambiamenti tecnologici non sono nuovi per noi", ha affermato. “Non abbiamo manuali per dirci come risolvere i nostri problemi precedenti. Siamo tutti autodidatti in un modo o nell'altro e ora il nostro settore attrae menti creative con un'intera mentalità. Quindi sappiamo come studiare nuovi sistemi e trovare modi creativi per romperli”.

Ha concluso dicendo che questa è la nostra occasione per reinventare noi stessi, la nostra posizione di sicurezza e le nostre difese. "Per il prossimo pericolo di sfide alla sicurezza, dobbiamo unirci come comunità e promuovere la ricerca in queste aree", ha affermato.

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• PlatoData.Network Generativo verticale Ai. Potenzia te stesso. Accedi qui.
• PlatoAiStream. Intelligenza Web3. Conoscenza amplificata. Accedi qui.
• PlatoneESG. Automobilistico/VE, Carbonio, Tecnologia pulita, Energia, Ambiente, Solare, Gestione dei rifiuti. Accedi qui.
• Platone Salute. Intelligence sulle biotecnologie e sulle sperimentazioni cliniche. Accedi qui.
• Grafico Prime. Migliora il tuo gioco di trading con ChartPrime. Accedi qui.
• BlockOffset. Modernizzare la proprietà della compensazione ambientale. Accedi qui.
• Fonte: https://www.darkreading.com/threat-intelligence/security-pressure-mounts-ai-promises-peril