AI vapper uus maailm: mis iganes juhtus turvalisusega? Privaatsus?

Järgmine on külalispostitus John deVadossilt, Genfi globaalse plokiahela ärinõukogu juhatuselt ja Washingtonis asuva InterWork Alliance'i kaasasutajalt.

Eelmisel nädalal oli mul Washingtonis võimalus esitleda ja arutada mõnede kongressi liikmete ja nende töötajatega tehisintellekti mõju julgeolekule.

Tänapäeval tuletab generatiivne tehisintellekt mulle meelde Internetti 80ndate lõpus – fundamentaaluuringuid, varjatud potentsiaali ja akadeemilist kasutust, kuid see pole veel avalikkuse jaoks valmis. Seekord on müüjate piiramatu ambitsioon, mida õhutab alaealiste liigade riskikapital ja mida tsingivad Twitteri kajakambrid, kiiresti jälgitav tehisintellekti vapper uus maailm.

Niinimetatud avaliku sihtasutuse mudelid on rikutud ja tarbija- ja ärikasutuseks sobimatud; privaatsusabstraktsioonid, kui need on olemas, lekivad nagu sõela; turbekonstruktsioonid on suures osas pooleli, kuna rünnaku pindala ja ohuvektorid on endiselt mõistetavad; ja illusoorsed kaitsepiirded, mida vähem nende kohta räägitakse, seda parem.

Niisiis, kuidas me siia sattusime? Ja mis juhtus turvalisusega? Privaatsus?

Kompromiteeritud vundamendi mudelid

Niinimetatud "avatud" mudelid on kõike muud kui avatud. Erinevad müüjad reklaamivad oma avatuse taset, avades juurdepääsu mudelite kaaludele, dokumentatsioonile või testidele. Siiski ei paku ükski suurematest müüjatest midagi lähedast koolitusandmete kogumitele või nende manifestidele või päritolule, et oleks võimalik oma mudeleid kopeerida ja reprodutseerida.

See läbipaistmatus seoses koolitusandmete kogumitega tähendab, et kui soovite kasutada ühte või mitut neist mudelitest, ei ole teil tarbijana või organisatsioonina võimalik kontrollida ega kinnitada andmete saastatuse ulatust. intellektuaalomandi, autoriõiguste jms ning potentsiaalselt ebaseadusliku sisu suhtes.

Kriitiline on see, et ilma koolitusandmete kogumite manifestita ei ole võimalik olematut pahatahtlikku sisu kontrollida ega kinnitada. Pahatahtlikud osalejad, sealhulgas riiklikult toetatud näitlejad, istutavad veebis Trooja hobuste sisu, mida modellid treeningu ajal neelavad, mis toob kaasa ettearvamatuid ja potentsiaalselt pahatahtlikke kõrvalmõjusid järelduste tegemise ajal.

Pidage meeles, et kui mudel on ohus, ei saa seda enam õppida, ainus võimalus on see hävitada.

"Poorne" turvalisus

Generatiivsed AI mudelid on ülima turvalisuse meepotid, kuna "kõik" andmed on neelatud ühte konteinerisse. AI ajastul tekivad uued rünnakuvektorite klassid ja kategooriad; tööstus peab veel leppima tagajärgedega nii nende mudelite kaitsmisel küberohtude eest kui ka sellega, kuidas küberohtudes osalejad neid mudeleid tööriistadena kasutavad.

Indeksi mürgitamiseks võidakse kasutada pahatahtlikke kiireid süstimisvõtteid; kaalude rikkumiseks võib kasutada andmete mürgitamist; Manustusrünnakuid, sealhulgas inversioonitehnikaid, võib kasutada rikkalike andmete väljatõmbamiseks manustest; liikmelisuse järeldust saab kasutada selleks, et teha kindlaks, kas teatud andmed olid koolituskomplektis jne, ja see on vaid jäämäe tipp.

Ohutegurid võivad mudeli inversiooni ja programmilise päringu kaudu saada juurdepääsu konfidentsiaalsetele andmetele; nad võivad rikkuda või muul viisil mõjutada mudeli varjatud käitumist; ja nagu varem mainitud, põhjustab andmete kontrollimatu allaneelamine üldiselt riigi poolt toetatud manustatud kübertegevuse ohtu Trooja hobuste ja muu kaudu.

"Lekkiv" privaatsus

AI mudelid on abiks nende andmekogumite tõttu, mille kohta nad on koolitatud; andmete mastaapne valimatu sissevõtmine tekitab üksikisikule ja laiemale avalikkusele enneolematuid privaatsusriske. Tehisintellekti ajastul on privaatsus muutunud ühiskondlikuks probleemiks; eeskirjad, mis käsitlevad peamiselt isikuandmete õigusi, on ebapiisavad.

Lisaks staatilistele andmetele on hädavajalik, et dünaamilisi vestlusjuhiseid käsitletaks IP-na, mida tuleb kaitsta ja kaitsta. Kui olete tarbija, kes loob koos modelliga artefakti, siis soovite, et teie seda loomingulist tegevust suunavaid vihjeid ei kasutataks modelli koolitamiseks ega muul viisil teiste mudeli tarbijatega jagamiseks.

Kui olete töötaja, kes töötab äritulemuste saavutamiseks mudeliga, eeldab teie tööandja, et teie juhised on konfidentsiaalsed; Lisaks vajavad juhised ja vastused turvalist kontrolljälge, kui kumbki osapool on esile kerkinud vastutusprobleemide korral. See on peamiselt tingitud nende mudelite stohhastilisusest ja nende vastuste varieeruvusest aja jooksul.

Mis saab edasi?

Meil on tegemist teistsuguse tehnoloogiaga, erinevalt kõigist, mida oleme varem andmetöötluse ajaloos näinud, tehnoloogiaga, mis näitab esilekerkivat, varjatud käitumist mastaapselt; eilsed turvalisuse, privaatsuse ja konfidentsiaalsuse lähenemisviisid enam ei tööta.

Tööstusharu juhid loobivad ettevaatust, jättes reguleerivatel asutustel ja poliitikakujundajatel muud üle, kui sekkuda.

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://cryptoslate.com/ais-brave-new-world-whatever-happened-to-security-privacy/