Tekoälyn rohkea uusi maailma: Mitä tapahtui turvallisuudelle? Yksityisyys?

Seuraava on vierasviesti John deVadossilta, Geneven Global Blockchain Business Councilin hallintoneuvostolta ja InterWork Alliancen perustajilta Washington DC:ssä.

Viime viikolla minulla oli tilaisuus Washington DC:ssä esitellä ja keskustella tekoälyn turvallisuuteen liittyvistä vaikutuksista joidenkin kongressin jäsenten ja heidän henkilöstönsä kanssa.

Generatiivinen tekoäly muistuttaa nykyään 80-luvun lopun Internetiä – perustutkimusta, piilevää potentiaalia ja akateemista käyttöä, mutta se ei ole vielä valmis yleisölle. Tällä kertaa rajoituksetta myyjien kunnianhimo, jota ruokkii alaliigan riskipääoma ja jota Twitter echo -kammiot ovat siivittäneet, on nopeatempoinen tekoälyn Brave New World.

Niin kutsutut "julkiset" säätiömallit ovat tahraisia ​​ja sopimattomia kuluttaja- ja kaupalliseen käyttöön; Yksityisyyden abstraktit, missä niitä on, vuotavat kuin seula; turvallisuusrakenteet ovat pitkälti työn alla, sillä hyökkäyksen pinta-ala ja uhkavektorit ovat vielä selvillä; ja kuvitteelliset suojakaiteet, mitä vähemmän niistä puhutaan, sen parempi.

Joten miten me päädyimme tänne? Ja mitä tapahtui turvallisuuteen? Yksityisyys?

"Kopromisoituneet" perusmallit

Niin sanotut "avoimet" mallit ovat kaikkea muuta kuin avoimia. Eri toimittajat korostavat avoimuuttaan avaamalla pääsyn mallipainoihin, dokumentaatioon tai testeihin. Silti yksikään suurimmista toimittajista ei tarjoa mitään lähellä koulutustietojoukkoja tai niiden manifesteja tai sukulinjaa, jotta se voisi kopioida ja toistaa mallejaan.

Tämä opetustietosarjojen läpinäkyvyys tarkoittaa, että jos haluat käyttää yhtä tai useampaa näistä malleista, sinulla ei kuluttajana tai organisaationa ole kykyä todentaa tai validoida tietojen saastumisen laajuutta. immateriaalioikeuksia, tekijänoikeuksia jne. sekä mahdollisesti laitonta sisältöä.

Kriittistä on, että ilman harjoitustietojoukkojen luetteloa ei ole mitään keinoa tarkistaa tai vahvistaa olematonta haitallista sisältöä. Pahalliset toimijat, mukaan lukien valtion tukemat toimijat, istuttavat verkkoon troijalaista sisältöä, jota mallit nauttivat harjoittelunsa aikana, mikä johtaa arvaamattomiin ja mahdollisesti haitallisiin sivuvaikutuksiin päättelyhetkellä.

Muista, että kun malli on vaarantunut, sillä ei ole mitään keinoa oppia pois, ainoa vaihtoehto on tuhota se.

"Huokoinen" turvallisuus

Generatiiviset tekoälymallit ovat äärimmäisen turvallisia hunajapotkuja, koska "kaikki" tiedot on koottu yhteen säiliöön. Tekoälyn aikakaudella syntyy uusia hyökkäysvektorien luokkia ja luokkia; toimiala ei ole vielä päässyt yhteisymmärrykseen seurauksista sekä näiden mallien turvaamisesta kyberuhkilta että sen suhteen, miten kyberuhkien toimijat käyttävät näitä malleja työkaluina.

Haitallisia pikainjektiotekniikoita voidaan käyttää indeksin myrkyttämiseen; tietomyrkytyksiä voidaan käyttää painojen turmelemiseen; upotushyökkäyksiä, mukaan lukien käännöstekniikat, voidaan käyttää runsaan datan poistamiseen upotuksista; Jäsenyyspäätelmää voidaan käyttää määrittämään, oliko tiettyjä tietoja koulutusjoukossa jne., ja tämä on vain jäävuoren huippu.

Uhkatoimijat voivat päästä käsiksi luottamuksellisiin tietoihin mallin inversion ja ohjelmallisen kyselyn kautta; ne voivat turmella tai muutoin vaikuttaa mallin piilevään käyttäytymiseen; ja, kuten aiemmin mainittiin, tietojen hallitsematon nieleminen yleisesti johtaa sulautetun valtion tukeman kybertoiminnan uhkaan troijalaisten ja muiden kautta.

"Vuotava" yksityisyys

Tekoälymallit ovat hyödyllisiä niiden tietojoukkojen vuoksi, joihin ne on koulutettu; tietojen mielivaltainen nieleminen suuressa mittakaavassa aiheuttaa ennennäkemättömiä yksityisyyden riskejä yksilölle ja suurelle yleisölle. Tekoälyn aikakaudella yksityisyydestä on tullut yhteiskunnallinen huolenaihe; ensisijaisesti henkilötietojen oikeuksia koskevat säännökset ovat riittämättömiä.

Staattisen datan lisäksi on välttämätöntä, että dynaamisia keskustelukehotteita käsitellään IP-oikeuksina, jotka on suojattava ja suojattava. Jos olet kuluttaja ja luot artefaktin yhdessä mallin kanssa, et halua, että tätä luovaa toimintaa ohjaavia kehotteitasi ei käytetä mallin kouluttamiseen tai muutoin jaettaviksi mallin muiden kuluttajien kanssa.

Jos olet työntekijä, joka työskentelee liiketoimintatulosten saavuttamiseen tähtäävän mallin parissa, työnantajasi odottaa, että kehotteet ovat luottamuksellisia. Lisäksi kehotteet ja vastaukset tarvitsevat suojatun kirjausketjun, jos jompikumpi osapuoli ilmaisi vastuukysymyksiä. Tämä johtuu ensisijaisesti näiden mallien stokastisesta luonteesta ja niiden vasteiden vaihtelevuudesta ajan myötä.

Mitä tapahtuu seuraavaksi?

Käsittelemme toisenlaista tekniikkaa, toisin kuin mikään, jota olemme nähneet tietojenkäsittelyn historiassa, tekniikka, joka osoittaa esiin nousevaa, piilevää käyttäytymistä laajassa mittakaavassa; eiliset turvallisuuteen, yksityisyyteen ja luottamuksellisuuteen liittyvät lähestymistavat eivät enää toimi.

Alan johtajat heittävät varovaisuutta tuuleen, jolloin sääntelijöille ja poliittisille päättäjille ei ole muuta vaihtoehtoa kuin puuttua asiaan.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://cryptoslate.com/ais-brave-new-world-whatever-happened-to-security-privacy/