Mittetulundusühing loob saidi kasvavate tehisintellekti äparduste jälgimiseks

Taasavaldanud Platon

järgijaid: 0

Mittetulundusühing loob saiti, et jälgida tehisintellekti äpardusi, PlatoBlockchain Data Intelligence. Vertikaalne otsing. Ai.

Intervjuu Vale pildid Donald Trumpi toetavad väljamõeldud mustanahalised valijad, oma naissoost klassikaaslastest pornograafilisi süvavõltsinguid loovad keskkooliõpilased ja Google'i vestlusrobot Gemini vastasel et luua pilte valgetest inimestest täpselt.

Need on mõned viimastest katastroofidest, mis on loetletud AI juhtumite andmebaas – veebisait, mis hoiab silma peal erinevatel viisidel, kuidas tehnoloogia valesti läheb.

Algselt käivitati projektina Partnership On AI egiidi all, rühm, mis püüab tagada tehisintellekti kasu ühiskonnale. AI Incident Database on nüüd mittetulundusühing, mida rahastab Underwriters Laboratories – suurim ja vanim (hinnanguliselt 1894) sõltumatu organisatsioon. katselabor Ameerika Ühendriikides. See testib igasuguseid tooteid – mööblist arvutihiirteni – ja selle veebisaidil on seni kataloogitud üle 600 ainulaadse automatiseerimise ja tehisintellektiga seotud juhtumi.

"AI-süsteemide tegijate ja avalike tarbijate vahel valitseb tohutu teabe asümmeetria – ja see pole õiglane," väitis George Washingtoni ülikooli ärikooli dotsent Patrick Hall, kes töötab praegu AI juhtumite andmebaasi direktorite nõukogus. . Ta rääkis Register: "Me vajame rohkem läbipaistvust ja leiame, et meie ülesanne on lihtsalt seda teavet jagada."

Tehisintsidentide andmebaasi aluseks on mittetulundusühingu loodud CVE programm MitreVõi Riiklik maanteetranspordi ohutuse amet veebisait, mis teatab avalikult avalikustatud küberturvalisuse haavatavustest ja sõidukiõnnetustest. "Iga kord, kui toimub lennuõnnetus, rongiõnnetus või suur küberjulgeolekuintsident, on aastakümnete jooksul muutunud tavapäraseks tavaks registreerida juhtunu, et saaksime proovida aru saada, mis läks valesti, ja siis mitte seda korrata."

Veebisaiti haldab praegu umbes kümme inimest, lisaks käputäis vabatahtlikke ja töövõtjaid, kes vaatavad läbi ja postitavad AI-ga seotud juhtumeid veebis. Heather Frase, Georgetowni vanemteadur Turvalisuse ja areneva tehnoloogia keskus AI hinnangule keskendunud ja tehisintsidentide andmebaasi direktor väitis, et veebisait on ainulaadne selle poolest, et see keskendub tehisintellektiga seotud riskide ja kahjude tegelikele mõjudele – mitte ainult tarkvara haavatavustele ja vigadele.

Organisatsioon kogub praegu meediakajastuse põhjal juhtumeid ja vaatab üle inimeste poolt Twitteris teatatud probleemid. Tehisintsidentide andmebaasis registreeriti 250 unikaalset intsidenti enne ChatGPT avaldamist 2022. aasta novembris ja nüüd loetletakse üle 600 unikaalse juhtumi.

Tehisintellektiga seotud probleemide jälgimine aja jooksul paljastab huvitavaid suundumusi ja võib võimaldada inimestel mõista tehnoloogia tegelikke praeguseid kahjusid.

George Washingtoni ülikooli saal näitas, et ligikaudu pooled andmebaasis olevatest aruannetest on seotud generatiivse tehisintellektiga. Mõned neist on "naljakad, rumalad asjad". segased tooted müüakse Amazonis pealkirjaga "Ma ei saa seda taotlust täita" - selge märk sellest, et müüja kasutas kirjelduste kirjutamiseks suurt keelemudelit - või muid tehisintellekti loodud rämpsposti juhtumeid. Kuid mõned on "tõesti masendavad ja tõsised" - nagu Cruise'i robotaxi, mis sõidab San Franciscos õnnetuses naise rataste alla ja lohistab.

"AI on praegu enamasti metsik lääs ja suhtumine on minna kiiresti ja asju lõhkuda," kurvastas ta. Ei ole selge, kuidas tehnoloogia ühiskonda kujundab, ja meeskond loodab, et tehisintsidentide andmebaas võib anda ülevaate selle väärkasutamise viisidest ja tuua esile soovimatud tagajärjed – lootuses, et arendajad ja poliitikakujundajad on paremini informeeritud, et nad saaksid oma mudeleid täiustada või reguleerida. kõige pakilisemad riskid.

"Ümberringi on palju hype'i. Inimesed räägivad eksistentsiaalsest riskist. Olen kindel, et tehisintellekt võib kujutada inimtsivilisatsioonile väga tõsiseid riske, kuid mulle on selge, et mõned neist reaalsematest riskidest – näiteks palju isejuhtivate autodega seotud vigastusi või, teate, eelarvamuste säilitamine kasutatavate algoritmide kaudu. tarbijarahanduses või tööhõives. Seda me näeme."

"Ma tean, et me jääme paljust ilma, eks? Mitte kõike ei kajastata ega kajastata meedias. Sageli ei pruugi inimesed isegi aru saada, et kahju, mida nad kogevad, pärineb tehisintellektist,“ märkis Frase. "Ma eeldan, et füüsilised vigastused suurenevad palju. Me näeme [enamasti] psühholoogilisi ja muid mittemateriaalseid kahjustusi suurtest keelemudelitest, kuid kui meil on generatiivne robootika, siis ma arvan, et füüsiline kahju suureneb palju.

Frase on kõige rohkem mures selle pärast, kuidas tehisintellekt võib inimõigusi ja kodanikuvabadusi kahjustada. Ta usub, et tehisintsidentide kogumine näitab, kas poliitika on aja jooksul tehnoloogia turvalisemaks muutnud.

"Asjade parandamiseks peate asju mõõtma," lisas Hall.

Organisatsioon otsib alati vabatahtlikke ja keskendub praegu rohkemate juhtumite jäädvustamisele ja teadlikkuse tõstmisele. Frase rõhutas, et grupi liikmed ei ole AI ludidid: "Tõenäoliselt oleme üsna AI-vastased, kuid me ei ole seda. Me tahame seda tegelikult kasutada. Me tahame lihtsalt head kraami."

Hall nõustus. "Tehnoloogia edasiliikumise hoidmiseks peab keegi lihtsalt tegema tööd selle turvalisemaks muutmiseks," ütles ta. ®