Voittoa tavoittelematon rakentaa sivuston jyrkkään tekoälyn onnettomuuksien seuraamiseksi

Julkaissut Platon

seuraajia: 0

Voittoa tavoittelematon rakentaa sivustoa, joka seuraa PlatoBlockchain Data Intelligencen lisääntyviä tekoälyonnettomuuksia. Pystysuuntainen haku. Ai.

Haastatella Väärä kuvien Donald Trumpin tukemat mustat äänestäjät, keskikoululaiset, jotka luovat pornografisia syväväärennöksiä naisluokkatovereistaan, ja Googlen Gemini-chatbot ei ole luoda kuvia valkoisista ihmisistä tarkasti.

Nämä ovat joitain viimeisimmistä luettelossa olevista katastrofeista AI-tapahtumatietokanta – verkkosivusto, joka seuraa kaikkia eri tapoja, joilla tekniikka menee pieleen.

Alun perin Partnership On AI:n, ryhmän, joka pyrkii varmistamaan, että tekoäly hyödyttää yhteiskuntaa, alaisena projektina käynnistetty AI Incident Database on nyt voittoa tavoittelematon organisaatio, jota rahoittaa Underwriters Laboratories – suurin ja vanhin (arviolta 1894) riippumaton organisaatio. testauslaboratorio Yhdysvalloissa. Se testaa kaikenlaisia tuotteita – huonekaluista tietokonehiiriin – ja sen verkkosivuilla on tähän mennessä luetteloitu yli 600 ainutlaatuista automaatioon ja tekoälyyn liittyvää tapausta.

"Tekoälyjärjestelmien tekijöiden ja julkisten kuluttajien välillä on valtava tiedon epäsymmetria - ja se ei ole reilua", väitti George Washingtonin yliopiston kauppakorkeakoulun apulaisprofessori Patrick Hall, joka toimii tällä hetkellä tekoälyn tapaustietokannan hallituksessa. . Hän kertoi Rekisteri: "Tarvitsemme lisää läpinäkyvyyttä, ja mielestämme meidän tehtävämme on vain jakaa nämä tiedot."

Tekoälytapahtumatietokanta on mallina voittoa tavoittelemattoman järjestön CVE-ohjelmasta MITRA, Tai National Highway Transport Safety Administration verkkosivusto, joka raportoi julkisesti paljastetuista kyberturvallisuushaavoittuvuuksista ja ajoneuvotörmäyksistä. "Aina kun tapahtuu lento-onnettomuus, junaturma tai suuri kyberturvallisuushäiriö, vuosikymmenten aikana on tullut yleiseksi käytännöksi tallentaa tapahtuneet, jotta voimme yrittää ymmärtää, mikä meni pieleen, emmekä toista sitä."

Sivustoa hallinnoi tällä hetkellä noin kymmenen ihmistä sekä kourallinen vapaaehtoisia ja urakoitsijoita, jotka tarkastelevat ja julkaisevat tekoälyyn liittyviä tapauksia verkossa. Heather Frase, Georgetownin vanhempi tutkija Turvallisuuden ja kehittyvän teknologian keskus Tekoälyarviointiin keskittynyt ja tekoälytapahtumatietokannan johtaja väitti, että verkkosivusto on ainutlaatuinen siinä mielessä, että se keskittyy tekoälyn riskien ja haittojen todellisiin vaikutuksiin – ei vain ohjelmistojen haavoittuvuuksiin ja virheisiin.

Organisaatio kerää tällä hetkellä tapauksia tiedotusvälineistä ja tarkastelee ihmisten Twitterissä raportoimia asioita. Tekoälytapahtumatietokanta kirjasi 250 ainutlaatuista tapausta ennen ChatGPT:n julkaisua marraskuussa 2022, ja nyt luettelossa on yli 600 ainutlaatuista tapausta.

Tekoälyongelmien seuranta ajan mittaan paljastaa mielenkiintoisia suuntauksia ja saattaa auttaa ihmisiä ymmärtämään tekniikan todellisia tämänhetkisiä haittoja.

George Washington Universityn Hall paljasti, että noin puolet tietokannan raporteista liittyy generatiiviseen tekoälyyn. Jotkut niistä ovat "hauskoja, typeriä asioita", kuten töykeitä tuotteita myydään Amazonissa otsikolla "En voi täyttää tuota pyyntöä" - selvä merkki siitä, että myyjä käytti laajaa kielimallia kuvausten kirjoittamiseen - tai muita tekoälyn luomaa roskapostia. Mutta jotkut ovat "todella masentavia ja vakavia" - kuten risteilyrobotti, joka juoksee yli ja vetää naisen pyöriensä alle San Franciscon onnettomuudessa.

"Tekoäly on tällä hetkellä enimmäkseen villi länsi, ja asenne on mennä nopeasti ja rikkoa asioita", hän valitti. Ei ole selvää, kuinka teknologia muokkaa yhteiskuntaa, ja tiimi toivoo, että tekoälyn tapaustietokanta voi antaa oivalluksia tavoista, joilla sitä käytetään väärin ja korostaa tahattomia seurauksia – toivoen, että kehittäjät ja päätöksentekijät ovat paremmin perillä, jotta he voivat parantaa mallejaan tai säännellä. kiireellisimmät riskit.

"Ympärillä on paljon hypeä. Ihmiset puhuvat eksistentiaalisista riskeistä. Olen varma, että tekoäly voi aiheuttaa erittäin vakavia riskejä ihmisten sivilisaatiolle, mutta minulle on selvää, että jotkut näistä todellisemmista riskeistä – kuten monet itseajaviin autoihin liittyvät vammat tai, tiedätkö, vinoutumisen jatkuminen käytettyjen algoritmien avulla. kuluttajarahoituksessa tai työelämässä. Sen me näemme."

"Tiedän, että menetämme paljon, eikö niin? Kaikkea ei kerrota tai tallenneta medialle. Usein ihmiset eivät ehkä edes ymmärrä, että heidän kokemansa haitat ovat peräisin tekoälystä, Frase huomautti. "Odotan, että fyysiset vammat lisääntyvät paljon. Näemme [enimmäkseen] psyykkisiä ja muita aineettomia haittoja suurista kielimalleista – mutta kun meillä on generatiivinen robotiikka, uskon, että fyysiset vahingot lisääntyvät paljon.

Frase on eniten huolissaan tavoista, joilla tekoäly voi heikentää ihmisoikeuksia ja kansalaisvapauksia. Hän uskoo, että tekoälytapausten kerääminen näyttää, ovatko käytännöt tehneet tekniikasta turvallisempaa ajan myötä.

"Sinun on mitattava asioita korjataksesi asiat", Hall lisäsi.

Organisaatio etsii jatkuvasti vapaaehtoisia ja keskittyy tällä hetkellä uusien tapausten tallentamiseen ja tietoisuuden lisäämiseen. Frase korosti, että ryhmän jäsenet eivät ole tekoäly-ludiiteja: ”Luultavasti tulemme melkoisen tekoälyn vastustajiksi, mutta emme ole. Haluamme todella käyttää sitä. Haluamme vain hyvää.”

Hall oli samaa mieltä. "Jotta tekniikka pysyy eteenpäin, jonkun on vain tehtävä työtä tehdäkseen siitä turvallisempaa", hän sanoi. ®