Napisala Maddy Hunter
Prejšnji mesec je program za raziskave in razvoj omrežij in informacijske tehnologije (NITRD) obeležil svojo 30. obletnico v Washingtonu DC. Preberete lahko celoten povzetek dogodka tukaj. V prizadevanju, da bi poudarili vpliv zveznih naložb na računalniško raziskovalno skupnost, je dogodek vseboval pet panelov, na katerih so udeleženci razpravljali o ključnih dosežkih na tem področju v zadnjem desetletju in o prihodnjih usmeritvah. Vsak panel se je osredotočil na pomembno podpodročje računalniških raziskav: računalništvo v velikem obsegu, mreženje in varnost, umetna inteligenca/strojno učenje, zasebnost in internet stvari ter družbeno odgovorno računalništvo.
Vsi paneli, predstavljeni ves dan na simpoziju ob 30. obletnici NITRD, so imeli dve skupni temi: poudarjanje astronomskega napredka, ki smo ga doživeli v računalništvu v zadnjih nekaj desetletjih, in ublažitev tveganj, povezanih s tem novim napredkom. Teme so vključevale vprašanja algoritemske pristranskosti, nevključujočih tehnologij, vdorov v zasebnost, varnostnih tveganj – seznam se lahko nadaljuje. Ena stvar, o kateri so se panelisti strinjali, je bila, da obstaja upanje za spremembo in da so se vse razprave dotaknile poti naprej k bolj etičnemu in odgovornejšemu računalništvu. Moderira Alondra Nelson (Urad za znanost in tehnologijo), Panel 5 »Kako lahko tehnologija koristi družbi: širjenje perspektiv v temeljnih raziskavah” predstavila ustrezne razprave panelistov, Janet Abbate (Virginijski politehnični inštitut in državna univerza), Deborah Estrin (Univerza Cornell), Charles Isbell (Georgia Institute of Technology) in Ramayya Krishnan (Univerza Carnegie Mellon).
Nelson je sejo začel tako, da je vsakemu panelistu zastavil drugačno vprašanje, ki je bilo prilagojeno njihovemu strokovnemu znanju. Abbate in Krishnan sta razmišljala o rešitvah skozi sistemsko lečo, medtem ko sta se Isbell in Estrin osredotočila na pedagogiko in usposabljanje.
Alondra Nelson in Janet Abbate
Abbate je spodbujal razvijalce, da na računalniško tehnologijo gledajo kot na del večjega sociotehničnega sistema, tako da je kot aktivne dele vključil tri trenutno neupoštevane vidike.
- Uporabniki – gradite odprte sisteme, ki uporabniku omogočajo prilagajanje in prilagajanje tehnologij svojim potrebam. Internet je učinkovit uspešen primer tega.
- Družbeno okolje – bodite realni in predvidite negativne trende, ki jih vidite v družbi (rasizem, pristranskost, seksizem, verska diskriminacija). Pričakujte, da se bodo manifestirali v tehnoloških rezultatih in vključili prizadete strani, ki poznajo družbeno okolje, da oblikujejo zaščito.
- Naravno okolje – upoštevajte celoten življenjski cikel tehnologij. Zmanjšajte strupene odpadke, poudarite zmanjšanje ogljičnega odtisa računalništva in uporabite trajne materiale, ki jih je mogoče reciklirati.
Na podlagi Abbateja in ponovnega premisleka o sistemskem okviru je Krishnan govoril o vrednosti uvajanja tehnologije v podporo družbeno pomembnih in posledičnih nalog odločanja. Krishnan nas je pozval, naj razmislimo o celotnem cevovodu izgradnje sistema od prepoznavanja problema do ocene sistema glede pristranskosti. Vsak korak – zbiranje podatkov, razvoj umetne inteligence in modeliranje, faza zasnove in intervencije ter vrednotenje – so pogosto izključeni in to je treba spremeniti, da se cevovodu pristopi celostno.
Ob spremembi prestav pri tem, kako uresničiti to vizijo in zagotoviti delovno silo, ki vključuje te širše perspektive, se je pogovor obrnil na Isbell in Estrin o izobraževanju in kako vključiti perspektive družbenega in javnega interesa v podiplomsko izobraževanje za tehnologijo, osredotočeno na človeka.
Estrin je poudaril moč sodelovanja z aplikacijami in resničnimi uporabniki, pri čemer ne razvija tehnologije zaradi inovacij, ampak to počne, da "gradi tehnologijo v službi javnega interesa in potreb javnega sektorja." Kot primer je navedla Center Nacionalne znanstvene fundacije za vgrajene omrežne senzorje (POPIS), ki je kurirala javni interes in priložnosti javnega sektorja za podiplomske študente med njihovim izobraževanjem.
»Ne gre za to, da nismo usposobljeni za skrb. Izurjeni smo, da nam ni vseeno, kajne?« – Charles Isbell
Ne gre le za pomanjkanje programov ali priložnosti za spodbujanje javnega interesa in navdihovanje raziskovalcev, da delajo v javno korist. Vzpostavljene strukture spodbud so tiste, ki spodbujajo oblikovalce, da skrbijo le za končno zasnovo in izpolnitev naloge, za katero so tehnologije zasnovane, ne da bi razmišljali o tem, kako bodo te inovacije uporabljene. Isbell je poudaril, da način, kako je sestavljen učni načrt in način izobraževanja ljudi, obravnava etiko kot nekaj, kar se loti na koncu, medtem ko bi morala biti zakoreninjena na samem začetku, da bi jo vključili v preostanek študentovega izobraževanja.
V nadaljevanju pogovora je Nelson vprašal, kaj naj bi vlada ali NITRD naredila za usposabljanje študentov in izgradnjo cevovodov, ki ustvarjajo pristop k tehnologiji, ki je bolj osredotočen na človeka.
Panelisti so imeli številna priporočila, vključno s spodbujanjem bolj interdisciplinarnega pristopa k računalništvu, izdelavo področja bolj prijaznega za etike, sociologe, psihologe itd., spreminjanje spodbud za nagrajevanje ljudi, ki dajejo prednost zasebnosti, pravičnosti, pravičnosti itd., spodbujanje pretvorbe etičnih načel do dejanskih orodij, ki ustvarjajo priložnosti za velike skupine raznolikega, interdisciplinarnega sodelovanja in uporabljajo svojo moč za sklicevanje, da združijo ljudi in določijo agendo za etične prakse.
Nelson je poudaril, da je lahko združevanje ljudi za interdisciplinarno sodelovanje težko zaradi ključnih razlik med ločenimi področji. Krishnan je izpostavil tri metode za lajšanje teh težav in vzpostavitev temelja sodelovanja med disciplinami. Kot primer je navedel Konzorcij računalniške skupnosti nedavno delavnica o umetni inteligenci in operacijskem raziskovanju. Delavnica je združila dve skupini, ki se na različne načine ukvarjata s podobnimi temami. Konference in delavnice, ki se osredotočajo na izkoriščanje sinergij med področji, nudijo priložnost za razprave, ki vodijo do navzkrižnega oploditve. Drugo sredstvo za sodelovanje so štipendije. Kot primer je navedel Štipendija Carnegie Mellon Data Science for Public Policy Fellowship ki je privabila podiplomske študente iz računalništva in družboslovja k vodenju terenski poskusi z namenom reševanja družbenih in okoljskih problemov na glavnih področjih politike. Tretji primer je Carnegie Mellon Scopeathon, ki deluje podobno kot hackathon in ljudi uči, kako določiti obseg in delati na problemih, kako postaviti prava vprašanja in kako določiti prave deležnike. Četrti in zadnji forum za spodbujanje meddisciplinarnega sodelovanja so interdisciplinarni inštituti, ki jih financira zvezna država, kot so Inštituti za umetno inteligenco Nacionalne znanstvene fundacije in Nacionalni laboratoriji.
V nadaljevanju vloge vlade pri zagotavljanju bolj etične in odgovorne prihodnosti v računalništvu je CIFellow Jasmine Berry z Univerze v Michiganu povprašala paneliste o prehodu k bolj centraliziranim sistemom in o tem, kako namerava vlada dati ljudem večji glas pri je znanost napredna in zagotovijo, da so njihove zamisli o tem, kako se gradi AI, dejansko vključene.
Estrin ji je zagotovil, da že obstajajo raziskovalci, ki želijo več sodelovati in komunicirati s prizadetimi skupnostmi, vendar rešitev ni v decentralizaciji sistemov. Poudarila je, da bo morala vlada za doseganje bolj demokratičnega pristopa k načinu oblikovanja tehnologije delovati od vrha navzdol od struktur spodbud do vsega drugega.
Udeleženci panela so pripravili veliko razpravo, v kateri so identificirali možne usmeritve financiranja in prakse, ki bodo, upajmo, vodile k pristopu k razvoju tehnologije, ki bo bolj osredotočen na človeka. Čeprav je treba opraviti še veliko dela, obstaja gibanje za poudarjanje etike in pravičnosti v teh sistemih. Celotno sejo si lahko ogledate tukaj, preostale posnetke panela pa na Spletna stran CCC or NITRD YouTube kanal.
