Holly Elmore juhib protesti avatud lähtekoodiga ohutuse vastu

Holly Elmore juhib protesti avatud lähtekoodiga ohutuse vastu

Ajatempel: 11. oktoober 2023 1:50
Holly Elmore juhib protesti avatud lähtekoodiga turvalisuse PlatoBlockchain andmetele. Vertikaalne otsing. Ai.

Julge sammuna Meta hiljutise seisukoha vastu avatud lähtekoodiga tehisintellekti (AI) suhtes juhtis tehisintellekti ohutuse kaitsja Holly Elmore meeleavaldust väljaspool Meta San Francisco baasi.

Vaidluse tuum seisneb potentsiaalsetes ohtudes, mis kaasnevad võimsate tehisintellekti mudelite kaalude vabalt vabastamisega, mis Elmore'i ja tema toetajate väitel võib viia "pöördumatu leviku" riskideni.

Meta segas selle aasta alguses tehnikavett vabastades oma LLaMA mudeliperekonna kaalukust tehisintellekti teadlastele – otsus, mis erineb oluliselt teiste tehnoloogiahiiglaste poliitikast. Neid raskusi, mis on mudeli funktsiooni jaoks olulised, saab manipuleerida ja muuta, kui need on ekspertide käes, mis tekitab muret väärkasutuse pärast. Tõepoolest, ei läinud kaua aega, kui need kaalud olid lekkinud võrgus, tugevdades kriitikat Meta avatud lähtekoodiga lähenemisviisi kohta.

Kaaludest vabanemise riskid

Elmore, kes oli kunagi seotud mõttekojaga Rethink Prioritys, väljendas oma muret:

"Kaalude vabastamine on ohtlik poliitika, sest mudeleid saab igaüks muuta ja neid ei saa tagasi kutsuda."

Ta rõhutas kasvavat ohtu, kui modellid muutuvad arenenumaks ja võimsamaks. Kui mudelikaalud on avalikult saadaval, saab neid potentsiaalselt kasutada pahatahtlikeks tegevusteks, alates andmepüügiskeemide koostamisest kuni planeerimiseni. küberrünnakud. Elmore hoiatab, et kui raskused on käes, on ohutuspiirdetest mööda hiilimine muret tekitavalt lihtne.

Peter S. Park MIT-ist kordab neid tundeid. Ta hoiatab ohtude eest, kui praegune avatud lähtekoodiga lähenemine kantakse üle arenenumale AI-le, mis võiks töötada suurema autonoomiaga, võimaldades seega väärkasutamist suuremal ja kahjulikumal skaalal.

Vastuargument: avatud lähtekoodiga kaitse

Stella Biderman EleutherAI pakub aga teistsugust vaatenurka. Biderman seab kahtluse alla vahetu eelduse, et mudeli kaalude vabastamine on otseses korrelatsioonis võimaliku väärkasutusega. Ta usub, et massihävitusrelvadega seotud mõiste "relva levik" on tehisintellekti kontekstis eksitav. Väites, et suurte keelemudelite loomise põhielemendid on juba avalikud, usub Biderman, et salatsemine ei pruugi olla imerohi võimaliku väärkasutuse jaoks.

Ta lisab, et ettevõtete julgustamisel oma mudelite suhtes saladust hoidma võib olla "tõsised tagajärjed läbipaistvusele, üldsuse teadlikkusele ja teadusele." Selline poliitika võib tahtmatult kahjustada sõltumatuid teadlasi ja entusiaste rohkem kui kaitsta võimalike ohtude eest.

Avatud lähtekoodiga vetes navigeerimine tehisintellektis

Mõiste 'avatud lähtekoodigaAI valdkonnas on segane. Nagu Stefano Maffulli Open Source Initiative'ist (OSI) osutab, on erinevad organisatsioonid selle termini valinud, mis on viinud kahemõttelise arusaamani sellest, mida see AI-s tegelikult tähendab. Et tarkvara oleks tõeliselt avatud lähtekoodiga, peavad kõik selle komponendid lähtekoodist koolitusandmeteni olema avalikult juurdepääsetavad ja korduvkasutatavad.

Avatud lähtekoodiga tehisintellekti tulevikku kujundatakse endiselt ja OSI püüab aktiivselt selle parameetreid määratleda. Maffulli jääb kindlaks avatud lähenemisviisi olulisusele, rõhutades, et AI saab olla "usaldusväärne, vastutustundlik ja vastutustundlik" ainult siis, kui see on kooskõlas avatud lähtekoodiga põhimõtetega.

Kuigi arutelu avatud lähtekoodiga tehisintellekti üle pole kaugeltki lahendatud, on üks asi selge: tehnoloogia kiire areng nõuab hoolikat tasakaalu juurdepääsetavuse ja turvalisuse vahel. Kuna sellised ettevõtted nagu Meta oma poliitikat edasi arendavad, jätkavad tehnoloogiaringkonnad ja avalikkus maadlemist avatud lähtekoodiga AI väljakutsete ja tagajärgedega.

Ajatempel:

Veel alates MetaNews