Holly Elmore vezeti a nyílt forráskódú biztonság elleni tiltakozást

Holly Elmore vezeti a nyílt forráskódú biztonság elleni tiltakozást

Időbélyeg: 11. október 2023. 1:50
Holly Elmore tiltakozást vezet a nyílt forráskódú biztonsági PlatoBlockchain adatintelligencia ellen. Függőleges keresés. Ai.

A Meta nyílt forráskódú mesterséges intelligenciával (AI) kapcsolatos közelmúltbeli álláspontja elleni merész lépésként Holly Elmore, az AI biztonsági szószólója egy demonstráció élén állt a Meta San Francisco-i bázisa előtt.

A vita lényege az erőteljes mesterségesintelligencia-modell-súlyok szabad felszabadításának lehetséges veszélyeiben rejlik, amelyek Elmore és támogatói szerint „visszafordíthatatlan terjedési” kockázatokhoz vezethetnek.

A Meta az év elején felkavarta a technológiai vizeket felszabadító LLaMA modellcsaládjának súlya az AI-kutatók számára, ez a döntés jelentősen eltér más technológiai óriások politikájától. Ezek a súlyok, amelyek létfontosságúak a modell működéséhez, a szakértők kezébe kerülve manipulálhatók és módosíthatók, ami aggályokat vet fel a visszaélésekkel kapcsolatban. Valóban, nem kellett sok idő, amíg ezek a súlyok megvoltak szivárgott az interneten, fokozza a Meta nyílt forráskódú megközelítésének kritikáját.

A súlyok elengedésének kockázatai

Elmore, aki egykor a Rethink Priorities agytröszthöz tartozott, aggodalmának adott hangot:

"A súlyok elengedése veszélyes politika, mert a modelleket bárki módosíthatja, és nem hívható vissza."

Hangsúlyozta a növekvő fenyegetést, ahogy a modellek egyre fejlettebbek és erősebbek. Ha a modellsúlyok nyíltan elérhetők, akkor potenciálisan felhasználhatók rosszindulatú tevékenységekre, az adathalász sémák létrehozásától a tervezésig. cyberattacks. Elmore figyelmeztet, ha a súlyok a kezükben vannak, a biztonsági korlátok megkerülése nyugtalanítóan egyszerű.

Peter S. Park az MIT-től visszhangozza ezeket az érzéseket. Figyelmeztet a veszélyekre, ha a jelenlegi nyílt forráskódú megközelítést átvisszük a fejlettebb mesterséges intelligencia felé, amely nagyobb autonómiával működhet, így nagyobb és károsabb léptékű visszaéléseket tesz lehetővé.

Egy ellenérv: A nyílt forráskódú védelem

Stella Biderman az EleutherAI azonban más perspektívát kínál. Biderman megkérdőjelezi azt a közvetlen feltevést, hogy a modellsúlyok felszabadítása közvetlenül korrelál a lehetséges visszaélésekkel. Úgy véli, hogy a tömegpusztító fegyverekkel kapcsolatos „proliferáció” kifejezés félrevezető a mesterséges intelligencia összefüggésében. Azzal érvelve, hogy a nagy nyelvi modellek felépítésének alapvető elemei már nyilvánosak, Biderman úgy véli, hogy a titoktartás nem biztos, hogy csodaszer az esetleges visszaélésekre.

Hozzáteszi, hogy ha a vállalatokat arra ösztönzik, hogy tartsák fenn a modelljeik titkolását, az „súlyos következményekkel járhat az átláthatóságra, a köztudatosságra és a tudományra nézve”. Egy ilyen politika akaratlanul is többet árthat a független kutatóknak és rajongóknak, mint amennyit megvéd a potenciális fenyegetésekkel szemben.

Navigálás nyílt forráskódú vizeken AI-ban

A kifejezésnyílt forráskódúAz AI birodalma zavaros. Amint Stefano Maffulli, az Open Source Initiative (OSI) munkatársa rámutat, különböző szervezetek választották ezt a kifejezést, ami kétértelmű megértéshez vezet, hogy mit is jelent valójában az AI-ban. Ahhoz, hogy a szoftver valóban nyílt forráskódú legyen, minden összetevőjének – a forráskódtól a képzési adatokig – nyilvánosan hozzáférhetőnek és újrafelhasználhatónak kell lennie.

A nyílt forráskódú mesterséges intelligencia jövője még mindig formálódik, az OSI aktívan próbálja meghatározni a paramétereit. Maffulli továbbra is ragaszkodik a nyitott megközelítés fontosságához, hangsúlyozva, hogy az AI csak akkor lehet „megbízható, felelős és elszámoltatható”, ha igazodik a nyílt forráskódú elvekhez.

Noha a nyílt forráskódú mesterséges intelligencia körüli vita még korántsem dőlt el, egy dolog világos: a technológia gyors fejlődése gondos egyensúlyt kíván a hozzáférhetőség és a biztonság között. Miközben az olyan vállalatok, mint a Meta, előrelépnek politikájukkal, a technológiai közösség és a nyilvánosság továbbra is küzdeni fog a nyílt forráskódú mesterséges intelligencia kihívásaival és következményeivel.

Időbélyeg:

Még több MetaNews