Oboroževalna tekma z umetno inteligenco bi nam lahko dala kul brez okrutnosti

Ponovno objavil Platon

Spremljevalci: 0

Mnenje Vsak teden je toliko zgodb o različnih stvareh, vendar s skupno temo.

Recimo telefonsko podjetje Jolly Roger. Že ime ogreje srce ljudi, ki razmišljajo pravilno. To, kar počne, je še boljše – uvajanje vojske zvočnih klepetalnih robotov, ki zmedejo, povežejo in na splošno pokvariti dan telemarketarjem katerih naloga je uničiti tvojo. To je poceni storitev, pri kateri lahko uporabniki izberejo in spremljajo svojo želeno pasivno-agresivno vojsko AI. Tehnologija v službi človeštva ni nič boljša od tega.

Telemarketing je sam po sebi zelo prilagodljiva tehnologija, ki deluje na samem vrhu tehnično in ekonomsko vzdržnega. Opraviti mora veliko klicev, da doseže prodajo, v zelo antagonističnem okolju. Vsi jih sovražijo – regulatorji, ljudje, ki poskušajo pojesti svojo večerjo, zagovorniki pravic potrošnikov. Če bo Jolly Roger uspešen, bo to neposredna grožnja odkrito ostudnemu poslovnemu modelu. Telemarketing se bo upiral z uporabo umetne inteligence za hitro odkrivanje in zapiranje ponaredkov chatbotov.

To je lahko spektralna ali lingvistična analiza ali kak drug signal iz sistema, na katerega še nihče ni pomislil, vendar bi telemarketerjem povrnilo njihovo metriko klicev na minuto. Dokler Jolly Roger ali, upamo, povsem nova industrija, ki nas ščiti pred nezaželenimi vdori, ne pripravi protiukrepov, se bomo vrteli v krogu, dokler eni strani ne bo zmanjkalo sredstev za nadaljevanje boja – kot je to storila Sovjetska zveza, ko je Reagan umaknil svoje Podvig Vojne zvezd. To je oboroževalna tekma.

Oboroževalne tekme so endemične v človeških zadevah, najbolj očitne so le tam, kjer je vpletena tehnologija. Poleg Jolly Rogerja smo v zadnjem času tudi podvrženi vojni Red Hat proti Rocky Linuxu, kjer RHEL poskuša svojo izvorno kodo zapreti prizadevanjem Rocky Linuxa za obnovo. To je grdo in vključuje precej kislo mešanico skrivanja repo-jev in izkrivljanja licenčnih pogojev na eni strani ter iskanja novih načinov pridobivanja virov brez sprožitve odvetnikov na drugi strani. Na vsako potezo ene strani se sooči druga, oboroževalna tekma idej, posledično se bomo naučili veliko o robustnosti in omejitvah odprtokodnosti, industrija pa se bo ponovno umerila, da bo obdržala stvari, ki se ji zdijo najpomembnejše .

Oboroževalne tekme lahko povzročijo hiperhiter razvoj, vendar dobijo slab ugled, ker ponavadi ustvarjajo tudi žrtve. V dejanskih spopadih, kot je bila druga svetovna vojna, je to pomenilo število trupel več deset milijonov ljudi sredi skrajne krutosti v zameno za računalnike, reaktivne motorje, radar, atomsko energijo, digitalne komunikacije in še veliko več. Oboroževalna tekma med hladno vojno nam je dala največji dosežek Voyager na robu medzvezdnega prostora, ki ga tja postavlja ista tehnologija, ki ima do danes na tisoče izstrelkov, ki nas obupano želijo spražiti v čistilnem jedrskem ognju.

Celo Jolly Roger in RHEL proti Rockyju imata svoje žrtve: prvi z dušami, prisiljenimi v dehumanizirajoč psihološki papir ukvarjanja s prevarantskim AI-jem za izkoriščevalske plače, drugi pa se igra s celotnim odprtokodnim etosom.

Kaj pa, če bi obstajal način, kako izkoristiti turbomočno transformativno moč oboroževalne tekme brez žrtev? To že počnemo z generativnimi kontradiktornimi mrežami oz GAN, kjer ena nevronska mreža poskuša sintetizirati podatke, ki so videti zelo podobni podatkom za usposabljanje, druga pa jih poskuša ločiti. Ponavljajoča se igra z ničelno vsoto, oba sistema izpopolnjujeta zmogljivosti drug drugega v neusmiljeni oboroževalni tekmi, kjer nihče ne izgubi.

Ideja ni nova. Dr. Samuel Johnson, pisec dnevnikov in leksikograf iz 18. stoletja je imel huda nihanja razpoloženja – svoja manična obdobja je izkoristil za pisanje, svoje depresivne čase za urejanje. Vendar pa analiza podatkov in generativni potencial strojnega učenja prvič pomenita, da lahko o oboroževalni tekmi v AI ne razmišljamo kot o Googlu proti Microsoftu proti tistemu, ki ima najboljši PR ta mesec, ampak kot o načinu za avtomatizacijo borbenega okolja.

Kako bi to lahko izgledalo? Bodimo krepki: podnebnih sprememb ne bo v hipu upočasnila čarobna nova tehnologija. Tam imamo večino, kar potrebujemo. Namesto tega obstoječi interesi poskušajo upočasniti spremembe s trditvami o ekonomski nujnosti. Nasprotno pa modeli, kaj se dogaja s kmetijstvom, industrijo in prebivalstvom z različnimi modeli emisij ogljika. Na to lahko gledamo kot na oboroževalno tekmo za strategije znotraj ekonomskega modela, pri čemer zmagovalec doseže trajnostni cilj v trajnostnem času.

Nato bi lahko pogledali potrebne vire: oportunitetni stroški oboroževalne tekme so tako pogosto najbolj sporen dejavnik. Sposobnost strojnega učenja, da ustvari in kritizira modele v velikem obsegu, je potencialno prelomna tehnika, da oboroževalne tekme vidimo kot samostojno disciplino.

Saj ne, da uporabljamo AI, da bi zmešali in odvrnili telemarketarje. Daj temu Jollyju Rogerju Nobela, pravimo. Samo to razmišljanje bi lahko tudi rešilo svet. ®