Zmogljivosti ameriške vojske za kibernetsko varnost bodo dobile okrepitev OpenAI

Zmogljivosti ameriške vojske za kibernetsko varnost bodo dobile okrepitev OpenAI

Časovni žig: 16. januar 2024 5:32
US military's cybersecurity capabilities to get OpenAI boost PlatoBlockchain Data Intelligence. Vertical Search. Ai.

OpenAI razvija zmogljivosti kibernetske varnosti, ki jih poganja umetna inteligenca, za ameriško vojsko in svoje delo na področju varnosti volitev prestavlja v visoko prestavo, so povedali vodje laboratorija na Svetovnem gospodarskem forumu (WEF) ta teden v Davosu.

Javnost o delu z oboroženimi silami prihaja nekaj dni po sprememba Politični jezik OpenAI, ki je prej prepovedoval uporabo njegovih generativnih modelov umetne inteligence za "vojaške in vojne" aplikacije, pa tudi "generiranje zlonamerne programske opreme" s svojo tehnologijo. Te omejitve so zdaj izginile iz drobnega tiska izdelovalca ChatGPT. Kljub temu je super laboratorij poudaril, da se njegova tehnologija še vedno ne bi smela uporabljati za nasilje, uničevanje ali komunikacijsko vohunjenje.

"Naša politika ne dovoljuje uporabe naših orodij za škodovanje ljudem, razvoj orožja, za nadzor komunikacij ali za poškodovanje drugih ali uničenje lastnine," je povedal tiskovni predstavnik OpenAI. Register danes.

»Vendar obstajajo primeri uporabe za nacionalno varnost, ki so v skladu z našim poslanstvom.

»Z DARPA že sodelujemo, da bi spodbudili ustvarjanje novih orodij za kibernetsko varnost za zaščito odprtokodne programske opreme, od katere sta odvisni kritična infrastruktura in industrija. Ni bilo jasno, ali bi bili ti primeri koristne uporabe dovoljeni pod "vojsko" v naših prejšnjih pravilnikih. Cilj naše posodobitve pravilnika je torej zagotoviti jasnost in možnost teh razprav.« 

V torek med an intervju na shindigu WEF za voditelje sveta je podpredsednica oddelka za globalne zadeve OpenAI Anna Makanju dejala, da njeno partnerstvo s Pentagonom vključuje razvoj odprtokodne programske opreme za kibernetsko varnost. OpenAI prav tako začenja pogovore z ameriško vlado o tem, kako lahko njegova tehnologija pomaga preprečiti samomore veteranov, je dejala.

"Ker smo prej imeli nekaj, kar je bila v bistvu splošna prepoved za vojsko, je veliko ljudi mislilo, da bi to prepovedalo številne od teh primerov uporabe, za katere ljudje menijo, da so zelo usklajeni s tem, kar želimo videti v svetu," je dejal Makanju. 

Kljub odstranitvi »vojske in vojskovanja« skupaj z drugimi »nedovoljenimi uporabami« za ChatGPT je Makanju dejal, da OpenAI ohranja svojo prepoved uporabe svojih modelov za razvoj orožja za škodovanje ljudem. 

Med istim intervjujem je generalni direktor OpenAI Sam Altman dejal, da podjetje sprejema ukrepe za zagotovitev, da se njegova generativna orodja AI ne uporabljajo za širjenje dezinformacij, povezanih z volitvami. 

Sledi tudi podobno potiska Microsoft, največjega investitorja OpenAI, ki je novembra objavil petstopenjsko strategijo zaščite pred volitvami za "ZDA in druge države, kjer bodo leta 2024 potekale kritične volitve." 

"Na teh volitvah je veliko na kocki," je v torek dejal Altman.

To se je zgodilo dan po nekdanjem ameriškem predsedniku Donaldu Trumpu big win v ponedeljek na sestanku v Iowi.

In vse te teme – umetna inteligenca, kibernetska varnost in dezinformacije – igrajo pomembno vlogo na dnevnem redu kot srečanja svetovnih voditeljev ta teden v Davosu.

Glede na WEF Poročilo o globalnih tveganjih 2024, objavljenem prejšnji teden, so »dezinformacije in dezinformacije« največje kratkoročno globalno tveganje, »kibernetska nevarnost« pa je na četrtem mestu.

Vzpon generativne umetne inteligence še poslabšuje te izzive, saj je 56 odstotkov vodstvenih delavcev anketiranih na WEF Letno srečanje kibernetske varnosti novembra 2023 rekel generativni AI bo napadalcem dal prednost nad branilci v naslednjih dveh letih.

"Posebna zaskrbljenost je povezana z uporabo tehnologij umetne inteligence za krepitev zmogljivosti kibernetskega vojskovanja z dobrim razlogom," je povedal Bernard Montel, EMEA tehnični direktor pri Tenable. Register. 

"Medtem ko je umetna inteligenca v zadnjih 12 do 24 mesecih naredila astronomski tehnološki napredek, je danes nerazumljivo dovoliti, da avtonomna naprava sprejme končno sodbo," je dodal.

"Čeprav je umetna inteligenca sposobna hitro identificirati in avtomatizirati nekatere ukrepe, ki jih je treba izvesti, je nujno, da so ljudje tisti, ki sprejemajo kritične odločitve o tem, kje in kdaj ukrepati na podlagi obveščevalnih podatkov, ki jih zagotavlja umetna inteligenca." ®

Časovni žig:

Več od Register