Amerikanska militärens cybersäkerhetskapacitet för att få OpenAI-boost

Amerikansk militärs cybersäkerhetskapacitet för att få OpenAI-boost

Tidsstämpel: 16 januari 2024 5:32
Den amerikanska militärens cybersäkerhetskapacitet för att få OpenAI ökar PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

OpenAI utvecklar AI-drivna cybersäkerhetsfunktioner för den amerikanska militären, och flyttar sitt valsäkerhetsarbete till hög växel, sa labbets chefer till World Economic Forum (WEF) i Davos denna vecka.

Offentligheten om att arbeta med de väpnade styrkorna kommer dagar efter en förändring i OpenAIs policyspråk, som tidigare förbjöd användning av dess generativa AI-modeller för "militära och krigförings"-applikationer, såväl som "generering av skadlig programvara", med sin teknologi. Dessa begränsningar har nu försvunnit från ChatGPT-tillverkarens finstilta. Som sagt, superlabbet betonade att dess teknik fortfarande inte är tänkt att användas för våld, förstörelse eller kommunikationsspionage.

"Vår policy tillåter inte att våra verktyg används för att skada människor, utveckla vapen, för kommunikationsövervakning eller för att skada andra eller förstöra egendom", sa en talesperson för OpenAI. Registret i dag.

"Det finns dock fall av användning av nationell säkerhet som är i linje med vårt uppdrag.

"Vi arbetar redan med DARPA för att stimulera skapandet av nya cybersäkerhetsverktyg för att säkra programvara med öppen källkod som kritisk infrastruktur och industri är beroende av. Det var inte klart om dessa fördelaktiga användningsfall skulle ha tillåtits under "militär" i våra tidigare policyer. Så målet med vår policyuppdatering är att ge klarhet och möjlighet att föra dessa diskussioner.” 

På tisdagen, under en intervjun vid WEF shindig för världens ledare sa OpenAI VP of Global Affairs Anna Makanju att deras partnerskap med Pentagon inkluderar utveckling av cybersäkerhetsprogram med öppen källkod. OpenAI inleder också samtal med den amerikanska regeringen om hur dess teknologi kan hjälpa till att förhindra veteran självmord, sa hon.

"Eftersom vi tidigare hade vad som i huvudsak var ett generellt förbud mot militär, trodde många att det skulle förbjuda många av dessa användningsfall, som folk tror är mycket i linje med vad vi vill se i världen," sa Makanju. 

Men trots att "militär och krigföring" tagits bort tillsammans med andra "otillåtna användningar" för ChatGPT, sa Makanju att OpenAI upprätthåller sitt förbud mot att använda sina modeller för att utveckla vapen för att skada människor. 

Under samma intervju sa OpenAI:s vd Sam Altman att biz vidtar åtgärder för att säkerställa att dess generativa AI-verktyg inte används för att sprida valrelaterad desinformation. 

Det följer också en liknande tryck från Microsoft, OpenAIs största investerare, som i november tillkännagav en valskyddsstrategi i fem steg för "USA och andra länder där kritiska val kommer att äga rum 2024." 

"Det är mycket som står på spel i det här valet", sa Altman på tisdagen.

Detta kommer en dag efter USA:s förre president Donald Trumps stor vinst i Iowas valmöte på måndag.

Och alla dessa ämnen – AI, cybersäkerhet och desinformation – spelar framträdande roller på agendan som världsledare möts denna vecka i Davos.

Enligt WEF: s Rapport om globala risker 2024, publicerad förra veckan, är "desinformation och desinformation" den största globala risken på kort sikt, med "cyberosäkerhet" som nummer fyra.

Framväxten av generativ AI förvärrar dessa utmaningar, med 56 procent av cheferna tillfrågade vid WEF:s Årsmöte för cybersäkerhet i november 2023 säger generativ AI kommer att ge angripare och fördelar över försvarare inom de kommande två åren.

"Särskild oro kring användningen av AI-teknik för att öka kapaciteten för cyberkrigföring, med goda skäl," sa Bernard Montel, EMEA teknisk chef på Tenable, till Registret. 

"Även om AI har gjort astronomiska tekniska framsteg under de senaste 12 till 24 månaderna, är det obegripligt att låta en autonom enhet göra den slutgiltiga bedömningen idag," tillade han.

"Även om AI snabbt kan identifiera och automatisera vissa åtgärder som behöver vidtas, är det absolut nödvändigt att det är människor som fattar avgörande beslut om var och när de ska agera utifrån intelligensen som AI tillhandahåller." ®

Tidsstämpel:

Mer från Registret