De cyberbeveiligingscapaciteiten van het Amerikaanse leger krijgen een OpenAI-boost

De cyberbeveiligingscapaciteiten van het Amerikaanse leger om OpenAI een boost te geven

Tijdstempel: 16 januari 2024 5:32 uur
De cyberbeveiligingsmogelijkheden van het Amerikaanse leger om OpenAI te krijgen, versterken PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

OpenAI ontwikkelt AI-aangedreven cyberbeveiligingsmogelijkheden voor het Amerikaanse leger en verschuift zijn verkiezingsveiligheidswerk naar een hogere versnelling, vertelden de leidinggevenden van het laboratorium deze week aan het World Economic Forum (WEF) in Davos.

De publieke opinie over het werken met de strijdkrachten komt dagen na een verandering in De beleidstaal van OpenAI, die voorheen het gebruik van zijn generatieve AI-modellen voor ‘militaire en oorlogsvoering’-toepassingen, evenals ‘het genereren van malware’, met zijn technologie verbood. Deze beperkingen zijn nu verdwenen uit de kleine lettertjes van de ChatGPT-maker. Dat gezegd hebbende benadrukte het superlab dat zijn technologie nog steeds niet mag worden gebruikt voor geweld, vernietiging of communicatiespionage.

“Ons beleid staat niet toe dat onze hulpmiddelen worden gebruikt om mensen schade toe te brengen, wapens te ontwikkelen, voor communicatiebewaking, of om anderen te verwonden of eigendommen te vernietigen”, vertelde een woordvoerder van OpenAI. Het register <p></p>

“Er zijn echter gebruiksscenario’s voor de nationale veiligheid die aansluiten bij onze missie.

“We werken al samen met DARPA om de creatie van nieuwe cyberbeveiligingstools te stimuleren om open source software te beveiligen waarvan de kritieke infrastructuur en de industrie afhankelijk zijn. Het was niet duidelijk of deze nuttige gebruiksscenario’s in ons vorige beleid onder ‘militair’ zouden zijn toegestaan. Het doel van onze beleidsupdate is dus om duidelijkheid te bieden en de mogelijkheid te bieden om deze discussies te voeren.” 

Dinsdag, tijdens een interview Op de WEF-bijeenkomst voor de leiders van de wereld zei OpenAI VP Global Affairs Anna Makanju dat de samenwerking met het Pentagon onder meer de ontwikkeling van open source cyberbeveiligingssoftware omvat. OpenAI begint ook gesprekken met de Amerikaanse regering over hoe haar technologie zelfmoorden onder veteranen kan helpen voorkomen, zei ze.

“Omdat we voorheen een algemeen verbod op militairen hadden, dachten veel mensen dat dit veel van deze gebruiksscenario’s zou verbieden, waarvan mensen denken dat ze sterk aansluiten bij wat we in de wereld willen zien,” zei Makanju. 

Ondanks het verwijderen van “militairen en oorlogvoering” samen met andere “niet-toegestane toepassingen” voor ChatGPT, zei Makanju echter dat OpenAI zijn verbod handhaaft op het gebruik van zijn modellen om wapens te ontwikkelen om mensen pijn te doen. 

Ook tijdens hetzelfde interview zei Sam Altman, CEO van OpenAI, dat de sector stappen onderneemt om ervoor te zorgen dat zijn generatieve AI-tools niet worden gebruikt om verkiezingsgerelateerde desinformatie te verspreiden. 

Hieruit volgt ook een soortgelijke druk van Microsoft, de grootste investeerder van OpenAI, die in november een verkiezingsbeschermingsstrategie in vijf stappen aankondigde voor “de Verenigde Staten en andere landen waar in 2024 cruciale verkiezingen zullen plaatsvinden.” 

“Er staat veel op het spel bij deze verkiezingen”, zei Altman dinsdag.

Dit komt een dag na dat van de voormalige Amerikaanse president Donald Trump grote overwinning in de caucus in Iowa op maandag.

En al deze onderwerpen – AI, cyberveiligheid en desinformatie – spelen een prominente rol op de agenda wereldleiders ontmoeten elkaar deze week in Davos.

Volgens de WEF's Wereldwijd risicorapport 2024, vorige week gepubliceerd, is “desinformatie en desinformatie” het grootste mondiale risico op de korte termijn, waarbij “cyberonveiligheid” op nummer vier komt.

De opkomst van generatieve AI verergert deze uitdagingen: 56 procent van de ondervraagde leidinggevenden bij het WEF Jaarlijkse bijeenkomst van cyberbeveiliging in november 2023 gezegd generatieve AI zal aanvallers en voordeel opleveren meer dan verdedigers in de komende twee jaar.

“Bijzondere zorg betreft het gebruik van AI-technologieën om de capaciteiten voor cyberoorlogvoering te vergroten, en terecht”, zegt Bernard Montel, technisch directeur EMEA bij Tenable. Het register. 

“Hoewel AI de afgelopen 12 tot 24 maanden astronomische technologische vooruitgang heeft geboekt, is het vandaag de dag onbegrijpelijk dat een autonoom apparaat het definitieve oordeel kan vellen”, voegde hij eraan toe.

“Hoewel AI in staat is om snel bepaalde acties te identificeren en te automatiseren, is het absoluut noodzakelijk dat mensen degenen zijn die cruciale beslissingen nemen over waar en wanneer te handelen op basis van de informatie die AI biedt.” ®

Tijdstempel:

Meer van Het register