Det amerikanske militærs cybersikkerhedskapaciteter for at få OpenAI-boost

Det amerikanske militærs cybersikkerhedskapaciteter for at få OpenAI-boost

Tidsstempel: 16. januar 2024 5:32
Det amerikanske militærs cybersikkerhedskapaciteter for at få OpenAI booster PlatoBlockchain Data Intelligence. Lodret søgning. Ai.

OpenAI udvikler AI-drevne cybersikkerhedskapaciteter til det amerikanske militær og flytter sit valgsikkerhedsarbejde i høj gear, fortalte laboratoriets ledere til World Economic Forum (WEF) i Davos i denne uge.

Offentligheden om at arbejde med de væbnede styrker kommer få dage efter en ændring i OpenAIs politiksprog, som tidligere forbød at bruge dets generative AI-modeller til "militære og krigsførelse"-applikationer såvel som "generering af malware" med sin teknologi. Disse begrænsninger er nu forsvundet fra ChatGPT-producentens småt. Når det er sagt, understregede superlaboratoriet, at dets teknologi stadig ikke formodes at blive brugt til vold, ødelæggelse eller kommunikationsspionage.

"Vores politik tillader ikke, at vores værktøjer bruges til at skade mennesker, udvikle våben, til kommunikationsovervågning eller til at skade andre eller ødelægge ejendom," sagde en talsmand for OpenAI. Registret i dag.

"Der er dog sager om national sikkerhed, der stemmer overens med vores mission.

"Vi arbejder allerede med DARPA for at anspore til skabelsen af ​​nye cybersikkerhedsværktøjer til at sikre open source-software, som kritisk infrastruktur og industri er afhængig af. Det var ikke klart, om disse gavnlige brugssager ville have været tilladt under "militær" i vores tidligere politikker. Så målet med vores politikopdatering er at give klarhed og mulighed for at føre disse diskussioner." 

På tirsdag, under en Interview ved WEF shindig for verdens ledere sagde OpenAI VP for Global Affairs Anna Makanju, at dets partnerskab med Pentagon omfatter udvikling af open source cybersikkerhedssoftware. OpenAI starter også samtaler med den amerikanske regering om, hvordan dens teknologi kan hjælpe med at forhindre veteran-selvmord, sagde hun.

"Fordi vi tidligere havde, hvad der i det væsentlige var et generelt forbud mod militær, troede mange mennesker, at det ville forbyde mange af disse brugssager, som folk tror er meget på linje med det, vi ønsker at se i verden," sagde Makanju. 

Men på trods af fjernelse af "militær og krigsførelse" sammen med andre "ikke tilladte anvendelser" for ChatGPT, sagde Makanju, at OpenAI opretholder sit forbud mod at bruge sine modeller til at udvikle våben til at skade folk. 

Også under det samme interview sagde OpenAI CEO Sam Altman, at biz tager skridt til at sikre, at dets generative AI-værktøjer ikke bruges til at sprede valgrelateret desinformation. 

Det følger også en lignende push fra Microsoft, OpenAIs største investor, som i november annoncerede en fem-trins valgbeskyttelsesstrategi for "USA og andre lande, hvor kritiske valg vil finde sted i 2024." 

"Der er meget på spil i dette valg," sagde Altman tirsdag.

Dette sker en dag efter den tidligere amerikanske præsident Donald Trumps stor gevinst i Iowa caucus mandag.

Og alle disse emner – kunstig intelligens, cybersikkerhed og desinformation – spiller fremtrædende roller på dagsordenen som verdens ledere mødes denne uge i Davos.

Ifølge WEF's Global Risks Report 2024, der blev offentliggjort i sidste uge, er "misinformation og desinformation" den største globale kortsigtede risiko, med "cyberusikkerhed" som nummer fire.

Fremkomsten af ​​generativ kunstig intelligens forværrer disse udfordringer, med 56 procent af lederne undersøgt på WEF's Årsmøde for Cybersikkerhed i november 2023 siger generativ AI vil give angribere og fordele over forsvarere inden for de næste to år.

"Særlig bekymring omgiver brugen af ​​AI-teknologier til at booste cyberkrigsføringskapaciteter, med god grund," fortalte Bernard Montel, EMEA teknisk direktør hos Tenable, Registret. 

"Mens AI har gjort astronomiske teknologiske fremskridt i de sidste 12 til 24 måneder, er det uforståeligt i dag at tillade en autonom enhed at træffe den endelige dom," tilføjede han.

"Selvom AI er i stand til hurtigt at identificere og automatisere nogle handlinger, der skal udføres, er det bydende nødvendigt, at det er mennesker, der træffer kritiske beslutninger om, hvor og hvornår de skal handle ud fra den intelligens, AI giver." ®

Tidsstempel:

Mere fra Registret