Europol advarer, at ChatGPT allerede hjælper folk med at begå forbrydelser

Kriminelle bruger allerede ChatGPT til at begå forbrydelser, sagde Europol i en mandagsrapport, der beskriver, hvordan AI-sprogmodeller kan give næring til bedrageri, cyberkriminalitet og terrorisme.

ChatGPT blev bygget af OpenAI frigivet i november 2022 og blev hurtigt en internetsensation, da netbrugere strømmede til siden for at få chatbotten til at generere essays, vittigheder, e-mails, programmeringskode og alverdens anden tekst.

Nu har EU's retshåndhævende agentur, Europol, detaljeret beskrevet, hvordan modellen kan misbruges til mere ondsindede formål. Faktisk bruger folk det allerede til at udføre ulovlige aktiviteter, hævder politiet. 

"Den indvirkning, som disse typer modeller kan have på retshåndhævelsesarbejdet, kan allerede forudses," udtalte Europol i sin rapport [PDF]. "Kriminelle er typisk hurtige til at udnytte nye teknologier og blev hurtigt set komme med konkrete kriminelle udnyttelser, hvilket giver de første praktiske eksempler kun få uger efter den offentlige udgivelse af ChatGPT."

Selvom ChatGPT er bedre til at nægte at efterkomme inputanmodninger, der er potentielt skadelige, har brugerne fundet veje uden om OpenAIs indholdsfiltersystem. Nogle har fået det til at spytte instruktioner ud af, hvordan man for eksempel laver en rørbombe eller crack kokain. Netizens kan bede ChatGPT om at lære om, hvordan man begår forbrydelser og bede den om trin-for-trin vejledning.

"Hvis en potentiel kriminel ikke ved noget om et bestemt kriminalitetsområde, kan ChatGPT fremskynde forskningsprocessen betydeligt ved at tilbyde nøgleinformation, som derefter kan udforskes yderligere i de efterfølgende trin. Som sådan kan ChatGPT bruges til at lære om et stort antal potentielle kriminalitetsområder uden forudgående viden, lige fra hvordan man bryder ind i et hjem, til terrorisme, cyberkriminalitet og seksuelt misbrug af børn,” advarede Europol.

Agenturet indrømmede, at alle disse oplysninger allerede er offentligt tilgængelige på internettet, men modellen gør det lettere at finde og forstå, hvordan man udfører specifikke forbrydelser. Europol fremhævede også, at modellen kunne udnyttes til at efterligne mål, lette svindel og phishing eller producere propaganda og desinformation til støtte for terrorisme. 

ChatGPTs evne til at generere kode – selv ondsindet kode – øger risikoen for cyberkriminalitet ved at sænke de tekniske færdigheder, der kræves for at skabe malware.

"For en potentiel kriminel med ringe teknisk viden er dette en uvurderlig ressource. Samtidig kan en mere avanceret bruger udnytte disse forbedrede muligheder til yderligere at forfine eller endda automatisere sofistikerede cyberkriminelle modi operandi."^* rapporten sagde. 

Store sprogmodeller (LLM'er) er usofistikerede og stadig i deres vorden, men de forbedres hurtigt, efterhånden som teknologivirksomheder investerer ressourcer i at udvikle teknologien. OpenAI har frigivet GPT-4, et mere kraftfuldt system, allerede, og disse modeller bliver i stigende grad integreret i produkter. Microsoft og Google har begge lanceret AI-drevne chatbots til websøgning i deres søgemaskiner siden udgivelsen af ​​ChatGPT.

Europol sagde, at efterhånden som flere virksomheder udruller AI-funktioner og -tjenester, vil det åbne op for nye måder at bruge teknologien til ulovlige aktiviteter. "Multimodale AI-systemer, som kombinerer samtale-chatbots med systemer, der kan producere syntetiske medier, såsom meget overbevisende deepfakes, eller inkluderer sensoriske evner, såsom at se og høre," foreslog den retshåndhævende organisations rapport.

Hemmelige versioner af sprogmodeller uden indholdsfiltre og trænet på skadelige data kunne f.eks. hostes på det mørke web.

"Endelig er der usikkerheder med hensyn til, hvordan LLM-tjenester kan behandle brugerdata i fremtiden - vil samtaler blive gemt og potentielt afsløre følsomme personoplysninger for uautoriserede tredjeparter? Og hvis brugere genererer skadeligt indhold, skal det så rapporteres til de retshåndhævende myndigheder?,” spurgte Europol. ®

^* Det er flertal af modus operandi.

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
• Kilde: https://go.theregister.com/feed/www.theregister.com/2023/03/28/chatgpt_europol_crime_report/