Alkaako ChatGPT kirjoittaa tappavia haittaohjelmia?

ChatGPT ei kirjoittanut tätä artikkelia – minä tein. En myöskään pyytänyt sitä vastaamaan otsikon kysymykseen – aion. Mutta luulen, että juuri niin ChatGPT saattaa sanoa. Onneksi on jäljellä joitakin kielioppivirheitä, jotka todistavat, etten ole robotti. Mutta se on juuri sellainen asia, jota ChatGPT saattaa myös tehdä näyttääkseen todelliselta.

Tämä nykyinen robottihipsteritekniikka on hieno automaattivastaaja, joka on tarpeeksi hyvä tuottamaan kotitehtävien vastauksia, tutkimuspapereita, oikeudellisia vastauksia, lääketieteellisiä diagnooseja ja monia muita asioita, jotka ovat läpäisseet "hajutestin", kun niitä käsitellään ikään kuin ne olisivat ihmisnäyttelijät. Mutta lisääkö se mielekkäästi satoja tuhansia haittaohjelmanäytteitä, joita näemme ja käsittelemme päivittäin, vai onko se helposti havaittava väärennös?

Kone-koneen kaksintaistelussa, jota teknoraatit ovat himoineet vuosia, ChatGPT näyttää hieman "liian hyvältä", jotta sitä ei pidetä vakavana kilpailijana, joka saattaa tukkia vastustajan koneiston. Kun sekä hyökkääjä että puolustaja käyttivät uusimpia koneoppimismalleja (ML), tämän piti tapahtua.

Lukuun ottamatta hyviä haittaohjelmien torjuntakoneita, se ei ole vain robotti-robotti. Jotain ihmisen väliintuloa on aina vaadittu: päätimme tämän monta vuotta sitten markkinointikamppailussa mukana olevien vain ML-toimittajien harmiksi – samalla kun vaadimme vesien mutaistamista viittaavat vain ML-tuotteisiinsa "AI".

Vaikka ML-malleja on käytetty karkeisiin triage-etuihin aina monimutkaisempiin analyyseihin, ne eivät ole iso punainen "tappaa haittaohjelmat" -painike. Haittaohjelmat eivät vain ole niin yksinkertaisia.

Mutta varmuuden vuoksi olen napauttanut joitain ESETin omia ML-guruja ja kysynyt:

K. Kuinka hyviä ChatGPT:n luomat haittaohjelmat ovat, vai onko se edes mahdollista?

V. Emme ole todella lähellä "täysi tekoälyn luomia haittaohjelmia", vaikka ChatGPT on varsin hyvä koodiehdotuksessa, koodiesimerkkien ja -katkelmien luomisessa, virheenkorjauksessa ja koodin optimoinnissa ja jopa dokumentoinnin automatisoinnissa.

K. Entä edistyneemmät ominaisuudet?

V. Emme tiedä kuinka hyvä se on hämärtämisessä. Jotkut esimerkit koskea komentosarjakieliin, kuten Python. Mutta näimme ChatGPT:n "kääntävän" puretun koodin merkityksen kytketty IDA Prohon, mikä on mielenkiintoista. Kaiken kaikkiaan se on luultavasti kätevä työkalu ohjelmoijan auttamiseksi, ja ehkä se on ensimmäinen askel kohti kattavampien haittaohjelmien rakentamista, mutta ei vielä.

K. Kuinka hyvä se on juuri nyt?

V. ChatGPT on erittäin vaikuttava, kun otetaan huomioon, että se on Large Language Model, ja sen ominaisuudet yllättävät jopa luojat tällaisista malleista. Kuitenkin tällä hetkellä se on erittäin matala, tekee virheitä, luo vastauksia, jotka ovat lähempänä hallusinaatioita (eli tekaistuja vastauksia), eikä se ole todella luotettava mihinkään vakavaan. Mutta se näyttää saavan jalansijaa nopeasti, päätellen parvi varpaitaan veteen tönäisevien tekniikkojen perusteella.

K. Mitä se voi tehdä juuri nyt – mikä on alustan "alhaalla roikkuva hedelmä"?

V. Tällä hetkellä näemme kolme todennäköistä haitallisen omaksumisen ja käytön aluetta:

• Tietojenkalastelujen kalastelu

Jos uskot, että tietojenkalastelu näytti aiemmin vakuuttavalta, odota vain. Useampien tietolähteiden etsimisestä ja saumattomasti yhdistämisestä oksentaakseen erityisesti suunniteltuja sähköposteja, joita on erittäin vaikea havaita sisällön perusteella, ja onnistumisprosentit lupaavat olla parempia napsautusten saamisessa. Etkä voi hätäisesti teurastaa niitä huolimattomien kielivirheiden vuoksi; heidän äidinkielesi taito on luultavasti parempi kuin sinun. Koska suuri osa ilkeimmistä hyökkäyksistä alkaa siitä, että joku napsauttaa linkkiä, odota siihen liittyvän vaikutuksen kasvavan.

• Ransom-neuvottelujen automaatio

Sujuvasti puhuvat ransomware-operaattorit ovat luultavasti harvinaisia, mutta ChatGPT-kiillon lisääminen viestintään voisi vähentää neuvottelujen aikana laillisilta näyttävien hyökkääjien työtaakkaa. Tämä tarkoittaa myös vähemmän virheitä, jotka saattavat antaa puolustajille mahdollisuuden saada selville operaattoreiden todelliset henkilöllisyydet ja sijainnit.

• Puhelinhuijaukset paranevat

Kun luonnollisen kielen sukupolvi lisääntyy, luonnolliset, ilkeät huijarit kuulostavat siltä, ​​että he ovat kotoisin alueeltasi ja pitävät sinun etujasi mielessä. Tämä on yksi ensimmäisistä aloitusvaiheista luottamushuijauksessa: kuulostat itsevarmemmalta kuulostamalla siltä, ​​että he ovat ihmisiäsi.

Jos tämä kaikki kuulostaa siltä, ​​​​että se saattaa olla tapa tulevaisuudessa, älä lyö vetoa siitä. Kaikki ei tapahdu kerralla, mutta rikolliset paranevat pian. Katsotaan, kestääkö puolustus haasteen.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
• Lähde: https://www.welivesecurity.com/2023/02/20/will-chatgpt-start-writing-killer-malware/