A ChatGPT elkezd gyilkos kártevőket írni?

A ChatGPT nem írta ezt a cikket, hanem én. Azt sem kértem, hogy válaszoljak a címből feltett kérdésre – megteszem. De azt hiszem, a ChatGPT csak ezt mondhatja. Szerencsére maradt néhány nyelvtani hiba, amely bebizonyítja, hogy nem vagyok robot. De ez csak az a fajta dolog, amit a ChatGPT is megtehet, hogy valódinak tűnjön.

Ez a jelenlegi robotcsípő technológia egy elegáns automatikus válaszadó, amely elég jó házi feladatok, kutatási dokumentumok, jogi válaszok, orvosi diagnózisok és sok más olyan dolog elkészítéséhez, amelyek átmentek a „szagteszten”, ha úgy kezelik, mintha az emberek munkája lenne. emberi szereplők. De vajon értelmesen hozzáadódik-e a naponta látott és feldolgozott több százezer kártevő-mintához, vagy könnyen észrevehető hamisítvány?

Egy gép-gép párharcban, amelyre a technorati évek óta vágynak, a ChatGPT kissé „túl jónak” tűnik ahhoz, hogy ne tekintsék komoly versenyzőnek, aki megzavarhatja az ellenfél gépezetét. Mivel a támadó és a védő egyaránt a legújabb gépi tanulási (ML) modelleket használta, ennek meg kellett történnie.

Kivéve, hogy jó kártevőirtó gépezetet hozzunk létre, ez nem csak robot-robot. Némi emberi beavatkozásra mindig is szükség volt: ezt sok évvel ezelőtt határoztuk meg, a csak ML-beszállítók bánatára, akik beszállnak a marketingbe – miközben ragaszkodtunk a vizek sárosításához. csak ML-termékeikre úgy hivatkozva, hogy „AI”.

Míg az ML-modelleket durva osztályozási frontvégekhez használták a bonyolultabb elemzésekig, ezek elmaradnak attól, hogy egy nagy piros „kill malware” gomb legyen. A rosszindulatú programok nem ilyen egyszerűek.

De az biztos, hogy megkerestem az ESET néhány saját ML guruját, és megkérdeztem:

K. Mennyire lesz jó a ChatGPT által generált rosszindulatú program, vagy egyáltalán lehetséges ez?

V. Nem igazán állunk közel a „teljes mesterséges intelligencia által generált rosszindulatú programokhoz”, bár a ChatGPT meglehetősen jó kódjavaslatban, kódpéldák és kódrészletek generálásában, hibakeresésben és kódoptimalizálásban, és még a dokumentáció automatizálásában is.

K. Mi a helyzet a fejlettebb funkciókkal?

V. Nem tudjuk, mennyire jó az elhomályosításban. Néhány példa vonatkoznak olyan szkriptnyelvekhez, mint a Python. De láttuk, hogy a ChatGPT „megfordítja” a szétszedett kód jelentését csatlakozik az IDA Pro-hoz, ami érdekes. Mindent összevetve, ez valószínűleg egy praktikus eszköz a programozók segítésére, és talán ez az első lépés a teljes értékű rosszindulatú programok létrehozása felé, de még nem.

K. Mennyire jó most?

V. A ChatGPT nagyon lenyűgöző, tekintve, hogy ez egy nagy nyelvű modell, és képességei meglepőek még az alkotók is az ilyen modellek közül. Jelenleg azonban nagyon sekély, hibákat hoz, a hallucinációhoz közelebb álló válaszokat (azaz kitalált válaszokat) hoz létre, és nem igazán megbízható semmi komoly dologra. De úgy tűnik, hogy gyorsan teret hódít, a vízbe lábujjaikat piszkáló technikusok rajjából ítélve.

K. Mit tehet most – mi az „alacsonyan lógó gyümölcs” a platform számára?

V. Jelenleg három lehetséges területet látunk a rosszindulatú átvételnek és felhasználásnak:

• Az adathalászok kiszűrése

Ha úgy gondolja, hogy az adathalászat a múltban meggyőzőnek tűnt, csak várjon. Több adatforrás felkutatásától és zökkenőmentes összekeverésétől kezdve egészen a kifejezetten elkészített e-mailek kihányásáig, amelyeket tartalmuk alapján nagyon nehéz lesz észlelni, és a sikerességi ráta jobbnak ígérkezik a kattintások elérésében. És nem fogja tudni sietve selejtezni őket a hanyag nyelvi hibák miatt; az anyanyelved tudása valószínűleg jobb, mint az öné. Mivel a legrosszabb támadások nagy része azzal kezdődik, hogy valaki rákattint egy linkre, számítson arra, hogy a kapcsolódó hatás túlméretezett.

• Váltságdíj-tárgyalás automatizálása

A zökkenőmentesen beszélő zsarolóvírus-kezelők valószínűleg ritkák, de a ChatGPT egy kis csillogása a kommunikációban csökkentheti a tárgyalások során legálisnak látszó támadók munkaterhelését. Ez azt is jelenti, hogy kevesebb hibát követnek el, amelyek lehetővé teszik a védők számára, hogy megismerjék az operátorok valódi kilétét és tartózkodási helyét.

• A telefonos csalások javulnak

A természetes nyelv generációjának növekedésével a természetes, csúnya csalók úgy fognak hangzani, mintha az Ön területéről származnának, és az Ön érdekeit tartják szem előtt. Ez az egyik első lépés a bizalmi csalásban: magabiztosabbnak tűnjön, ha úgy hangzik, mintha az Ön emberei közé tartoznak.

Ha mindez úgy hangzik, mint a jövőben, ne fogadjon rá. Ez nem fog megtörténni egyszerre, de a bûnözõk sokkal jobbak lesznek. Meglátjuk, hogy a védelem megfelel-e a kihívásnak.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
• Forrás: https://www.welivesecurity.com/2023/02/20/will-chatgpt-start-writing-killer-malware/