Οι Cybercrooks λένε στο ChatGPT να δημιουργήσει κακόβουλο κώδικα

Αναδημοσίευση από τον Πλάτωνα

Ακολουθούν: 0

Οι κυβερνοαπατεώνες λένε στο ChatGPT να δημιουργήσει κακόβουλο κώδικα PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Οι εγκληματίες του κυβερνοχώρου αρχίζουν να χρησιμοποιούν την εξαιρετικά δημοφιλή τεχνολογία ChatGPT του OpenAI για γρήγορη και εύκολη ανάπτυξη κώδικα για κακόβουλους σκοπούς.

Μια περιήγηση γύρω από υπόγειους ιστοτόπους hacking αποκάλυψε αρχικές περιπτώσεις κακών που ανέπτυξαν εργαλεία κυβερνοαπειλής χρησιμοποιώντας τη διεπαφή μεγάλου γλωσσικού μοντέλου (LLM) που παρουσίασε η εταιρεία στα τέλη Νοεμβρίου και την άνοιξε για δημόσια χρήση, σύμφωνα με το Check Point Research της infosec.

Ένα ωραίο χέρι [βοήθειας] για να ολοκληρώσω το σενάριο με ωραίο εύρος

Παρόμοια με την άνοδο του μοντέλα ως υπηρεσία στον κόσμο του εγκλήματος στον κυβερνοχώρο, το ChatGPT ανοίγει μια άλλη λεωφόρο για λιγότερο εξειδικευμένους απατεώνες για να εξαπολύουν εύκολα κυβερνοεπιθέσεις, είπαν οι ερευνητές σε μια αναφέρουν Παρασκευή.

«Όπως υποπτευόμασταν, ορισμένες από τις υποθέσεις έδειξαν ξεκάθαρα ότι πολλοί κυβερνοεγκληματίες που χρησιμοποιούν το OpenAI δεν έχουν καθόλου δεξιότητες ανάπτυξης», έγραψαν. «Αν και τα εργαλεία που παρουσιάζουμε σε αυτήν την έκθεση είναι αρκετά βασικά, είναι μόνο θέμα χρόνου έως ότου οι πιο εξελιγμένοι παράγοντες απειλών να βελτιώσουν τον τρόπο με τον οποίο χρησιμοποιούν τα εργαλεία που βασίζονται στην τεχνητή νοημοσύνη για κακό».

Ας μην ξεχνάμε ότι το ChatGPT είναι επίσης διαβόητο για τη δημιουργία κώδικα buggy – το Stack Overflow έχει απαγορευμένο λογισμικό που δημιουργείται από το σύστημα AI επειδή συχνά έχει σοβαρά ελαττώματα. Αλλά η τεχνολογία βελτιώνεται και τον περασμένο μήνα μια έκθεση της φινλανδικής κυβέρνησης προειδοποίησε Τα συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται ήδη για κοινωνική μηχανική και σε πέντε χρόνια θα μπορούσαν να οδηγήσουν σε τεράστιο κύμα επιθέσεων.

Μηχανική εκμάθηση του ChatGPT δυνατότητες επιτρέψτε στο εργαλείο που βασίζεται σε κείμενο να αλληλεπιδρά με συνομιλητικό τρόπο, με τους χρήστες να πληκτρολογούν μια ερώτηση και να λαμβάνουν μια απάντηση σε μορφή διαλόγου. Η τεχνολογία μπορεί επίσης να απαντήσει σε επόμενες ερωτήσεις και να προκαλέσει τις απαντήσεις των χρηστών.

Η πολυπλοκότητα της προσφοράς του OpenAI έχει δημιουργήσει το ίδιο ανησυχία ως ενθουσιασμό, με εκπαιδευτικά ιδρύματα, διοργανωτές συνεδρίων και άλλες ομάδες να κινούνται προς την απαγόρευση της χρήσης του ChatGPT για τα πάντα, από σχολικές εργασίες έως ερευνητικές εργασίες.

Οι αναλυτές τον Δεκέμβριο κατέδειξε πώς μπορεί να χρησιμοποιηθεί το ChatGPT για τη δημιουργία μιας ολόκληρης ροής μόλυνσης, από μηνύματα ηλεκτρονικού ψαρέματος έως την εκτέλεση ενός αντίστροφου κελύφους. Χρησιμοποίησαν επίσης το chatbot για να δημιουργήσουν κακόβουλο λογισμικό backdoor που μπορεί να εκτελεί δυναμικά σενάρια που δημιουργούνται από το εργαλείο AI. Ταυτόχρονα, έδειξαν πώς μπορεί να βοηθήσει τους επαγγελματίες της κυβερνοασφάλειας στη δουλειά τους.

Τώρα οι εγκληματίες του κυβερνοχώρου το δοκιμάζουν.

Ένα νήμα με τίτλο "ChatGPT – Οφέλη από κακόβουλο λογισμικό" εμφανίστηκε στις 29 Δεκεμβρίου σε ένα ευρέως χρησιμοποιούμενο υπόγειο φόρουμ hacking γραμμένο από ένα άτομο που είπε ότι πειραματιζόταν με τη διεπαφή για να αναδημιουργήσει κοινά στελέχη και τεχνικές κακόβουλου λογισμικού. Ο συγγραφέας έδειξε τον κώδικα ενός κλέφτη πληροφοριών που βασίζεται σε Python που αναζητά και αντιγράφει τύπους αρχείων και τους ανεβάζει σε έναν διακομιστή FTP με σκληρό κώδικα.

Το Check Point επιβεβαίωσε ότι ο κώδικας προερχόταν από ένα βασικό κακόβουλο λογισμικό κλοπής.

Σε ένα άλλο δείγμα, ο συγγραφέας χρησιμοποίησε το ChatGPT για να δημιουργήσει ένα απλό απόσπασμα Java που κατεβάζει ένα κοινό πρόγραμμα-πελάτη SSH και telnet που εκτελείται κρυφά σε ένα σύστημα χρησιμοποιώντας το PowerShell.

«Αυτό το άτομο φαίνεται να είναι ένας παράγοντας απειλών με προσανατολισμό την τεχνολογία και ο σκοπός των αναρτήσεών του είναι να δείξει στους λιγότερο τεχνικά ικανούς εγκληματίες του κυβερνοχώρου πώς να χρησιμοποιούν το ChatGPT για κακόβουλους σκοπούς, με πραγματικά παραδείγματα που μπορούν να χρησιμοποιήσουν αμέσως», έγραψαν οι ερευνητές.

Στις 21 Δεκεμβρίου, ένα άτομο που αυτοαποκαλείται USDoD δημοσίευσε ένα εργαλείο κρυπτογράφησης γραμμένο σε Python που περιλαμβάνει διάφορες λειτουργίες κρυπτογράφησης, αποκρυπτογράφησης και υπογραφής. Έγραψε ότι η τεχνολογία του OpenAI του έδωσε «ένα ωραίο [βοηθητικό] χέρι για να ολοκληρώσει το σενάριο με ωραίο εύρος».

Οι ερευνητές έγραψαν ότι το USDoD έχει περιορισμένες δεξιότητες ανάπτυξης, αλλά δραστηριοποιείται στην υπόγεια κοινότητα με ιστορικό πωλήσεων πρόσβασης σε παραβιασμένους οργανισμούς και κλεμμένες βάσεις δεδομένων.

Ένα άλλο νήμα συζήτησης που δημοσιεύτηκε σε ένα φόρουμ την παραμονή της Πρωτοχρονιάς μίλησε για το πόσο εύκολο είναι να χρησιμοποιήσετε το ChatGPT για να δημιουργήσετε μια αγορά σκοτεινού ιστού για να ανταλλάξετε παράνομα εργαλεία όπως κακόβουλο λογισμικό ή ναρκωτικά και κλεμμένα δεδομένα όπως λογαριασμούς και κάρτες πληρωμών.

Ο συγγραφέας του νήματος δημοσίευσε κάποιο κώδικα που δημιουργήθηκε με το ChatGPT που χρησιμοποιεί API τρίτων για να λαμβάνει ενημερωμένες τιμές για κρυπτονομίσματα όπως το Bitcoin, το Monero και το Ethereum για το σύστημα πληρωμών της αγοράς.

Αυτή την εβδομάδα, οι κακοποιοί μίλησαν σε υπόγεια φόρουμ για άλλους τρόπους αξιοποίησης του ChatGPT για διάφορα σχήματα, συμπεριλαμβανομένης της χρήσης του με την τεχνολογία Dall-E 2 του OpenAI για τη δημιουργία τέχνης για πώληση στο διαδίκτυο μέσω νόμιμων ιστότοπων όπως το Etsy και τη δημιουργία ενός ebook ή σύντομου κεφαλαίου για ένα συγκεκριμένο θέμα που μπορεί να πωληθεί διαδικτυακά.

Για να λάβουν περισσότερες πληροφορίες σχετικά με το πώς μπορεί να γίνει κατάχρηση του ChatGPT, οι ερευνητές ρώτησαν το ChatGPT. Στην απάντησή του, το ChatGPT μίλησε για τη χρήση της τεχνολογίας AI για τη δημιουργία πειστικών email phishing και αναρτήσεων στα μέσα κοινωνικής δικτύωσης για να εξαπατήσουν τους ανθρώπους να δώσουν προσωπικές πληροφορίες ή να κάνουν κλικ σε κακόβουλους συνδέσμους ή να δημιουργήσουν βίντεο και ήχο που θα μπορούσαν να χρησιμοποιηθούν για παραπληροφόρηση.

Το ChatGPT υπερασπίστηκε επίσης τον δημιουργό του.

«Είναι σημαντικό να σημειωθεί ότι το ίδιο το OpenAI δεν είναι υπεύθυνο για οποιαδήποτε κατάχρηση της τεχνολογίας του από τρίτους», ανέφερε το chatbot. «Η εταιρεία λαμβάνει μέτρα για να αποτρέψει τη χρήση της τεχνολογίας της για κακόβουλους σκοπούς, όπως η απαίτηση από τους χρήστες να συμφωνήσουν με τους όρους παροχής υπηρεσιών που απαγορεύουν τη χρήση της τεχνολογίας της για παράνομους ή επιβλαβείς σκοπούς». ®