Απειλήστε τους ηθοποιούς που επέβαιναν στο δημοτικότητα του ChatGPT έχουν λανσάρει ένα ακόμη εργαλείο χάκερ copycat που προσφέρει παρόμοιες υπηρεσίες charbot με την πραγματική εφαρμογή που βασίζεται σε τεχνητή νοημοσύνη, αλλά στοχεύει συγκεκριμένα στην προώθηση κακόβουλης δραστηριότητας.
Οι ερευνητές βρήκαν διαφημίσεις που δημοσιεύτηκαν στο Dark Web για ένα εργαλείο χάκερ που βασίζεται σε τεχνητή νοημοσύνη με το όνομα «FraudGPT», το οποίο πωλείται με συνδρομή και κυκλοφορεί στο Telegram από το Σάββατο, αποκάλυψαν ερευνητές από τη Netenrich. σε μια θέση Δημοσιεύθηκε στις 25 Ιουλίου. Το FraudGPT ξεκινά από 200 $ το μήνα και φτάνει έως και 1,700 $ ετησίως, και έχει ως στόχο να βοηθήσει τους χάκερ να διεξάγουν τις άθλιες επιχειρήσεις τους με τη βοήθεια της AI. Ο ηθοποιός ισχυρίζεται ότι έχει περισσότερες από 3,000 επιβεβαιωμένες πωλήσεις και κριτικές μέχρι στιγμής για το FraudGPT.
Ένα άλλο παρόμοιο εργαλείο χάκερ που βασίζεται σε AI, WormGPT, κυκλοφορεί από τις 13 Ιουλίου και περιγράφηκε αναλυτικά σε ρεπορτάζ του SlashNext. Όπως και το ChatGPT, αυτά αναδύονται αντίπαλη τεχνητή νοημοσύνη Τα εργαλεία βασίζονται επίσης σε μοντέλα που έχουν εκπαιδευτεί σε μεγάλες πηγές δεδομένων και μπορούν να δημιουργήσουν κείμενο που μοιάζει με άνθρωπο με βάση τα δεδομένα που λαμβάνουν.
Τα εργαλεία «φαίνεται να είναι μεταξύ των πρώτων κλίσεων που οι φορείς απειλών ενσωματώνουν χαρακτηριστικά τεχνητής νοημοσύνης στα εργαλεία τους», λέει ο John Bambenek, κύριος κυνηγός απειλών στη Netenrich, στο Dark Reading. «Πριν από αυτό, η συζήτησή μας για το τοπίο της απειλής ήταν θεωρητική».
Το FraudGPT — το οποίο στις διαφημίσεις διαφημίζεται ως «ρομπότ χωρίς περιορισμούς, κανόνες [και] όρια» — πωλείται από έναν παράγοντα απειλών που ισχυρίζεται ότι είναι επαληθευμένος προμηθευτής σε διάφορες υπόγειες αγορές του Dark Web, συμπεριλαμβανομένων των Empire, WHM, Torrez, World , AlphaBay και Versus.
Κυβερνοεγκληματίες τώρα οπλισμένοι με AI Chatbots
Τόσο το WormGPT όσο και το FraudGPT μπορούν να βοηθήσουν τους επιτιθέμενους να χρησιμοποιήσουν την τεχνητή νοημοσύνη προς όφελός τους κατά τη δημιουργία καμπανιών ηλεκτρονικού ψαρέματος, τη δημιουργία μηνυμάτων που στοχεύουν να πιέσουν τα θύματα να υποκύψουν σε συμβιβασμό μέσω email για επιχειρήσεις (BEC) και άλλες απάτες που βασίζονται σε email, για αρχή.
Το FraudGPT μπορεί επίσης να βοηθήσει τους φορείς απειλών να κάνουν ένα σωρό άλλα κακά πράγματα, όπως: σύνταξη κακόβουλου κώδικα. δημιουργία μη ανιχνεύσιμου κακόβουλου λογισμικού. εύρεση κάδων που δεν είναι VBV. Δημιουργία σελίδων phishing. κατασκευή εργαλείων hacking? εύρεση ομάδων, τοποθεσιών και αγορών hacking. Γράψιμο σελίδων απάτης και επιστολών. εύρεση διαρροών και τρωτών σημείων. και να μάθει να κωδικοποιεί ή να χακάρει.
Ακόμα κι έτσι, φαίνεται ότι το να βοηθήσουμε τους εισβολείς να δημιουργήσουν πειστικές καμπάνιες ηλεκτρονικού ψαρέματος εξακολουθεί να είναι μια από τις κύριες περιπτώσεις χρήσης ενός εργαλείου όπως το FraudGPT, σύμφωνα με τη Netenrich. Η επάρκεια του εργαλείου σε αυτό διαφημίστηκε ακόμη και σε διαφημιστικό υλικό που εμφανίστηκε στο Dark Web που δείχνει πώς το FraudGPT μπορεί να παράγει ένα πρόχειρο email που «θα δελεάσει τους παραλήπτες να κάνουν κλικ στον παρεχόμενο κακόβουλο σύνδεσμο», είπε ο Krishnan.
Jailbreaking ChatGPT's Ethical Guardrails
Ενώ Το ChatGPT μπορεί επίσης να γίνει αντικείμενο εκμετάλλευσης Ως εργαλείο χάκερ για τη σύνταξη κοινωνικά σχεδιασμένων μηνυμάτων ηλεκτρονικού ταχυδρομείου, υπάρχουν ηθικές δικλείδες που περιορίζουν αυτή τη χρήση. Ωστόσο, η αυξανόμενη επικράτηση των εργαλείων που βασίζονται στην τεχνητή νοημοσύνη, όπως το WormGPT και το FraudGPT, αποδεικνύει ότι «δεν είναι δύσκολο κατόρθωμα να εφαρμοστεί ξανά η ίδια τεχνολογία χωρίς αυτές τις διασφαλίσεις», έγραψε ο Krishnan.
Στην πραγματικότητα, το FraudGPT και το WormGPT είναι ακόμη περισσότερες αποδείξεις αυτού που ένας ειδικός σε θέματα ασφάλειας αποκαλεί «γεννητικό jailbreaking AI για ανδρείκελα», στο οποίο κακοί ηθοποιοί κάνουν κατάχρηση των εφαρμογών παραγωγής τεχνητής νοημοσύνης για να παρακάμψουν ηθικά προστατευτικά κιγκλιδώματα για τη γενετική τεχνητή νοημοσύνη που το OpenAI πολεμούσε ενεργά — μια μάχη που ήταν κυρίως ανηφορική.
«Ήταν ένας συνεχής αγώνας», λέει ο Pyry Avist, συνιδρυτής και CTO στο Hoxhunt. «Δημιουργούνται κανόνες, παραβιάζονται κανόνες, δημιουργούνται νέοι κανόνες, αυτοί οι κανόνες παραβιάζονται, και συνεχίζουν».
Αν και δεν μπορεί κανείς «απλώς να πει στο ChatGPT να δημιουργήσει ένα πειστικό ηλεκτρονικό ταχυδρομείο ηλεκτρονικού ψαρέματος και ένα πρότυπο συλλογής διαπιστευτηρίων που αποστέλλεται από τον Διευθύνοντα Σύμβουλό σας», κάποιος «μπορεί να προσποιηθεί ότι είναι ο Διευθύνων Σύμβουλος και να συντάξει εύκολα ένα επείγον μήνυμα ηλεκτρονικού ταχυδρομείου στην οικονομική ομάδα ζητώντας τους να τροποποιήσουν μια πληρωμή τιμολογίου ," αυτος λεει.
Άμυνα ενάντια σε απειλές στον κυβερνοχώρο με δυνατότητα AI
Πράγματι, σε γενικές γραμμές, τα εργαλεία παραγωγής τεχνητής νοημοσύνης παρέχουν στους εγκληματίες τις ίδιες βασικές λειτουργίες που παρέχουν στους επαγγελματίες της τεχνολογίας: «την ικανότητα να λειτουργούν με μεγαλύτερη ταχύτητα και κλίμακα», λέει ο Bambenek. «Οι εισβολείς μπορούν τώρα να δημιουργήσουν καμπάνιες phishing γρήγορα και να ξεκινήσουν πιο ταυτόχρονα».
Καθώς το ηλεκτρονικό ψάρεμα (phishing) παραμένει ένας από τους κύριους τρόπους με τους οποίους οι κυβερνοεπιτιθέμενοι αποκτούν την αρχική είσοδο σε ένα εταιρικό σύστημα για τη διεξαγωγή περαιτέρω κακόβουλης δραστηριότητας, είναι απαραίτητο να εφαρμοστούν συμβατικές προστασίες ασφαλείας εναντίον του. Αυτές οι άμυνες μπορούν ακόμα να ανιχνεύσουν phishing με δυνατότητα AI και, το πιο σημαντικό, επακόλουθες ενέργειες από τον παράγοντα απειλής.
«Βασικά, αυτό δεν αλλάζει τη δυναμική του τι είναι μια καμπάνια phishing, ούτε το πλαίσιο στο οποίο λειτουργεί», λέει ο Bambenek. "Εφόσον δεν αντιμετωπίζετε ηλεκτρονικό "ψάρεμα" (phishing) από παραβιασμένο λογαριασμό, τα συστήματα φήμης μπορούν ακόμα να ανιχνεύσουν το ηλεκτρονικό "ψάρεμα" από μη αυθεντικούς αποστολείς, π.χ. τομείς που έχουν καταστραφεί τυπογραφικά, τιμολόγια από δωρεάν λογαριασμούς ηλεκτρονικού ταχυδρομείου Ιστού κ.λπ.
Η εφαρμογή μιας στρατηγικής άμυνας σε βάθος με όλη την τηλεμετρία ασφαλείας που είναι διαθέσιμη για γρήγορες αναλύσεις μπορεί επίσης να βοηθήσει τους οργανισμούς να εντοπίσουν μια επίθεση phishing προτού οι εισβολείς θέτουν σε κίνδυνο ένα θύμα και προχωρήσουν στην επόμενη φάση της επίθεσης, λέει.
«Οι υπερασπιστές δεν χρειάζεται να εντοπίζουν κάθε πράγμα που κάνει ένας εισβολέας σε μια αλυσίδα απειλών, απλώς πρέπει να εντοπίσουν κάτι πριν από τα τελικά στάδια μιας επίθεσης — δηλαδή, ransomware ή εξαγωγή δεδομένων - Επομένως, είναι απαραίτητο να έχετε ένα ισχυρό πρόγραμμα ανάλυσης δεδομένων ασφαλείας», λέει ο Bambenek.
Άλλοι επαγγελματίες ασφαλείας προωθούν επίσης τη χρήση Εργαλεία ασφαλείας που βασίζονται σε AI, ο αριθμός των οποίων αυξάνεται, για την καταπολέμηση της αντίπαλης τεχνητής νοημοσύνης, ουσιαστικά καταπολεμώντας τη φωτιά με φωτιά για την καταπολέμηση της αυξημένης πολυπλοκότητας του τοπίου απειλής.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Αυτοκίνητο / EVs, Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- BlockOffsets. Εκσυγχρονισμός της περιβαλλοντικής αντιστάθμισης ιδιοκτησίας. Πρόσβαση εδώ.
- πηγή: https://www.darkreading.com/threat-intelligence/fraudgpt-malicious-chatbot-for-sale-dark-web
- :έχει
- :είναι
- $UP
- 000
- 13
- 25
- 7
- 700
- a
- ικανότητα
- Σύμφωνα με
- Λογαριασμός
- Λογαριασμοί
- απέναντι
- ενεργειών
- δραστήρια
- δραστηριότητα
- φορείς
- διαφημίσεις
- Πλεονέκτημα
- αντιφατική
- κατά
- AI
- Απευθύνεται
- Όλα
- Alphabay
- Επίσης
- μεταξύ των
- an
- analytics
- και
- Άλλος
- app
- εμφανίζομαι
- Εμφανίστηκε
- εφαρμογές
- ΕΙΝΑΙ
- ένοπλες
- AS
- At
- επίθεση
- διαθέσιμος
- Κακός
- βασίζονται
- βάση
- Μάχη
- BE
- BEC
- ήταν
- πριν
- επιτροπή
- Bot
- όρια
- Σπασμένος
- Κτίριο
- επιχείρηση
- επιχειρηματικό ηλεκτρονικό συμβιβασμό
- αλλά
- by
- κλήσεις
- Εκστρατεία
- Καμπάνιες
- CAN
- περιπτώσεις
- Διευθύνων Σύμβουλος
- αλυσίδα
- αλλαγή
- chatbot
- ChatGPT
- που κυκλοφορεί
- Κυκλοφορία
- αξιώσεις
- κλικ
- Συνιδρυτής
- κωδικός
- την καταπολέμηση της
- συμβιβασμός
- Συμβιβασμένος
- Διεξαγωγή
- ΕΠΙΒΕΒΑΙΩΜΕΝΟΣ
- συμφραζόμενα
- συμβατικός
- πυρήνας
- δημιουργία
- δημιουργήθηκε
- δημιουργία
- ΠΙΣΤΟΠΟΙΗΤΙΚΟ
- Εγκληματίες
- ΚΟΤ
- στον κυβερνοχώρο
- σκοτάδι
- Σκοτεινή ανάγνωση
- Dark Web
- ημερομηνία
- Δεδομένα Analytics
- μοιρασιά
- Υπερασπιστές
- απαιτητικές
- αποδεικνύουν
- καταδεικνύει
- λεπτομέρεια
- ανίχνευση
- δύσκολος
- συζήτηση
- do
- κάνει
- Όχι
- domains
- Μην
- προσχέδιο
- μεταγλωττισμένο
- δυναμική
- e
- εύκολα
- αποτέλεσμα
- ΗΛΕΚΤΡΟΝΙΚΗ ΔΙΕΥΘΥΝΣΗ
- σμυριδόπετρα
- Αυτοκρατορία
- Εταιρεία
- καταχώριση
- ουσιώδης
- κ.λπ.
- ηθικά
- Even
- Κάθε
- απόδειξη
- διήθηση
- εμπειρογνώμονας
- γεγονός
- Πτώση
- μακριά
- FAST
- άθλος
- Χαρακτηριστικά
- την καταπολέμηση της
- μαχητικός
- τελικός
- τελικά στάδια
- χρηματοδότηση
- εύρεση
- Φωτιά
- Όνομα
- Για
- Βρέθηκαν
- Δωρεάν
- από
- λειτουργίες
- θεμελιωδώς
- περαιτέρω
- Κέρδος
- παράγουν
- παραγωγής
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- πηγαίνει
- μεγαλύτερη
- Ομάδα
- Μεγαλώνοντας
- σιδηροπρίονο
- χάκερ
- χάκερ
- hacking
- συγκομιδή
- Έχω
- που έχει
- he
- βοήθεια
- βοήθεια
- Πως
- Ωστόσο
- HTTPS
- κυνηγός
- i
- προσδιορίσει
- εφαρμογή
- in
- Συμπεριλαμβανομένου
- αυξημένη
- αρχικός
- εισαγωγή
- σε
- IT
- Γιάννης
- jpg
- Ιούλιος
- μόλις
- τοπίο
- large
- ξεκινήσει
- ξεκίνησε
- Διαρροές
- μάθηση
- Μου αρέσει
- LIMIT
- περιορισμούς
- LINK
- Μακριά
- Κυρίως
- malware
- αγορές
- αγορές
- υλικό
- μηνύματα
- μοντέλα
- Μηνας
- περισσότερο
- ως επί το πλείστον
- μετακινήσετε
- Ανάγκη
- Νέα
- επόμενη
- τώρα
- αριθμοί
- of
- προσφορές
- on
- ONE
- συνεχή
- επάνω σε
- OpenAI
- λειτουργούν
- λειτουργεί
- or
- οργανώσεις
- ΑΛΛΑ
- δικός μας
- σκιαγραφείται
- σελίδες
- πληρωμή
- για
- φάση
- Phishing
- επίθεση phishing
- phishing καμπάνια
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- δημοσιεύτηκε
- πρωταρχικός
- Κύριος
- Πριν
- παράγει
- επαγγελματίες
- Πρόγραμμα
- email marketing
- την προώθηση της
- διαφημιστικές λύσεις
- παρέχουν
- δημοσιεύθηκε
- γρήγορα
- ransomware
- Ανάγνωση
- πραγματικός
- λαμβάνω
- παραλήπτες
- λείψανα
- αναφέρουν
- ερευνητές
- Αποκαλυφθε'ντα
- Κριτικές
- ιππασία
- κανόνες
- s
- διασφαλίσεις
- Είπε
- πώληση
- εμπορικός
- ίδιο
- Σάββατο
- λέει
- Κλίμακα
- Απάτη
- απάτες
- ασφάλεια
- αποστέλλονται
- Υπηρεσίες
- παρόμοιες
- ταυτοχρόνως
- αφού
- ενιαίας
- Sites
- So
- μέχρι τώρα
- κοινωνικά
- πωλούνται
- Κάποιος
- κάτι
- Πηγές
- ειδικά
- ταχύτητα
- στάδια
- ξεκινά
- Ακόμη
- Στρατηγική
- ισχυρός
- Πάλη
- συνδρομή
- μεταγενέστερος
- τέτοιος
- παρέχεται
- σύστημα
- συστήματα
- Τεχνολογία
- Telegram
- πει
- λέει
- πρότυπο
- από
- ότι
- Η
- τους
- Τους
- θεωρητικός
- Εκεί.
- Αυτοί
- αυτοί
- πράγμα
- πράγματα
- αυτό
- εκείνοι
- απειλή
- απειλή
- προς την
- εργαλείο
- εργαλεία
- περιφρονούνται
- εκπαιδευμένο
- επείγων
- χρήση
- χρησιμοποιώντας
- διάφορα
- πάροχος υπηρεσιών
- επαληθεύεται
- Εναντίον
- Θύμα
- θύματα
- Θέματα ευπάθειας
- ήταν
- τρόπους
- ιστός
- Τι
- πότε
- Ποιό
- Ο ΟΠΟΊΟΣ
- θα
- με
- χωρίς
- κόσμος
- γράφω
- γραφή
- Έγραψε
- έτος
- ακόμη
- Εσείς
- Σας
- zephyrnet