Ερευνητές της IBM Security αποκάλυψαν μια εκπληκτική νέα απειλή στην τεχνητή νοημοσύνη: την ικανότητα χειρισμού ζωντανών συνομιλιών μέσω μιας τεχνικής γνωστής ως "audio-jacking".
Χρησιμοποιώντας τη γενετική τεχνητή νοημοσύνη και την τεχνολογία deepfake ήχου, αυτή η μέθοδος μπορεί να υποκλέψει και να αλλάξει τις προφορικές λέξεις σε πραγματικό χρόνο, θέτοντας πρωτόγνωρους κινδύνους στην ψηφιακή επικοινωνία.
Διαβάστε επίσης: Η AI Deepfake Detection προχωρά ενάντια στις αυξανόμενες προκλήσεις εξαπάτησης
Εκθέτοντας την απειλή της υποδοχής ήχου
Η υποδοχή ήχου λειτουργεί επεξεργάζοντας ζωντανό ήχο από αμφίδρομες επικοινωνίες, όπως τηλεφωνικές κλήσεις, και αναζητώντας συγκεκριμένες λέξεις-κλειδιά ή φράσεις. Όταν εντοπιστούν αυτοί οι κανόνες ενεργοποίησης, η τεχνητή νοημοσύνη εισέρχεται και αντικαθιστά τον αυθεντικό ήχο με μια παραποιημένη έκδοση deepfake πριν φτάσει στον προορισμό του. Μια εκπληκτική εικόνα της τεχνικής παρέχεται από ερευνητές της IBM, οι οποίοι άλλαξαν πληροφορίες τραπεζικού λογαριασμού που ειπώθηκαν κατά τη διάρκεια μιας συνομιλίας χωρίς να εντοπιστούν.
Audio-jacking: Χρήση γενετικής τεχνητής νοημοσύνης για την παραμόρφωση των ζωντανών συναλλαγών ήχου: Η άνοδος της γενετικής τεχνητής νοημοσύνης, συμπεριλαμβανομένων των μοντέλων κειμένου σε εικόνα, κειμένου σε ομιλία και μεγάλων γλωσσικών μοντέλων (LLM), έχει αλλάξει σημαντικά την επαγγελματική και προσωπική μας ζωή. Ενώ αυτές οι εξελίξεις… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Shah Sheikh (@shah_sheikh) Φεβρουάριος 1, 2024
Η ευκολία με την οποία μπορεί να επινοηθεί μια απόδειξη της ιδέας για αυτήν την επίθεση είναι ανησυχητική. Οι ερευνητές σημείωσαν ότι το πιο δύσκολο κομμάτι δεν ήταν η δημιουργία τεχνητής νοημοσύνης, αλλά οι τεχνικές λεπτομέρειες της ζωντανής ηχογράφησης και επεξεργασίας ήχου. Αυτή η ευκολία ανάπτυξης αντιπροσωπεύει μια σημαντική απόκλιση από τις παραδοσιακές προσδοκίες, όπου μια τέτοια προσπάθεια θα απαιτούσε σημαντική τεχνογνωσία σε διάφορους τομείς της επιστήμης των υπολογιστών.
«Η δημιουργία αυτού του PoC ήταν εκπληκτικά και τρομακτικά εύκολη. Ξοδέψαμε τον περισσότερο χρόνο για να βρούμε πώς να καταγράψουμε ήχο από το μικρόφωνο και να τροφοδοτήσουμε τον ήχο σε τεχνητή νοημοσύνη.
Σε αυτό το σχήμα, ο ρόλος του Παραγωγική τεχνητή νοημοσύνη είναι κρίσιμο. Χρησιμοποιώντας μόνο τρία δευτερόλεπτα της φωνής ενός ατόμου, η τεχνολογία μπορεί να κατασκευάσει έναν πειστικό κλώνο για την παραγωγή νόμιμων deepfakes κατά παραγγελία. Αυτή η ικανότητα, διαθέσιμη μέσω API, δείχνει μια ανησυχητική τάση στη διαδικασία εκδημοκρατισμού για προηγμένα εργαλεία χειραγώγησης.
«Σήμερα, χρειαζόμαστε μόνο τρία δευτερόλεπτα φωνής ενός ατόμου για να το κλωνοποιήσουμε και να χρησιμοποιήσουμε ένα API μετατροπής κειμένου σε ομιλία για να δημιουργήσουμε αυθεντικές ψεύτικες φωνές».
Συνέπειες και πιθανές κακές χρήσεις
Τα αποτελέσματα του audiojacking, ωστόσο, ξεπερνούν την απλή οικονομική απάτη. Μια τέτοια τεχνολογία είναι ικανή για λογοκρισία σε πραγματικό χρόνο, αλλάζοντας τις ζωντανές μεταδόσεις, όπως ειδήσεις και πολιτικές ομιλίες, χωρίς ανίχνευση. Αυτές οι δυνατότητες θέτουν σε κίνδυνο την ακεραιότητα των πληροφοριών, με βαθιές συνέπειες για τη δημοκρατία και την εμπιστοσύνη του κοινού.
Λόγω του χαμηλού φραγμού σε μια επίθεση ήχου jacking, η εξελιγμένη κοινωνική μηχανική ή το phishing έχει μειωθεί σημαντικά. Αυτή η ευκολία εγείρει στη συνέχεια ζητήματα εξάπλωσης τέτοιων επιθέσεων, θέτοντας έτσι προκλήσεις στα τρέχοντα μέτρα ασφαλείας και απαιτώντας νέους αμυντικούς μηχανισμούς.
«Η ωριμότητα αυτού του PoC θα σηματοδοτούσε έναν σημαντικό κίνδυνο για τους καταναλωτές, πρωτίστως… Όσο πιο εκλεπτυσμένη είναι αυτή η επίθεση, τόσο μεγαλύτερο είναι το δίκτυο των θυμάτων που θα μπορούσε να ρίξει».
Το φαινόμενο της υποδοχής ήχου υπογραμμίζει ένα ευρύτερο ζήτημα στην ανάπτυξη της τεχνητής νοημοσύνης: τη διπλή φύση του τεχνολογίες παραγωγής. Από τη μία πλευρά, αποτελούν πηγή απεριόριστων δυνατοτήτων για καινοτομία και δημιουργικότητα. αφετέρου, δεν πρέπει να αγνοηθεί η κακή χρήση τους. Το περιστατικό προκαλεί ένα κομβικό ερώτημα: πώς μπορεί η κοινωνία να εκμεταλλευτεί τα οφέλη της τεχνητής νοημοσύνης ενώ παράλληλα προστατεύεται από τις πιο σκοτεινές εφαρμογές της;
Πλοήγηση στο μέλλον της ασφάλειας AI
Με το μεταβαλλόμενο τοπίο των ψηφιακών απειλών, η αναγνώριση της υποδοχής ήχου από την IBM Security είναι μια ουσιαστική προειδοποίηση για επαγρύπνηση και εκσυγχρονισμό της ασφάλειας στον κυβερνοχώρο. Η εξέλιξη των αντίμετρων, συμπεριλαμβανομένων καινοτόμων αλγορίθμων ανίχνευσης και πιο δυναμικών τεχνικών κρυπτογράφησης, είναι κρίσιμη για την καταπολέμηση τέτοιων περίπλοκων απειλών.
Επιπλέον, αυτή η αποκάλυψη αποκαλύπτει ότι τα ηθικά ζητήματα αποτελούν αναπόσπαστο μέρος Έρευνα AI και ανάπτυξη. Η θέσπιση κανόνων και σημείων αναφοράς για την υπεύθυνη χρήση της τεχνητής νοημοσύνης είναι απαραίτητη για την αντιμετώπιση των κινδύνων τέτοιων ισχυρών τεχνολογιών.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :έχει
- :είναι
- :δεν
- $UP
- 1
- 11
- 7
- 8
- a
- ικανότητα
- Λογαριασμός
- απέναντι
- διευθυνσιοδότηση
- προηγμένες
- κατά
- AI
- αλγόριθμοι
- μεταβάλλεται
- an
- και
- api
- APIs
- εφαρμογές
- ΕΙΝΑΙ
- τεχνητός
- τεχνητή νοημοσύνη
- AS
- At
- επίθεση
- Επιθέσεις
- ήχου
- Αυθεντικός
- διαθέσιμος
- Τράπεζα
- τραπεζικό λογαριασμό
- φράγμα
- BE
- ήταν
- πριν
- είναι
- αναφοράς
- οφέλη
- Πέρα
- ευρύτερη
- αλλά
- by
- κλήσεις
- CAN
- δυνατότητες
- ικανός
- πιάνω
- Λογοκρισία
- προκλήσεις
- πρόκληση
- άλλαξε
- καταπολέμηση
- Επικοινωνία
- Διαβιβάσεις
- συμβιβασμός
- υπολογιστή
- Πληροφορική
- σημαντικός
- Καταναλωτές
- Συνομιλία
- συνομιλίες
- θα μπορούσε να
- δημιουργία
- δημιουργικότητα
- κρίσιμης
- Ρεύμα
- Κυβερνασφάλεια
- κινδύνους
- πιο σκούρα
- εξαπάτηση
- deepfakes
- Άμυνα
- Ζήτηση
- Δημοκρατία
- εκδημοκρατισμός
- αναχώρηση
- προορισμός
- εντοπιστεί
- Ανίχνευση
- Ανάπτυξη
- ψηφιακό
- αποκάλυψη
- συζητήσεις
- διπλός
- κατά την διάρκεια
- ευκολία
- εύκολος
- αποτελέσματα
- προσπάθεια
- κρυπτογράφηση
- Μηχανική
- ουσιώδης
- ηθικά
- εξέλιξη
- προσδοκίες
- εξειδίκευση
- εμπειρογνώμονες
- απομίμηση
- Πεδία
- οικονομικός
- οικονομική απάτη
- Εύρεση
- Για
- απάτη
- από
- μελλοντικός
- παράγουν
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- Go
- Μεγαλώνοντας
- χέρι
- ιπποσκευή
- Έχω
- Πως
- Πώς να
- Ωστόσο
- HTTPS
- IBM
- Αναγνώριση
- επιπτώσεις
- in
- περιστατικό
- Συμπεριλαμβανομένου
- πληροφορίες
- Καινοτομία
- καινοτόμες
- ολοκλήρωμα
- ακεραιότητα
- Νοημοσύνη
- ζήτημα
- θέματα
- IT
- ΤΟΥ
- μόλις
- λέξεις-κλειδιά
- γνωστός
- τοπίο
- Γλώσσα
- large
- νόμιμος
- ζω
- ζωές
- κοιτάζοντας
- Χαμηλός
- χαμηλό φράγμα
- χειραγωγείται
- Χειρισμός
- ωριμότητα
- μέτρα
- μηχανισμούς
- μέθοδος
- μικρόφωνο
- μοντέλα
- εκμοντερνίζω
- περισσότερο
- πλέον
- Φύση
- Ανάγκη
- καθαρά
- Νέα
- νέα
- Σημειώνεται
- of
- on
- ONE
- αποκλειστικά
- or
- ΑΛΛΑ
- δικός μας
- έξω
- επί
- μέρος
- προσωπικός
- φαινόμενο
- Phishing
- τηλέφωνο
- τηλεφωνικές κλήσεις
- φράσεις
- πιλοτικές
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- PoC
- σημεία
- πολιτικός
- δυνατότητες
- δυναμικού
- ισχυρός
- διαδικασια μας
- μεταποίηση
- παράγει
- βαθύς
- προτρέπει
- παρέχεται
- δημόσιο
- δημόσια εμπιστοσύνη
- ερώτηση
- αυξήσεις
- μάλλον
- Φτάνει
- Διάβασε
- πραγματικός
- σε πραγματικό χρόνο
- εγγραφή
- Μειωμένος
- εξευγενισμένα
- αντιπροσωπεύει
- ερευνητές
- Αποκαλυφθε'ντα
- Αποκαλύπτει
- Αύξηση
- Κίνδυνος
- κινδύνους
- Ρόλος
- κανόνες
- διασφάλιση
- σχέδιο
- Επιστήμη
- δευτερόλεπτα
- ασφάλεια
- Μέτρα ασφαλείας
- τον καθορισμό
- διάφοροι
- sheikh
- ΜΕΤΑΤΟΠΙΣΗ
- θα πρέπει να
- Σήμα
- σημαντικός
- σημαντικά
- Μ.Κ.Δ
- Κοινωνική μηχανική
- Κοινωνία
- εξελιγμένα
- Πηγή
- συγκεκριμένες
- ομιλίες
- πέρασε
- ομιλείται
- Διάδοση
- καταπληκτικός
- Βήματα
- Εκπληκτική
- τέτοιος
- εκπληκτικώς
- παίρνει
- τεχνική
- τεχνικές
- Τεχνολογίες
- Τεχνολογία
- Κείμενο σε ομιλία
- ότι
- Η
- Το μέλλον
- τους
- τότε
- Αυτοί
- αυτοί
- αυτό
- απειλή
- απειλές
- τρία
- Μέσω
- Ετσι
- ώρα
- προς την
- εργαλεία
- παραδοσιακός
- Συναλλαγές
- τάση
- αληθής
- Εμπιστευθείτε
- Τουίτερ
- υπογράμμισης
- απεριόριστες
- πρωτοφανής
- Χρήση
- χρήση
- χρησιμοποιώντας
- εκδοχή
- μέσω
- θύματα
- Φωνή
- ΦΩΝΕΣ
- προειδοποίηση
- ήταν
- we
- πότε
- Ποιό
- ενώ
- Ο ΟΠΟΊΟΣ
- ευρύτερο
- με
- εντός
- χωρίς
- λόγια
- Εργασία
- λειτουργεί
- θα
- zephyrnet