Ψηφιακή ασφάλεια
Η κλωνοποίηση φωνής που βασίζεται στην τεχνητή νοημοσύνη μπορεί να κάνει τα πράγματα πολύ εύκολα για τους απατεώνες – το ξέρω γιατί το έχω δοκιμάσει έτσι ώστε να μην χρειάζεται να μάθετε για τους κινδύνους με τον δύσκολο τρόπο.
Νοέμβριος 22 2023 • , 6 λεπτό. ανάγνωση
Η πρόσφατη κλοπή της φωνής μου με έφερε σε μια νέα διχάλα στον δρόμο όσον αφορά το πώς η τεχνητή νοημοσύνη έχει ήδη τη δυνατότητα να προκαλέσει κοινωνική αναστάτωση. Ήμουν τόσο έκπληκτος από την ποιότητα της κλωνοποιημένης φωνής (και σε αυτό το εξαιρετικά έξυπνο, αλλά κωμικό, στυλ ενός από τους συναδέλφους μου) που αποφάσισα να χρησιμοποιήσω το ίδιο λογισμικό για «κακό» σκοπούς και να δω πόσο μακριά θα μπορούσα να φτάσω για κλοπή από μια μικρή επιχείρηση – με άδεια, φυσικά! Προειδοποίηση spoiler: ήταν εκπληκτικά εύκολο να πραγματοποιηθεί και δεν πήρε σχεδόν καθόλου χρόνο.
«Το AI είναι πιθανό να είναι είτε το καλύτερο είτε το χειρότερο πράγμα που μπορεί να συμβεί στην ανθρωπότητα. – Στίβεν Χόκινγκ
Πράγματι, από τότε που η έννοια της τεχνητής νοημοσύνης έγινε πιο mainstream σε ταινίες φαντασίας όπως το Blade Runner και το The Terminator, οι άνθρωποι αμφισβήτησαν τις αμείλικτες δυνατότητες του τι θα μπορούσε να συνεχίσει να παράγει η τεχνολογία. Ωστόσο, μόνο τώρα με ισχυρές βάσεις δεδομένων, αυξανόμενη ισχύ των υπολογιστών και την προσοχή των μέσων ενημέρωσης, είδαμε την τεχνητή νοημοσύνη να πλήττει το παγκόσμιο κοινό με τρόπους που είναι εξίσου τρομακτικοί και συναρπαστικοί. Με την τεχνολογία όπως η τεχνητή νοημοσύνη να περιφέρεται ανάμεσά μας, είναι εξαιρετικά πιθανό να δούμε δημιουργικές και μάλλον εξελιγμένες επιθέσεις να λαμβάνουν χώρα με επιζήμια αποτελέσματα.
Απόδραση κλωνοποίησης φωνής
Το προηγούμενο μου ρόλους στην αστυνομία μου ενστάλαξε τη νοοτροπία να προσπαθήσω να σκεφτώ σαν εγκληματίας. Αυτή η προσέγγιση έχει μερικά πολύ απτά και ωστόσο υποτιμημένα οφέλη: όσο περισσότερο σκέφτεται κανείς και μάλιστα πράξεις σαν εγκληματίας (χωρίς να γίνεις στην πραγματικότητα), τόσο καλύτερα προστατευμένος μπορεί να είναι κανείς. Αυτό είναι απολύτως ζωτικής σημασίας για την παρακολούθηση των πιο πρόσφατων απειλών καθώς και για την πρόβλεψη των μελλοντικών τάσεων.
Έτσι, για να δοκιμάσω κάποιες από τις τρέχουσες ικανότητες της τεχνητής νοημοσύνης, έπρεπε για άλλη μια φορά να αναλάβω τη νοοτροπία ενός ψηφιακού εγκληματία και να επιτεθώ ηθικά σε μια επιχείρηση!
Ρώτησα πρόσφατα έναν συνεργάτη μου –ας τον πούμε Χάρι– αν μπορούσα να κλωνοποιήσω τη φωνή του και να τη χρησιμοποιήσω για να επιτεθώ στην εταιρεία του. Ο Χάρι συμφώνησε και μου επέτρεψε να ξεκινήσω το πείραμα δημιουργώντας έναν κλώνο της φωνής του χρησιμοποιώντας άμεσα διαθέσιμο λογισμικό. Ευτυχώς για μένα, το να πιάσω τη φωνή του Χάρι ήταν σχετικά απλό – συχνά ηχογραφεί σύντομα βίντεο που προωθούν την επιχείρησή του στο κανάλι του στο YouTube, οπότε μπόρεσα να συνδυάσω μερικά από αυτά τα βίντεο για να φτιάξω ένα καλό κρεβάτι δοκιμής ήχου. Μέσα σε λίγα λεπτά, είχα δημιουργήσει έναν κλώνο της φωνής του Χάρι, που ακουγόταν ακριβώς σαν αυτόν σε εμένα, και τότε μπόρεσα να γράψω οτιδήποτε και να το αναπαράγω στη φωνή του.
Στην αρχή, αποφάσισα επίσης να προσθέσω αυθεντικότητα στην επίθεση από κλέβοντας τον λογαριασμό WhatsApp του Χάρι με τη βοήθεια ενός Επίθεση ανταλλαγής SIM – πάλι με άδεια. Στη συνέχεια, έστειλα ένα φωνητικό μήνυμα από τον λογαριασμό του στο WhatsApp στον οικονομικό διευθυντή της εταιρείας του –ας την αποκαλούμε Sally– ζητώντας πληρωμή £250 σε έναν «νέο ανάδοχο». Την ώρα της επίθεσης, ήξερα ότι βρισκόταν σε ένα κοντινό νησί έχοντας ένα επαγγελματικό γεύμα, κάτι που μου έδωσε την τέλεια ιστορία και την ευκαιρία να χτυπήσω.
Το φωνητικό μήνυμα περιελάμβανε πού βρισκόταν και ότι χρειαζόταν να πληρώσει ο «άνθρωπος της κάτοψης» και είπε ότι θα έστελνε τα τραπεζικά στοιχεία ξεχωριστά αμέσως μετά. Αυτό πρόσθεσε την επαλήθευση από τον ήχο της φωνής του πάνω από το φωνητικό μήνυμα που προστέθηκε στο νήμα της Sally στο WhatsApp, κάτι που ήταν αρκετό για να την πείσει ότι το αίτημα ήταν γνήσιο. Μέσα σε 16 λεπτά από το αρχικό μήνυμα έλαβα 250 £ στον προσωπικό μου λογαριασμό.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://www.welivesecurity.com/en/cybersecurity/your-voice-is-my-password/
- :έχει
- :είναι
- :δεν
- :που
- $UP
- 118
- 16
- 2FA
- 7
- a
- ικανότητες
- Ικανός
- Σχετικα
- απολύτως
- Λογαριασμός
- Λογαριασμοί
- πραγματικά
- Ad
- προσθέτω
- προστιθέμενη
- προσθήκη
- Πρόσθετος
- διεύθυνση
- ομολογώ
- Μετά το
- πάλι
- την ηλικία του
- σύμφωνος
- AI
- στοχεύουν
- Ειδοποίηση
- Όλα
- φέρεται ότι
- επιτρέπεται
- ήδη
- Επίσης
- Αν και
- am
- μεταξύ των
- μεταξύ μας
- an
- και
- κάθε
- οτιδήποτε
- app
- Apple
- Κάρτα Apple
- πλησιάζω
- ΕΙΝΑΙ
- έφτασε
- τεχνητός
- τεχνητή νοημοσύνη
- AS
- υποτίθεται
- At
- επίθεση
- Επιθέσεις
- απόπειρα
- Προσπάθειες
- προσοχή
- ακροατήριο
- ήχου
- Πιστοποίηση
- αυθεντικότητα
- διαθέσιμος
- αποφύγετε
- επίγνωση
- πίσω
- Τράπεζα
- βασικός
- BE
- έγινε
- επειδή
- να γίνει
- ήταν
- πριν
- είναι
- οφέλη
- ΚΑΛΎΤΕΡΟΣ
- Καλύτερα
- ΛΕΠΊΔΑ
- ΑΦΕΝΤΙΚΌ
- όρια
- Έφερε
- επιχείρηση
- ιδιοκτήτες επιχειρήσεων
- αλλά
- by
- κλήση
- ήρθε
- CAN
- δεν μπορώ
- κάρτα
- Κάρτες
- κουβαλάω
- κατηγορία
- προκαλώντας
- Κανάλι
- κωδικός
- συναδέλφους
- Ελάτε
- συνήθως
- εταίρα
- συναρπαστικό
- υπολογιστή
- ισχύς υπολογιστή
- έννοια
- βέβαιος
- συνδεδεμένος
- επικοινωνήστε μαζί μας
- Επαφές
- πείθω
- θα μπορούσε να
- Πορεία
- δημιουργία
- Δημιουργικός
- εγκληματίας
- Εγκληματίες
- Ρεύμα
- εγκληματίες του κυβερνοχώρου
- επιβλαβής
- ημερομηνία
- βάσεις δεδομένων
- Ημερομηνία
- debrief
- αποφάσισε
- αμυντικός
- λεπτομέρεια
- καθέκαστα
- DID
- ψηφιακό
- Διευθυντής
- Αναστάτωση
- Μην
- δυναμικός
- e
- εύκολος
- αποτελεσματικά
- είτε
- ΗΛΕΚΤΡΟΝΙΚΗ ΔΙΕΥΘΥΝΣΗ
- ενεργοποιήσετε
- δίνει τη δυνατότητα
- αρκετά
- εισήχθη
- ίσος
- εκδηλώσεις
- ΠΑΝΤΑ
- παράδειγμα
- συναρπαστικός
- εκτελεστικός
- υφιστάμενα
- πείραμα
- πειράματα
- εξαιρετικά
- Πρόσωπο
- παράγοντες
- απομίμηση
- Πτώση
- Πτώση
- μακριά
- σφάλμα
- λίγοι
- μυθιστορηματικός
- Εικόνα
- ταινίες
- Οικονομικά
- οικονομικός
- Για
- προβλέποντας
- πιρούνι
- μορφή
- φίλος
- από
- έδωσε
- παράγεται
- γενεά
- γνήσια
- να πάρει
- Παγκόσμιο
- παγκόσμιο κοινό
- Go
- καλός
- είχε
- συμβαίνω
- συμβαίνει
- Σκληρά
- υλικού
- Έχω
- που έχει
- he
- βοήθεια
- αυτήν
- εδώ
- αυτόν
- του
- Επιτυχία
- κρατήστε
- Πως
- Ωστόσο
- HTTPS
- Ανθρωπότητα
- i
- ταυτότητες
- if
- εικόνα
- αμέσως
- σπουδαιότητα
- βελτίωση
- in
- περιλαμβάνονται
- Συμπεριλαμβανομένου
- αύξηση
- όλο και περισσότερο
- πληροφορίες
- αρχικός
- αντί
- Νοημοσύνη
- τόκος
- ενδιαφέρον
- σε
- νησί
- IT
- jpg
- μόλις
- Διατήρηση
- τήρηση
- Ξέρω
- αργότερο
- οδηγήσει
- άλματα
- ΜΑΘΑΊΝΩ
- μάθηση
- Επίπεδο
- μόχλευσης
- Μου αρέσει
- Πιθανός
- συνδέονται
- Λιστα
- ματιά
- κοίταξε
- μεσημεριανό
- μηχανή
- μάθηση μηχανής
- Mainstream
- κάνω
- Κατασκευή
- Χειρισμός
- πολοί
- πολλοί άνθρωποι
- μάζες
- συμφωνημένα
- υλικό
- max-width
- me
- μέτρο
- μέτρα
- Εικόνες / Βίντεο
- μήνυμα
- ενδέχεται να
- πρακτικά
- Μύθος
- Λεπτ.
- Κινητό
- χρήματα
- περισσότερο
- κίνηση
- πολυστρωματικά
- πρέπει
- my
- όνομα
- που απαιτούνται
- Περιττός
- Νέα
- επόμενη
- Νοέμβριος
- τώρα
- αριθμός
- of
- off
- προσφορά
- προσφορές
- συχνά
- on
- μια φορά
- ONE
- διαδικτυακά (online)
- αποκλειστικά
- Ευκαιρία
- or
- τάξη
- ΑΛΛΑ
- δικός μας
- έξω
- Αποτέλεσμα
- ιδιοκτήτες
- καταβλήθηκε
- Κωδικός Πρόσβασης
- πληρωμή
- People
- τέλειος
- άδεια
- person
- προσωπικός
- προσωπικά δεδομένα
- Phishing
- επιθέσεις ηλεκτρονικού ψαρέματος
- τηλέφωνο
- Μέρος
- σχέδιο
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- έπαιξε
- Police
- δυνατότητες
- δυνατός
- Δημοσιεύσεις
- δυναμικού
- δύναμη
- ισχυρός
- Προπληρωμένος
- Διεργασίες
- παράγει
- προχωρά
- την προώθηση της
- προστατεύονται
- προστασία
- προμηθευτής
- χορήγηση
- σκοποί
- ποιότητα
- Ερωτηθείς
- γρήγορα
- μάλλον
- πρόθυμα
- πραγματικός
- πρόσφατα
- αρχεία
- αντανάκλαση
- σχετικά
- απελευθερώνουν
- αμείλικτος
- ζητήσει
- αιτήματα
- Αποτελέσματα
- κινδύνους
- δρόμος
- δρομέας
- ένα ασφαλές
- διασφαλίσεις
- Είπε
- ίδιο
- αποθηκεύονται
- λένε
- Απάτη
- Απατεώνες
- ασφάλεια
- δείτε
- δει
- στείλετε
- ευαίσθητος
- αποστέλλονται
- ξεχωριστό
- Κοινοποίηση
- αυτή
- συγκλόνισε
- Κοντά
- θα πρέπει να
- δείχνουν
- υπογραφεί
- ΝΑΙ
- Ανταλλαγή κάρτας SIM
- Απλούς
- απλά
- αφού
- small
- μικρές επιχειρήσεις
- So
- Μ.Κ.Δ
- λογισμικό
- μερικοί
- Κάποιος
- εξελιγμένα
- Ήχος
- Ακούγεται
- ειδική
- ειδικά
- Εκκίνηση
- Ξεκινήστε
- δήλωσε
- διαμονή
- Στέφανος
- Ακόμη
- Ιστορία
- ευθεία
- απεργία
- στυλ
- τέτοιος
- βέβαιος
- ανταλλαγής
- Πάρτε
- λαμβάνεται
- απτά
- στοχευμένες
- Τεχνολογία
- όροι
- τρομακτικό
- δοκιμή
- δοκιμαστεί
- από
- ότι
- Η
- τους
- τότε
- Αυτοί
- αυτοί
- πράγμα
- πράγματα
- νομίζω
- σκέφτεται
- αυτό
- απειλές
- ώρα
- συμβουλές
- Τίτλος
- προς την
- μαζι
- πολύ
- πήρε
- εργαλεία
- κορυφή
- Εκπαίδευση
- Συναλλαγές
- μεταβιβάσεις
- Τάσεις
- δύο
- τελικά
- Ενημέρωση
- ενημερώθηκε
- us
- χρήση
- μεταχειρισμένος
- χρησιμοποιώντας
- Επαλήθευση
- επαληθεύεται
- επαληθεύοντας
- πολύ
- μέσω
- Θύμα
- Βίντεο
- ζωτικής σημασίας
- Φωνή
- θέλω
- ήταν
- Τρόπος..
- τρόπους
- we
- ΛΟΙΠΌΝ
- Τι
- Ποιό
- Ο ΟΠΟΊΟΣ
- πλάτος
- με
- εντός
- χωρίς
- εργάστηκαν
- χειρότερη
- θα
- γράφω
- ακόμη
- Εσείς
- Σας
- YouTube
- zephyrnet