Η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) υπόσχεται ανταμοιβή 25,000 δολαρίων για την καλύτερη λύση για την καταπολέμηση της αυξανόμενης απειλής της κλωνοποίησης φωνής με τεχνητή νοημοσύνη.
Μερικές φορές αναφέρεται ως audio deepfakes, ο αριθμός των διαδικτυακών υπηρεσιών που προσφέρουν εύχρηστες εγκαταστάσεις κλωνοποίησης φωνής έχει πολλαπλασιαστεί από τότε που η γενετική τεχνητή νοημοσύνη έγινε mainstream, εγείροντας ανησυχίες σχετικά με την πιθανότητα κατάχρησής της σε κυβερνοεπιθέσεις.
Για παράδειγμα, μια ευρέως διαδεδομένη απειλή θα μπορούσε να περιλαμβάνει την παραπλάνηση των φωνών των CEO για να τους μιμηθεί και να δώσει εντολή στο οικονομικό τμήμα να σύρει χρήματα στον λογαριασμό ενός εισβολέα. Οι φίλοι και οι οικογένειες θα μπορούσαν επίσης να εξαπατηθούν για να στείλουν χρήματα σε αγαπημένα πρόσωπα, και καλλιτέχνες του θεάματος θα μπορούσαν να απειληθούν τα προς το ζην εάν η τεχνολογία συνεχίσει να ωριμάζει.
Τα ενδιαφερόμενα μέρη έχουν περιθώριο έως τις 12 Ιανουαρίου να υποβάλουν τις ιδέες τους για να βοηθήσουν στην αντιμετώπιση της απάτης κλωνοποίησης φωνής που βασίζεται στην τεχνητή νοημοσύνη, εστιάζοντας κυρίως στην πρόληψη, την παρακολούθηση και την αξιολόγηση της τεχνολογίας.
«Αυτή η προσπάθεια μπορεί να βοηθήσει στην προώθηση ιδεών για τον μετριασμό των κινδύνων ανάντη – θωρακίζοντας τους καταναλωτές, τους δημιουργικούς επαγγελματίες και τις μικρές επιχειρήσεις από τις βλάβες της κλωνοποίησης φωνής προτού η βλάβη φτάσει στον καταναλωτή», η FTC είπε.
«Μπορεί επίσης να βοηθήσει στην προώθηση ιδεών για τον μετριασμό των κινδύνων σε επίπεδο καταναλωτή. Και εάν δεν προκύψουν βιώσιμες ιδέες, αυτό θα στείλει μια κρίσιμη και έγκαιρη προειδοποίηση στους υπεύθυνους χάραξης πολιτικής ότι θα πρέπει να εξετάσουν αυστηρότερα όρια στη χρήση αυτής της τεχνολογίας, δεδομένης της πρόκλησης να αποτραπεί η επιβλαβής ανάπτυξη εφαρμογών στην αγορά».
Οι υποβολές θα αξιολογηθούν με βάση το πόσο εφικτή θα ήταν η εκτέλεση και η διαχείριση, πόσο ανθεκτική είναι στις τεχνολογικές αλλαγές και πόσο προσεκτικά εξετάζουν τον τρόπο με τον οποίο θα βαρύνουν τις εταιρείες, μεταξύ άλλων μέτρων.
Το κορυφαίο έπαθλο που προσφέρεται είναι 25,000 $, το οποίο δεν ακούγεται σαν χρυσωρυχείο, λαμβάνοντας υπόψη τις πιθανές ευρείες εφαρμογές που μπορεί να έχει μια έξυπνη λύση.
Ένας επιλαχών θα λάβει επίσης $4,000, τρεις τιμητικές διακρίσεις θα λάβουν 2,000 $ ο καθένας για τα προβλήματά του και οργανώσεις 10 ή περισσότερων ατόμων θα λάβουν ένα βραβείο αναγνώρισης χωρίς μετρητά.
Κατάχρηση φωνής AI σε δράση
Η αποτελεσματικότητα της κλωνοποίησης φωνής με τεχνητή νοημοσύνη έχει αποδειχθεί σε επαναλαμβανόμενες περιπτώσεις τον περασμένο χρόνο. Ειδικοί στο σλοβακικό κατάστημα ασφαλείας ESET έδειξε πώς μπορεί να εξαλειφθεί το προαναφερθέν παράδειγμα των πλαστών CEOs.
Στην πραγματικότητα, ήταν ένα ζήτημα εδώ και χρόνια πριν έρθει η γενετική τεχνητή νοημοσύνη στα χέρια του μέσου ανθρώπου. Μια βρετανική ενεργειακή εταιρεία ήταν στραγγίστηκε 243,000 $ το 2019, αφού ο Διευθύνων Σύμβουλος έλαβε εντολή να στείλει ένα μεγάλο ποσό σε Ούγγρο προμηθευτή.
Μια New York Times αναφέρουν, και πάλι από τους προηγούμενους 12 μήνες, περιέγραψε μια σειρά υποθέσεων που στόχευαν με επιτυχία τον χρηματοπιστωτικό τομέα, εξαπατώντας τις τράπεζες να διακινήσουν χρήματα από αυτούς που πίστευαν ότι ήταν γνήσιοι πελάτες. Ο Καν έχει επίσης αναφέρει για παρόμοια επιθέσεις που λαμβάνουν χώρα στα ΗΑΕ ήδη από το 2021.
Οι ρομαντικές απάτες είναι επίσης διαδεδομένες, με έναν Βρετανό να πέφτει στο α κορόιδεψε τον Κέβιν Κόστνερ, και οι εγκληματίες έχουν επίσης δείξει ότι δεν υπερβαίνουν την εκτέλεση Απάτες «οικογενειακής έκτακτης ανάγκης». – αυτά που στοχεύουν γονείς με τις κλωνοποιημένες φωνές των παιδιών τους που ζητούν χρήματα για να καταβάλουν εγγύηση, για παράδειγμα.
Περισσότερα τραγικά παραδείγματα έχουν δει μητέρες να δέχονται κλήσεις από τις κόρες τους που κρατούνται όμηροι από «απαγωγείς» που ζητούν τεράστια λύτρα.
Η κλωνοποίηση φωνής καθίσταται δυνατή τροφοδοτώντας ένα μοντέλο τεχνητής νοημοσύνης με αρκετά δεδομένα εκπαίδευσης για να κατανοήσει τον ήχο, τον τόνο, τον ρυθμό, την καμπή και άλλες αποχρώσεις της φωνής ενός ατόμου. Οι διασημότητες και άλλα δημόσια πρόσωπα πιστεύεται ότι διατρέχουν οξύ κίνδυνο από αυτές τις επιθέσεις, δεδομένου του αριθμού των ηχογραφήσεων των φωνών τους που υπάρχουν στο διαδίκτυο.
Με την άνοδο της κουλτούρας δημιουργίας περιεχομένου μέσων κοινωνικής δικτύωσης και βίντεο, πολλές μη διασημότητες, ακόμη και παιδιά, έχουν επίσης αρκετό υλικό στο διαδίκτυο για να εκπαιδεύσουν αποτελεσματικά ένα μοντέλο.
Οι ερευνητές της Kaspersky εξέτασαν την άνοδο της κλωνοποίησης φωνής AI πέρυσι και ανακάλυψαν μια μεγάλη ποικιλία από ελεύθερα διαθέσιμα εργαλεία ανοιχτού κώδικα που θα μπορούσαν να δημιουργήσουν κλωνοποιημένες φωνές χρησιμοποιώντας τεχνολογία AI. Ωστόσο, υποστήριξαν ότι για να τεθεί σε λειτουργία ένας πειστικός κλώνος, χρειαζόταν λίγη τεχνογνωσία Python και κάποια πειθαρχία από την πλευρά του κλωνοποιητή.
Ωστόσο, οι προσφορές επί πληρωμή τείνουν να είναι πολύ πιο αποτελεσματικές. Οι ερευνητές επεσήμαναν Το μοντέλο VALL-E της Microsoft που υποτίθεται ότι θα μπορούσε να δημιουργήσει έναν αξιοπρεπή κλώνο με μόλις τρία δευτερόλεπτα φωνητικού ήχου που χρησιμοποιούνται ως δεδομένα εκπαίδευσης.
Υπάρχουν επίσης και άλλες επί πληρωμή λύσεις εκεί έξω που λειτουργούν καλύτερα από τις δωρεάν, αλλά αυτές βρίσκονται ακόμη στο αρχικό στάδιο ανάπτυξης, επομένως μπορούμε να αναμένουμε ότι η ακρίβεια και η αποτελεσματικότητα αυτών των μοντέλων θα βελτιωθούν με την πάροδο του χρόνου. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/01/05/ftc_voice_cloning_solution/
- :έχει
- :είναι
- :δεν
- $UP
- 000
- 10
- 12
- 12 μήνες
- 2019
- 2021
- 7
- a
- πάνω από
- κατάχρηση
- Λογαριασμός
- ακρίβεια
- διεύθυνση
- διαχειρίζομαι
- εκ των προτέρων
- Μετά το
- πάλι
- κατά
- AI
- Επίσης
- μεταξύ των
- an
- και
- εφαρμογές
- ΕΙΝΑΙ
- AS
- ζητώντας
- αξιολόγηση
- At
- Επιθέσεις
- ήχου
- διαθέσιμος
- μέσος
- βραβείο
- πίσω
- εγγύηση
- Τράπεζες
- βασίζονται
- BE
- ήταν
- πριν
- Πιστεύεται
- ΚΑΛΎΤΕΡΟΣ
- Καλύτερα
- Κομμάτι
- ευρύς
- επιχειρήσεις
- αλλά
- by
- κλήσεις
- ήρθε
- CAN
- μεταφέρουν
- περιπτώσεις
- Μετρητά
- Χωρίς μετρητά
- διασημότητες
- Διευθύνων Σύμβουλος
- CEOs
- πρόκληση
- Αλλαγές
- Παιδιά
- πελάτες
- CNN
- CO
- την καταπολέμηση της
- παραπομπής σας
- Εταιρείες
- εταίρα
- Πιθανά ερωτήματα
- Εξετάστε
- θεωρώντας
- καταναλωτής
- Καταναλωτές
- περιεχόμενο
- δημιουργία περιεχομένου
- ΣΥΝΕΧΕΙΑ
- θα μπορούσε να
- δημιουργία
- Δημιουργικός
- Εγκληματίες
- κρίσιμης
- κουλτούρα
- cyberattacks
- ημερομηνία
- deepfakes
- Ζήτηση
- Τμήμα
- λεπτομερής
- Ανάπτυξη
- ανακάλυψαν
- do
- doesn
- κάθε
- Νωρίς
- εύκολο στη χρήση
- Αποτελεσματικός
- αποτελεσματικά
- αποτελεσματικότητα
- προσπάθεια
- αναδύονται
- επείγον
- ενέργεια
- αρκετά
- εκτίμηση
- Even
- παράδειγμα
- εκτελέσει
- υπάρχουν
- αναμένω
- εμπειρογνώμονες
- εγκαταστάσεις
- γεγονός
- Πτώση
- οικογένειες
- οικογένεια
- μακριά
- εφικτός
- Ομοσπονδιακός
- Ομοσπονδιακή Επιτροπή Εμπορίου
- σίτιση
- Σχήματα
- χρηματοδότηση
- εστιάζοντας
- Για
- Προς τα εμπρός
- απάτη
- Δωρεάν
- ελεύθερα
- φίλους
- από
- FTC
- παράγουν
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- γνήσια
- παίρνω
- δεδομένου
- Μεγαλώνοντας
- τα χέρια
- βλάψει
- επιβλαβής
- βλάπτει
- Έχω
- Ήρωας
- βοήθεια
- Πως
- Ωστόσο
- HTML
- HTTPS
- τεράστιος
- Ουγγρικά
- ιδεών
- if
- βελτίωση
- in
- ανεξάρτητος
- ατομικές
- Κλίση
- σε
- εμπλέκω
- ζήτημα
- IT
- ΤΟΥ
- Ιανουάριος
- jpg
- μόλις
- large
- Επίθετο
- Πέρυσι
- Επίπεδο
- ευθύνη
- Μου αρέσει
- όρια
- κοίταξε
- αγάπησε
- που
- κυρίως
- Mainstream
- πολοί
- αγορά
- υλικό
- ώριμος
- Ενδέχεται..
- μέτρα
- Εικόνες / Βίντεο
- αναφέρει
- Μετριάζω
- μοντέλο
- μοντέλα
- χρήματα
- παρακολούθηση
- μήνες
- περισσότερο
- κίνηση
- πολύ
- Νέα
- Νέα Υόρκη
- New York Times
- αποχρώσεις
- αριθμός
- of
- off
- προσφορά
- προσφορά
- Offerings
- προσφορές
- on
- ONE
- αυτά
- διαδικτυακά (online)
- αποκλειστικά
- ανοίξτε
- ανοικτού κώδικα
- or
- οργανώσεις
- ΑΛΛΑ
- έξω
- επί
- καταβλήθηκε
- γονείς
- μέρος
- μέρη
- Το παρελθόν
- People
- person
- Μέρος
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- φορείς χάραξης πολιτικής
- δυνατός
- Θέση
- δυναμικού
- πρόληψη
- Πρόληψη
- προηγούμενος
- βραβείο
- επαγγελματίες
- υποσχόμενος
- αποδεδειγμένη
- δημόσιο
- Σπρώξτε
- Python
- αύξηση
- σειρά
- Φτάνει
- λαμβάνω
- αναγνώριση
- αναφέρεται
- επαναλαμβάνω
- αναφέρθηκαν
- απαιτείται
- ερευνητές
- ελαστικός
- ευθύνη
- Ανταμοιβή
- Αύξηση
- Κίνδυνος
- κινδύνους
- τρέξιμο
- s
- απάτες
- δευτερόλεπτα
- τομέας
- ασφάλεια
- δει
- στείλετε
- αποστολή
- Υπηρεσίες
- Κατάστημα
- θα πρέπει να
- παρουσιάζεται
- παρόμοιες
- αφού
- small
- μικρές επιχειρήσεις
- So
- Μ.Κ.Δ
- social media
- λύση
- Λύσεις
- μερικοί
- Ήχος
- Πηγή
- Στάδιο
- Ακόμη
- αυστηρότερα
- υποβάλουν
- Επιτυχώς
- προμηθευτής
- Πάρτε
- λήψη
- στόχος
- στόχευση
- tech
- τεχνολογικός
- Τεχνολογία
- Τείνουν
- από
- ότι
- Η
- τους
- Τους
- Εκεί.
- Αυτοί
- αυτοί
- αυτό
- σκέψη
- απειλή
- τρία
- ώρα
- φορές
- προς την
- TONE
- πολύ
- εργαλεία
- κορυφή
- εμπόριο
- Τρένο
- Εκπαίδευση
- Uk
- καταλαβαίνω
- μέχρι
- χρήση
- μεταχειρισμένος
- χρησιμοποιώντας
- ποικιλία
- βιώσιμος
- Βίντεο
- Φωνή
- ΦΩΝΕΣ
- προειδοποίηση
- ήταν
- we
- πήγε
- Ποιό
- Ο ΟΠΟΊΟΣ
- ευρύς
- διαδεδομένη
- θα
- Σύρμα
- με
- Εργασία
- θα
- WSJ
- έτος
- χρόνια
- Υόρκη
- zephyrnet