Πρόσφατα, η Zoom έλαβε κάποιες ενδείξεις για τον σχεδιασμό της χρήσης δεδομένων πελατών για την εκπαίδευση των μοντέλων μηχανικής εκμάθησης. Η πραγματικότητα, ωστόσο, είναι ότι η εταιρεία τηλεδιάσκεψης δεν είναι η πρώτη, ούτε θα είναι η τελευταία, που έχει παρόμοια σχέδια.
Οι επιχειρήσεις —ιδιαίτερα εκείνες που ασχολούνται με την ενσωμάτωση εργαλείων τεχνητής νοημοσύνης για εσωτερική χρήση— θα πρέπει να βλέπουν αυτά τα πιθανά σχέδια ως αναδυόμενες προκλήσεις που πρέπει να αντιμετωπιστούν προληπτικά με νέες διαδικασίες, επίβλεψη και τεχνολογικούς ελέγχους όπου είναι δυνατόν.
Εγκαταλελειμμένα σχέδια AI
Το Zoom νωρίτερα φέτος άλλαξε τους όρους παροχής υπηρεσιών για να δώσει στον εαυτό του το δικαίωμα να χρησιμοποιεί τουλάχιστον κάποιο περιεχόμενο πελατών για να εκπαιδεύει τα μοντέλα AI και μηχανικής εκμάθησης. Στις αρχές Αυγούστου το η εταιρεία εγκατέλειψε αυτή την αλλαγή μετά από ώθηση ορισμένων πελατών που ανησυχούσαν για τη χρήση ήχου, βίντεο, συνομιλίας και άλλες επικοινωνίες τους με αυτόν τον τρόπο.
Το περιστατικό - παρά το αίσιο τέλος προς το παρόν - είναι μια υπενθύμιση ότι οι εταιρείες πρέπει να δώσουν μεγαλύτερη προσοχή στον τρόπο με τον οποίο οι προμηθευτές τεχνολογίας και άλλοι τρίτοι ενδέχεται να χρησιμοποιήσουν τα δεδομένα τους στην ταχέως αναδυόμενη εποχή της τεχνητής νοημοσύνης.
Ένα μεγάλο λάθος είναι να υποθέσουμε ότι τα δεδομένα που μπορεί να συλλέξει μια εταιρεία τεχνολογίας για εκπαίδευση τεχνητής νοημοσύνης δεν διαφέρουν πολύ από τα δεδομένα που μπορεί να συλλέξει η εταιρεία σχετικά με τη χρήση της υπηρεσίας, λέει ο Claude Mandy, επικεφαλής ευαγγελιστής, ασφάλεια δεδομένων στη Symmetry Systems. "Οι εταιρείες τεχνολογίας χρησιμοποιούν δεδομένα σχετικά με τη χρήση των υπηρεσιών από τους πελάτες τους για μεγάλο χρονικό διάστημα", λέει η Mandy. "Ωστόσο, αυτό έχει γενικά περιοριστεί σε μεταδεδομένα σχετικά με τη χρήση, αντί για το περιεχόμενο ή τα δεδομένα που δημιουργούνται ή αποθηκεύονται στις υπηρεσίες." Στην ουσία, ενώ και τα δύο αφορούν δεδομένα πελατών, υπάρχει μεγάλη διαφορά μεταξύ των δεδομένων Σχετικά με εμάς τον πελάτη και τα δεδομένα of ο πελάτης, λέει.
Σαφής διάκριση
Είναι μια διάκριση που βρίσκεται ήδη στο επίκεντρο της προσοχής σε μια χούφτα αγωγών που αφορούν μεγάλες εταιρείες τεχνολογίας και καταναλωτές. Ένα από αυτά φέρνει την Google απέναντι σε μια κατηγορία εκατομμυρίων καταναλωτών. Η αγωγή που κατατέθηκε τον Ιούλιο στο Σαν Φρανσίσκο κατηγορεί την Google για απόξεση δημοσίως διαθέσιμων δεδομένων στο Διαδίκτυο—συμπεριλαμβανομένων προσωπικών και επαγγελματικών πληροφοριών, δημιουργικών και γραπτών έργων, φωτογραφιών, ακόμη και μηνυμάτων ηλεκτρονικού ταχυδρομείου—και τη χρήση τους για την εκπαίδευση της γενετικής τεχνολογίας AI Bard. «Στα λόγια της FTC, ολόκληρη η βιομηχανία τεχνολογίας «σπριντ για να κάνει το ίδιο» - δηλαδή, για να συλλέξει με ηλεκτρική σκούπα όσα περισσότερα δεδομένα μπορούν να βρουν», ισχυρίζεται η μήνυση.
Άλλη μια ομαδική αγωγή κατηγορεί τη Microsoft να κάνουμε ακριβώς το ίδιο πράγμα για να εκπαιδεύσουμε το ChatGPT και άλλα εργαλεία τεχνητής νοημοσύνης όπως το Dall.E και το Vall.E. Τον Ιούλιο, η κωμικός Sarah Silverman και δύο συγγραφείς κατηγόρησε τον Meta και τη Microsoft χρήσης του υλικού τους που προστατεύεται από πνευματικά δικαιώματα χωρίς συγκατάθεση για σκοπούς εκπαίδευσης σε τεχνητή νοημοσύνη.
Ενώ οι αγωγές αφορούν καταναλωτές, το κλειδί για τους οργανισμούς είναι ότι πρέπει να βεβαιωθούν ότι οι εταιρείες τεχνολογίας δεν κάνουν το ίδιο πράγμα με τα δεδομένα τους όπου είναι δυνατόν.
«Δεν υπάρχει ισοδυναμία μεταξύ της χρήσης δεδομένων πελατών για τη βελτίωση της εμπειρίας του χρήστη και της εκπαίδευσης AI. Αυτά είναι μήλα και πορτοκάλια», προειδοποιεί ο Denis Mandich, συνιδρυτής της Qrypt και πρώην μέλος της κοινότητας πληροφοριών των ΗΠΑ. «Η τεχνητή νοημοσύνη έχει τον πρόσθετο κίνδυνο να είναι ατομικά προγνωστική, θέτοντας ανθρώπους και εταιρείες σε κίνδυνο», σημειώνει.
Ως παράδειγμα, επισημαίνει μια εκκίνηση που χρησιμοποιεί υπηρεσίες μεταφοράς βίντεο και αρχείων σε μια πλατφόρμα επικοινωνίας τρίτων. Ένα εργαλείο δημιουργίας τεχνητής νοημοσύνης όπως το ChatGPT που εκπαιδεύεται σε αυτά τα δεδομένα θα μπορούσε ενδεχομένως να είναι μια καλή πηγή πληροφοριών για έναν ανταγωνιστή αυτής της εκκίνησης, λέει ο Mandich. "Το ζήτημα εδώ αφορά το περιεχόμενο, όχι την εμπειρία των χρηστών για ποιότητα βίντεο/ήχου, GUI κ.λπ.."
Επίβλεψη και Δέουσα Επιμέλεια
Το μεγάλο ερώτημα φυσικά είναι τι ακριβώς μπορούν να κάνουν οι οργανισμοί για να μετριάσουν τον κίνδυνο τα ευαίσθητα δεδομένα τους να καταλήξουν ως μέρος μοντέλων AI.
Ένα σημείο εκκίνησης θα ήταν να εξαιρεθείτε από όλες τις δυνατότητες εκπαίδευσης τεχνητής νοημοσύνης και δημιουργίας τεχνητής νοημοσύνης που δεν είναι υπό ιδιωτική ανάπτυξη, λέει ο Omri Weinberg, συνιδρυτής και επικεφαλής υπεύθυνος κινδύνου στο DoControl. «Αυτό το προληπτικό βήμα είναι σημαντικό για την αποτροπή της εξωτερικής έκθεσης δεδομένων [όταν] δεν έχουμε ολοκληρωμένη κατανόηση της προβλεπόμενης χρήσης τους και των πιθανών κινδύνων».
Βεβαιωθείτε επίσης ότι δεν υπάρχουν ασάφειες στους όρους παροχής υπηρεσιών ενός προμηθευτή τεχνολογίας σχετικά με τα εταιρικά δεδομένα και τον τρόπο χρήσης τους, λέει η Heather Shoemaker, Διευθύνουσα Σύμβουλος και ιδρύτρια του Language I/O. «Η δεοντολογική χρήση δεδομένων εξαρτάται από τη διαφάνεια των πολιτικών και την ενημερωμένη συναίνεση», σημειώνει.
Επιπλέον, τα εργαλεία τεχνητής νοημοσύνης μπορούν να αποθηκεύσουν πληροφορίες πελατών πέρα από τη χρήση της εκπαίδευσης, πράγμα που σημαίνει ότι τα δεδομένα θα μπορούσαν να είναι δυνητικά ευάλωτα σε περίπτωση κυβερνοεπίθεσης ή παραβίασης δεδομένων».
Ο Mandich υποστηρίζει ότι οι εταιρείες επιμένουν στους παρόχους τεχνολογίας να χρησιμοποιούν κρυπτογράφηση από άκρο σε άκρο όπου είναι δυνατόν. «Δεν υπάρχει λόγος να διακινδυνεύσετε την πρόσβαση τρίτων, εκτός εάν το χρειάζονται για εξόρυξη δεδομένων και η εταιρεία σας έχει εν γνώσει σας συμφωνήσει να το επιτρέψει», λέει. "Αυτό θα πρέπει να αναφέρεται ρητά στην EULA και να απαιτείται από τον πελάτη." Το ιδανικό είναι όλα τα κλειδιά κρυπτογράφησης να εκδίδονται και να τα διαχειρίζεται η εταιρεία και όχι ο πάροχος, λέει.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Αυτοκίνητο / EVs, Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- ChartPrime. Ανεβάστε το Trading Game σας με το ChartPrime. Πρόσβαση εδώ.
- BlockOffsets. Εκσυγχρονισμός της περιβαλλοντικής αντιστάθμισης ιδιοκτησίας. Πρόσβαση εδώ.
- πηγή: https://www.darkreading.com/edge/vendors-training-ai-customer-data-enterprise-risk
- :έχει
- :είναι
- :δεν
- :που
- $UP
- 7
- a
- Σχετικα
- πρόσβαση
- Ενέργειες
- Πρόσθετος
- απευθύνεται
- συνήγοροι
- Μετά το
- κατά
- σύμφωνος
- AI
- Μοντέλα AI
- Εκπαίδευση AI
- Όλα
- υποτιθεμένος
- επιτρέπουν
- ήδη
- an
- και
- ΕΙΝΑΙ
- AS
- υποθέτω
- At
- προσοχή
- ήχου
- Αύγουστος
- συγγραφείς
- διαθέσιμος
- BE
- ήταν
- είναι
- μεταξύ
- Πέρα
- Μεγάλος
- και οι δύο
- παραβίαση
- απασχολημένος
- by
- CAN
- περίπτωση
- Διευθύνων Σύμβουλος
- Διευθύνων Σύμβουλος και ιδρυτής
- προκλήσεις
- άλλαξε
- ChatGPT
- αρχηγός
- τάξη
- Δράση Class
- κατηγορηματικής αγωγής
- πελάτης
- πιο κοντά
- Συνιδρυτής
- συλλέγουν
- Διαβιβάσεις
- κοινότητα
- Εταιρείες
- εταίρα
- ανταγωνιστής
- περιεκτικός
- ενδιαφερόμενος
- διασκέψεις
- συγκατάθεση
- Καταναλωτές
- περιεχόμενο
- ελέγχους
- θα μπορούσε να
- Πορεία
- Δημιουργικός
- πελάτης
- στοιχεία πελάτη
- Πελάτες
- ημερομηνία
- παραβιάσεων δεδομένων
- εξόρυξη δεδομένων
- την ασφάλεια των δεδομένων
- απαίτησε
- ανάπτυξη
- λεπτομερής
- διαφορά
- διαφορετικές
- διάκριση
- do
- πράξη
- Don
- δυο
- e
- Νωρίτερα
- Νωρίς
- σμυριδόπετρα
- κρυπτογράφηση
- από άκρη σε άκρη
- κατάληξη
- Εταιρεία
- Ολόκληρος
- Εποχή
- ουσία
- κ.λπ.
- ηθικά
- Ευαγγελιστής
- Even
- ακριβώς
- παράδειγμα
- εμπειρία
- Έκθεση
- εξωτερικός
- Χαρακτηριστικά
- Αρχεία
- κατατεθεί
- πτερύγιο
- Εύρεση
- Όνομα
- Συγκέντρωση
- Για
- Πρώην
- ιδρυτής
- Φρανσίσκο
- από
- FTC
- γενικά
- παράγεται
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- Δώστε
- καλός
- χούφτα
- ευτυχισμένος
- Έχω
- he
- εδώ
- μεντεσέδες
- Πως
- Ωστόσο
- HTTPS
- ιδανικό
- σημαντικό
- βελτίωση
- in
- Μεμονωμένα
- βιομηχανία
- πληροφορίες
- ενημερώνεται
- Ενσωμάτωση
- Νοημοσύνη
- προορίζονται
- εσωτερικός
- εμπλέκω
- συμμετοχή
- ζήτημα
- Εκδόθηκε
- IT
- ΤΟΥ
- εαυτό
- jpg
- Ιούλιος
- μόλις
- πλήκτρα
- εν γνώσει
- Γλώσσα
- Επίθετο
- αγωγή
- Αγωγές
- μάθηση
- ελάχιστα
- Μου αρέσει
- Περιωρισμένος
- Μακριά
- πολύς καιρός
- μηχανή
- μάθηση μηχανής
- μεγάλες
- κάνω
- διαχειρίζεται
- υλικό
- νόημα
- μέλος
- Meta
- Μεταδεδομένα
- ενδέχεται να
- εκατομμύρια
- Εξόρυξη
- λάθος
- Μετριάζω
- μοντέλα
- πολύ
- Ανάγκη
- Νέα
- Όχι.
- Notes
- of
- Αξιωματικός
- omri
- on
- ONE
- or
- οργανώσεις
- ΑΛΛΑ
- έξω
- Επίβλεψη
- μέρος
- μέρη
- Πληρωμή
- People
- προσωπικός
- που αφορούν
- Φωτογραφίες
- σχεδιασμό
- φώναξε
- πλατφόρμες
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- Σημείο
- σημεία
- πολιτική
- δυνατός
- δυναμικού
- ενδεχομένως
- ακριβώς
- πρόληψη
- ιδιωτικός
- Διεργασίες
- επαγγελματίας
- προμηθευτής
- Παρόχους υπηρεσιών
- δημοσίως
- σκοποί
- Βάζοντας
- ποιότητα
- ερώτηση
- ταχέως
- μάλλον
- Πραγματικότητα
- λόγος
- έλαβε
- πρόσφατα
- Reuters
- δεξιά
- Κίνδυνος
- κινδύνους
- s
- ίδιο
- Σαν
- Σαν Φρανσίσκο
- λέει
- ασφάλεια
- ευαίσθητος
- υπηρεσία
- Υπηρεσίες
- αυτή
- θα πρέπει να
- παρόμοιες
- μερικοί
- Πηγή
- Ξεκινήστε
- εκκίνηση
- Βήμα
- κατάστημα
- αποθηκεύονται
- τέτοιος
- βέβαιος
- συστήματα
- tech
- τεχνολογίας
- Τεχνολογία
- εταιρείες τεχνολογίας
- όροι
- από
- ότι
- Η
- τους
- Τους
- Εκεί.
- Αυτοί
- αυτοί
- πράγμα
- Τρίτος
- τρίτους
- τρίτους
- αυτό
- φέτος
- εκείνοι
- ώρα
- προς την
- πολύ
- εργαλείο
- εργαλεία
- Τρένο
- εκπαιδευμένο
- Εκπαίδευση
- μεταφορά
- Διαφάνεια
- δύο
- υπό
- κατανόηση
- us
- Χρήση
- χρήση
- μεταχειρισμένος
- Χρήστες
- Η εμπειρία χρήστη
- Χρήστες
- χρησιμοποιώντας
- Κενό
- πωλητές
- πολύ
- Βίντεο
- τηλεδιάσκεψη
- προβολή
- Ευάλωτες
- Τρόπος..
- we
- ήταν
- Τι
- πότε
- Ποιό
- ενώ
- Ο ΟΠΟΊΟΣ
- θα
- με
- χωρίς
- λόγια
- λειτουργεί
- θα
- έτος
- Σας
- zephyrnet