ΣΧΟΛΙΑΣΜΟΣ
Η τεχνητή νοημοσύνη (AI) αλλάζει γρήγορα σχεδόν κάθε πτυχή της καθημερινότητάς μας, από το πώς εργαζόμαστε μέχρι τον τρόπο με τον οποίο προσλαμβάνουμε πληροφορίες και τον τρόπο με τον οποίο καθορίζουμε τους ηγέτες μας. Όπως με κάθε τεχνολογία, η τεχνητή νοημοσύνη είναι ανήθικη, αλλά μπορεί να χρησιμοποιηθεί για την προώθηση της κοινωνίας ή φέρνει κακό.
Τα δεδομένα είναι τα γονίδια που τροφοδοτούν τις εφαρμογές AI. Είναι DNA και RNA όλα τυλιγμένα σε ένα. Όπως λέγεται συχνά κατά την κατασκευή συστημάτων λογισμικού: «σκουπίδια μέσα/σκουπίδια έξω». Η τεχνολογία AI είναι τόσο ακριβής, ασφαλής και λειτουργική όσο οι πηγές δεδομένων στις οποίες βασίζεται. Το κλειδί για να διασφαλιστεί ότι η τεχνητή νοημοσύνη θα εκπληρώσει την υπόσχεσή της και θα αποφύγει τους εφιάλτες της έγκειται στην ικανότητα να κρατάμε τα σκουπίδια έξω και να την εμποδίζουμε να πολλαπλασιαστεί και να αναπαραχθεί σε εκατομμύρια εφαρμογές τεχνητής νοημοσύνης.
Αυτό ονομάζεται προέλευση δεδομένων και δεν μπορούμε να περιμένουμε άλλη μια μέρα για να εφαρμόσουμε ελέγχους που εμποδίζουν το μέλλον της τεχνητής νοημοσύνης μας να γίνει ένας τεράστιος σωρός σκουπιδιών.
Τα κακά δεδομένα οδηγούν σε μοντέλα τεχνητής νοημοσύνης που μπορούν να διαδώσουν ευπάθειες στον κυβερνοχώρο, παραπληροφόρηση και άλλες επιθέσεις παγκοσμίως μέσα σε δευτερόλεπτα. Σημερινή γενετική AI Τα μοντέλα (GenAI) είναι απίστευτα πολύπλοκα, αλλά, στον πυρήνα, τα μοντέλα GenAI απλώς προβλέπουν το καλύτερο επόμενο κομμάτι δεδομένων προς έξοδο, δεδομένου ενός συνόλου υπαρχόντων προηγούμενων δεδομένων.
Μέτρηση Ακρίβειας
Ένα μοντέλο τύπου ChatGPT αξιολογεί το σύνολο των λέξεων που συνθέτουν την αρχική ερώτηση που τέθηκε και όλες τις λέξεις στην απάντηση του μοντέλου μέχρι στιγμής για να υπολογίσει την επόμενη καλύτερη λέξη προς έξοδο. Το κάνει αυτό επανειλημμένα μέχρι να αποφασίσει ότι έχει δώσει αρκετή απάντηση. Ας υποθέσουμε ότι αξιολογείτε την ικανότητα του μοντέλου να συνδυάζει λέξεις που συνθέτουν καλοσχηματισμένες, γραμματικά σωστές προτάσεις που είναι επί του θέματος και γενικά σχετικές με τη συζήτηση. Σε αυτήν την περίπτωση, τα σημερινά μοντέλα είναι εκπληκτικά καλά — μια μέτρηση ακρίβειας.
Βουτήξτε βαθύτερα εάν το κείμενο που παράγεται με AI μεταφέρει πάντα «σωστές» πληροφορίες και υποδεικνύει κατάλληλα το επίπεδο εμπιστοσύνης των μεταφερόμενων πληροφοριών. Αυτό αποκαλύπτει προβλήματα που προέρχονται από μοντέλα που προβλέπουν πολύ καλά κατά μέσο όρο, αλλά όχι τόσο καλά στις ακραίες περιπτώσεις - αντιπροσωπεύοντας ένα πρόβλημα στιβαρότητας. Μπορεί να επιδεινωθεί όταν η κακή παραγωγή δεδομένων από μοντέλα τεχνητής νοημοσύνης αποθηκεύεται στο διαδίκτυο και χρησιμοποιείται ως μελλοντικά δεδομένα εκπαίδευσης για αυτά και άλλα μοντέλα.
Οι κακές εξόδους μπορούν να αναπαραχθούν σε μια κλίμακα που δεν έχουμε δει ποτέ, προκαλώντας έναν βρόχο καταστροφής AI προς τα κάτω.
Εάν ένας κακός ηθοποιός ήθελε να βοηθήσει αυτή τη διαδικασία, θα μπορούσε σκόπιμα να ενθαρρύνει επιπλέον κακά δεδομένα να παράγονται, να αποθηκεύονται και να διαδίδονται - οδηγώντας σε ακόμα περισσότερη παραπληροφόρηση που βγαίνει από τα chatbots ή κάτι τόσο κακό και τρομακτικό όσο τα μοντέλα αυτόματου πιλότου αυτοκινήτων που αποφασίζουν ότι χρειάζονται στρίψτε γρήγορα ένα αυτοκίνητο προς τα δεξιά, παρόλο που τα αντικείμενα είναι εμπόδια αν «βλέπουν» μια ειδικά φτιαγμένη εικόνα μπροστά τους (υποθετικά, φυσικά).
Μετά από δεκαετίες, η βιομηχανία ανάπτυξης λογισμικού — με επικεφαλής τον Οργανισμό Ασφάλειας Υποδομής Κυβερνοασφάλειας — υλοποιεί επιτέλους μια ασφαλής κατά σχεδιασμό δομή. Ασφαλής-από-σχεδιασμός επιβάλλει ότι η κυβερνοασφάλεια βρίσκεται στο θεμέλιο της διαδικασίας ανάπτυξης λογισμικού και μια από τις βασικές αρχές της απαιτεί την καταλογογράφηση κάθε στοιχείου ανάπτυξης λογισμικού — λογαριασμός υλικών λογισμικού (SBOM) — για την ενίσχυση της ασφάλειας και της ανθεκτικότητας. Τέλος, η ασφάλεια αντικαθιστά την ταχύτητα ως τον πιο κρίσιμο παράγοντα κυκλοφορίας στην αγορά.
Διασφάλιση σχεδίων AI
Το AI χρειάζεται κάτι παρόμοιο. Ο βρόχος ανάδρασης AI αποτρέπει κοινές τεχνικές άμυνας στο παρελθόν στον κυβερνοχώρο, όπως η παρακολούθηση υπογραφών κακόβουλου λογισμικού, η δημιουργία περιμέτρων γύρω από πόρους δικτύου ή η σάρωση ανθρώπινου γραμμένου κώδικα για τρωτά σημεία. Πρέπει να κάνουμε τα ασφαλή σχέδια τεχνητής νοημοσύνης ως απαίτηση κατά τη βρεφική ηλικία της τεχνολογίας, ώστε η τεχνητή νοημοσύνη να μπορεί να γίνει ασφαλής πολύ πριν ανοίξει το κουτί της Πανδώρας.
Λοιπόν, πώς λύνουμε αυτό το πρόβλημα; Πρέπει να βγάλουμε μια σελίδα από τον ακαδημαϊκό κόσμο. Εκπαιδεύουμε μαθητές με εξαιρετικά επιμελημένα δεδομένα κατάρτισης, που ερμηνεύονται και μεταφέρονται σε αυτούς μέσω μιας βιομηχανίας δασκάλων. Συνεχίζουμε αυτήν την προσέγγιση για να διδάσκουμε ενήλικες, αλλά οι ενήλικες αναμένεται να κάνουν οι ίδιοι περισσότερη επιμέλεια δεδομένων.
Η εκπαίδευση μοντέλων τεχνητής νοημοσύνης πρέπει να ακολουθήσει μια προσέγγιση επιμελημένων δεδομένων δύο σταδίων. Αρχικά, τα βασικά μοντέλα τεχνητής νοημοσύνης θα εκπαιδεύονται χρησιμοποιώντας τρέχουσες μεθοδολογίες χρησιμοποιώντας τεράστιες ποσότητες λιγότερο επιμελημένων συνόλων δεδομένων. Αυτά τα βασικά μοντέλα μεγάλων γλωσσών (LLM) θα ήταν κατά προσέγγιση ανάλογα με ένα νεογέννητο μωρό. Στη συνέχεια, τα μοντέλα βασικού επιπέδου θα εκπαιδεύονται με εξαιρετικά επιμελημένα σύνολα δεδομένων παρόμοια με το πώς τα παιδιά διδάσκονται και μεγαλώνουν για να γίνουν ενήλικες.
Η προσπάθεια δημιουργίας μεγάλων, επιμελημένων συνόλων δεδομένων εκπαίδευσης για όλους τους τύπους στόχων δεν θα είναι μικρή. Αυτό είναι ανάλογο με όλη την προσπάθεια που καταβάλλουν οι γονείς, τα σχολεία και η κοινωνία για να παρέχουν ένα ποιοτικό περιβάλλον και ποιοτικές πληροφορίες για τα παιδιά καθώς εξελίσσονται σε (ελπίζουμε) λειτουργικούς συντελεστές με προστιθέμενη αξία στην κοινωνία. Αυτό είναι το επίπεδο προσπάθειας που απαιτείται για τη δημιουργία ποιοτικών συνόλων δεδομένων για την εκπαίδευση ποιοτικών, εύρυθμων, ελάχιστα κατεστραμμένων μοντέλων τεχνητής νοημοσύνης και θα μπορούσε να οδηγήσει σε μια ολόκληρη βιομηχανία τεχνητής νοημοσύνης και ανθρώπων να συνεργαστούν για να διδάξουν τα μοντέλα τεχνητής νοημοσύνης να είναι καλά στη δουλειά τους. .
Η κατάσταση της σημερινής διαδικασίας εκπαίδευσης AI δείχνει ορισμένα σημάδια αυτής της διαδικασίας δύο σταδίων. Όμως, λόγω της νηπιακής ηλικίας της τεχνολογίας GenAI και της βιομηχανίας, η υπερβολική εκπαίδευση απαιτεί τη λιγότερο επιμελημένη προσέγγιση της πρώτης φάσης.
Όσον αφορά την ασφάλεια της τεχνητής νοημοσύνης, δεν έχουμε την πολυτέλεια να περιμένουμε μια ώρα, πόσο μάλλον μια δεκαετία. Η τεχνητή νοημοσύνη χρειάζεται μια εφαρμογή 23andMe που επιτρέπει την πλήρη ανασκόπηση της «γενεαλογίας αλγορίθμων», ώστε οι προγραμματιστές να μπορούν να κατανοήσουν πλήρως την «οικογενειακή» ιστορία της τεχνητής νοημοσύνης για να αποτρέψουν την αναπαραγωγή χρόνιων προβλημάτων, τη μόλυνση των κρίσιμων συστημάτων στα οποία βασιζόμαστε καθημερινά και τη δημιουργία οικονομικών και κοινωνικών βλαβών που μπορεί να είναι μη αναστρέψιμη.
Η εθνική μας ασφάλεια εξαρτάται από αυτό.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://www.darkreading.com/vulnerabilities-threats/why-you-need-to-know-your-ai-ancestry
- :έχει
- :είναι
- :δεν
- $UP
- 7
- a
- ικανότητα
- Ακαδημία
- ακρίβεια
- ακριβής
- απέναντι
- ενήλικες
- εκ των προτέρων
- πολυτέλεια
- πρακτορείο
- AI
- Μοντέλα AI
- Εκπαίδευση AI
- αλγόριθμος
- Όλα
- alone
- πάντοτε
- Ποσά
- an
- και
- Άλλος
- κάθε
- Εφαρμογή
- εφαρμογές
- πλησιάζω
- κατάλληλα
- ΕΙΝΑΙ
- γύρω
- AS
- άποψη
- At
- Επιθέσεις
- αυτοκινήτων
- μέσος
- Αποτρέπει
- Μωρό
- Κακός
- κακά δεδομένα
- βάση
- BE
- γίνονται
- να γίνει
- πριν
- είναι
- ΚΑΛΎΤΕΡΟΣ
- Νομοσχέδιο
- μαξιλάρα
- Κουτί
- χτίζω
- Κτίριο
- αλλά
- by
- υπολογίσει
- που ονομάζεται
- CAN
- δεν μπορώ
- αυτοκίνητο
- περίπτωση
- περιπτώσεις
- προκαλώντας
- chatbots
- Παιδιά
- κωδικός
- Ελάτε
- έρχεται
- ερχομός
- Κοινός
- συγκρότημα
- συστατικό
- σύνθετα
- κατανοώ
- εμπιστοσύνη
- ΣΥΝΕΧΕΙΑ
- συνεισφέροντες
- ελέγχους
- Συνομιλία
- μεταφέρονται
- πυρήνας
- διορθώσει
- κατεστραμμένο
- θα μπορούσε να
- Πορεία
- δημιουργημένο
- δημιουργία
- κρίσιμης
- επιμέλεια
- επιμέλεια
- Ρεύμα
- Κυβερνασφάλεια
- καθημερινά
- ημερομηνία
- σύνολα δεδομένων
- ημέρα
- δεκαετία
- δεκαετίες
- Αποφασίζοντας
- βαθύτερη
- Άμυνα
- εξαρτάται
- σχέδια
- Παρά
- Προσδιορίστε
- προγραμματιστές
- Ανάπτυξη
- Η κ
- do
- κάνει
- χαμός
- βρόχος καταστροφής
- προς τα κάτω
- δυο
- κατά την διάρκεια
- Οικονομικός
- άκρη
- προσπάθεια
- δίνει τη δυνατότητα
- ενθαρρύνει
- αρκετά
- εξασφαλίζοντας
- Περιβάλλον
- αξιολογήσει
- Even
- Κάθε
- κάθε μέρα
- υφιστάμενα
- αναμένεται
- επιπλέον
- παράγοντας
- οικογένεια
- μακριά
- ανατροφοδότηση
- Τελικά
- Για
- Θεμέλιο
- Πλαίσιο
- από
- εμπρός
- πλήρη
- πλήρως
- λειτουργικός
- λειτουργία
- μελλοντικός
- γεναί
- γενικά
- δεδομένου
- Παγκόσμια
- Go-To-Market
- γκολ
- Στόχοι
- καλός
- Grow
- βλάψει
- Έχω
- βοήθεια
- υψηλά
- ιστορία
- Ας ελπίσουμε ότι
- ώρα
- Πως
- Πώς Δουλεύουμε
- HTTPS
- Οι άνθρωποι
- if
- εικόνα
- εφαρμογή
- εκτελεστικών
- in
- απίστευτα
- υποδηλώνει
- βιομηχανία
- πληροφορίες
- Υποδομή
- Νοημοσύνη
- σε
- θέματα
- IT
- ΤΟΥ
- Δουλειά
- jpg
- Διατήρηση
- Κλειδί
- παιδιά
- Ξέρω
- Γλώσσα
- large
- οδηγήσει
- ηγέτες
- που οδηγεί
- Οδηγεί
- Led
- μείον
- ας
- Επίπεδο
- βρίσκεται
- ζωές
- Μακριά
- που
- κάνω
- malware
- εντολές
- μαζική
- υλικά
- Ενδέχεται..
- μέτρηση
- μεθοδολογίες
- εκατομμύρια
- Κακή πληροφορία
- μοντέλο
- μοντέλα
- περισσότερο
- πλέον
- πολύ
- πρέπει
- εθνικός
- Εθνική ασφάλεια
- σχεδόν
- Ανάγκη
- ανάγκες
- δίκτυο
- ποτέ
- επόμενη
- αντικειμένων
- of
- συχνά
- on
- ONE
- διαδικτυακά (online)
- αποκλειστικά
- άνοιξε
- or
- πρωτότυπο
- ΑΛΛΑ
- δικός μας
- έξω
- παραγωγή
- εξόδους
- σελίδα
- γονείς
- Το παρελθόν
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- φτωχός
- δύναμη
- προβλέποντας
- πρόληψη
- αποτρέπει
- προηγούμενος
- Πρόβλημα
- διαδικασια μας
- Παράγεται
- υπόσχεση
- προέλευση
- χορήγηση
- βάζω
- ποιότητα
- ερώτηση
- γρήγορα
- εγείρει
- ταχέως
- στη συνέχεια συναρμολογούνται
- βασίζονται
- ΚΑΤ 'ΕΠΑΝΑΛΗΨΗ
- εκπροσωπούν
- απαιτείται
- απαίτηση
- Υποστηρικτικό υλικό
- απάντησης
- ανασκόπηση
- δεξιά
- RNA
- ευρωστία
- περίπου
- s
- Είπε
- SBOM
- Κλίμακα
- σάρωσης
- Σχολεία
- δευτερόλεπτα
- προστατευμένο περιβάλλον
- ασφάλεια
- ασφάλεια
- δείτε
- δει
- σειρά
- Σέτς
- θα πρέπει να
- Δείχνει
- Υπογραφές
- Σημάδια
- παρόμοιες
- απλά
- small
- So
- μέχρι τώρα
- κοινωνικο
- Κοινωνία
- λογισμικό
- ανάπτυξη λογισμικού
- SOLVE
- μερικοί
- κάτι
- Πηγές
- ειδικώς
- ταχύτητα
- Εκκίνηση
- Κατάσταση
- αποθηκεύονται
- Σπάγγος
- Φοιτητές
- τέτοιος
- συστήματα
- Πάρτε
- παίρνει
- διδακτός
- δασκάλους
- τεχνικές
- Τεχνολογία
- της τεχνολογίας
- δόγματα
- κείμενο
- ότι
- Η
- ο κόσμος
- τους
- Τους
- τους
- τότε
- Αυτοί
- αυτοί
- αυτό
- Μέσω
- προς την
- σήμερα
- μαζι
- πολύ
- τοπικός
- Παρακολούθηση
- Τρένο
- εκπαιδευμένο
- Εκπαίδευση
- τύποι
- μέχρι
- Αποκαλύπτει
- επάνω σε
- μεταχειρισμένος
- χρησιμοποιώντας
- πολύ
- Θέματα ευπάθειας
- περιμένετε
- ήθελε
- Τρόπος..
- we
- ΛΟΙΠΌΝ
- πότε
- ολόκληρο
- WHY
- θα
- με
- λέξη
- λόγια
- Εργασία
- εργαζόμενος
- κόσμος
- θα
- Τυλιγμένο
- Εσείς
- Σας
- zephyrnet