Το Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ (DHS) έχει έναν οδικό χάρτη τεχνητής νοημοσύνης και μια τριάδα δοκιμαστικών έργων για την ανάπτυξη της τεχνολογίας, ένα από τα οποία στοχεύει στην εκπαίδευση αξιωματικών μετανάστευσης χρησιμοποιώντας γενετική τεχνητή νοημοσύνη. Τι θα μπορούσε ενδεχομένως να πάει στραβά;
Κανένας προμηθευτής τεχνητής νοημοσύνης δεν κατονομάστηκε στην έκθεση, η οποία ισχυρίστηκε ότι η χρήση της τεχνολογίας είχε σκοπό να βοηθήσει τους εκπαιδευόμενους να κατανοήσουν καλύτερα και να διατηρήσουν τις «κρίσιμες πληροφορίες», καθώς και να «αυξήσουν την ακρίβεια της διαδικασίας λήψης αποφάσεων».
Είναι είπε ότι Οι OpenAI, Anthropic και Meta, καθώς και οι γίγαντες cloud, Microsoft, Google και Amazon, έχουν παράσχει στην Homeland Security τεχνολογία AI και διαδικτυακές υπηρεσίες για πειραματισμό, όσον αφορά την εκπαίδευση και τη λήψη αποφάσεων.
«Οι Υπηρεσίες Ιθαγένειας και Μετανάστευσης των ΗΠΑ (USCIS) θα πιλοτάρουν τη χρήση LLM για να βοηθήσουν στην εκπαίδευση των Υπαλλήλων Προσφύγων, Ασύλου και Διεθνών Επιχειρήσεων σχετικά με τον τρόπο διεξαγωγής συνεντεύξεων με αιτούντες νόμιμη μετανάστευση», δήλωσε ο Uncle Sam οδικός χάρτης [PDF], που κυκλοφόρησε χθες το βράδυ, εξηγεί.
Παρά πρόσφατη δουλειά σχετικά με τον μετριασμό των ανακρίβειων στα μοντέλα τεχνητής νοημοσύνης, τα LLMs είναι γνωστό ότι παράγουν ανακριβείς πληροφορίες με το είδος της εμπιστοσύνης που μπορεί να ενοχλήσει έναν νεαρό εκπαιδευόμενο.
Οι διαταραχές – που αναφέρονται ως «παραισθήσεις» – καθιστούν δύσκολο να εμπιστευτείς την παραγωγή της τεχνητής νοημοσύνης chatbots, δημιουργία εικόνας και ακόμη και εργασία νομικού βοηθού, με περισσότερα από ένας δικηγόρος να μπει σε μπελάδες για την αναφορά ψεύτικων υποθέσεων που δημιουργήθηκαν από τον αέρα από το ChatGPT.
Είναι επίσης γνωστό ότι τα LLM παρουσιάζουν φυλετική και έμφυλη προκατάληψη όταν αναπτύσσονται πρόσληψη εργαλείων, φυλετική και φυλετική προκατάληψη όταν χρησιμοποιείται σε αναγνώριση προσώπου συστήματα, και μπορεί ακόμη παρουσιάζουν ρατσιστικές προκαταλήψεις κατά την επεξεργασία λέξεων, όπως φαίνεται στο α πρόσφατο έγγραφο όπου διάφοροι LLM λαμβάνουν μια απόφαση για ένα άτομο με βάση μια σειρά προτροπών κειμένου. Οι ερευνητές ανέφεραν στην εργασία τους τον Μάρτιο ότι οι αποφάσεις LLM σχετικά με άτομα που χρησιμοποιούν αφροαμερικανική διάλεκτο αντανακλούν ρατσιστικά στερεότυπα.
Ωστόσο, το DHS ισχυρίζεται ότι έχει δεσμευτεί να διασφαλίσει ότι η χρήση του AI «είναι υπεύθυνη και αξιόπιστη. προστατεύει το απόρρητο, τα πολιτικά δικαιώματα και τις πολιτικές ελευθερίες· αποφεύγει τις ακατάλληλες προκαταλήψεις. και είναι διαφανές και εξηγήσιμο στους εργαζόμενους και στα άτομα που υποβάλλονται σε επεξεργασία. Ωστόσο, δεν αναφέρει ποιες διασφαλίσεις υπάρχουν.
Ο οργανισμός ισχυρίζεται ότι η χρήση γενετικής τεχνητής νοημοσύνης θα επιτρέψει στο DHS να «ενισχύει» το έργο των υπαλλήλων μετανάστευσης, με μια διαδραστική εφαρμογή που χρησιμοποιεί γενετική τεχνητή νοημοσύνη υπό ανάπτυξη για να βοηθήσει στην εκπαίδευση αξιωματικών. Ο στόχος περιλαμβάνει τον περιορισμό της ανάγκης για επανεκπαίδευση με την πάροδο του χρόνου.
Η μεγαλύτερη έκθεση του DHS περιγράφει τα σχέδια του Υπουργείου για την τεχνολογία γενικότερα και, σύμφωνα με τον Alejandro N Mayorkas, Υπουργό Εσωτερικής Ασφάλειας των ΗΠΑ, «είναι το πιο λεπτομερές σχέδιο τεχνητής νοημοσύνης που έχει υποβάλει μια ομοσπονδιακή υπηρεσία μέχρι σήμερα».
Άλλα δύο πιλοτικά έργα θα περιλαμβάνουν τη χρήση συστημάτων βασισμένων σε LLM σε έρευνες και την εφαρμογή γενετικής τεχνητής νοημοσύνης στη διαδικασία μετριασμού των κινδύνων για τις τοπικές κυβερνήσεις.
Η ιστορία επαναλαμβάνεται
Το DHS έχει χρησιμοποιήσει AI για περισσότερο από μια δεκαετία, συμπεριλαμβανομένης της τεχνολογίας μηχανικής εκμάθησης (ML) για επαλήθευση ταυτότητας. Η προσέγγισή του μπορεί καλύτερα να περιγραφεί ως αμφιλεγόμενη, με την υπηρεσία να βρίσκεται στο άκρο νομικές επιστολές πάνω από τη χρήση τεχνολογίας αναγνώρισης προσώπου. Ωστόσο, οι ΗΠΑ έχουν προχωρήσει παρά ανησυχία από κάποιες πλευρές.
Πράγματι, το DHS αναφέρει την τεχνητή νοημοσύνη ως κάτι που χρησιμοποιεί για να κάνει τα ταξίδια «ασφαλέστερα και ευκολότερα» – ποιος θα μπορούσε ενδεχομένως να αντιταχθεί στη λήψη μιας φωτογραφίας για να βοηθήσει στην πλοήγηση στο θέατρο ασφαλείας που είναι πολύ διαδεδομένο στα αεροδρόμια; Εξάλλου, εξακολουθεί να είναι προαιρετικό.
Άλλα παραδείγματα χρήσης τεχνητής νοημοσύνης που δίνονται από το DHS περιλαμβάνουν τη διέλευση παλαιότερων εικόνων για τον εντοπισμό προηγούμενων άγνωστων θυμάτων εκμετάλλευσης, την εκτίμηση της ζημιάς μετά από μια καταστροφή και την παραλαβή λαθρέμπορων με τον εντοπισμό ύποπτης συμπεριφοράς.
Στον οδικό του χάρτη, το DHS σημείωσε τις προκλήσεις που υπάρχουν παράλληλα με τις ευκαιρίες. Τα εργαλεία τεχνητής νοημοσύνης είναι εξίσου προσβάσιμα από τους παράγοντες απειλών καθώς και από τις αρχές, και το DHS ανησυχεί ότι οι επιθέσεις μεγαλύτερης κλίμακας είναι προσβάσιμες σε κυβερνοεγκληματίες, καθώς και επιθέσεις σε υποδομές ζωτικής σημασίας. Και μετά υπάρχει η απειλή από το περιεχόμενο που δημιουργείται με τεχνητή νοημοσύνη.
Έχουν τεθεί ορισμένοι στόχοι για το 2024. Αυτοί περιλαμβάνουν τη δημιουργία ενός AI Sandbox στο οποίο οι χρήστες του DHS μπορούν να παίξουν με την τεχνολογία και την πρόσληψη 50 ειδικών AI. Σχεδιάζει επίσης μια άσκηση HackDHS στην οποία οι ελεγμένοι ερευνητές θα επιφορτιστούν με την εύρεση τρωτών σημείων στα συστήματά της. ®
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://go.theregister.com/feed/www.theregister.com/2024/03/19/us_department_of_security_talks/
- :έχει
- :είναι
- :που
- $UP
- 2024
- 50
- 7
- a
- Σχετικα
- προσιτός
- Σύμφωνα με
- ακρίβεια
- φορείς
- αφρικανικός
- Μετά το
- πρακτορείο
- εμπρός
- AI
- Μοντέλα AI
- στόχοι
- ΑΕΡΑ
- αεροδρόμια
- Όλα
- επιτρέπουν
- κατά μήκος της πλευράς
- Επίσης
- Amazon
- Αμερικανικη
- an
- και
- Ανθρωπικός
- αιτούντες
- Εφαρμογή
- εφαρμόζοντας
- πλησιάζω
- ΕΙΝΑΙ
- AS
- Αξιολόγηση
- βοηθήσει
- Βοηθός
- Επιθέσεις
- Αρχές
- Αποτρέπει
- βασίζονται
- BE
- ήταν
- συμπεριφορά
- είναι
- ΚΑΛΎΤΕΡΟΣ
- Καλύτερα
- προκατάληψη
- μεροληψίες
- και οι δύο
- by
- CAN
- περιπτώσεις
- προκλήσεις
- ChatGPT
- πολιτικής
- Πολιτικά δικαιώματα
- ισχυρίστηκε
- αξιώσεις
- Backup
- CO
- δεσμεύεται
- Διεξαγωγή
- εμπιστοσύνη
- περιεχόμενο
- αμφιλεγόμενος
- θα μπορούσε να
- δημιουργία
- κρίσιμης
- Υποδομές κρίσιμης σημασίας
- κρίσιμος
- εγκληματίες του κυβερνοχώρου
- βλάβη
- Ημερομηνία
- δεκαετία
- απόφαση
- Λήψη Αποφάσεων
- αποφάσεις
- Τμήμα
- Υπουργείο Εσωτερικής Ασφάλειας
- παρατάσσω
- αναπτυχθεί
- περιγράφεται
- Παρά
- λεπτομερής
- Ανάπτυξη
- DHS
- καταστροφή
- doesn
- ευκολότερη
- τέλος
- ενίσχυση
- εξασφαλίζοντας
- Even
- παραδείγματα
- Άσκηση
- έκθεμα
- υπάρχουν
- πείραμα
- εμπειρογνώμονες
- Εξηγεί
- εκμετάλλευση
- προσώπου
- αναγνώριση προσώπου
- απομίμηση
- Ομοσπονδιακός
- εύρεση
- φουσκώματα
- Για
- Προς τα εμπρός
- από
- γεναί
- Φύλο
- γενικά
- παράγουν
- παράγεται
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- να πάρει
- γίγαντες
- δεδομένου
- Go
- γκολ
- Στόχοι
- Κυβέρνηση
- Σκληρά
- Έχω
- που έχει
- βοήθεια
- Πρόσληψη
- πατρίδα
- Εσωτερικής Ασφάλειας
- Πως
- Πώς να
- Ωστόσο
- HTML
- HTTPS
- προσδιορίσει
- προσδιορισμό
- Ταυτότητα
- Επαλήθευση ταυτότητας
- εικόνες
- μετανάστευση
- in
- ανακριβής
- περιλαμβάνουν
- περιλαμβάνει
- Συμπεριλαμβανομένου
- Αυξάνουν
- πληροφορίες
- Υποδομή
- προορίζονται
- διαδραστικό
- International
- συνεντεύξεις
- σε
- Διερευνήσεις
- εμπλέκω
- IT
- ΤΟΥ
- jpg
- μόλις
- γνωστός
- μεγαλύτερος
- Επίθετο
- μάθηση
- Νομικά
- περιορίζοντας
- LLM
- τοπικός
- μηχανή
- μάθηση μηχανής
- κάνω
- Κατασκευή
- Μάρτιος
- Meta
- Microsoft
- ενδέχεται να
- μετριασμός
- μείωση
- ML
- μοντέλα
- περισσότερο
- πλέον
- Ονομάστηκε
- Πλοηγηθείτε
- Ανάγκη
- βράδυ
- Σημειώνεται
- αριθμός
- αντικείμενο
- of
- Αξιωματικός
- αξιωματικών
- ηλικιωμένων
- on
- ONE
- διαδικτυακά (online)
- OpenAI
- λειτουργίες
- Ευκαιρίες
- ΑΛΛΑ
- έξω
- περιγράφει
- παραγωγή
- επί
- Χαρτί
- People
- person
- συλλογή
- πιλότος
- Πιλοτικά έργα
- Μέρος
- σχέδιο
- φώναξε
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- Δοκιμάστε να παίξετε
- πιθανώς
- επικρατών
- προηγούμενος
- μυστικότητα
- διαδικασια μας
- Επεξεργασμένο
- μεταποίηση
- έργα
- προτρέπει
- παρέχεται
- πίεσε
- βάζω
- ρατσιστής
- φθάσουν
- λήψη
- αναγνώριση
- αναφέρεται
- αντανακλούν
- πρόσφυγας
- αφορά
- κυκλοφόρησε
- αναφέρουν
- αναφέρθηκαν
- ερευνητές
- υπεύθυνος
- διατηρώ
- δικαιώματα
- οδικός χάρτης
- s
- διασφαλίσεις
- Ασφαλέστερο
- Sam
- sandbox
- λένε
- Κλίμακα
- γραμματέας
- ασφάλεια
- Σειρές
- Υπηρεσίες
- σειρά
- παρουσιάζεται
- μερικοί
- κάτι
- Ακόμη
- ύποπτος
- συστήματα
- λαμβάνεται
- tech
- Τεχνολογία
- δοκιμή
- κείμενο
- από
- ότι
- Η
- τους
- τότε
- Εκεί.
- Αυτοί
- λεπτός
- λεπτός αέρας
- απειλή
- απειλή
- Μέσω
- ώρα
- προς την
- πολύ
- εργαλεία
- Τρένο
- Εκπαίδευση
- διαφανής
- ταξίδι
- Μουσικό τρίο
- ταλαιπωρία
- Εμπιστευθείτε
- αξιόπιστος
- δύο
- τύπος
- υπό
- καταλαβαίνω
- άγνωστος
- us
- χρήση
- μεταχειρισμένος
- Χρήστες
- χρησιμοποιώντας
- διάφορα
- πωλητές
- Επαλήθευση
- έλεγχος
- θύματα
- Θέματα ευπάθειας
- ήταν
- ΛΟΙΠΌΝ
- ήταν
- Τι
- πότε
- Ποιό
- Ο ΟΠΟΊΟΣ
- θα
- με
- εντός
- λόγια
- Εργασία
- εργαζομένων
- Λανθασμένος
- νέος
- zephyrnet