Ο μη κερδοσκοπικός οργανισμός δημιουργεί ιστότοπο για την παρακολούθηση ατυχημάτων ραγδαίας τεχνητής νοημοσύνης

Αναδημοσίευση από τον Πλάτωνα

Ακολουθούν: 0

Μη κερδοσκοπική δημιουργία ιστότοπου για την παρακολούθηση των αυξανόμενων ατυχιών της τεχνητής νοημοσύνης PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

συνέντευξη Ψευδής εικόνες του Ντόναλντ Τραμπ που υποστηρίζεται από κατασκευασμένους μαύρους ψηφοφόρους, μαθητές μέσης εκπαίδευσης που δημιουργούν πορνογραφικά ψεύτικα με τις συμμαθήτριές τους και το chatbot Gemini της Google παραλείποντας για τη δημιουργία εικόνων λευκών ανθρώπων με ακρίβεια.

Αυτές είναι μερικές από τις τελευταίες καταστροφές που αναφέρονται στο Βάση δεδομένων περιστατικών AI – ένας ιστότοπος που παρακολουθεί όλους τους διαφορετικούς τρόπους με τους οποίους η τεχνολογία πηγαίνει στραβά.

Αρχικά ξεκίνησε ως έργο υπό την αιγίδα του Partnership On AI, μιας ομάδας που προσπαθεί να διασφαλίσει ότι η τεχνητή νοημοσύνη ωφελεί την κοινωνία, η βάση δεδομένων AI Incident είναι τώρα ένας μη κερδοσκοπικός οργανισμός που χρηματοδοτείται από Underwriters Laboratories – το μεγαλύτερο και παλαιότερο (εκτίμηση 1894) ανεξάρτητο εργαστήριο δοκιμών στις Ηνωμένες Πολιτείες. Δοκιμάζει όλα τα είδη προϊόντων – από έπιπλα μέχρι ποντίκια υπολογιστών – και ο ιστότοπός της έχει καταγράψει πάνω από 600 μοναδικά περιστατικά αυτοματισμού και τεχνητής νοημοσύνης μέχρι στιγμής.

«Υπάρχει τεράστια ασυμμετρία πληροφοριών μεταξύ των κατασκευαστών συστημάτων τεχνητής νοημοσύνης και των δημοσίων καταναλωτών – και αυτό δεν είναι δίκαιο», υποστήριξε ο Πάτρικ Χολ, επίκουρος καθηγητής στη Σχολή Επιχειρήσεων του Πανεπιστημίου Τζορτζ Ουάσιγκτον, ο οποίος επί του παρόντος υπηρετεί στο Διοικητικό Συμβούλιο της βάσης δεδομένων AI Incident. . Αυτός είπε Το μητρώο: «Χρειαζόμαστε περισσότερη διαφάνεια και πιστεύουμε ότι είναι δουλειά μας απλώς να μοιραζόμαστε αυτές τις πληροφορίες».

Η βάση δεδομένων περιστατικών AI βασίζεται στο Πρόγραμμα CVE που δημιουργήθηκε από τον μη κερδοσκοπικό οργανισμό ΜΗΤΡΑ ΔΕΣΠΟΤΗ, Ή η Εθνική Διοίκηση Ασφάλειας Μεταφορών Αυτοκινητοδρόμων ιστότοπος που αναφέρει δημόσια αποκαλυπτόμενα τρωτά σημεία στον κυβερνοχώρο και ατυχήματα οχημάτων. «Κάθε φορά που συμβαίνει ένα αεροπορικό δυστύχημα, ένα ατύχημα τρένου ή ένα μεγάλο περιστατικό ασφάλειας στον κυβερνοχώρο, έχει γίνει κοινή πρακτική εδώ και δεκαετίες να καταγράφουμε τι συνέβη, ώστε να προσπαθήσουμε να καταλάβουμε τι πήγε στραβά και μετά να μην το επαναλάβουμε».

Επί του παρόντος, ο ιστότοπος διαχειρίζεται περίπου δέκα άτομα, καθώς και μια χούφτα εθελοντών και εργολάβων που εξετάζουν και δημοσιεύουν περιστατικά που σχετίζονται με την τεχνητή νοημοσύνη στο διαδίκτυο. Heather Frase, ανώτερη συνεργάτιδα στο Georgetown's Κέντρο Ασφάλειας και Αναδυόμενης Τεχνολογίας επικεντρώθηκε στο AI Assessment και ένας διευθυντής της βάσης δεδομένων περιστατικών AI, ισχυρίστηκε ότι ο ιστότοπος είναι μοναδικός καθώς εστιάζει σε πραγματικές επιπτώσεις από τους κινδύνους και τις βλάβες της τεχνητής νοημοσύνης – όχι μόνο ευπάθειες και σφάλματα στο λογισμικό.

Αυτή τη στιγμή ο οργανισμός συλλέγει περιστατικά από την κάλυψη των μέσων ενημέρωσης και εξετάζει θέματα που αναφέρουν άτομα στο Twitter. Η βάση δεδομένων περιστατικών AI κατέγραψε 250 μοναδικά περιστατικά πριν από την κυκλοφορία του ChatGPT τον Νοέμβριο του 2022 και τώρα απαριθμεί πάνω από 600 μοναδικά περιστατικά.

Η παρακολούθηση προβλημάτων με την τεχνητή νοημοσύνη με την πάροδο του χρόνου αποκαλύπτει ενδιαφέρουσες τάσεις και θα μπορούσε να επιτρέψει στους ανθρώπους να κατανοήσουν τις πραγματικές, τρέχουσες βλάβες της τεχνολογίας.

Η αίθουσα του Πανεπιστημίου Τζορτζ Ουάσιγκτον αποκάλυψε ότι περίπου οι μισές από τις αναφορές στη βάση δεδομένων σχετίζονται με τη γενετική τεχνητή νοημοσύνη. Μερικά από αυτά είναι «αστεία, ανόητα πράγματα». άχρηστα προϊόντα πωλείται στο Amazon με τίτλο: "Δεν μπορώ να εκπληρώσω αυτό το αίτημα" - ένα σαφές σημάδι ότι ο πωλητής χρησιμοποίησε ένα μοντέλο μεγάλης γλώσσας για να γράψει περιγραφές - ή άλλες περιπτώσεις ανεπιθύμητων μηνυμάτων που δημιουργήθηκαν από την τεχνητή νοημοσύνη. Αλλά μερικά είναι «πραγματικά κάπως καταθλιπτικά και σοβαρά» – όπως ένα ρομποταξί Cruise που τρέχει και σέρνει μια γυναίκα κάτω από τις ρόδες του σε ένα ατύχημα στο Σαν Φρανσίσκο.

«Η τεχνητή νοημοσύνη είναι κυρίως μια άγρια δύση αυτή τη στιγμή και η στάση είναι να πηγαίνεις γρήγορα και να σπάς τα πράγματα», θρηνούσε. Δεν είναι σαφές πώς η τεχνολογία διαμορφώνει την κοινωνία και η ομάδα ελπίζει ότι η βάση δεδομένων περιστατικών AI μπορεί να παρέχει πληροφορίες σχετικά με τους τρόπους κατάχρησης και να τονίσει τις ακούσιες συνέπειες – με την ελπίδα ότι οι προγραμματιστές και οι υπεύθυνοι χάραξης πολιτικής είναι καλύτερα ενημερωμένοι ώστε να μπορούν να βελτιώσουν τα μοντέλα τους ή να ρυθμίσουν τους πιο πιεστικούς κινδύνους.

«Υπάρχει πολλή διαφημιστική εκστρατεία τριγύρω. Οι άνθρωποι μιλούν για υπαρξιακό κίνδυνο. Είμαι βέβαιος ότι η τεχνητή νοημοσύνη μπορεί να θέσει πολύ σοβαρούς κινδύνους για τον ανθρώπινο πολιτισμό, αλλά είναι σαφές για μένα ότι κάποιοι από αυτούς τους πιο πραγματικούς κινδύνους κινδυνεύουν - όπως πολλοί τραυματισμοί που σχετίζονται με αυτοοδηγητικά αυτοκίνητα ή, ξέρετε, η διαιώνιση μεροληψίας μέσω αλγορίθμων που χρησιμοποιούνται στη χρηματοδότηση των καταναλωτών ή στην απασχόληση. Αυτό βλέπουμε».

«Ξέρω ότι χάνουμε πολλά, σωστά; Δεν αναφέρονται ή καταγράφονται όλα από τα μέσα ενημέρωσης. Πολλές φορές οι άνθρωποι μπορεί να μην συνειδητοποιούν καν ότι η βλάβη που βιώνουν προέρχεται από μια τεχνητή νοημοσύνη», παρατήρησε ο Frase. «Περιμένω ότι η σωματική βλάβη θα αυξηθεί πολύ. Βλέπουμε [κυρίως] ψυχολογικές βλάβες και άλλες άυλες βλάβες να συμβαίνουν από μεγάλα γλωσσικά μοντέλα – αλλά μόλις έχουμε γενετική ρομποτική, νομίζω ότι η σωματική βλάβη θα αυξηθεί πολύ».

Η Frase ανησυχεί περισσότερο για τους τρόπους με τους οποίους η τεχνητή νοημοσύνη θα μπορούσε να διαβρώσει τα ανθρώπινα δικαιώματα και τις πολιτικές ελευθερίες. Πιστεύει ότι η συλλογή περιστατικών τεχνητής νοημοσύνης θα δείξει εάν οι πολιτικές έχουν κάνει την τεχνολογία ασφαλέστερη με την πάροδο του χρόνου.

«Πρέπει να μετράς τα πράγματα για να διορθώσεις τα πράγματα», πρόσθεσε ο Χολ.

Η οργάνωση αναζητά πάντα εθελοντές και επί του παρόντος επικεντρώνεται στην καταγραφή περισσότερων περιστατικών και στην αύξηση της ευαισθητοποίησης. Ο Frase τόνισε ότι τα μέλη του γκρουπ δεν είναι λάτρεις της τεχνητής νοημοσύνης: «Πιθανότατα να φανούμε αρκετά κατά της τεχνητής νοημοσύνης, αλλά δεν είμαστε. Θέλουμε πραγματικά να το χρησιμοποιήσουμε. Θέλουμε μόνο το καλό».

Ο Χολ συμφώνησε. «Για να συνεχίσει η τεχνολογία να προχωράει, κάποιος πρέπει απλώς να κάνει τη δουλειά για να την κάνει πιο ασφαλή», είπε. ®