Διαδικτυακό σεμινάριο σχετικά με την NSF Proposal Solicitation: Safe-Learning Enabled Systems

Το Εθνικό Ίδρυμα Επιστημών (NSF) θα διοργανώσει ένα διαδικτυακό σεμινάριο για την υποβολή προτάσεων "Συστήματα με δυνατότητα ασφαλούς μάθησης” στις 5 Απριλίου 2023, 1:00-2:00 μ.μ. ανατολική ώρα.

Σύνοψη του διαδικτυακού σεμιναρίου: Καθώς τα συστήματα τεχνητής νοημοσύνης (AI) αυξάνονται γρήγορα σε μέγεθος, αποκτούν νέες δυνατότητες και αναπτύσσονται σε περιβάλλοντα υψηλού πονταρίσματος, η ασφάλειά τους γίνεται εξαιρετικά σημαντική. Η διασφάλιση της ασφάλειας του συστήματος απαιτεί περισσότερα από τη βελτίωση της ακρίβειας, της αποτελεσματικότητας και της επεκτασιμότητας: απαιτεί τη διασφάλιση ότι τα συστήματα είναι ανθεκτικά σε ακραία γεγονότα και την παρακολούθηση τους για ανώμαλη και ανασφαλή συμπεριφορά.

Ο στόχος του προγράμματος Safe Learning-Enabled Systems, το οποίο είναι μια συνεργασία μεταξύ του National Science Foundation, της Open Philanthropy και της Good Ventures, είναι να προωθήσει τη θεμελιώδη έρευνα που οδηγεί στο σχεδιασμό και την εφαρμογή συστημάτων με δυνατότητα μάθησης στα οποία διασφαλίζεται η ασφάλεια με υψηλά επίπεδα αυτοπεποίθησης. Ενώ τα παραδοσιακά συστήματα μηχανικής εκμάθησης αξιολογούνται σημειακά σε σχέση με ένα σταθερό σύνολο δοκιμών, αυτή η στατική κάλυψη παρέχει μόνο περιορισμένη βεβαιότητα όταν εκτίθεται σε πρωτόγνωρες συνθήκες σε περιβάλλοντα λειτουργίας υψηλού κινδύνου. Η επαλήθευση ότι τα στοιχεία εκμάθησης τέτοιων συστημάτων επιτυγχάνουν εγγυήσεις ασφάλειας για όλες τις πιθανές εισροές μπορεί να είναι δύσκολη, αν όχι αδύνατη. Αντίθετα, οι εγγυήσεις ασφάλειας ενός συστήματος θα πρέπει συχνά να καθιερωθούν σε σχέση με συστηματικά παραγόμενα δεδομένα από ρεαλιστικά (αλλά κατάλληλα απαισιόδοξα) λειτουργικά περιβάλλοντα. Η ασφάλεια απαιτεί επίσης ανθεκτικότητα σε «άγνωστα άγνωστα», κάτι που απαιτεί βελτιωμένες μεθόδους παρακολούθησης για απροσδόκητους περιβαλλοντικούς κινδύνους ή ανώμαλες συμπεριφορές του συστήματος, ακόμη και κατά την ανάπτυξη. Σε ορισμένες περιπτώσεις, η ασφάλεια μπορεί να απαιτεί περαιτέρω νέες μεθόδους για την αντίστροφη μηχανική, την επιθεώρηση και την ερμηνεία της εσωτερικής λογικής των μαθημένων μοντέλων για τον εντοπισμό απροσδόκητης συμπεριφοράς που δεν θα μπορούσε να βρεθεί μόνο με τη δοκιμή μαύρου κουτιού και μεθόδους για τη βελτίωση της απόδοσης με άμεση προσαρμογή την εσωτερική λογική των συστημάτων. Όποια και αν είναι η ρύθμιση, οι εγγυήσεις ασφάλειας από άκρο σε άκρο οποιουδήποτε συστήματος με δυνατότητα εκμάθησης πρέπει να προσδιορίζονται με σαφήνεια και ακρίβεια. Κάθε σύστημα που ισχυρίζεται ότι πληροί μια προδιαγραφή ασφαλείας πρέπει να παρέχει αυστηρά στοιχεία, μέσω αναλύσεων που επιβεβαιώνονται εμπειρικά ή/και με μαθηματική απόδειξη.

Αυτό το διαδικτυακό σεμινάριο θα συζητήσει την πρόσκληση και θα απαντήσει σε ερωτήσεις από την ερευνητική κοινότητα.

Εγγραφείτε στο webinar εδώ.