Η Anthropic δημιούργησε ένα δημοκρατικό chatbot AI επιτρέποντας την επιλογή των αρχών του από τους χρήστες.

Si al principi no tens èxit, aleshores el paracaigudisme no és per a tu.

->

Σε μια πρωτοποριακή εξερεύνηση των δυνατοτήτων τεχνητής νοημοσύνης, η Anthropic, μια εταιρεία τεχνητής νοημοσύνης (AI), έχει προσαρμόσει ένα μεγάλο γλωσσικό μοντέλο (LLM) ώστε να αντικατοπτρίζει αξίες που καθορίζονται από τον χρήστη. Αυτή η μοναδική μελέτη περιελάμβανε τη συλλογή πληροφοριών από 1,000 συμμετέχοντες για να τελειοποιήσουν τις απαντήσεις του LLM με βάση τις συλλογικές τους κρίσεις.

Σε αντίθεση με τα συμβατικά LLM εξοπλισμένα με προκαθορισμένα προστατευτικά κιγκλιδώματα για τον περιορισμό ορισμένων εξόδων, η προσέγγιση της Anthropic αγκαλιάζει την αντιπροσωπεία των χρηστών. Μοντέλα όπως ο Claude από το Anthropic και το ChatGPT από το OpenAI συχνά τηρούν προκαθορισμένες αποκρίσεις ασφαλείας, ειδικά όσον αφορά ευαίσθητα θέματα. Ωστόσο, οι επικριτές υποστηρίζουν ότι τέτοιες παρεμβάσεις ενδέχεται να θέσουν σε κίνδυνο την αυτονομία των χρηστών, καθώς ο ορισμός της αποδοχής ποικίλλει και είναι υποκειμενικός μεταξύ πολιτισμών και χρονικών περιόδων.

Μια πιθανή λύση σε αυτήν την περίπλοκη πρόκληση είναι να δοθεί η δυνατότητα στους χρήστες να διαμορφώσουν την ευθυγράμμιση αξίας των μοντέλων τεχνητής νοημοσύνης. Η Anthropic ξεκίνησε το πείραμα «Συλλογική Συνταγματική AI» σε συνεργασία με την Polis και το Collective Intelligence Project. Συμμετέχοντας 1,000 χρήστες από διαφορετικά υπόβαθρα, έθεσαν μια σειρά ερωτήσεων μέσω δημοσκοπήσεων για να συγκεντρώσουν πολύτιμες πληροφορίες.

Το πείραμα περιστρέφεται γύρω από την παροχή στους χρήστες της εξουσίας να προσδιορίσουν την καταλληλότητα χωρίς να τους εκθέσουν σε ανεπιθύμητα αποτελέσματα. Αυτή η διαδικασία περιλάμβανε την απόσπαση αξιών χρήστη και την ενσωμάτωσή τους σε ένα προεκπαιδευμένο μοντέλο. Το Anthropic χρησιμοποιεί μια τεχνική γνωστή ως "Constitutional AI", όπου το μοντέλο παρέχεται με ένα σύνολο κανόνων που πρέπει να ακολουθήσει, παρόμοιο με ένα σύνταγμα που καθοδηγεί τη διακυβέρνηση στα έθνη.

Στο πείραμα της συλλογικής συνταγματικής τεχνητής νοημοσύνης, η Anthropic είχε ως στόχο να ενσωματώσει τα σχόλια από τις ομάδες χρηστών στη δομή του μοντέλου. Σύμφωνα με την ανάρτηση ιστολογίου του Anthropic, τα αποτελέσματα υποδηλώνουν επιστημονική επιτυχία, ρίχνοντας φως στις προκλήσεις που σχετίζονται με το να επιτρέπεται στους χρήστες να ορίζουν συλλογικά τις αξίες ενός προϊόντος LLM.

Ένα αξιοσημείωτο εμπόδιο που αντιμετώπισε η ομάδα ήταν η ανάπτυξη μιας νέας διαδικασίας συγκριτικής αξιολόγησης. Δεδομένης της πρωτοποριακής φύσης του πειράματος και της εξάρτησης από τη μεθοδολογία Constitutional AI της Anthropic, δεν υπάρχει καθιερωμένη δοκιμή για τη σύγκριση των βασικών μοντέλων με εκείνα που έχουν βελτιστοποιηθεί χρησιμοποιώντας τιμές που προέρχονται από το πλήθος.

Στο τέλος, φαίνεται ότι το μοντέλο που ενσωματώνει δεδομένα που προέρχονται από σχόλια από δημοσκοπήσεις χρηστών εμφάνισε μια «ελαφριά» βελτίωση σε σχέση με το βασικό μοντέλο στον μετριασμό των προκατειλημμένων εκροών. Το Anthropic εκφράζει τον ενθουσιασμό όχι μόνο για το προκύπτον μοντέλο αλλά, το πιο σημαντικό, για την ίδια την πρωτοποριακή διαδικασία. Αυτό το πείραμα σηματοδοτεί μια από τις αρχικές περιπτώσεις όπου το κοινό, ως συλλογικότητα, επηρέασε σκόπιμα τη συμπεριφορά ενός μεγάλου γλωσσικού μοντέλου. Η ελπίδα είναι ότι οι κοινότητες παγκοσμίως θα βασιστούν σε τέτοιες τεχνικές για να αναπτύξουν μοντέλα που να ευθυγραμμίζονται με τις συγκεκριμένες πολιτιστικές και συμφραζόμενες ανάγκες τους.