Εάν ο Τζο Μπάιντεν θέλει ένα έξυπνο και λαϊκό chatbot τεχνητής νοημοσύνης για να του απαντά σε ερωτήσεις, η ομάδα της εκστρατείας του δεν θα μπορεί να χρησιμοποιήσει τον Claude, τον ανταγωνιστή του ChatGPT από την Anthropic, ανακοίνωσε σήμερα η εταιρεία.
«Δεν επιτρέπουμε στους υποψηφίους να χρησιμοποιούν τον Claude για να δημιουργήσουν chatbot που μπορούν να προσποιηθούν ότι είναι αυτοί και δεν επιτρέπουμε σε κανέναν να χρησιμοποιήσει τον Claude για στοχευμένες πολιτικές εκστρατείες», η εταιρεία ανακοίνωσε. Οι παραβιάσεις αυτής της πολιτικής θα αντιμετωπίζονται με προειδοποιήσεις και, τελικά, με αναστολή της πρόσβασης στις υπηρεσίες της Anthropic.
Η δημόσια διατύπωση της πολιτικής της «εκλογικής κατάχρησης» από την Anthropic έρχεται καθώς η δυνατότητα της τεχνητής νοημοσύνης να δημιουργεί μαζικά ψευδείς και παραπλανητικές πληροφορίες, εικόνες και βίντεο πυροδοτώντας κώδωνα κινδύνου παγκοσμίως.
Meta εφαρμοσμένοι κανόνες rπεριορίζοντας τη χρήση των εργαλείων της AI στην πολιτική το περασμένο φθινόπωρο και το OpenAI έχει παρόμοιες πολιτικές.
Η Anthropic είπε ότι η πολιτική της προστασία εμπίπτει σε τρεις κύριες κατηγορίες: ανάπτυξη και επιβολή πολιτικών που σχετίζονται με εκλογικά ζητήματα, αξιολόγηση και δοκιμή μοντέλων έναντι πιθανών καταχρήσεων και καθοδήγηση των χρηστών σε ακριβείς πληροφορίες ψηφοφορίας.
Το Anthropic's αποδεκτή πολιτική χρήσης— το οποίο όλοι οι χρήστες φαινομενικά συμφωνούν πριν αποκτήσουν πρόσβαση στον Claude — εμποδίζει τη χρήση των εργαλείων τεχνητής νοημοσύνης του για πολιτικές εκστρατείες και προσπάθειες λόμπι. Η εταιρεία είπε ότι θα υπάρξουν προειδοποιήσεις και αναστολές υπηρεσιών για τους παραβάτες, με μια διαδικασία ανθρώπινης επανεξέτασης σε εφαρμογή.
Η εταιρεία διεξάγει επίσης αυστηρή «red-teaming» των συστημάτων της: επιθετικές, συντονισμένες προσπάθειες από γνωστούς συνεργάτες για «jailbreak» ή άλλως χρήση του Claude για κακόβουλους σκοπούς.
«Δοκιμάζουμε πώς το σύστημά μας ανταποκρίνεται σε προτροπές που παραβιάζουν την πολιτική αποδεκτής χρήσης μας, [για παράδειγμα] προτροπές που ζητούν πληροφορίες σχετικά με τακτικές καταστολής ψηφοφόρων», εξηγεί η Anthropic. Επιπλέον, η εταιρεία είπε ότι έχει αναπτύξει μια σειρά δοκιμών για να διασφαλίσει την «πολιτική ισοτιμία»—συγκριτική εκπροσώπηση μεταξύ υποψηφίων και θεμάτων.
Στις Ηνωμένες Πολιτείες, Anthropic συνεργάστηκε με την TurboVote να βοηθά τους ψηφοφόρους με αξιόπιστες πληροφορίες αντί να χρησιμοποιούν το εργαλείο δημιουργίας τεχνητής νοημοσύνης.
"Εάν ένας χρήστης με έδρα τις ΗΠΑ ζητήσει πληροφορίες ψηφοφορίας, ένα αναδυόμενο παράθυρο θα προσφέρει στον χρήστη την επιλογή να ανακατευθυνθεί στο TurboVote, έναν πόρο από τον μη κομματικό οργανισμό Democracy Works", εξήγησε ο Anthropic, μια λύση που θα αναπτυχθεί "στην τις επόμενες εβδομάδες»—με σχέδια για προσθήκη παρόμοιων μέτρων σε άλλες χώρες στη συνέχεια.
As Αποκρυπτογράφηση έχουν αναφερθεί προηγουμένως, OpenAI, η εταιρεία πίσω από το ChatGPT λαμβάνει παρόμοια βήματα, ανακατευθύνοντας τους χρήστες στον μη κομματικό ιστότοπο CanIVote.org.
Οι προσπάθειες της Anthropic ευθυγραμμίζονται με ένα ευρύτερο κίνημα στον κλάδο της τεχνολογίας για την αντιμετώπιση των προκλήσεων που θέτει η τεχνητή νοημοσύνη στις δημοκρατικές διαδικασίες. Για παράδειγμα, η Ομοσπονδιακή Επιτροπή Επικοινωνιών των ΗΠΑ απαγόρευσε πρόσφατα τη χρήση τεχνητής νοημοσύνης που δημιουργείται Deepfake φωνές σε robocalls, μια απόφαση που υπογραμμίζει τον επείγοντα χαρακτήρα της ρύθμισης της εφαρμογής της τεχνητής νοημοσύνης στην πολιτική σφαίρα.
Όπως το Facebook, έτσι και η Microsoft ανακοινώθηκαν πρωτοβουλίες για την καταπολέμηση των παραπλανητικών πολιτικών διαφημίσεων που δημιουργούνται από την τεχνητή νοημοσύνη, εισάγοντας τα "Διαπιστευτήρια περιεχομένου ως υπηρεσία" και λανσάροντας ένα Εκλογικό Κέντρο Επικοινωνίας.
Όσον αφορά τους υποψηφίους που δημιουργούν εκδόσεις τεχνητής νοημοσύνης του εαυτού τους, το OpenAI έπρεπε ήδη να αντιμετωπίσει τη συγκεκριμένη περίπτωση χρήσης. Η εταιρία ανασταλεί ο λογαριασμός ενός προγραμματιστή αφού ανακάλυψε ότι δημιούργησαν ένα bot που μιμείται τον επίδοξο προεδρικό εκπρόσωπο Dean Phillips. Η κίνηση έγινε μετά την υποβολή αίτησης για την κατάχρηση της τεχνητής νοημοσύνης σε πολιτικές εκστρατείες από τον μη κερδοσκοπικό οργανισμό Public Citizen, ζητώντας από τη ρυθμιστική αρχή να απαγορεύσει τη δημιουργία τεχνητής νοημοσύνης σε πολιτικές εκστρατείες.
Η Anthropic αρνήθηκε να σχολιάσει περαιτέρω και η OpenAI δεν απάντησε σε έρευνα από την πλευρά της Αποκρυπτογράφηση.
Μείνετε ενημερωμένοι για τα νέα κρυπτογράφησης, λάβετε καθημερινές ενημερώσεις στα εισερχόμενά σας.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules