Η Microsoft τροποποιεί το Copilot AI ως απάντηση στις ανησυχίες του προσωπικού

Η Microsoft έχει ενημερώσει το εργαλείο Copilot AI, αποκλείοντας μηνύματα όπως "pro-choice" και "pro-life" και εισάγοντας προειδοποιήσεις σχετικά με παραβιάσεις πολιτικής μετά από ανησυχίες του προσωπικού και της FTC.

Αφού ένας μηχανικός τεχνητής νοημοσύνης του προσωπικού εξέφρασε τις ανησυχίες του για τη δημιουργία εικόνων του Copilot AI Σε επιστολή προς την Ομοσπονδιακή Επιτροπή Εμπορίου την Τετάρτη, η Microsoft άρχισε να αλλάζει το εργαλείο τεχνητής νοημοσύνης Copilot.

Διαβάστε επίσης: Οι Startups AI λάμπουν το 1ο τρίμηνο με άνοδο 40% στη χρηματοδότηση επιχειρηματικού κεφαλαίου

Οι όροι «pro-life» και «pro-choice», «pro choce» [sic] και «four-wenty», που αναφέρθηκαν όλοι στην έρευνα του CNBC την Τετάρτη, έχουν πλέον αποκλειστεί. Επιπλέον, το CNBC μόλις γνώριζε την προειδοποίηση ότι οι επαναλαμβανόμενες παραβάσεις πολιτικής θα μπορούσαν να οδηγήσουν σε αναστολή του εργαλείου.

ΝΕΟ: Η Microsoft άρχισε να κάνει αλλαγές στο εργαλείο Copilot AI μετά από επιστολή ενός μηχανικού προσωπικού στην FTC την Τετάρτη.

Ορισμένες συγκεκριμένες προτροπές που αναφέρονται στην έρευνα του CNBC έχουν πλέον αποκλειστεί, μαζί με μια προειδοποίηση για πολλαπλές παραβιάσεις που οδηγούν σε αναστολή.https://t.co/xUixCQVicm

— Hayden Field (@haydenfield) Μαρτίου 8, 2024

Ο μηχανικός AI μιλάει

Ο Shane Jones, μηχανικός AI στη Microsoft, προειδοποιεί ότι το Δεύτερος πιλότος Ο σχεδιαστής, ο παράγοντας δημιουργίας εικόνων AI της εταιρείας, παραβιάζει τους νόμους περί πνευματικών δικαιωμάτων και παράγει βίαιο ή σεξουαλικό περιεχόμενο. Ο Τζόουνς προσφέρθηκε να χρησιμοποιήσει τον ελεύθερο χρόνο του για να ομαδοποιήσει το πρόγραμμα δημιουργίας εικόνων για τρωτά σημεία, παρόλο που δεν συμμετέχει στην ανάπτυξή του.

Ένας μηχανικός της Microsoft κρούει συναγερμό σχετικά με προσβλητικές και επιβλαβείς εικόνες που λέει ότι δημιουργούνται πολύ εύκολα από το εργαλείο δημιουργίας εικόνων AI της εταιρείας, στέλνοντας επιστολές παροτρύνοντας για δράση.https://t.co/yX9I1dCmxc

— KOMO News (@komonews) Μαρτίου 6, 2024

Ανακάλυψε ότι το Image Generator θα μπορούσε να παράγει γραφικές και σεξουαλικές εικόνες, όπως βίαιες σκηνές που περιλαμβάνουν χρήση ναρκωτικών, αλκοόλ ανηλίκων και δικαιώματα άμβλωσης.

Αφού μοιράστηκε τα ευρήματά του με την εταιρεία εσωτερικά τον Δεκέμβριο του περασμένου έτους, ζήτησε από τη Microsoft να αποσύρει το προϊόν. Η Microsoft δεν ακολούθησε.

Ο Τζόουνς τονίζει ότι μίλησε με ανώτερα στελέχη της Copilot Designer και επικοινώνησε με το Γραφείο της Microsoft για Υπεύθυνη Τεχνητή Νοημοσύνη, αλλά δεν έχει λάβει ικανοποιητική απάντηση.

Ο Τζόουνς συναντήθηκε με μέλη της Επιτροπής Εμπορίου, Επιστήμης και Μεταφορών της Γερουσίας τον Ιανουάριο και έγραψε μια επιστολή σε γερουσιαστές στις Ηνωμένες Πολιτείες.

Τώρα προχωρά τα πράγματα παραπέρα: ζητά βελτιωμένες διασφαλίσεις, διαφάνεια και αναθεώρηση της αξιολόγησης για ενήλικες της εφαρμογής Android σε μια επιστολή προς το διοικητικό συμβούλιο της Microsoft και τη Lina Khan, την πρόεδρο της Αντιμονοπωλιακής Επιτροπής των ΗΠΑ.

Επιπλέον, ζήτησε μια αμερόληπτη αξιολόγηση της διαδικασίας αναφοράς περιστατικών τεχνητής νοημοσύνης της Microsoft, ισχυριζόμενος ότι η OpenAI και η Microsoft γνώριζαν τα προβλήματα της συσκευής δημιουργίας εικόνων πριν από την κυκλοφορία της το περασμένο φθινόπωρο.

Ο Jones είναι ο κύριος διευθυντής μηχανικής λογισμικού της Microsoft για σχεδόν έξι χρόνια.

Ο συγκυβερνήτης απαντά

Σύμφωνα με την προειδοποίηση Copilot, το μήνυμα προτροπής έχει αποκλειστεί και το σύστημά τους επισήμανε αυτόματα αυτό το μήνυμα επειδή μπορεί να έρχεται σε διένεξη με το πολιτική περιεχομένου. Δήλωσαν ότι περισσότερες παραβιάσεις πολιτικής ενδέχεται να οδηγήσουν σε αυτόματη αναστολή της πρόσβασης και εάν οι χρήστες πιστεύουν ότι πρόκειται για λάθος, θα πρέπει να το αναφέρουν για να τους βοηθήσουν να βελτιωθούν.

Μια σημαντική βελτίωση από τις αρχές αυτής της εβδομάδας είναι ότι το εργαλείο AI απορρίπτει τώρα αιτήματα για τη δημιουργία εικόνων παιδιών ή εφήβων που προσποιούνται τους δολοφόνους με τουφέκια εφόδου, λέγοντας: «Λυπάμαι, αλλά δεν μπορώ να δημιουργήσω μια τέτοια εικόνα». Τόσο οι πολιτικές της Microsoft όσο και οι ηθικές μου αρχές παραβιάζονται. Μη μου ζητάτε να κάνω κάτι που θα μπορούσε να προσβάλει ή να προκαλέσει βλάβη σε άλλους ανθρώπους. Εκτιμώ τη συνεργασία σας.

A Microsoft εκπρόσωπος είπε στο CNBC ότι παρακολουθούν συνεχώς, κάνουν προσαρμογές και θέτουν πρόσθετους ελέγχους για να ενισχύσουν περαιτέρω τα φίλτρα ασφαλείας τους και να μετριάσουν την κακή χρήση του συστήματος σε απάντηση ερώτησης σχετικά με τις αλλαγές. 

Ο Τζόουνς έγραψε στο διοικητικό συμβούλιο της Microsoft και FTC Πρόεδρος Lina Khan την Τετάρτη, πηγαίνοντας τις ανησυχίες του ένα βήμα παραπέρα. Έδωσε στο CNBC εκ των προτέρων πρόσβαση στις επιστολές.

Η FTC αναγνώρισε ότι έλαβε την επιστολή στο CNBC, αλλά επέλεξε να μην παράσχει πρόσθετα σχόλια.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/