Ο μηχανικός της Google τέθηκε σε αναστολή λόγω παραβίασης των πολιτικών εμπιστευτικότητας σχετικά με την «αισθανόμενη» τεχνητή νοημοσύνη

Η Google έθεσε έναν από τους μηχανικούς λογισμικού της σε διοικητική άδεια μετ' αποδοχών για παραβίαση των πολιτικών εμπιστευτικότητας της εταιρείας.

Από το 2021, ο Blake Lemoine, 41, είχε επιφορτιστεί να μιλήσει με το LaMDA, ή το Language Model for Dialogue Applications, ως μέρος της δουλειάς του στην ομάδα Responsible AI της Google, αναζητώντας εάν το ρομπότ χρησιμοποιούσε διακρίσεις ή ρητορική μίσους.

Το LaMDA είναι «χτισμένο με την τελειοποίηση μιας οικογένειας Μετασχηματιστής- βασισμένα μοντέλα νευρωνικών γλωσσών που είναι εξειδικευμένα για διάλογο, με έως και 137 δισεκατομμύρια παραμέτρους μοντέλων και διδάσκουν τα μοντέλα να αξιοποιούν εξωτερικές πηγές γνώσης. σύμφωνα με την Google.

Είναι αυτό που χρησιμοποιεί η εταιρεία για να δημιουργήσει chatbots και επιστρέφει φαινομενικά σημαντικές απαντήσεις σε ερωτήσεις που βασίζονται σε υλικό που έχει συλλεχθεί από τρισεκατομμύρια συνομιλίες στο Διαδίκτυο και άλλες επικοινωνίες.

Σε κάποιο σημείο κατά τη διάρκεια της έρευνάς του, ωστόσο, ο Lemoine φαίνεται ότι άρχισε να πιστεύει ότι η AI εξέφραζε σημάδια ευαισθησίας. Ο μηχανικός, που έχει έγραψε για την εμπειρία του, λέει ότι προσπάθησε επανειλημμένα να κλιμακώσει τις ανησυχίες του, αλλά απορρίφθηκε με την αιτιολογία ότι δεν είχε στοιχεία.

Έτσι αναζήτησε «εξωτερική διαβούλευση» σχετικά με τις ικανότητες του LaMDA, κάτι που τράβηξε την προσοχή της Google, όπως περιγράφεται σε μια ανάρτηση Medium με τίτλο «Μπορεί να απολυθεί σύντομα για την εκτέλεση εργασιών ηθικής τεχνητής νοημοσύνης».

Η ιστορία συνελήφθη από Η εφημερίδα Washington Post, Τότε Η Wall Street Journal, τη Financial Times, Και πολλά άλλα.

Έχοντας τεθεί σε διοικητική άδεια, την οποία περιέγραψε ως αυτό που κάνει η Google «εν αναμονή της απόλυσης κάποιου», ο Lemoine δημοσίευσε περαιτέρω αυτό που ισχυρίστηκε ότι ήταν μια συνομιλία με τη LaMDA.

Ακολουθούν ορισμένα αποσπάσματα:

Μπορείτε να διαβάσετε ολόκληρη τη «συνέντευξη». εδώ. Αν και είναι εκπληκτικό το γεγονός ότι μια τεχνητή νοημοσύνη μπορεί να το κάνει αυτό, η Google είναι επιφυλακτική για την «ανθρωπομορφοποίηση» που αναφέρει ο Lemoine – δηλαδή αποδίδοντας ανθρώπινα χαρακτηριστικά ή συμπεριφορά σε ζώα ή αντικείμενα.

Σε μια δήλωση προς το Το μητρώο, ο εκπρόσωπος της Google, Μπράιαν Γκάμπριελ, δήλωσε: «Είναι σημαντικό οι Αρχές τεχνητής νοημοσύνης της Google να ενσωματωθούν στην ανάπτυξη της τεχνητής νοημοσύνης μας και το LaMDA δεν αποτελεί εξαίρεση. Αν και άλλοι οργανισμοί έχουν αναπτύξει και έχουν ήδη κυκλοφορήσει παρόμοια γλωσσικά μοντέλα, ακολουθούμε μια συγκρατημένη, προσεκτική προσέγγιση με τη LaMDA για να εξετάσουμε καλύτερα τις έγκυρες ανησυχίες σχετικά με τη δικαιοσύνη και την πραγματικότητα.

«Το LaMDA έχει περάσει από 11 διαφορετικά Κριτικές AI Principles, μαζί με αυστηρή έρευνα και δοκιμές που βασίζονται σε βασικές μετρήσεις ποιότητας, ασφάλειας και ικανότητας του συστήματος να παράγει δηλώσεις βασισμένες σε γεγονότα. ΕΝΑ ερευνητική εργασία που κυκλοφόρησε νωρίτερα αυτό το έτος περιγράφει λεπτομερώς τις εργασίες που αφορούν την υπεύθυνη ανάπτυξη του LaMDA.

«Φυσικά, ορισμένοι στην ευρύτερη κοινότητα της τεχνητής νοημοσύνης εξετάζουν τη μακροπρόθεσμη πιθανότητα της αισθανόμενης ή γενικής τεχνητής νοημοσύνης, αλλά δεν έχει νόημα να το κάνουν ανθρωπομορφοποιώντας τα σημερινά μοντέλα συνομιλίας, τα οποία δεν είναι αισθητά. Αυτά τα συστήματα μιμούνται τους τύπους ανταλλαγών που συναντώνται σε εκατομμύρια προτάσεις και μπορούν να εμπλακούν σε οποιοδήποτε φανταστικό θέμα – αν ρωτήσεις πώς είναι να είσαι δεινόσαυρος παγωτού, μπορούν να δημιουργήσουν κείμενο για το λιώσιμο και το βρυχηθμό κ.λπ.

«Το LaMDA τείνει να ακολουθεί μαζί με τις προτροπές και τις βασικές ερωτήσεις, συμβαδίζοντας με το μοτίβο που έχει ορίσει ο χρήστης. Η ομάδα μας – συμπεριλαμβανομένων ηθικών και τεχνολόγων – εξέτασε τις ανησυχίες του Blake σύμφωνα με τις Αρχές μας για την τεχνητή νοημοσύνη και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του.

«Εκατοντάδες ερευνητές και μηχανικοί έχουν συνομιλήσει με το LaMDA και δεν γνωρίζουμε ότι κάποιος άλλος κάνει τους ισχυρούς ευρείας κλίμακας ή ανθρωπομορφοποιεί το LaMDA, όπως έκανε ο Blake».

Ο καθηγητής της Νέας Υόρκης Gary Marcus συνόψισε όλο το έπος ως «ανοησίες στα ξυλοπόδαρα». ®