Απολύθηκα, λέει ο μηχανικός που ισχυρίστηκε ότι το Google chatbot ήταν ευαίσθητο

Εν συντομία Η Google φέρεται να απέλυσε τον Blake Lemoine, τον μηχανικό που τέθηκε σε διοικητική άδεια αφού επέμεινε ότι το chatbot LaMDA του γίγαντα του Ιστού ήταν ευαίσθητο.

Ο Λεμουάν δεν μπήκε σε μπελάδες επειδή κράτησε την αμφιλεγόμενη γνώμη του για το μοντέλο. Αντίθετα, τιμωρήθηκε για παραβίαση των πολιτικών εμπιστευτικότητας της Google. Αυτός σύμφωνα με πληροφορίες κάλεσε έναν δικηγόρο να αξιολογήσει πιθανά νομικά δικαιώματα για το LaMDA και μίλησε με έναν εκπρόσωπο του Σώματος ισχυριζόμενος ότι η Google ήταν ανήθικη.

Εκπρόσωπος της Google είπε το ενημερωτικό δελτίο της Big Technology αποφάσισε να τερματίσει την απασχόλησή του αφού ο Lemoine συνέχισε να παραβιάζει τις «πολιτικές απασχόλησης και ασφάλειας δεδομένων» θέτοντας σε κίνδυνο εμπορικά μυστικά.

«Αν ένας υπάλληλος συμμερίζεται τις ανησυχίες του για τη δουλειά μας, όπως έκανε ο Blake, τους εξετάζουμε εκτενώς. Βρήκαμε τους ισχυρισμούς του Blake ότι ο LaMDA θεωρεί ότι είναι εντελώς αβάσιμοι και εργαστήκαμε για να το διευκρινίσουμε μαζί του για πολλούς μήνες. Αυτές οι συζητήσεις ήταν μέρος της ανοιχτής κουλτούρας που μας βοηθά να καινοτομούμε υπεύθυνα», είπε ο εκπρόσωπος.

«Επομένως, είναι λυπηρό το γεγονός ότι παρά τη μακρά δέσμευση σε αυτό το θέμα, ο Blake επέλεξε να παραβιάζει επίμονα τις σαφείς πολιτικές απασχόλησης και ασφάλειας δεδομένων που περιλαμβάνουν την ανάγκη προστασίας των πληροφοριών προϊόντων. Θα συνεχίσουμε την προσεκτική ανάπτυξη γλωσσικών μοντέλων και ευχόμαστε στον Μπλέικ να είναι καλά».

Πολλοί ειδικοί στην Google και στον ακαδημαϊκό χώρο και τη βιομηχανία έχουν αμφισβητήσει εάν το LaMDA ή οποιοδήποτε υπάρχον chatbot AI είναι ευαίσθητο. Τα γλωσσικά μοντέλα μαθαίνουν μαθηματικές σχέσεις μεταξύ των λέξεων και είναι καλά στο να μιμούνται την ανθρώπινη γλώσσα χωρίς να έχουν πραγματική κατανόηση. Κανένας τους δεν είναι πραγματικά έξυπνος, πόσο μάλλον συνειδητός.

Γιατί οι προγραμματιστές δεν μπορούν να εκτελέσουν κώδικα AI ανοιχτού κώδικα

Ποιο είναι το νόημα της απελευθέρωσης του κώδικα για μοντέλα μηχανικής εκμάθησης, εάν οι προγραμματιστές δεν έχουν τους πόρους που απαιτούνται για την εκτέλεση του;

Το λογισμικό τεχνητής νοημοσύνης είναι εμφανώς δύσκολο να αναπτυχθεί και να το δοκιμάσετε μόνοι σας ακόμα και όταν είναι ανοιχτού κώδικα. Κομμάτια και κομμάτια της πηγής παραλείπονται ή τα σύνολα δεδομένων που απαιτούνται για την εκπαίδευση του μοντέλου δεν είναι διαθέσιμα. Μερικές φορές αυτά τα μέρη είναι προσβάσιμα, αλλά οι προγραμματιστές δεν έχουν την υπολογιστική ισχύ για να χειριστούν τόσο μεγάλα συστήματα.

Πάρτε το Meta's Ανοίξτε τον προεκπαιδευμένο μετασχηματιστή, για παράδειγμα. Η μεγαλύτερη έκδοση του μοντέλου γλώσσας περιέχει 175 δισεκατομμύρια παραμέτρους. Παρόλο που ο διαφημιστικός γίγαντας κυκλοφόρησε τον κώδικά του, πολλοί δεν θα έχουν αρκετές μάρκες στη διάθεσή τους για να εκπαιδεύσουν και να χρησιμοποιήσουν το μοντέλο από την αρχή, ο Matt Asay, ο οποίος διευθύνει το μάρκετινγκ συνεργατών στη MongoDB, Σημειώνεται με προσωπική ιδιότητα.

«Το κλειδί είναι να παρέχουμε αρκετή πρόσβαση στους ερευνητές ώστε να μπορούν να αναπαράγουν τις επιτυχίες και τις αποτυχίες του τρόπου λειτουργίας ενός συγκεκριμένου μοντέλου τεχνητής νοημοσύνης… Ως εταιρείες και ιδιώτες, στόχος μας πρέπει να είναι να ανοίξουμε την πρόσβαση στο λογισμικό με τρόπους που ωφελούν τους πελάτες μας και οι προγραμματιστές πάρτι να ενθαρρύνουν την πρόσβαση και την κατανόηση αντί να προσπαθούν να μεταφέρουν μια παλιά ιδέα του ανοιχτού κώδικα στο cloud», υποστήριξε.

Το Dall-E του OpenAI εισέρχεται σε λειτουργία beta

Το εμπορικό μοντέλο παραγωγής κειμένου σε εικόνα του OpenAI DALL·E 2 ανοίγει σε ένα εκατομμύριο ακόμη άτομα που εντάχθηκαν στη λίστα αναμονής του.

Η πρόσβαση προηγουμένως περιοριζόταν σε εκείνους που ήταν επιλεγμένοι καλλιτέχνες, ερευνητές και προγραμματιστές, καθώς το OpenAI ήθελε να δοκιμάσει το σύστημά του πριν από την πλήρη εμπορική κυκλοφορία. Οι άνθρωποι χρησιμοποιούν το εργαλείο για να δημιουργήσουν κάθε είδους εικόνες για να δημιουργήσουν μιμίδια στο Διαδίκτυο, κόμικς ή ψηφιακή τέχνη. 

Οι χρήστες θα λάβουν 50 δωρεάν πιστώσεις κατά τον πρώτο μήνα χρήσης τους και 15 δωρεάν πιστώσεις κάθε μήνα μετά. Κάθε πίστωση μπορεί να χρησιμοποιηθεί για τη δημιουργία μιας πρωτότυπης γενιάς προτροπών Dall-E και θα λάβουν τέσσερις εικόνες ως έξοδο αντί για τις προηγούμενες έξι. Η επεξεργασία των υπαρχόντων μηνυμάτων κειμένου θα επιστρέψει τρεις εικόνες. Εάν θέλουν να δημιουργήσουν περισσότερα, θα πρέπει να πληρώσουν 15 $ για να λάβουν άλλες 115 μονάδες για επιπλέον 460 εικόνες. 

Θα μπορούν επίσης να εμπορευματοποιήσουν οποιεσδήποτε εικόνες δημιουργούν χρησιμοποιώντας το μοντέλο, πράγμα που σημαίνει ότι οι δημιουργοί έχουν δικαιώματα να πωλούν και να εκτυπώνουν τις φωτογραφίες τους για εμπορεύματα και παρόμοια. «Είμαστε ενθουσιασμένοι που βλέπουμε τι δημιουργούν οι άνθρωποι με το DALL·E και περιμένουμε τα σχόλια των χρηστών κατά τη διάρκεια αυτής της περιόδου beta», το ερευνητικό εργαστήριο είπε αυτή την εβδομάδα. 

Παρακολούθηση παιδιών με αναγνώριση προσώπου

Η αμφιλεγόμενη εμπορική διαδικτυακή υπηρεσία αναγνώρισης προσώπου PimEyes μπορεί να χρησιμοποιηθεί για την αναζήτηση «δυνητικά σαφείς» φωτογραφίες παιδιών.

Το PimEyes επιτρέπει σε οποιονδήποτε να ανεβάσει μια φωτογραφία, αναζητά πιθανές αντιστοιχίσεις και επιστρέφει εικόνες και τις αντίστοιχες διευθύνσεις URL. Διαφημιζόμενη ως εργαλείο εξοικονόμησης απορρήτου, όπου οι χρήστες μπορούν να βλέπουν πού έχουν αναρτηθεί φωτογραφίες τους στο Διαδίκτυο, η υπηρεσία είπε ότι έχει βοηθήσει στην καταπολέμηση ζητημάτων όπως το πορνό εκδίκησης.

Υπάρχει όμως και μια σκοτεινή πλευρά. Οποιοσδήποτε μπορεί να χρησιμοποιήσει τον ιστότοπο για να αναζητήσει φωτογραφίες οποιουδήποτε του αρέσει, ακόμη και παιδιών. Ενα έρευνα από το The Intercept διαπίστωσε ότι ήταν εύκολο να βρεθούν φωτογραφίες νεαρών και μερικές από αυτές τις εικόνες χαρακτηρίστηκαν ακόμη και ως "δυνητικά σαφείς". Στο πείραμα χρησιμοποιήθηκαν ψεύτικες φωτογραφίες παιδιών που δημιουργήθηκαν από την τεχνητή νοημοσύνη και το PimEyes επέστρεφε αντιστοιχίες, γεγονός που υποδηλώνει ότι το λογισμικό του πιθανότατα δεν είναι πολύ ακριβές.

«Το γεγονός ότι το PimEyes δεν διαθέτει διασφαλίσεις για τα παιδιά και προφανώς δεν είναι σίγουρο πώς να παρέχει διασφαλίσεις για τα παιδιά υπογραμμίζει μόνο τους κινδύνους αυτού του είδους της υπηρεσίας αναγνώρισης προσώπου», Jeramie Scott, διευθυντής του Surveillance Oversight Project στην Electronic. Σύμφωνα με το Κέντρο Πληροφοριών Απορρήτου. «Η συμμετοχή στο κοινό, είτε στο διαδίκτυο είτε εκτός σύνδεσης, δεν θα πρέπει να σημαίνει ότι υποβάλλεστε σε υπηρεσίες που παραβιάζουν το απόρρητο, όπως το PimEyes.

Τα εργαλεία γραφής με τεχνητή νοημοσύνη βοηθούν τους ανεξάρτητους συγγραφείς να δημοσιεύουν περισσότερα βιβλία

Η δημιουργία περιεχομένου είναι συχνά μια δύσκολη επιχείρηση. Πρέπει να βρίσκετε συχνά φρέσκο ​​υλικό για να διατηρήσετε και να αυξήσετε το κοινό.

Μια ανεξάρτητη συγγραφέας μυθοπλασίας, η οποία δημοσιεύει το έργο της στην πλατφόρμα Kindle του Amazon με το ψευδώνυμο Leanne Leeds, περιέγραψε τις δυνάμεις και τους περιορισμούς της χρήσης ενός εργαλείου δημιουργίας κειμένου που τροφοδοτείται με GPT-3 ως συνεργάτη γραφής.

Τροφοδοτώντας προτάσεις σε λογισμικό που ονομάζεται Sudowrite, συγγραφείς όπως ο Leeds μπορούν να ανακτήσουν αποσπάσματα κειμένου που δημιουργούνται αυτόματα. λειτουργεί σαν μια πιο έξυπνη αυτόματη συμπλήρωση. Λιντς είπε The Verge η παραγωγικότητά της είχε αυξηθεί πάνω από 20 τοις εκατό όταν το χρησιμοποιούσε για να δημιουργήσει την πεζογραφία της. Επεξεργάζεται τις εξόδους του λογισμικού και τοποθετεί τις παραγράφους στα βιβλία της. Η Sudowrite τη βοηθά να γράφει βιβλία με ταχύτερους ρυθμούς για να κρατά το ενδιαφέρον των αναγνωστών περισσότερο. 

Αλλά οι συγγραφείς είναι διχασμένοι για τη χρήση της τεχνητής νοημοσύνης. Κάποιοι πιστεύουν ότι έρχεται σε αντίθεση με τη δημιουργικότητα και τη μαγεία της λογοτεχνίας, ενώ άλλοι βλέπουν τις δυνατότητές της για αφήγηση. Πρέπει οι συγγραφείς να αποκαλύπτουν ότι τα βιβλία τους έχουν γραφτεί με τη βοήθεια αλγορίθμων; Και το πιο σημαντικό, είναι καλό αυτό το σκαρίφημα που δημιουργείται αυτόματα;

Αυτήν τη στιγμή, οι μηχανές δεν είναι αρκετά καλές και απαιτούν επεξεργασία για να μην ξεφύγουν οι αφηγήσεις και οι γραμμές πλοκής. Ο Λιντς πιστεύει ότι εργαλεία όπως το Sudowrite θα γίνουν αρκετά καλά μια μέρα για να γράψουν γενική μυθοπλασία. «Νομίζω ότι αυτός είναι ο πραγματικός κίνδυνος, ότι μπορείς να το κάνεις και μετά τίποτα δεν είναι πια πρωτότυπο. Όλα είναι απλώς ένα αντίγραφο κάτι άλλου», είπε. «Το πρόβλημα είναι ότι αυτό αρέσει στους αναγνώστες». ®