Τι είναι τα υπερδίκτυα;

Όταν το Stable Diffusion, η εφαρμογή AI που αποδίδει ρεαλιστικές φωτογραφίες φωτογραφιών που τραβήχτηκαν στο προσκήνιο πριν από μερικές εβδομάδες, ήρθε μαζί της μια νέα λέξη-κλειδί. υπερδίκτυα.

Τώρα, ήδη η σταθερή διάχυση και τα υπερδίκτυα είναι τόσο συνδεδεμένα, είναι αδύνατο να αναφερθεί το ένα χωρίς το άλλο στην ίδια παράγραφο.

«Έχω εκπαιδεύσει σταθερά υπερδίκτυα διάχυσης σε μικρά σύνολα δεδομένων (όχι, όχι σύγχρονους καλλιτέχνες εκτός από το δικό σας πραγματικά) για να του διδάξω σκοτεινά «στυλ» που δεν καταλαβαίνει πραγματικά από το κουτί. Λειτουργεί ακριβώς όπως περιγράφεται, πραγματικά καλύτερα από ό,τι πίστευα εγώ ο ίδιος», λέει ένας χρήστης στο twitter.

Έχω εκπαιδεύσει σταθερά υπερδίκτυα διάχυσης σε μικρά σύνολα δεδομένων (όχι, όχι σύγχρονους καλλιτέχνες εκτός από το δικό σας πραγματικά) για να του διδάξω σκοτεινά «στυλ» που δεν καταλαβαίνει πραγματικά από το κουτί. λειτουργεί ακριβώς όπως περιέγραψε, στην πραγματικότητα καλύτερα από ό,τι πίστευα εγώ.

— μεγιστοποιητής λύπης (@regretmaximizer) Δεκέμβριος 20, 2022

Αυτό αποτελεί την επιτομή του buzz του υπερδικτύου που πιάνει τους χρήστες του Διαδικτύου τελευταία.

Στην επιστήμη των υπολογιστών, ένα υπερδίκτυο είναι τεχνικά ένα δίκτυο που δημιουργεί βάρη για ένα κύριο δίκτυο. Με άλλα λόγια, πιστεύεται ότι η συμπεριφορά του κύριου δικτύου είναι η ίδια με άλλα νευρωνικά δίκτυα επειδή μαθαίνει να χαρτογραφεί ορισμένες πρωτογενείς εισόδους στους επιθυμητούς στόχους τους, ενώ το υπερδίκτυο παίρνει ένα σύνολο εισόδων που περιέχουν πληροφορίες για τη δομή των βαρών και παράγει το βάρος για αυτό το στρώμα.

Επίσης διαβάστε: Τεχνολογία τεχνητής νοημοσύνης που δημιουργεί απίστευτες ψεύτικες εικόνες

Πώς χρησιμοποιούνται τα υπερδίκτυα;

Για να καταλάβουμε τι είναι υπερδίκτυο, ας δημιουργήσουμε ένα μικρό αντίγραφο ασφαλείας. Εάν έχετε δημιουργήσει εικόνες στο Stable Diffusion – το εργαλείο AI για τη δημιουργία ψηφιακής τέχνης και εικόνων – το έχετε συναντήσει.

Η εκπαίδευση αναφέρεται γενικά σε μια διαδικασία όπου ένα μοντέλο μαθαίνει (καθορίζοντας) καλές τιμές για όλα τα βάρη και την προκατάληψη από παραδείγματα με ετικέτα

Δημιουργία εικόνων σε Σταθερή Διάχυση δεν είναι μια αυτόματη διαδικασία, όπως έχουμε καλύψει αλλού. Για να φτάσετε εκεί, υπάρχουν διαδικασίες.

Πρώτα ένα μοντέλο AI πρέπει να μάθει πώς να αποδίδει ή να συνθέτει μια εικόνα κάποιου σε μια φωτογραφία από ένα μοντέλο 2D ή 3D μέσω λογισμικού. Παρόλο που το μοντέλο σταθερής διάχυσης δοκιμάστηκε διεξοδικά, έχει ορισμένους περιορισμούς εκπαίδευσης που μπορούν να διορθωθούν με μεθόδους εκπαίδευσης ενσωμάτωσης και υπερδικτύων.

Για να έχουν καλύτερα αποτελέσματα, οι τελικοί χρήστες μπορούν να επιλέξουν να κάνουν πρόσθετη εκπαίδευση για να τελειοποιήσουν τα αποτελέσματα παραγωγής ώστε να ταιριάζουν με πιο συγκεκριμένες περιπτώσεις χρήσης. Μια εκπαίδευση «ενσωμάτωσης» περιλαμβάνει μια συλλογή εικόνων που παρέχονται από τον χρήστη και επιτρέπει στο μοντέλο να δημιουργεί οπτικά παρόμοιες εικόνες κάθε φορά που χρησιμοποιείται το όνομα της ενσωμάτωσης σε μια προτροπή παραγωγής.

Οι ενσωματώσεις βασίζονται στην έννοια της «αναστροφής κειμένου» που αναπτύχθηκε από ερευνητές από το Πανεπιστήμιο του Τελ Αβίβ, όπου οι διανυσματικές αναπαραστάσεις για συγκεκριμένα διακριτικά που χρησιμοποιούνται από τον κωδικοποιητή κειμένου του μοντέλου συνδέονται με νέες ψευδολέξεις. Η ενσωμάτωση μπορεί να μειώσει τις προκαταλήψεις στο αρχικό μοντέλο ή να μιμηθεί οπτικά στυλ.

Ένα «υπερδίκτυο», από την άλλη πλευρά, είναι ένα προεκπαιδευμένο νευρωνικό δίκτυο που εφαρμόζεται σε διάφορα σημεία ενός μεγαλύτερου νευρωνικού δικτύου και αναφέρεται στην τεχνική που δημιουργήθηκε από τον προγραμματιστή της NovelAI Kurumuz το 2021, που προοριζόταν αρχικά για μοντέλα μετασχηματιστών παραγωγής κειμένου .

Τρένα σε συγκεκριμένους καλλιτέχνες

Περιλαμβάνονται υπερδίκτυα για να κατευθύνουν τα αποτελέσματα προς μια συγκεκριμένη κατεύθυνση, επιτρέποντας στα μοντέλα που βασίζονται σε Stable Diffusion να αναπαράγουν στυλ τέχνης συγκεκριμένων καλλιτεχνών. Το δίκτυο έχει το πλεονέκτημα ότι μπορεί να λειτουργεί ακόμα και όταν ο καλλιτέχνης δεν αναγνωρίζεται από το αρχικό μοντέλο και θα εξακολουθεί να επεξεργάζεται την εικόνα βρίσκοντας βασικές σημαντικές περιοχές όπως τα μαλλιά και τα μάτια και στη συνέχεια να επιδιορθώνει αυτές τις περιοχές σε έναν δευτερεύοντα λανθάνοντα χώρο.

«Το επίπεδο ενσωμάτωσης στο Stable Diffusion είναι υπεύθυνο για την κωδικοποίηση των εισόδων (για παράδειγμα, της προτροπής κειμένου και των ετικετών κλάσης) σε διανύσματα χαμηλής διάστασης. Αυτά τα διανύσματα βοηθούν στην καθοδήγηση του μοντέλου διάχυσης για την παραγωγή εικόνων που ταιριάζουν με την είσοδο του χρήστη», εξηγεί ο Benny Cheung στο ιστολόγιό του.

«Το επίπεδο υπερδικτύου είναι ένας τρόπος για το σύστημα να μαθαίνει και να αντιπροσωπεύει τη δική του γνώση. Επιτρέπει στο Stable Diffusion να δημιουργεί εικόνες με βάση την προηγούμενη εμπειρία του.»

Ενώ το επίπεδο ενσωμάτωσής του κωδικοποιεί τις εισόδους, όπως προτροπή κειμένου και ετικέτες κλάσεων σε διανύσματα χαμηλής διάστασης για να βοηθήσει το μοντέλο διάχυσης να παράγει εικόνες που ταιριάζουν με την είσοδο του χρήστη, το επίπεδο υπερδικτύου είναι κάπως ένας τρόπος για το σύστημα να μάθει και να αναπαραστήσει τη δική του η γνώση.

Με άλλα λόγια, επιτρέπει στο Stable Diffusion να δημιουργεί εικόνες με βάση την προηγούμενη εμπειρία του. Στο Stable Diffussion, ένα υπερδίκτυο είναι ένα πρόσθετο επίπεδο που υποβάλλεται σε επεξεργασία μετά την απόδοση μιας εικόνας μέσω του μοντέλου. Το Υπερδίκτυο τείνει να παραμορφώνει όλα τα αποτελέσματα από το μοντέλο προς τα δεδομένα προπόνησής σας με έναν τρόπο ουσιαστικά «αλλάσσοντας» το μοντέλο.

Διατήρηση μνήμης

Αυτό ουσιαστικά σημαίνει ότι το υπερδίκτυο είναι υπεύθυνο για τη διατήρηση της μνήμης των εικόνων που έχει δημιουργήσει προηγουμένως το σύστημα. Όταν ένας χρήστης δίνει μια νέα είσοδο, το σύστημα μπορεί να χρησιμοποιήσει τις προηγούμενες υπάρχουσες γνώσεις του για να δημιουργήσει μια πιο ακριβή εικόνα. Ως εκ τούτου, τα υπερδίκτυα επιτρέπουν στο σύστημα να μαθαίνει πιο γρήγορα και να βελτιώνεται όσο πάει.

Αυτό έχει το πλεονέκτημα ότι κάθε εικόνα που περιέχει κάτι που περιγράφει τα δεδομένα προπόνησής σας, θα μοιάζει με τα δεδομένα της προπόνησής σας.

«Διαπιστώσαμε ότι η εκπαίδευση με ενσωμάτωση είναι ευκολότερη από την εκπαίδευση με ένα υπερδίκτυο για τη δημιουργία αυτοπροσωπογραφιών. Η προπόνησή μας απέφερε καλά αποτελέσματα με τα οποία είμαστε ικανοποιημένοι», έγραψε ο Cheung.

Ποια τεχνική τελειοποίησης χρησιμοποιείτε; Κάτι σαν Hypernetworks ή Textual Inversion;

— Mathias Michel (@m91michel) Δεκέμβριος 21, 2022

Αλλά είναι μια τεχνολογία με την οποία πολλοί παζαρεύονται ακόμα. Τα υπερδίκτυα και οι γεννήτριες τεχνητής νοημοσύνης μόλις άρχισαν να καλύπτουν τις ανάγκες και τις επιθυμίες των χρηστών. Οι διεπαφές χρήστη και οι τεχνικές προτροπής αναμφίβολα θα προχωρήσουν γρήγορα και ίσως ακόμη και να πιάσουν Google απροστάτευτος, όπως το MetaNews καλύπτεται πρόσφατα.

ΚΟΙΝΟΠΟΙΗΣΤΕ ΑΥΤΗ ΤΗΝ ΑΝΑΡΤΗΣΗ