Καθώς εμβαθύνουμε στην ψηφιακή εποχή, η ανάπτυξη μοντέλων πολυτροπικότητας ήταν κρίσιμη για τη βελτίωση της κατανόησης των μηχανών. Αυτά τα μοντέλα επεξεργάζονται και δημιουργούν περιεχόμενο σε διάφορες μορφές δεδομένων, όπως κείμενο και εικόνες. Ένα βασικό χαρακτηριστικό αυτών των μοντέλων είναι οι δυνατότητές τους από εικόνα σε κείμενο, οι οποίες έχουν δείξει αξιοσημείωτη ικανότητα σε εργασίες όπως η δημιουργία λεζάντας εικόνων και η οπτική απάντηση σε ερωτήσεις.
Μεταφράζοντας τις εικόνες σε κείμενο, ξεκλειδώνουμε και αξιοποιούμε τον πλούτο των πληροφοριών που περιέχονται στα οπτικά δεδομένα. Για παράδειγμα, στο ηλεκτρονικό εμπόριο, η μετατροπή εικόνας σε κείμενο μπορεί να αυτοματοποιήσει την κατηγοριοποίηση προϊόντων με βάση εικόνες, βελτιώνοντας την αποτελεσματικότητα και την ακρίβεια αναζήτησης. Ομοίως, μπορεί να βοηθήσει στη δημιουργία αυτόματων περιγραφών φωτογραφιών, παρέχοντας πληροφορίες που ενδέχεται να μην περιλαμβάνονται στους τίτλους ή τις περιγραφές προϊόντων, βελτιώνοντας έτσι την εμπειρία χρήστη.
Σε αυτήν την ανάρτηση, παρέχουμε μια επισκόπηση των δημοφιλών μοντέλων πολυτροπικότητας. Δείχνουμε επίσης πώς να αναπτύξετε αυτά τα προεκπαιδευμένα μοντέλα Amazon Sage Maker. Επιπλέον, συζητάμε τις διαφορετικές εφαρμογές αυτών των μοντέλων, εστιάζοντας ιδιαίτερα σε πολλά σενάρια πραγματικού κόσμου, όπως η δημιουργία ετικετών μηδενικής λήψης και απόδοσης για ηλεκτρονικό εμπόριο και η αυτόματη δημιουργία προτροπών από εικόνες.
Υπόβαθρο μοντέλων πολυτροπικότητας
Τα μοντέλα μηχανικής μάθησης (ML) έχουν επιτύχει σημαντικές προόδους σε τομείς όπως η επεξεργασία φυσικής γλώσσας (NLP) και η όραση υπολογιστή, όπου τα μοντέλα μπορούν να επιδείξουν ανθρώπινη απόδοση στην ανάλυση και τη δημιουργία περιεχομένου από μία μόνο πηγή δεδομένων. Πιο πρόσφατα, έχει δοθεί αυξανόμενη προσοχή στην ανάπτυξη μοντέλων πολυτροπικότητας, τα οποία είναι ικανά να επεξεργάζονται και να παράγουν περιεχόμενο σε διαφορετικούς τρόπους. Αυτά τα μοντέλα, όπως η συγχώνευση δικτύων όρασης και γλώσσας, έχουν κερδίσει εξέχουσα θέση λόγω της ικανότητάς τους να ενσωματώνουν πληροφορίες από διαφορετικές πηγές και τρόπους, ενισχύοντας έτσι τις ικανότητές τους κατανόησης και έκφρασης.
Σε αυτή την ενότητα, παρέχουμε μια επισκόπηση δύο δημοφιλών μοντέλων πολυτροπικότητας: CLIP (Προεκπαίδευση αντιθετικής γλώσσας-εικόνας) και BLIP (Bootstrapping Language-Image Προεκπαίδευση).
Μοντέλο CLIP
Το CLIP είναι ένα πολυτροπικό μοντέλο όρασης και γλώσσας, το οποίο μπορεί να χρησιμοποιηθεί για ομοιότητα εικόνας-κειμένου και για ταξινόμηση εικόνων μηδενικής λήψης. Το CLIP εκπαιδεύεται σε ένα σύνολο δεδομένων 400 εκατομμυρίων ζευγών εικόνας-κειμένου που συλλέγονται από μια ποικιλία δημοσίως διαθέσιμων πηγών στο διαδίκτυο. Η αρχιτεκτονική του μοντέλου αποτελείται από έναν κωδικοποιητή εικόνας και έναν κωδικοποιητή κειμένου, όπως φαίνεται στο παρακάτω διάγραμμα.
Κατά τη διάρκεια της εκπαίδευσης, μια εικόνα και ένα αντίστοιχο απόσπασμα κειμένου τροφοδοτούνται μέσω των κωδικοποιητών για να ληφθεί ένα διάνυσμα χαρακτηριστικών εικόνας και ένα διάνυσμα χαρακτηριστικών κειμένου. Ο στόχος είναι να κάνετε τα χαρακτηριστικά εικόνας και κειμένου για ένα ταιριαστό ζεύγος να έχουν υψηλή ομοιότητα συνημιτόνου, ενώ τα χαρακτηριστικά για μη αντιστοιχισμένα ζεύγη έχουν χαμηλή ομοιότητα. Αυτό γίνεται μέσω μιας απώλειας αντίθεσης. Αυτή η αντίθετη προεκπαίδευση έχει ως αποτέλεσμα κωδικοποιητές που αντιστοιχίζουν εικόνες και κείμενο σε έναν κοινό χώρο ενσωμάτωσης όπου ευθυγραμμίζονται τα σημασιολογικά στοιχεία.
Οι κωδικοποιητές μπορούν στη συνέχεια να χρησιμοποιηθούν για εκμάθηση μηδενικής μεταφοράς για εργασίες κατάντη. Κατά το χρόνο συμπερασμάτων, ο προκαταρτισμένος κωδικοποιητής εικόνας και κειμένου επεξεργάζεται την αντίστοιχη είσοδο και τη μετατρέπει σε διανυσματική αναπαράσταση υψηλών διαστάσεων ή ενσωμάτωση. Στη συνέχεια, οι ενσωματώσεις της εικόνας και του κειμένου συγκρίνονται για να προσδιοριστεί η ομοιότητά τους, όπως η ομοιότητα συνημιτόνου. Το μήνυμα κειμένου (τάξεις εικόνας, κατηγορίες ή ετικέτες) του οποίου η ενσωμάτωση είναι πιο παρόμοια (για παράδειγμα, έχει τη μικρότερη απόσταση) με την ενσωμάτωση εικόνας θεωρείται η πιο σχετική και η εικόνα ταξινομείται ανάλογα.
Μοντέλο BLIP
Ένα άλλο δημοφιλές μοντέλο πολυτροπικότητας είναι το BLIP. Εισάγει μια νέα αρχιτεκτονική μοντέλων ικανή να προσαρμόζεται σε διάφορες εργασίες γλώσσας όρασης και χρησιμοποιεί μια μοναδική τεχνική εκκίνησης δεδομένων για να μαθαίνει κανείς από θορυβώδη δεδομένα ιστού. Η αρχιτεκτονική BLIP περιλαμβάνει έναν κωδικοποιητή εικόνας και έναν κωδικοποιητή κειμένου: ο γειωμένος κωδικοποιητής κειμένου εισάγει οπτικές πληροφορίες στο μπλοκ μετασχηματιστή του κωδικοποιητή κειμένου και ο αποκωδικοποιητής κειμένου με γείωση εικόνας ενσωματώνει οπτικές πληροφορίες στο μπλοκ αποκωδικοποιητή μετασχηματιστή. Με αυτήν την αρχιτεκτονική, το BLIP επιδεικνύει εξαιρετική απόδοση σε ένα φάσμα εργασιών όρασης-γλώσσας που περιλαμβάνουν τη συγχώνευση οπτικών και γλωσσικών πληροφοριών, από την αναζήτηση βάσει εικόνας και τη δημιουργία περιεχομένου έως τα διαδραστικά συστήματα οπτικού διαλόγου. Σε προηγούμενη ανάρτηση, προτείναμε α λύση περιορισμού περιεχομένου που βασίζεται στο μοντέλο BLIP που αντιμετώπισε πολλαπλές προκλήσεις χρησιμοποιώντας μονοτροπικές προσεγγίσεις ML όρασης υπολογιστή.
Περίπτωση χρήσης 1: Δημιουργία ετικετών μηδενικής λήψης ή χαρακτηριστικών για μια πλατφόρμα ηλεκτρονικού εμπορίου
Οι πλατφόρμες ηλεκτρονικού εμπορίου χρησιμεύουν ως δυναμικές αγορές που γεμίζουν με ιδέες, προϊόντα και υπηρεσίες. Με εκατομμύρια προϊόντα που αναφέρονται, η αποτελεσματική ταξινόμηση και κατηγοριοποίηση αποτελεί σημαντική πρόκληση. Εδώ έρχεται η δύναμη της αυτόματης προσθήκης ετικετών και της δημιουργίας χαρακτηριστικών. Αξιοποιώντας προηγμένες τεχνολογίες όπως το ML και το NLP, αυτές οι αυτοματοποιημένες διαδικασίες μπορούν να φέρουν επανάσταση στις λειτουργίες των πλατφορμών ηλεκτρονικού εμπορίου.
Ένα από τα βασικά πλεονεκτήματα της αυτόματης προσθήκης ετικετών ή δημιουργίας χαρακτηριστικών έγκειται στην ικανότητά της να βελτιώνει την αναζήτηση. Τα προϊόντα που έχουν επισημανθεί με ακρίβεια μπορούν να βρεθούν από τους πελάτες γρήγορα και αποτελεσματικά. Για παράδειγμα, εάν ένας πελάτης ψάχνει για ένα «βαμβακερό μπλουζάκι με λαιμόκοψη με λογότυπο μπροστά», η αυτόματη προσθήκη ετικετών και η δημιουργία χαρακτηριστικών επιτρέπουν στη μηχανή αναζήτησης να εντοπίσει προϊόντα που ταιριάζουν όχι απλώς στην ευρύτερη κατηγορία «t-shirt», αλλά και τα συγκεκριμένα χαρακτηριστικά του «βαμβακιού» και του «λαιμού του πληρώματος». Αυτή η ακριβής αντιστοίχιση μπορεί να διευκολύνει μια πιο εξατομικευμένη εμπειρία αγορών και να ενισχύσει την ικανοποίηση των πελατών. Επιπλέον, οι ετικέτες ή τα χαρακτηριστικά που δημιουργούνται αυτόματα μπορούν να βελτιώσουν σημαντικά τους αλγόριθμους προτάσεων προϊόντων. Με μια βαθιά κατανόηση των χαρακτηριστικών του προϊόντος, το σύστημα μπορεί να προτείνει πιο σχετικά προϊόντα στους πελάτες, αυξάνοντας έτσι την πιθανότητα αγορών και ενισχύοντας την ικανοποίηση των πελατών.
Το CLIP προσφέρει μια πολλά υποσχόμενη λύση για την αυτοματοποίηση της διαδικασίας δημιουργίας ετικετών ή χαρακτηριστικών. Λαμβάνει μια εικόνα προϊόντος και μια λίστα περιγραφών ή ετικετών ως είσοδο, δημιουργώντας μια διανυσματική αναπαράσταση ή ενσωμάτωση για κάθε ετικέτα. Αυτές οι ενσωματώσεις υπάρχουν σε ένα χώρο υψηλών διαστάσεων, με τις σχετικές αποστάσεις και τις κατευθύνσεις τους να αντικατοπτρίζουν τις σημασιολογικές σχέσεις μεταξύ των εισόδων. Το CLIP είναι προεκπαιδευμένο σε μεγάλη κλίμακα ζευγών εικόνας-κειμένου για να ενσωματώσει αυτές τις ουσιαστικές ενσωματώσεις. Εάν μια ετικέτα ή ένα χαρακτηριστικό περιγράφει με ακρίβεια μια εικόνα, οι ενσωματώσεις τους θα πρέπει να είναι σχετικά κοντά σε αυτό το διάστημα. Για τη δημιουργία αντίστοιχων ετικετών ή χαρακτηριστικών, μια λίστα πιθανών ετικετών μπορεί να εισαχθεί στο τμήμα κειμένου του μοντέλου CLIP και να αποθηκευτούν οι προκύπτουσες ενσωματώσεις. Στην ιδανική περίπτωση, αυτή η λίστα θα πρέπει να είναι εξαντλητική, να καλύπτει όλες τις πιθανές κατηγορίες και χαρακτηριστικά που σχετίζονται με τα προϊόντα στην πλατφόρμα ηλεκτρονικού εμπορίου. Το παρακάτω σχήμα δείχνει μερικά παραδείγματα.
Για να αναπτύξετε το μοντέλο CLIP στο SageMaker, μπορείτε να ακολουθήσετε το σημειωματάριο παρακάτω GitHub repo. Χρησιμοποιούμε το προκατασκευασμένο SageMaker δοχεία συμπερασμάτων μεγάλων μοντέλων (LMI). για την ανάπτυξη του μοντέλου. Τα δοχεία LMI χρησιμοποιούν Σερβίρισμα DJL για να εξυπηρετήσετε το μοντέλο σας για συμπέρασμα. Για να μάθετε περισσότερα σχετικά με τη φιλοξενία μεγάλων μοντέλων στο SageMaker, ανατρέξτε στο Αναπτύξτε μεγάλα μοντέλα στο Amazon SageMaker χρησιμοποιώντας παράλληλη εξαγωγή συμπερασμάτων μοντέλων DJLServing και DeepSpeed και Αναπτύξτε μεγάλα μοντέλα με υψηλή απόδοση χρησιμοποιώντας το FasterTransformer στο Amazon SageMaker.
Σε αυτό το παράδειγμα, παρέχουμε τα αρχεία serving.properties
, model.py
, να requirements.txt
να προετοιμάσει τα τεχνουργήματα του μοντέλου και να τα αποθηκεύσει σε ένα αρχείο tarball.
serving.properties
είναι το αρχείο διαμόρφωσης που μπορεί να χρησιμοποιηθεί για να υποδείξει στο DJL Serving ποιες βιβλιοθήκες παραλληλοποίησης μοντέλων και βελτιστοποίησης συμπερασμάτων θα θέλατε να χρησιμοποιήσετε. Ανάλογα με τις ανάγκες σας, μπορείτε να ορίσετε την κατάλληλη διαμόρφωση. Για περισσότερες λεπτομέρειες σχετικά με τις επιλογές διαμόρφωσης και μια εξαντλητική λίστα, ανατρέξτε στο Διαμορφώσεις και ρυθμίσεις.model.py
είναι το σενάριο που χειρίζεται τυχόν αιτήματα για προβολή.requirements.txt
είναι το αρχείο κειμένου που περιέχει τυχόν πρόσθετους τροχούς pip προς εγκατάσταση.
Εάν θέλετε να κατεβάσετε το μοντέλο από Αγκαλιάζοντας το πρόσωπο απευθείας, μπορείτε να ορίσετε το option.model_id
παράμετρος στην serving.properties
αρχείο ως το αναγνωριστικό μοντέλου ενός προεκπαιδευμένου μοντέλου που φιλοξενείται μέσα σε ένα αποθετήριο μοντέλων στο huggingface.co. Το κοντέινερ χρησιμοποιεί αυτό το αναγνωριστικό μοντέλου για τη λήψη του αντίστοιχου μοντέλου κατά τη διάρκεια του χρόνου ανάπτυξης. Εάν ρυθμίσετε το model_id
σε ένα Απλή υπηρεσία αποθήκευσης Amazon URL (Amazon S3), ο DJL θα κατεβάσει τα τεχνουργήματα του μοντέλου από το Amazon S3 και θα ανταλλάξει το model_id
στην πραγματική θέση των αντικειμένων του μοντέλου. Στο σενάριό σας, μπορείτε να υποδείξετε αυτήν την τιμή για να φορτώσετε το προεκπαιδευμένο μοντέλο. Στο παράδειγμά μας, χρησιμοποιούμε την τελευταία επιλογή, επειδή το κοντέινερ LMI χρησιμοποιεί s5cmd για λήψη δεδομένων από το Amazon S3, το οποίο μειώνει σημαντικά την ταχύτητα κατά τη φόρτωση μοντέλων κατά την ανάπτυξη. Δείτε τον παρακάτω κώδικα:
Στο model.py script, φορτώνουμε τη διαδρομή μοντέλου χρησιμοποιώντας το αναγνωριστικό μοντέλου που παρέχεται στο αρχείο ιδιότητας:
Αφού προετοιμαστούν τα τεχνουργήματα του μοντέλου και μεταφορτωθούν στο Amazon S3, μπορείτε να αναπτύξετε το μοντέλο CLIP στη φιλοξενία SageMaker με μερικές γραμμές κώδικα:
Όταν το τελικό σημείο είναι σε υπηρεσία, μπορείτε να καλέσετε το τελικό σημείο με μια εικόνα εισόδου και μια λίστα ετικετών ως προτροπή εισόδου για να δημιουργήσετε τις πιθανότητες ετικέτας:
Περίπτωση χρήσης 2: Αυτόματη δημιουργία προτροπών από εικόνες
Μια καινοτόμος εφαρμογή που χρησιμοποιεί τα μοντέλα πολυτροπικότητας είναι η δημιουργία ενημερωτικών μηνυμάτων από μια εικόνα. Στη γενετική τεχνητή νοημοσύνη, α έγκαιρη αναφέρεται στην είσοδο που παρέχεται σε ένα γλωσσικό μοντέλο ή σε άλλο μοντέλο παραγωγής για να το καθοδηγήσει σχετικά με το είδος του περιεχομένου ή της απάντησης που επιθυμείτε. Η προτροπή είναι ουσιαστικά ένα σημείο εκκίνησης ή ένα σύνολο οδηγιών που καθοδηγεί τη διαδικασία παραγωγής του μοντέλου. Μπορεί να έχει τη μορφή πρότασης, ερώτησης, μερικού κειμένου ή οποιασδήποτε εισόδου που μεταφέρει το πλαίσιο ή την επιθυμητή έξοδο στο μοντέλο. Η επιλογή μιας καλοφτιαγμένης προτροπής είναι ζωτικής σημασίας για τη δημιουργία εικόνων υψηλής ποιότητας με ακρίβεια και συνάφεια. Άμεση μηχανική είναι η διαδικασία βελτιστοποίησης ή δημιουργίας μιας εισόδου κειμένου για την επίτευξη των επιθυμητών απαντήσεων από ένα γλωσσικό μοντέλο, που συχνά περιλαμβάνει προσαρμογές διατύπωσης, μορφής ή περιβάλλοντος.
Η άμεση μηχανική για τη δημιουργία εικόνων θέτει πολλές προκλήσεις, συμπεριλαμβανομένων των εξής:
- Ορισμός οπτικών εννοιών με ακρίβεια – Η περιγραφή οπτικών εννοιών με λέξεις μπορεί μερικές φορές να είναι ασαφής ή διφορούμενη, γεγονός που καθιστά δύσκολη τη μετάδοση της ακριβούς εικόνας που επιθυμείτε. Η καταγραφή περίπλοκων λεπτομερειών ή πολύπλοκων σκηνών μέσω μηνυμάτων κειμένου μπορεί να μην είναι απλή.
- Καθορισμός των επιθυμητών στυλ αποτελεσματικά – Η επικοινωνία συγκεκριμένων στυλιστικών προτιμήσεων, όπως η διάθεση, η χρωματική παλέτα ή το καλλιτεχνικό στυλ, μπορεί να είναι προκλητική μόνο μέσω του κειμένου. Η μετάφραση αφηρημένων αισθητικών εννοιών σε συγκεκριμένες οδηγίες για το μοντέλο μπορεί να είναι δύσκολη.
- Εξισορρόπηση της πολυπλοκότητας για την αποφυγή υπερφόρτωσης του μοντέλου – Τα περίτεχνα μηνύματα θα μπορούσαν να προκαλέσουν σύγχυση στο μοντέλο ή να οδηγήσουν σε υπερφόρτωσή του με πληροφορίες, επηρεάζοντας το παραγόμενο αποτέλεσμα. Η επίτευξη της σωστής ισορροπίας μεταξύ της παροχής επαρκούς καθοδήγησης και της αποφυγής της υπερβολικής πολυπλοκότητας είναι απαραίτητη.
Ως εκ τούτου, η δημιουργία αποτελεσματικών προτροπών για τη δημιουργία εικόνων είναι χρονοβόρα, κάτι που απαιτεί επαναληπτικό πειραματισμό και τελειοποίηση για να επιτευχθεί η σωστή ισορροπία μεταξύ ακρίβειας και δημιουργικότητας, καθιστώντας το έργο έντασης πόρων που βασίζεται σε μεγάλο βαθμό στην ανθρώπινη τεχνογνωσία.
Η CLIP Ανακριτής είναι ένα αυτόματο εργαλείο μηχανικής προτροπής για εικόνες που συνδυάζει CLIP και BLIP για να βελτιστοποιήσει τα μηνύματα κειμένου ώστε να ταιριάζουν με μια δεδομένη εικόνα. Μπορείτε να χρησιμοποιήσετε τις προτροπές που προκύπτουν με μοντέλα κειμένου σε εικόνα όπως Σταθερή Διάχυση για να δημιουργήσετε δροσερή τέχνη. Οι προτροπές που δημιουργήθηκαν από το CLIP Interrogator προσφέρουν μια περιεκτική περιγραφή της εικόνας, καλύπτοντας όχι μόνο τα θεμελιώδη στοιχεία της, αλλά και το καλλιτεχνικό στυλ, την πιθανή έμπνευση πίσω από την εικόνα, το μέσο όπου θα μπορούσε ή θα μπορούσε να χρησιμοποιηθεί η εικόνα και όχι μόνο. Μπορείτε εύκολα να αναπτύξετε τη λύση CLIP Interrogator στο SageMaker για να βελτιστοποιήσετε τη διαδικασία ανάπτυξης και να επωφεληθείτε από την επεκτασιμότητα, την οικονομική απόδοση και την ισχυρή ασφάλεια που παρέχει η πλήρως διαχειριζόμενη υπηρεσία. Το παρακάτω διάγραμμα δείχνει τη λογική ροής αυτής της λύσης.
Μπορείτε να χρησιμοποιήσετε τα παρακάτω σημειωματάριο για να αναπτύξετε τη λύση CLIP Interrogator στο SageMaker. Ομοίως, για τη φιλοξενία μοντέλου CLIP, χρησιμοποιούμε το κοντέινερ LMI SageMaker για να φιλοξενήσουμε τη λύση στο SageMaker χρησιμοποιώντας την υπηρεσία DJL. Σε αυτό το παράδειγμα, παρέχουμε ένα πρόσθετο αρχείο εισόδου με τα τεχνουργήματα του μοντέλου που καθορίζει τα μοντέλα που αναπτύσσονται στο τελικό σημείο του SageMaker. Μπορείτε να επιλέξετε διαφορετικά μοντέλα CLIP ή BLIP περνώντας το όνομα μοντέλου λεζάντας και το όνομα μοντέλου κλιπ μέσα από το model_name.json
αρχείο που δημιουργήθηκε με τον ακόλουθο κώδικα:
Το σενάριο συμπερασμάτων model.py
περιέχει μια συνάρτηση λαβής που το DJL Serving θα εκτελέσει το αίτημά σας επικαλώντας αυτήν τη λειτουργία. Για να προετοιμάσουμε αυτό το σενάριο σημείου εισόδου, υιοθετήσαμε τον κωδικό από το πρωτότυπο clip_interrogator.py αρχείο και το τροποποίησε ώστε να λειτουργεί με το DJL Serving σε φιλοξενία SageMaker. Μια ενημέρωση είναι η φόρτωση του μοντέλου BLIP. Τα μοντέλα BLIP και CLIP φορτώνονται μέσω του load_caption_model()
και load_clip_model()
λειτουργία κατά την αρχικοποίηση του αντικειμένου Interrogator. Για να φορτώσουμε το μοντέλο BLIP, κατεβάσαμε πρώτα τα τεχνουργήματα του μοντέλου από το Hugging Face και τα ανεβάσαμε στο Amazon S3 ως την τιμή-στόχο του model_id
στο αρχείο ιδιοτήτων. Αυτό συμβαίνει επειδή το μοντέλο BLIP μπορεί να είναι ένα μεγάλο αρχείο, όπως το blip2-opt-2.7b μοντέλο, το οποίο έχει μέγεθος μεγαλύτερο από 15 GB. Η λήψη του μοντέλου από το Hugging Face κατά την ανάπτυξη του μοντέλου θα απαιτήσει περισσότερο χρόνο για τη δημιουργία τελικού σημείου. Ως εκ τούτου, επισημαίνουμε το model_id
στη θέση Amazon S3 του μοντέλου BLIP2 και φορτώστε το μοντέλο από τη διαδρομή μοντέλου που καθορίζεται στο αρχείο ιδιοτήτων. Σημειώστε ότι, κατά την ανάπτυξη, η διαδρομή μοντέλου θα εναλλάσσεται στην τοπική διαδρομή κοντέινερ όπου έγινε λήψη των τεχνουργημάτων του μοντέλου από την υπηρεσία DJL από την τοποθεσία Amazon S3. Δείτε τον παρακάτω κώδικα:
Επειδή το μοντέλο CLIP δεν είναι πολύ μεγάλο σε μέγεθος, χρησιμοποιούμε open_clip
για να φορτώσετε το μοντέλο απευθείας από το Hugging Face, το οποίο είναι ίδιο με το πρωτότυπο clip_interrogator
εκτέλεση:
Χρησιμοποιούμε παρόμοιο κώδικα για να αναπτύξουμε τη λύση CLIP Interrogator σε ένα τελικό σημείο του SageMaker και καλούμε το τελικό σημείο με μια εικόνα εισόδου για να λάβουμε τα μηνύματα που μπορούν να χρησιμοποιηθούν για τη δημιουργία παρόμοιων εικόνων.
Ας πάρουμε ως παράδειγμα την παρακάτω εικόνα. Χρησιμοποιώντας το αναπτυγμένο τελικό σημείο του CLIP Interrogator στο SageMaker, δημιουργεί την ακόλουθη περιγραφή κειμένου: croissant on a plate, pexels contest winner, aspect ratio 16:9, cgsocietywlop, 8 h, golden cracks, the artist has used bright, picture of a loft in morning, object features, stylized border, pastry, french emperor.
Μπορούμε να συνδυάσουμε περαιτέρω τη λύση CLIP Interrogator με Stable Diffusion και τεχνικές άμεσης μηχανικής—αναδύεται μια εντελώς νέα διάσταση δημιουργικών δυνατοτήτων. Αυτή η ενοποίηση μας επιτρέπει όχι μόνο να περιγράφουμε εικόνες με κείμενο, αλλά και να χειριζόμαστε και να δημιουργούμε διάφορες παραλλαγές των αρχικών εικόνων. Το Stable Diffusion εξασφαλίζει ελεγχόμενη σύνθεση εικόνας βελτιώνοντας επαναληπτικά το παραγόμενο αποτέλεσμα και η στρατηγική άμεση μηχανική καθοδηγεί τη διαδικασία παραγωγής προς τα επιθυμητά αποτελέσματα.
Στο δεύτερο μέρος του σημειωματάριου, περιγράφουμε λεπτομερώς τα βήματα για τη χρήση της άμεσης μηχανικής για την αναδιαμόρφωση εικόνων με το μοντέλο Stable Diffusion (Stable Diffusion XL 1.0). Χρησιμοποιούμε το Σταθερότητα AI SDK για να αναπτύξετε αυτό το μοντέλο από το SageMaker JumpStart αφού εγγραφείτε σε αυτό το μοντέλο στο AWS αγορά. Επειδή αυτή είναι μια νεότερη και καλύτερη έκδοση για δημιουργία εικόνων που παρέχεται από Σταθερότητα AI, μπορούμε να λάβουμε εικόνες υψηλής ποιότητας με βάση την αρχική εικόνα εισόδου. Επιπλέον, αν βάλουμε πρόθεμα στην προηγούμενη περιγραφή και προσθέσουμε μια πρόσθετη προτροπή που αναφέρει έναν γνωστό καλλιτέχνη και ένα από τα έργα του, έχουμε εκπληκτικά αποτελέσματα με την αναδιαμόρφωση. Η παρακάτω εικόνα χρησιμοποιεί την προτροπή: This scene is a Van Gogh painting with The Starry Night style, croissant on a plate, pexels contest winner, aspect ratio 16:9, cgsocietywlop, 8 h, golden cracks, the artist has used bright, picture of a loft in morning, object features, stylized border, pastry, french emperor.
Η παρακάτω εικόνα χρησιμοποιεί την προτροπή: This scene is a Hokusai painting with The Great Wave off Kanagawa style, croissant on a plate, pexels contest winner, aspect ratio 16:9, cgsocietywlop, 8 h, golden cracks, the artist has used bright, picture of a loft in morning, object features, stylized border, pastry, french emperor.
Συμπέρασμα
Η εμφάνιση μοντέλων πολυτροπικότητας, όπως το CLIP και το BLIP, και οι εφαρμογές τους μεταμορφώνουν γρήγορα το τοπίο της μετατροπής εικόνας σε κείμενο. Γεφυρώνοντας το χάσμα μεταξύ οπτικών και σημασιολογικών πληροφοριών, μας παρέχουν τα εργαλεία για να ξεκλειδώσουμε τις τεράστιες δυνατότητες των οπτικών δεδομένων και να τις αξιοποιήσουμε με τρόπους που προηγουμένως ήταν αδιανόητοι.
Σε αυτήν την ανάρτηση, παρουσιάσαμε διαφορετικές εφαρμογές των μοντέλων πολυτροπικότητας. Αυτά κυμαίνονται από τη βελτίωση της αποτελεσματικότητας και της ακρίβειας της αναζήτησης σε πλατφόρμες ηλεκτρονικού εμπορίου μέσω αυτόματης προσθήκης ετικετών και κατηγοριοποίησης έως τη δημιουργία προτροπών για μοντέλα κειμένου σε εικόνα όπως το Stable Diffusion. Αυτές οι εφαρμογές ανοίγουν νέους ορίζοντες για τη δημιουργία μοναδικού και ελκυστικού περιεχομένου. Σας ενθαρρύνουμε να μάθετε περισσότερα εξερευνώντας τα διάφορα μοντέλα πολυτροπικότητας στο SageMaker και να δημιουργήσετε μια καινοτόμο λύση για την επιχείρησή σας.
Σχετικά με τους Συγγραφείς
Γιανγουέι Κούι, PhD, είναι Senior Machine Learning Specialist Architect Solutions στο AWS. Ξεκίνησε την έρευνα μηχανικής μάθησης στο IRISA (Ερευνητικό Ινστιτούτο Επιστήμης Υπολογιστών και Τυχαίων Συστημάτων) και έχει αρκετά χρόνια εμπειρίας στη δημιουργία βιομηχανικών εφαρμογών με τεχνητή νοημοσύνη στην όραση υπολογιστών, την επεξεργασία φυσικής γλώσσας και την online πρόβλεψη συμπεριφοράς χρηστών. Στην AWS, μοιράζεται την τεχνογνωσία του στον τομέα και βοηθά τους πελάτες να ξεκλειδώσουν τις επιχειρηματικές δυνατότητες και να οδηγήσουν σε δραστικά αποτελέσματα με τη μηχανική μάθηση σε κλίμακα. Εκτός δουλειάς, του αρέσει να διαβάζει και να ταξιδεύει.
Raghu Ramesha είναι Senior ML Solutions Architect με την ομάδα του Amazon SageMaker Service. Επικεντρώνεται στο να βοηθά τους πελάτες να δημιουργήσουν, να αναπτύξουν και να μεταφέρουν φόρτους εργασίας παραγωγής ML στο SageMaker σε κλίμακα. Ειδικεύεται σε τομείς μηχανικής μάθησης, τεχνητής νοημοσύνης και όρασης υπολογιστών και είναι κάτοχος μεταπτυχιακού τίτλου στην Επιστήμη Υπολογιστών από το UT Dallas. Στον ελεύθερο χρόνο του, του αρέσουν τα ταξίδια και η φωτογραφία.
Σαμ Έντουαρντς, είναι Μηχανικός Cloud (AI/ML) στην AWS Sydney που ειδικεύεται στη μηχανική μάθηση και στο Amazon SageMaker. Είναι παθιασμένος με το να βοηθά τους πελάτες να επιλύουν ζητήματα που σχετίζονται με τις ροές εργασιών μηχανικής εκμάθησης και να δημιουργεί νέες λύσεις για αυτούς. Εκτός δουλειάς, του αρέσει να παίζει ρακέτες και να ταξιδεύει.
Η Melanie Li, PhD, είναι Senior AI/ML Specialist TAM στο AWS με έδρα το Σίδνεϊ της Αυστραλίας. Βοηθά τους εταιρικούς πελάτες να δημιουργήσουν λύσεις χρησιμοποιώντας υπερσύγχρονα εργαλεία AI/ML στο AWS και παρέχει καθοδήγηση σχετικά με την αρχιτεκτονική και την εφαρμογή λύσεων ML με βέλτιστες πρακτικές. Στον ελεύθερο χρόνο της, της αρέσει να εξερευνά τη φύση και να περνά χρόνο με την οικογένεια και τους φίλους της.
Γκόρντον Γουάνγκ είναι Senior AI/ML Specialist TAM στο AWS. Υποστηρίζει στρατηγικούς πελάτες με βέλτιστες πρακτικές AI/ML σε πολλούς κλάδους. Είναι παθιασμένος με την όραση υπολογιστών, το NLP, τη γενετική τεχνητή νοημοσύνη και τα MLOps. Στον ελεύθερο χρόνο του λατρεύει το τρέξιμο και την πεζοπορία.
Dhawal Patel είναι Κύριος Αρχιτέκτονας Μηχανικής Μάθησης στο AWS. Έχει συνεργαστεί με οργανισμούς που κυμαίνονται από μεγάλες επιχειρήσεις έως νεοφυείς επιχειρήσεις μεσαίου μεγέθους για προβλήματα που σχετίζονται με τους κατανεμημένους υπολογιστές και την Τεχνητή Νοημοσύνη. Εστιάζεται στη Deep Learning, συμπεριλαμβανομένων των τομέων NLP και Computer Vision. Βοηθά τους πελάτες να επιτύχουν συμπεράσματα μοντέλων υψηλής απόδοσης στο SageMaker.
- SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
- PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
- PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
- PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
- PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
- πηγή: https://aws.amazon.com/blogs/machine-learning/build-an-image-to-text-generative-ai-application-using-multimodality-models-on-amazon-sagemaker/
- :έχει
- :είναι
- :δεν
- :που
- 1
- 10
- 100
- 12
- 15%
- 16
- 400
- 7
- 8
- 9
- 97
- a
- ικανότητα
- ΠΛΗΡΟΦΟΡΙΕΣ
- ΠΕΡΙΛΗΨΗ
- αναλόγως
- ακρίβεια
- με ακρίβεια
- Κατορθώνω
- επιτευχθεί
- απέναντι
- πραγματικός
- προσθέτω
- Πρόσθετος
- Επιπλέον
- απευθύνεται
- προσαρμογές
- θετός
- προηγμένες
- εξελίξεις
- Πλεονέκτημα
- συγκινητικός
- Μετά το
- AI
- Τροφοδοτείται από AI
- AI / ML
- αλγόριθμοι
- ευθυγραμμισμένος
- Όλα
- επιτρέπει
- alone
- Επίσης
- καταπληκτικό
- Amazon
- Amazon Sage Maker
- Amazon υπηρεσίες Web
- an
- αναλύοντας
- και
- κάθε
- Εφαρμογή
- εφαρμογές
- προσεγγίσεις
- κατάλληλος
- αρχιτεκτονική
- ΕΙΝΑΙ
- Τέχνη
- τεχνητός
- τεχνητή νοημοσύνη
- καλλιτέχνης
- καλλιτεχνικός
- AS
- άποψη
- βοηθήσει
- At
- προσοχή
- γνωρίσματα
- Australia
- αυτοματοποίηση
- Αυτοματοποιημένη
- Αυτόματο
- αυτοματοποίηση
- διαθέσιμος
- αποφεύγοντας
- AWS
- Υπόλοιπο
- βασίζονται
- BE
- επειδή
- ήταν
- συμπεριφορά
- πίσω
- οφέλη
- ΚΑΛΎΤΕΡΟΣ
- βέλτιστες πρακτικές
- Καλύτερα
- μεταξύ
- Πέρα
- Μεγάλος
- Αποκλεισμός
- σώμα
- ώθηση
- σύνορο
- Γεφυρώνοντας
- Φωτεινό
- ευρύτερη
- χτίζω
- Κτίριο
- επιχείρηση
- αλλά
- by
- CAN
- Μπορεί να πάρει
- δυνατότητες
- ικανός
- Καταγραφή
- περίπτωση
- CAT
- κατηγορίες
- κατηγορία
- Γάτες
- πρόκληση
- προκλήσεις
- πρόκληση
- επιλογή
- Επιλέξτε
- τάξεις
- ταξινόμηση
- ταξινομούνται
- Κλεισιμο
- Backup
- κωδικός
- χρώμα
- συνδυασμός
- συνδυάζει
- έρχεται
- Κοινός
- επικοινωνία
- σύγκριση
- συγκρότημα
- περίπλοκο
- περιεκτικός
- υπολογιστή
- Πληροφορική
- Computer Vision
- χρήση υπολογιστή
- έννοιες
- διαμόρφωση
- θεωρούνται
- αποτελείται
- που περιέχονται
- Δοχείο
- Εμπορευματοκιβώτια
- Περιέχει
- περιεχόμενο
- Δημιουργία περιεχομένου
- συμφραζόμενα
- ελέγχεται
- Μετατροπή
- Δροσερός
- Αντίστοιχος
- θα μπορούσε να
- κάλυμμα
- δημιουργία
- δημιουργήθηκε
- δημιουργία
- δημιουργία
- Δημιουργικός
- δημιουργικότητα
- κρίσιμης
- Σταυρός
- πελάτης
- Η ικανοποίηση των πελατών
- Πελάτες
- Ντάλας
- ημερομηνία
- βαθύς
- βαθιά μάθηση
- βαθύτερη
- Πτυχίο
- σκάβω
- αποδεικνύουν
- καταδεικνύει
- Σε συνάρτηση
- παρατάσσω
- αναπτυχθεί
- ανάπτυξη
- περιγράφουν
- περιγραφή
- επιθυμητή
- λεπτομέρεια
- καθέκαστα
- Προσδιορίστε
- Ανάπτυξη
- συσκευή
- διάλογος
- διαφορετικές
- δύσκολος
- Διάχυση
- ψηφιακό
- Διάσταση
- κατευθείαν
- συζητήσουν
- απόσταση
- διανέμονται
- κατανεμημένων υπολογιστών
- διάφορα
- τομέα
- domains
- γίνεται
- κατεβάσετε
- αυτοκίνητο
- δυο
- κατά την διάρκεια
- δυναμικός
- κάθε
- εύκολα
- ηλεκτρονικού εμπορίου
- Αποτελεσματικός
- αποδοτικότητα
- αποτελεσματικά
- Λεπτομερής
- στοιχεία
- αλλιώς
- ενσωμάτωση
- εμφάνιση
- αναδύεται
- απασχολεί
- ενεργοποιήσετε
- ενθαρρύνει
- Τελικό σημείο
- ελκυστικός
- Κινητήρας
- μηχανικός
- Μηχανική
- ενίσχυση
- ενίσχυση
- εξασφαλίζει
- Εταιρεία
- επιχειρήσεις
- καταχώριση
- Εποχή
- ουσιώδης
- κατ 'ουσίαν,
- παράδειγμα
- παραδείγματα
- έκθεμα
- υπάρχουν
- εμπειρία
- εξειδίκευση
- διερευνήσει
- Εξερευνώντας
- έκφραση
- Πρόσωπο
- διευκολύνω
- οικογένεια
- Χαρακτηριστικό
- Χαρακτηριστικά
- Fed
- λίγοι
- Πεδία
- Εικόνα
- Αρχεία
- Αρχεία
- Όνομα
- ροή
- εστιάζει
- εστιάζοντας
- ακολουθήστε
- Εξής
- Για
- μορφή
- μορφή
- μορφές
- Βρέθηκαν
- Δωρεάν
- Γαλλικά
- φίλους
- από
- εμπρός
- πλήρως
- λειτουργία
- θεμελιώδης
- περαιτέρω
- Επί πλέον
- συγχώνευση
- κέρδισε
- χάσμα
- παράγουν
- παράγεται
- δημιουργεί
- παραγωγής
- γενεά
- γενετική
- Παραγωγική τεχνητή νοημοσύνη
- παίρνω
- δεδομένου
- γκολ
- Χρυσή
- εξαιρετική
- καθοδήγηση
- Οδηγοί
- λαβή
- Handles
- ιπποσκευή
- Αξιοποίηση
- Έχω
- he
- βαριά
- βοήθεια
- βοηθά
- αυτήν
- Ψηλά
- υψηλής ποιότητας
- του
- κατέχει
- Ορίζοντες
- οικοδεσπότης
- φιλοξενείται
- φιλοξενία
- Πως
- Πώς να
- HTML
- http
- HTTPS
- ανθρώπινος
- ID
- ιδανικά
- ιδεών
- if
- εικόνα
- Ταξινόμηση εικόνας
- εικόνες
- εκτέλεση
- εκτελεστικών
- εισαγωγή
- βελτίωση
- βελτίωση
- in
- περιλαμβάνονται
- περιλαμβάνει
- Συμπεριλαμβανομένου
- αύξηση
- υποδεικνύω
- βιομηχανικές
- βιομηχανίες
- πληροφορίες
- πληροφοριακός
- καινοτόμες
- εισαγωγή
- είσοδοι
- μέσα
- Έμπνευση
- εγκαθιστώ
- παράδειγμα
- Ινστιτούτο
- οδηγίες
- ενσωματώσει
- ολοκλήρωση
- Νοημοσύνη
- διαδραστικό
- Internet
- σε
- Εισάγει
- εμπλέκω
- συμμετοχή
- θέματα
- IT
- ΤΟΥ
- jpg
- json
- Κλειδί
- γνωστός
- επιγραφή
- Ετικέτες
- τοπίο
- Γλώσσα
- large
- Μεγάλες επιχειρήσεις
- οδηγήσει
- ΜΑΘΑΊΝΩ
- μάθηση
- Li
- βιβλιοθήκες
- βρίσκεται
- Μου αρέσει
- πιθανότητα
- γραμμές
- Λιστα
- Εισηγμένες
- φορτίο
- φόρτωση
- τοπικός
- τοποθεσία
- λογική
- λογότυπο
- off
- αγαπά
- Χαμηλός
- μηχανή
- μάθηση μηχανής
- κάνω
- Κατασκευή
- διαχειρίζεται
- πολοί
- χάρτη
- αγορές
- κύριοι
- Ταίριασμα
- συμφωνημένα
- ταιριάζουν
- νόημα
- medium
- απλώς
- ενδέχεται να
- μεταναστεύσουν
- εκατομμύριο
- εκατομμύρια
- ML
- MLOps
- μοντέλο
- μοντέλα
- μετριοπάθεια
- τροποποιημένο
- περισσότερο
- Εξάλλου
- Πρωί
- πλέον
- πολλαπλούς
- όνομα
- Φυσικό
- Επεξεργασία φυσικής γλώσσας
- Φύση
- Ανάγκη
- δίκτυα
- Νέα
- νέοι ορίζοντες
- βράδυ
- nlp
- Ν/Α
- σημειωματάριο
- μυθιστόρημα
- αντικείμενο
- of
- off
- προσφορά
- προσφορές
- συχνά
- on
- ONE
- διαδικτυακά (online)
- αποκλειστικά
- ανοίξτε
- λειτουργίες
- βελτιστοποίηση
- Βελτιστοποίηση
- βελτιστοποίηση
- Επιλογή
- Επιλογές
- or
- οργανώσεις
- πρωτότυπο
- OS
- ΑΛΛΑ
- δικός μας
- αποτελέσματα
- παραγωγή
- εκτός
- εκκρεμή
- επισκόπηση
- συντριπτική
- δική
- ζωγραφική
- ζεύγος
- ζεύγη
- παλέτα
- Παράλληλο
- παράμετρος
- μέρος
- ιδιαίτερα
- Πέρασμα
- παθιασμένος
- μονοπάτι
- επίδοση
- Εξατομικευμένη
- phd
- φωτογραφία
- εικόνα
- πιλοτικές
- πλατφόρμες
- Πλατφόρμες
- Πλάτων
- Πληροφορία δεδομένων Plato
- Πλάτωνα δεδομένα
- παιχνίδι
- βύσμα
- Σημείο
- Δημοφιλής
- θέτει
- δυνατότητες
- Θέση
- δυναμικού
- δυνατότητες
- δύναμη
- πρακτικές
- ανάγκη
- Ακρίβεια
- πρόβλεψη
- προτιμήσεις
- Προετοιμάστε
- έτοιμος
- πρόληψη
- προηγούμενος
- προηγουμένως
- Κύριος
- προβλήματα
- διαδικασια μας
- Διεργασίες
- μεταποίηση
- Προϊόν
- παραγωγή
- Προϊόντα
- προεξοχή
- υποσχόμενος
- ιδιότητες
- περιουσία
- προτείνεται
- παρέχουν
- παρέχεται
- παρέχει
- χορήγηση
- δημοσίως
- ψώνια
- ερώτηση
- τυχαίος
- σειρά
- κυμαίνεται
- ταχέως
- αναλογία
- Ανάγνωση
- πραγματικό κόσμο
- πρόσφατα
- Σύσταση
- μειώνει
- παραπέμπω
- αναφέρεται
- διύλιση
- αντανακλαστικός
- περιοχή
- σχετίζεται με
- Σχέσεις
- σχετικής
- σχετικά
- συνάφεια
- αξιοσημείωτος
- Αποθήκη
- αντιπροσώπευση
- ζητήσει
- αιτήματα
- απαιτούν
- Απαιτεί
- έρευνα
- ένταση πόρων
- εκείνοι
- απάντησης
- απαντήσεις
- με αποτέλεσμα
- Αποτελέσματα
- απόδοση
- φέρνω επανάσταση
- δεξιά
- εύρωστος
- τρέξιμο
- τρέξιμο
- σοφός
- ίδιο
- ικανοποίηση
- Απεριόριστες δυνατότητες
- Κλίμακα
- σενάρια
- σκηνή
- Σκηνές
- Επιστήμη
- γραφή
- Αναζήτηση
- μηχανή αναζήτησης
- αναζήτηση
- Τμήμα
- ασφάλεια
- δείτε
- ΕΑΥΤΟΣ
- σημασιολογία
- αρχαιότερος
- ποινή
- εξυπηρετούν
- υπηρεσία
- Υπηρεσίες
- εξυπηρετούν
- σειρά
- διάφοροι
- Μερίδια
- αυτή
- Καταστήματα Λιανικής
- θα πρέπει να
- παρουσιάζεται
- Δείχνει
- σημαντικός
- σημαντικά
- παρόμοιες
- Ομοίως
- Απλούς
- ενιαίας
- Μέγεθος
- Απόσπασμα
- λύση
- Λύσεις
- SOLVE
- μερικοί
- μερικές φορές
- Πηγή
- Πηγές
- Χώρος
- ειδικός
- ειδικευμένος
- ειδικεύεται
- συγκεκριμένες
- καθορίζεται
- Φάσμα
- ταχύτητα
- δαπανήσει
- Αθλητισμός
- σταθερός
- έναστρος
- ξεκίνησε
- Ξεκινήστε
- Startups
- state-of-the-art
- Βήματα
- χώρος στο δίσκο
- κατάστημα
- αποθηκεύονται
- ειλικρινής
- Στρατηγική
- εξορθολογισμό
- απεργία
- στυλ
- ουσιαστικά
- τέτοιος
- επαρκής
- προτείνω
- Υποστηρίζει
- ανταλλαγής
- ταχέως
- sydney
- σύστημα
- συστήματα
- TAG
- Πάρτε
- παίρνει
- στόχος
- Έργο
- εργασίες
- τεχνική
- Τεχνολογίες
- πρότυπο
- κείμενο
- κείμενο
- από
- ότι
- Η
- Το τοπίο
- τους
- Τους
- τότε
- Εκεί.
- εκ τούτου
- επομένως
- Αυτοί
- αυτοί
- αυτό
- Μέσω
- ώρα
- τίτλους
- προς την
- εργαλείο
- εργαλεία
- προς
- εκπαιδευμένο
- Εκπαίδευση
- μεταφορά
- μετασχηματιστής
- μετασχηματίζοντας
- μετασχηματισμών
- Ταξίδια
- δύο
- τύπος
- κατανόηση
- αφάνταστος
- μοναδικός
- ξεκλειδώσετε
- Ενημέρωση
- Φορτώθηκε
- URL
- us
- χρήση
- μεταχειρισμένος
- Χρήστες
- Η εμπειρία χρήστη
- χρησιμοποιεί
- χρησιμοποιώντας
- αξία
- ποικιλία
- διάφορα
- Σταθερή
- εκδοχή
- πολύ
- μέσω
- όραμα
- W
- θέλω
- WAVE
- τρόπους
- we
- Πλούτος
- ιστός
- διαδικτυακές υπηρεσίες
- ήταν
- Τι
- πότε
- Ποιό
- ενώ
- ολόκληρο
- του οποίου
- θα
- νικητής
- με
- διατύπωση
- λόγια
- Εργασία
- εργάστηκαν
- ροές εργασίας
- λειτουργεί
- θα
- χρόνια
- Εσείς
- Σας
- zephyrnet