Το Slack προσφέρει εγγενές και ασφαλές γενετικό AI που υποστηρίζεται από το Amazon SageMaker JumpStart | Υπηρεσίες Ιστού της Amazon

Αυτή η ανάρτηση είναι συν-συγγραφέας της Jackie Rocca, Αντιπρόεδρος Προϊόντος, AI στο Slack

Η χαλαρότητα είναι εκεί που γίνεται η δουλειά. Είναι η πλατφόρμα εργασίας που υποστηρίζεται από AI που συνδέει ανθρώπους, συνομιλίες, εφαρμογές και συστήματα μαζί σε ένα μέρος. Με το νεολανσαρισμένο Slack AI—μια αξιόπιστη, εγγενής, γενετική εμπειρία τεχνητής νοημοσύνης (AI) που είναι διαθέσιμη απευθείας στο Slack—οι χρήστες μπορούν να εμφανίσουν και να δώσουν προτεραιότητα στις πληροφορίες, ώστε να βρουν την εστίασή τους και να κάνουν την πιο παραγωγική τους δουλειά.

Είμαστε ενθουσιασμένοι που ανακοινώνουμε ότι η Slack, μια εταιρεία Salesforce, έχει συνεργαστεί με Amazon SageMaker JumpStart για να τροφοδοτήσει τις δυνατότητες αρχικής αναζήτησης και σύνοψης του Slack AI και να παρέχει εγγυήσεις στο Slack ώστε να χρησιμοποιεί μοντέλα μεγάλων γλωσσών (LLM) με μεγαλύτερη ασφάλεια. Ο Slack συνεργάστηκε με το SageMaker JumpStart για να φιλοξενήσει κορυφαία στον κλάδο LLM τρίτων, έτσι ώστε τα δεδομένα να μην κοινοποιούνται στην υποδομή που ανήκει σε τρίτους παρόχους μοντέλων.

Αυτό διατηρεί τα δεδομένα πελατών στο Slack ανά πάσα στιγμή και υποστηρίζει τις ίδιες πρακτικές ασφάλειας και τα ίδια πρότυπα συμμόρφωσης που περιμένουν οι πελάτες από το ίδιο το Slack. Το Slack χρησιμοποιείται επίσης Amazon Sage Maker δυνατότητες εξαγωγής συμπερασμάτων για προηγμένες στρατηγικές δρομολόγησης για την κλιμάκωση της λύσης σε πελάτες με βέλτιστη απόδοση, καθυστέρηση και απόδοση.

«Με το Amazon SageMaker JumpStart, το Slack μπορεί να έχει πρόσβαση σε υπερσύγχρονα μοντέλα βάσης για να τροφοδοτήσει το Slack AI, δίνοντας παράλληλα προτεραιότητα στην ασφάλεια και το απόρρητο. Οι χαλαροί πελάτες μπορούν πλέον να αναζητούν πιο έξυπνα, να συνοψίζουν συνομιλίες αμέσως και να είναι πιο παραγωγικοί».

– Jackie Rocca, Αντιπρόεδρος Προϊόντος, AI στο Slack

Μοντέλα θεμελίωσης στο SageMaker JumpStart

Το SageMaker JumpStart είναι ένας κόμβος μηχανικής μάθησης (ML) που μπορεί να σας βοηθήσει να επιταχύνετε το ταξίδι σας στο ML. Με το SageMaker JumpStart, μπορείτε να αξιολογήσετε, να συγκρίνετε και να επιλέξετε μοντέλα θεμελίωσης (FM) γρήγορα με βάση προκαθορισμένες μετρήσεις ποιότητας και ευθύνης για την εκτέλεση εργασιών όπως η σύνοψη άρθρων και η δημιουργία εικόνων. Τα προεκπαιδευμένα μοντέλα είναι πλήρως προσαρμόσιμα για την περίπτωση χρήσης σας με τα δεδομένα σας και μπορείτε να τα αναπτύξετε αβίαστα στην παραγωγή με τη διεπαφή χρήστη ή το SDK. Επιπλέον, μπορείτε να αποκτήσετε πρόσβαση σε προκατασκευασμένες λύσεις για την επίλυση περιπτώσεων κοινής χρήσης και να μοιράζεστε αντικείμενα ML, συμπεριλαμβανομένων μοντέλων και φορητών υπολογιστών ML, εντός του οργανισμού σας για να επιταχύνετε τη δημιουργία και την ανάπτυξη μοντέλων ML. Κανένα από τα δεδομένα σας δεν χρησιμοποιείται για την εκπαίδευση των υποκείμενων μοντέλων. Όλα τα δεδομένα είναι κρυπτογραφημένα και δεν κοινοποιούνται ποτέ σε τρίτους προμηθευτές, ώστε να μπορείτε να εμπιστευτείτε ότι τα δεδομένα σας παραμένουν ιδιωτικά και εμπιστευτικά.

Ελέγξτε το Σελίδα μοντέλου SageMaker JumpStart για τα διαθέσιμα μοντέλα.

Slack AI

Η Slack κυκλοφόρησε το Slack AI για να παρέχει εγγενείς δυνατότητες παραγωγής τεχνητής νοημοσύνης, έτσι ώστε οι πελάτες να μπορούν εύκολα να βρίσκουν και να καταναλώνουν μεγάλο όγκο πληροφοριών γρήγορα, δίνοντάς τους τη δυνατότητα να αποκτήσουν ακόμη μεγαλύτερη αξία από την κοινή τους γνώση στο Slack. Για παράδειγμα, οι χρήστες μπορούν να κάνουν μια ερώτηση σε απλή γλώσσα και να λαμβάνουν αμέσως σαφείς και συνοπτικές απαντήσεις με βελτιωμένη αναζήτηση. Μπορούν να προσεγγίσουν τα κανάλια και τα νήματα με ένα κλικ με περιλήψεις συνομιλιών. Και μπορούν να έχουν πρόσβαση σε εξατομικευμένες, καθημερινές ανακεφαλαιώσεις του τι συμβαίνει σε επιλεγμένα κανάλια με τις ανακεφαλαιώσεις που κυκλοφόρησαν πρόσφατα.

Επειδή η εμπιστοσύνη είναι η πιο σημαντική αξία του Slack, το Slack AI τρέχει σε μια εταιρική υποδομή που δημιούργησαν σε AWS, υποστηρίζοντας το ίδιο πρακτικές ασφαλείας και πρότυπα συμμόρφωσης που περιμένουν οι πελάτες. Το Slack AI έχει κατασκευαστεί για πελάτες που έχουν επίγνωση της ασφάλειας και έχει σχεδιαστεί για να είναι ασφαλές από τη σχεδίασή τους—τα δεδομένα των πελατών παραμένουν εσωτερικά, τα δεδομένα δεν χρησιμοποιούνται για σκοπούς εκπαίδευσης LLM και τα δεδομένα παραμένουν σιλό.

Επισκόπηση λύσεων

Το SageMaker JumpStart παρέχει πρόσβαση σε πολλά LLM και το Slack επιλέγει τα σωστά FM που ταιριάζουν στις περιπτώσεις χρήσης τους. Επειδή αυτά τα μοντέλα φιλοξενούνται στην υποδομή AWS που ανήκει στο Slack, τα δεδομένα που αποστέλλονται σε μοντέλα κατά τη διάρκεια της επίκλησης δεν εξέρχονται από την υποδομή AWS του Slack. Επιπλέον, για την παροχή μιας ασφαλούς λύσης, τα δεδομένα που αποστέλλονται για επίκληση μοντέλων SageMaker κρυπτογραφούνται κατά τη μεταφορά. Τα δεδομένα που αποστέλλονται στα τελικά σημεία του SageMaker JumpStart για την επίκληση μοντέλων δεν χρησιμοποιούνται για την εκπαίδευση βασικών μοντέλων. Το SageMaker JumpStart επιτρέπει στο Slack να υποστηρίζει υψηλά πρότυπα ασφάλειας και απορρήτου δεδομένων, ενώ χρησιμοποιεί μοντέλα τελευταίας τεχνολογίας που βοηθούν το Slack AI να αποδίδει βέλτιστα για τους πελάτες του Slack.

Τα τελικά σημεία SageMaker JumpStart που εξυπηρετούν επιχειρηματικές εφαρμογές Slack τροφοδοτούνται από παρουσίες AWS. Το SageMaker υποστηρίζει α ευρύ φάσμα τύπων παραδειγμάτων για ανάπτυξη μοντέλου, το οποίο επιτρέπει στο Slack να επιλέξει το στιγμιότυπο που είναι καταλληλότερο για την υποστήριξη των απαιτήσεων καθυστέρησης και επεκτασιμότητας των περιπτώσεων χρήσης Slack AI. Το Slack AI έχει πρόσβαση σε στιγμιότυπα που βασίζονται σε πολλές GPU για να φιλοξενήσουν τα μοντέλα SageMaker JumpStart. Πολλαπλές παρουσίες GPU επιτρέπουν σε κάθε παρουσία που υποστηρίζει το τελικό σημείο του Slack AI να φιλοξενεί πολλαπλά αντίγραφα ενός μοντέλου. Αυτό βοηθά στη βελτίωση της χρήσης πόρων και στη μείωση του κόστους ανάπτυξης του μοντέλου. Για περισσότερες πληροφορίες, ανατρέξτε στο Το Amazon SageMaker προσθέτει νέες δυνατότητες συμπερασμάτων για να βοηθήσει στη μείωση του κόστους ανάπτυξης και του λανθάνοντος χρόνου ανάπτυξης του μοντέλου βάσης.

Το παρακάτω διάγραμμα απεικονίζει την αρχιτεκτονική λύσεων.

Για να χρησιμοποιήσει πιο αποτελεσματικά τις παρουσίες και να υποστηρίξει τις απαιτήσεις συγχρονισμού και καθυστέρησης, το Slack χρησιμοποίησε στρατηγικές δρομολόγησης που προσφέρονται από το SageMaker με τα τελικά σημεία του SageMaker. Από προεπιλογή, ένα τελικό σημείο του SageMaker κατανέμει ομοιόμορφα τα εισερχόμενα αιτήματα σε παρουσίες ML χρησιμοποιώντας μια στρατηγική δρομολόγησης αλγόριθμου στρογγυλής περιστροφής που ονομάζεται RANDOM. Ωστόσο, με παραγωγικούς φόρτους εργασίας AI, τα αιτήματα και οι απαντήσεις μπορεί να είναι εξαιρετικά μεταβλητές και είναι επιθυμητό να φορτωθεί το υπόλοιπο λαμβάνοντας υπόψη τη χωρητικότητα και τη χρήση του στιγμιότυπου και όχι την τυχαία εξισορρόπηση φορτίου. Για την αποτελεσματική διανομή των αιτημάτων σε παρουσίες που υποστηρίζουν τα τελικά σημεία, το Slack χρησιμοποιεί το LEAST_OUTSTANDING_REQUESTS στρατηγική δρομολόγησης (LAR). Αυτή η στρατηγική δρομολογεί αιτήματα σε συγκεκριμένες περιπτώσεις που έχουν μεγαλύτερη ικανότητα επεξεργασίας αιτημάτων αντί να επιλέγει τυχαία οποιαδήποτε διαθέσιμη παρουσία. Η στρατηγική LAR παρέχει πιο ομοιόμορφη εξισορρόπηση φορτίου και χρήση πόρων. Ως αποτέλεσμα, το Slack AI παρατήρησε πάνω από 39% μείωση λανθάνοντος χρόνου στους αριθμούς λανθάνοντος χρόνου p95 κατά την ενεργοποίηση LEAST_OUTSTANDING_REQUESTS σε σύγκριση με ΤΥΧΑΙΟ.

Για περισσότερες λεπτομέρειες σχετικά με τις στρατηγικές δρομολόγησης του SageMaker, βλ Ελαχιστοποιήστε την καθυστέρηση συμπερασμάτων σε πραγματικό χρόνο χρησιμοποιώντας στρατηγικές δρομολόγησης του Amazon SageMaker.

Συμπέρασμα

Το Slack παρέχει εγγενείς δυνατότητες παραγωγής τεχνητής νοημοσύνης που θα βοηθήσουν τους πελάτες τους να είναι πιο παραγωγικοί και να αξιοποιήσουν εύκολα τη συλλογική γνώση που είναι ενσωματωμένη στις συνομιλίες τους στο Slack. Με γρήγορη πρόσβαση σε μεγάλη ποικιλία FM και προηγμένες δυνατότητες εξισορρόπησης φορτίου που φιλοξενούνται σε αποκλειστικές παρουσίες μέσω του SageMaker JumpStart, το Slack AI είναι σε θέση να παρέχει πλούσιες δυνατότητες δημιουργίας AI με πιο ισχυρό και ταχύτερο τρόπο, ενώ υποστηρίζει τα πρότυπα εμπιστοσύνης και ασφάλειας του Slack.

Μάθετε περισσότερα σχετικά με SageMaker JumpStart, Slack AI και πώς η ομάδα του Slack δημιούργησε το Slack AI για να είναι ασφαλές και ιδιωτικό. Αφήστε τις σκέψεις και τις ερωτήσεις σας στην ενότητα σχολίων.

---

Σχετικά με τους Συγγραφείς

Τζάκι Ρόκα είναι Αντιπρόεδρος Προϊόντος στο Slack, όπου επιβλέπει το όραμα και την εκτέλεση του Slack AI, το οποίο φέρνει τη γενετική τεχνητή νοημοσύνη εγγενώς και με ασφάλεια στην εμπειρία χρήστη του Slack. Τώρα είναι σε μια αποστολή να βοηθήσει τους πελάτες να επιταχύνουν την παραγωγικότητά τους και να αποκομίσουν ακόμη μεγαλύτερη αξία από τις συνομιλίες, τα δεδομένα και τη συλλογική τους γνώση με τη δημιουργία τεχνητής νοημοσύνης. Πριν από τη θητεία της στο Slack, η Jackie ήταν Διευθύντρια Προϊόντων στην Google για περισσότερα από έξι χρόνια, όπου βοήθησε στην κυκλοφορία και την ανάπτυξη του Youtube TV. Η Jackie εδρεύει στην περιοχή του κόλπου του Σαν Φρανσίσκο.

Rachna Chadha είναι κύριος αρχιτέκτονας λύσεων AI/ML σε Στρατηγικούς Λογαριασμούς στο AWS. Η Rachna είναι αισιόδοξη που πιστεύει ότι η ηθική και υπεύθυνη χρήση της τεχνητής νοημοσύνης μπορεί να βελτιώσει την κοινωνία στο μέλλον και να φέρει οικονομική και κοινωνική ευημερία. Στον ελεύθερο χρόνο της, στη Ράχνα αρέσει να περνά χρόνο με την οικογένειά της, να κάνει πεζοπορία και να ακούει μουσική.

Μαρκ Καρπ είναι αρχιτέκτονας ML με την ομάδα του Amazon SageMaker Service. Επικεντρώνεται στο να βοηθά τους πελάτες να σχεδιάζουν, να αναπτύσσουν και να διαχειρίζονται φόρτους εργασίας ML σε κλίμακα. Στον ελεύθερο χρόνο του, του αρέσει να ταξιδεύει και να εξερευνά νέα μέρη.

Maninder (Mani) Kaur είναι ο επικεφαλής AI/ML Specialist για στρατηγικούς ISV στο AWS. Με την προσέγγισή της ως πελάτης, η Mani βοηθά τους στρατηγικούς πελάτες να διαμορφώσουν τη στρατηγική AI/ML τους, να τροφοδοτήσουν την καινοτομία και να επιταχύνουν το ταξίδι τους AI/ML. Η Mani πιστεύει ακράδαντα στην ηθική και υπεύθυνη τεχνητή νοημοσύνη και προσπαθεί να διασφαλίσει ότι οι λύσεις τεχνητής νοημοσύνης των πελατών της ευθυγραμμίζονται με αυτές τις αρχές.

Gene Ting είναι κύριος αρχιτέκτονας λύσεων στην AWS. Επικεντρώνεται στο να βοηθά τους εταιρικούς πελάτες να δημιουργούν και να λειτουργούν με ασφάλεια φόρτους εργασίας στο AWS. Στον ελεύθερο χρόνο του, ο Τζιν απολαμβάνει να διδάσκει στα παιδιά τεχνολογία και αθλήματα, καθώς και να παρακολουθεί τις τελευταίες πληροφορίες για την ασφάλεια στον κυβερνοχώρο.

Άλαν Ταν είναι Ανώτερος Διευθυντής Προϊόντων με το SageMaker, ο οποίος ηγείται των προσπαθειών για εξαγωγή συμπερασμάτων μεγάλων μοντέλων. Είναι παθιασμένος με την εφαρμογή της μηχανικής μάθησης στον τομέα της ανάλυσης. Εκτός δουλειάς, απολαμβάνει την ύπαιθρο.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://aws.amazon.com/blogs/machine-learning/slack-delivers-native-and-secure-generative-ai-powered-by-amazon-sagemaker-jumpstart/