Τα μοντέλα βάσης Llama 2 από τη Meta είναι πλέον διαθέσιμα στο Amazon SageMaker JumpStart | Υπηρεσίες Ιστού της Amazon

Σήμερα, είμαστε ενθουσιασμένοι που ανακοινώνουμε ότι τα μοντέλα βάσης Llama 2 που αναπτύχθηκαν από τη Meta είναι διαθέσιμα για τους πελάτες μέσω Amazon SageMaker JumpStart. Η οικογένεια Llama 2 μεγάλων γλωσσικών μοντέλων (LLMs) είναι μια συλλογή προεκπαιδευμένων και βελτιστοποιημένων μοντέλων δημιουργίας κειμένου που κυμαίνονται σε κλίμακα από 7 δισεκατομμύρια έως 70 δισεκατομμύρια παραμέτρους. Τα τελειοποιημένα LLM, που ονομάζονται Llama-2-chat, είναι βελτιστοποιημένα για περιπτώσεις χρήσης διαλόγου. Μπορείτε εύκολα να δοκιμάσετε αυτά τα μοντέλα και να τα χρησιμοποιήσετε με το SageMaker JumpStart, το οποίο είναι ένας κόμβος μηχανικής εκμάθησης (ML) που παρέχει πρόσβαση σε αλγόριθμους, μοντέλα και λύσεις ML, ώστε να μπορείτε να ξεκινήσετε γρήγορα με την ML.

Σε αυτήν την ανάρτηση, περιγράφουμε πώς να χρησιμοποιήσετε τα μοντέλα Llama 2 μέσω του SageMaker JumpStart.

Τι είναι το Llama 2

Το Llama 2 είναι ένα μοντέλο γλώσσας αυτόματης παλινδρόμησης που χρησιμοποιεί μια βελτιστοποιημένη αρχιτεκτονική μετασχηματιστή. Το Llama 2 προορίζεται για εμπορική και ερευνητική χρήση στα αγγλικά. Διατίθεται σε μια σειρά μεγεθών παραμέτρων—7 δισεκατομμύρια, 13 δισεκατομμύρια και 70 δισεκατομμύρια—καθώς και σε προεκπαιδευμένες και βελτιωμένες παραλλαγές. Σύμφωνα με το Meta, οι συντονισμένες εκδόσεις χρησιμοποιούν εποπτευόμενη λεπτομέρεια (SFT) και ενισχυτική μάθηση με ανθρώπινη ανάδραση (RLHF) για να ευθυγραμμιστούν με τις ανθρώπινες προτιμήσεις για εξυπηρετικότητα και ασφάλεια. Το Llama 2 ήταν προεκπαιδευμένο σε 2 τρισεκατομμύρια μάρκες δεδομένων από δημόσια διαθέσιμες πηγές. Τα συντονισμένα μοντέλα προορίζονται για συνομιλία τύπου βοηθού, ενώ τα προεκπαιδευμένα μοντέλα μπορούν να προσαρμοστούν για μια ποικιλία εργασιών δημιουργίας φυσικής γλώσσας. Ανεξάρτητα από την έκδοση του μοντέλου που χρησιμοποιεί ένας προγραμματιστής, το οδηγός υπεύθυνης χρήσης από το Meta μπορεί να βοηθήσει στην καθοδήγηση πρόσθετων λεπτομερειών που μπορεί να είναι απαραίτητες για την προσαρμογή και τη βελτιστοποίηση των μοντέλων με κατάλληλους μετριασμούς ασφαλείας.

Τι είναι το SageMaker JumpStart

Με το SageMaker JumpStart, οι επαγγελματίες ML μπορούν να επιλέξουν από μια ευρεία επιλογή μοντέλων θεμελίωσης ανοιχτού κώδικα. Οι επαγγελματίες ML μπορούν να αναπτύξουν μοντέλα θεμελίωσης σε αποκλειστική χρήση Amazon Sage Maker στιγμιότυπα από ένα απομονωμένο περιβάλλον δικτύου και προσαρμόστε μοντέλα χρησιμοποιώντας το SageMaker για εκπαίδευση και ανάπτυξη μοντέλων.

Τώρα μπορείτε να ανακαλύψετε και να αναπτύξετε το Llama 2 με μερικά κλικ Στούντιο Amazon SageMaker ή μέσω προγραμματισμού μέσω του SageMaker Python SDK, επιτρέποντάς σας να εξάγετε στοιχεία ελέγχου απόδοσης μοντέλου και MLOps με λειτουργίες του SageMaker όπως π.χ. Αγωγοί Amazon SageMaker, Debugger Amazon SageMaker, ή αρχεία καταγραφής κοντέινερ. Το μοντέλο αναπτύσσεται σε ένα ασφαλές περιβάλλον AWS και υπό τους ελέγχους VPC σας, συμβάλλοντας στη διασφάλιση της ασφάλειας των δεδομένων. Τα μοντέλα Llama 2 είναι διαθέσιμα σήμερα στο Amazon SageMaker Studio, αρχικά στο us-east 1 και us-west 2 περιοχές.

Ανακαλύψτε μοντέλα

Μπορείτε να αποκτήσετε πρόσβαση στα βασικά μοντέλα μέσω του SageMaker JumpStart στο SageMaker Studio UI και στο SageMaker Python SDK. Σε αυτήν την ενότητα, θα δούμε πώς να ανακαλύψετε τα μοντέλα στο SageMaker Studio.

Το SageMaker Studio είναι ένα ολοκληρωμένο περιβάλλον ανάπτυξης (IDE) που παρέχει μια ενιαία οπτική διεπαφή βασισμένη στον ιστό, όπου μπορείτε να έχετε πρόσβαση σε ειδικά σχεδιασμένα εργαλεία για να εκτελέσετε όλα τα βήματα ανάπτυξης ML, από την προετοιμασία δεδομένων έως τη δημιουργία, την εκπαίδευση και την ανάπτυξη των μοντέλων σας ML. Για περισσότερες λεπτομέρειες σχετικά με το πώς να ξεκινήσετε και να ρυθμίσετε το SageMaker Studio, ανατρέξτε στο Στούντιο Amazon SageMaker.

Μόλις είστε στο SageMaker Studio, μπορείτε να αποκτήσετε πρόσβαση στο SageMaker JumpStart, το οποίο περιέχει προεκπαιδευμένα μοντέλα, σημειωματάρια και προκατασκευασμένες λύσεις, κάτω από Προκατασκευασμένες και αυτοματοποιημένες λύσεις.

Από τη σελίδα προορισμού του SageMaker JumpStart, μπορείτε να αναζητήσετε λύσεις, μοντέλα, σημειωματάρια και άλλους πόρους. Μπορείτε να βρείτε δύο κορυφαία μοντέλα Llama 2 στο Μοντέλα θεμελίωσης: Δημιουργία κειμένου στροβιλοδρόμιο. Εάν δεν βλέπετε μοντέλα Llama 2, ενημερώστε την έκδοση του SageMaker Studio τερματίζοντας και επανεκκινώντας. Για περισσότερες πληροφορίες σχετικά με τις ενημερώσεις έκδοσης, ανατρέξτε στο Τερματισμός και ενημέρωση εφαρμογών Studio.

Μπορείτε επίσης να βρείτε άλλες τέσσερις παραλλαγές μοντέλων επιλέγοντας Εξερευνήστε όλα τα μοντέλα δημιουργίας κειμένου ή αναζητώντας llama στο πλαίσιο αναζήτησης.

Μπορείτε να επιλέξετε την κάρτα μοντέλου για να προβάλετε λεπτομέρειες σχετικά με το μοντέλο, όπως άδεια χρήσης, δεδομένα που χρησιμοποιούνται για την εκπαίδευση και τον τρόπο χρήσης. Μπορείτε επίσης να βρείτε δύο κουμπιά, Ανάπτυξη και Ανοίξτε το Σημειωματάριο, που σας βοηθούν να χρησιμοποιήσετε το μοντέλο.

Όταν επιλέγετε οποιοδήποτε κουμπί, ένα αναδυόμενο παράθυρο θα εμφανίσει τη συμφωνία άδειας χρήσης τελικού χρήστη και την πολιτική αποδεκτής χρήσης για να το αναγνωρίσετε.

Μετά την αποδοχή, θα προχωρήσετε στο επόμενο βήμα για να χρησιμοποιήσετε το μοντέλο.

Αναπτύξτε ένα μοντέλο

Όταν επιλέγετε Ανάπτυξη και να αναγνωρίσετε τους όρους, θα ξεκινήσει η ανάπτυξη του μοντέλου. Εναλλακτικά, μπορείτε να αναπτύξετε μέσω του παραδείγματος σημειωματάριου που εμφανίζεται επιλέγοντας Ανοίξτε το Σημειωματάριο. Το παράδειγμα σημειωματάριο παρέχει καθοδήγηση από άκρο σε άκρο σχετικά με τον τρόπο ανάπτυξης του μοντέλου για εξαγωγή συμπερασμάτων και εκκαθάριση πόρων.

Για την ανάπτυξη χρησιμοποιώντας ένα σημειωματάριο, ξεκινάμε επιλέγοντας ένα κατάλληλο μοντέλο, που καθορίζεται από το model_id. Μπορείτε να αναπτύξετε οποιοδήποτε από τα επιλεγμένα μοντέλα στο SageMaker με τον ακόλουθο κώδικα:

from sagemaker.jumpstart.model import JumpStartModel
my_model = JumpStartModel(model_id = "meta-textgeneration-llama-2-70b-f")
predictor = my_model.deploy()

Αυτό αναπτύσσει το μοντέλο στο SageMaker με προεπιλεγμένες διαμορφώσεις, συμπεριλαμβανομένου του προεπιλεγμένου τύπου παρουσίας και των προεπιλεγμένων διαμορφώσεων VPC. Μπορείτε να αλλάξετε αυτές τις διαμορφώσεις καθορίζοντας μη προεπιλεγμένες τιμές JumpStartModel. Μετά την ανάπτυξή του, μπορείτε να εκτελέσετε συμπέρασμα στο τελικό σημείο που έχει αναπτυχθεί μέσω του προγνωστικού SageMaker:

payload = { “inputs”: [ [ {"role": "system", "content": "Always answer with Haiku"}, {"role": "user", "content": "I am going to Paris, what should I see?"}, ] ], "parameters":{"max_new_tokens":256, "top_p":0.9, "temperature":0.6}
}

Τα βελτιωμένα μοντέλα συνομιλίας (Llama-2-7b-chat, Llama-2-13b-chat, Llama-2-70b-chat) δέχονται ένα ιστορικό συνομιλίας μεταξύ του χρήστη και του βοηθού συνομιλίας και δημιουργούν την επόμενη συνομιλία. Τα προεκπαιδευμένα μοντέλα (Llama-2-7b, Llama-2-13b, Llama-2-70b) απαιτούν μια προτροπή συμβολοσειράς και εκτελούν τη συμπλήρωση κειμένου στο παρεχόμενο μήνυμα. Δείτε τον παρακάτω κώδικα:

predictor.predict(payload, custom_attributes="accept_eula=true")

Σημειώστε ότι από προεπιλογή, accept_eula έχει οριστεί ως ψευδής. Πρέπει να ρυθμίσετε accept_eula=true για να καλέσετε το τελικό σημείο με επιτυχία. Με αυτόν τον τρόπο, αποδέχεστε τη συμφωνία άδειας χρήσης χρήστη και την πολιτική αποδεκτής χρήσης, όπως αναφέρθηκε προηγουμένως. Μπορείτε επίσης να κατεβάσετε τη συμφωνία άδειας χρήσης.

Custom_attributes που χρησιμοποιούνται για τη μετάδοση της EULA είναι ζεύγη κλειδιών/τιμών. Το κλειδί και η τιμή διαχωρίζονται με = και τα ζεύγη χωρίζονται με ;. Εάν ο χρήστης περάσει το ίδιο κλειδί περισσότερες από μία φορές, η τελευταία τιμή διατηρείται και μεταβιβάζεται στον χειριστή σεναρίων (δηλαδή, σε αυτήν την περίπτωση, χρησιμοποιείται για λογική υπό όρους). Για παράδειγμα, εάν accept_eula=false; accept_eula=true μεταβιβάζεται στον διακομιστή, τότε  accept_eula=true διατηρείται και μεταβιβάζεται στον χειριστή σεναρίου.

Οι παράμετροι συμπερασμάτων ελέγχουν τη διαδικασία δημιουργίας κειμένου στο τελικό σημείο. Ο μέγιστος έλεγχος νέων διακριτικών αναφέρεται στο μέγεθος της εξόδου που παράγεται από το μοντέλο. Σημειώστε ότι αυτό δεν είναι το ίδιο με τον αριθμό των λέξεων, επειδή το λεξιλόγιο του μοντέλου δεν είναι το ίδιο με το λεξιλόγιο της αγγλικής γλώσσας και κάθε διακριτικό μπορεί να μην είναι λέξη της αγγλικής γλώσσας. Η θερμοκρασία ελέγχει την τυχαιότητα στην έξοδο. Η υψηλότερη θερμοκρασία έχει ως αποτέλεσμα πιο δημιουργικά και παραισθησιογόνα αποτελέσματα. Όλες οι παράμετροι συμπερασμάτων είναι προαιρετικές.

Ο παρακάτω πίνακας παραθέτει όλα τα μοντέλα Llama που είναι διαθέσιμα στο SageMaker JumpStart μαζί με το model_ids, προεπιλεγμένους τύπους παρουσιών και τον μέγιστο αριθμό των συνολικών διακριτικών (άθροισμα του αριθμού των διακριτικών εισόδου και του αριθμού των κουπονιών που δημιουργούνται) που υποστηρίζονται για καθένα από αυτά τα μοντέλα.

Σημειώστε ότι τα τελικά σημεία του SageMaker έχουν όριο χρονικού ορίου 60 δευτερολέπτων. Έτσι, παρόλο που το μοντέλο μπορεί να είναι σε θέση να δημιουργήσει 4096 διακριτικά, εάν η δημιουργία κειμένου διαρκέσει περισσότερα από 60 δευτερόλεπτα, το αίτημα θα αποτύχει. Για μοντέλα 7B, 13B και 70B, συνιστούμε να ρυθμίσετε max_new_tokens όχι μεγαλύτερο από 1500, 1000 και 500 αντίστοιχα, ενώ διατηρείται ο συνολικός αριθμός των κουπονιών μικρότερος από 4K.

Συμπεράσματα και παραδείγματα προτροπών για το Llama-2-70b

Μπορείτε να χρησιμοποιήσετε μοντέλα Llama για συμπλήρωση κειμένου για οποιοδήποτε κομμάτι κειμένου. Μέσω της δημιουργίας κειμένου, μπορείτε να εκτελέσετε μια ποικιλία εργασιών, όπως απαντήσεις σε ερωτήσεις, μετάφραση γλώσσας, ανάλυση συναισθημάτων και πολλά άλλα. Το ωφέλιμο φορτίο εισόδου στο τελικό σημείο μοιάζει με τον ακόλουθο κώδικα:

payload = { “inputs”: str, (optional)"parameters":{"max_new_tokens":int, "top_p":float, "temperature":float}
}

Ακολουθούν μερικά παραδείγματα προτροπών και το κείμενο που δημιουργείται από το μοντέλο. Όλες οι έξοδοι δημιουργούνται με παραμέτρους συμπερασμάτων {"max_new_tokens":256, "top_p":0.9, "temperature":0.6}.

Input: Simply put, the theory of relativity states that Output: 1) the laws of physics are the same for all observers in uniform motion relative to one another, and 2) the speed of light is the same for all observers, regardless of their relative motion or of the motion of the source of the light.
In the late 1800s, scientists believed that light travelled through a medium they called the luminiferous ether. But in 1887, Albert Michelson and Edward Morley designed an experiment to measure the speed of light in the ether, and found that the speed of light was the same no matter how they oriented their equipment. This result seemed to contradict the idea of the ether, and Michelson and Morley’s experiment became one of the most famous failed experiments in history.
In 1905, Albert Einstein published a paper that used the results of the Michelson-Morley experiment to develop the theory of special relativity. In 1915, Einstein published a paper on general relativity, which is a theory of gravitation.
In physics, the speed of light is considered to be a constant, and its value is 299,792,458 metres Input: I believe the meaning of life is Output: to be happy, to find joy in life, to love and be loved. To have the courage to be yourself and to be kind to others. To be able to express yourself, to create and to be inspired. To be able to give and receive. To be able to learn and grow. To be able to find beauty in the world and to be able to appreciate it. To be able to find peace and contentment. To be able to find meaning and purpose. To be able to make a difference in the world. To be able to find joy in the simple things. To be able to find joy in the difficult things. To be able to find joy in the journey. To be able to find joy in the destination. To be able to find joy in the present moment. To be able to find joy in the future. To be able to find joy in the past. To be able to find joy in the present. To be able to find joy in the future. To be able to find joy in the past. To be able to find joy in the present. To be able to find joy in the future. To be able to find joy in the past. To be able to find joy in the present. To be able to find joy Input: A brief message congratulating the team on the launch: Hi everyone, I just Output: wanted to send a quick note to congratulate everyone on the launch of our new website. I know it’s been a long time coming and I’m sure we’re all relieved that it’s finally out there. Thanks to everyone for their hard work and dedication over the last few months. I know it wasn’t always easy, but I think we can all be proud of the final product. I’m looking forward to seeing how our users respond to the new site and I’m confident that it will be a success. Thanks again, and enjoy the rest of your day! Best, [Your Name] [Your Title] [Your Company] [Your Email] [Your Phone Number] [Your Website] [Your Social Media Handles] [Your Address] [Your City, State, Zip Code] [Your Country] [Your Postal Code] [Your Website] [

Στο επόμενο παράδειγμα, δείχνουμε πώς να χρησιμοποιούμε μοντέλα Llama με μάθηση με λίγες λήψεις εντός πλαισίου, όπου παρέχουμε δείγματα εκπαίδευσης διαθέσιμα στο μοντέλο. Σημειώστε ότι βγάζουμε συμπεράσματα μόνο για το αναπτυγμένο μοντέλο και κατά τη διάρκεια αυτής της διαδικασίας, τα βάρη του μοντέλου δεν αλλάζουν.

Input: Translate English to French: sea otter => loutre de mer peppermint => menthe poivrée plush girafe => girafe peluche cheese => Output: fromage chocolate => chocolat car => voiture hamster => hamster beer => bière bicycle => bicyclette banana => banane strawberry => fraise pizza => pizza cheeseburger => cheeseburger pineapple => ananas carrot => carotte watermelon => pastèque whale => baleine eggplant => aubergine cat => chat penguin => manchot lion => lion elephant => éléphant panda => panda tiger => tigre salmon => saumon squirrel => écureuil kangaroo => kangourou turtle => tortue octopus => poulpe frog => grenouille pig => cochon goldfish => poisson rouge tiger shark => requin tigre gorilla => gorille dol

Προτροπές συμπερασμάτων και παραδειγμάτων για το Llama-2-70b-chat

Με τα μοντέλα Llama-2-Chat, τα οποία είναι βελτιστοποιημένα για περιπτώσεις χρήσης διαλόγου, η είσοδος στα τελικά σημεία του μοντέλου συνομιλίας είναι το προηγούμενο ιστορικό μεταξύ του βοηθού συνομιλίας και του χρήστη. Μπορείτε να κάνετε ερωτήσεις σχετικά με τη συνομιλία που έχει γίνει μέχρι τώρα. Μπορείτε επίσης να παρέχετε τη διαμόρφωση του συστήματος, όπως πρόσωπα που καθορίζουν τη συμπεριφορά του βοηθού συνομιλίας. Το ωφέλιμο φορτίο εισόδου στο τελικό σημείο μοιάζει με τον ακόλουθο κώδικα:

payload = { “inputs”: [ [ (optional){"role": "system", "content": str}, (repeated k times) {"role": "user", "content": str}, {"role": "assistant", "content": str}, {"role": "user", "content": str}, ] ], (optional)"parameters":{"max_new_tokens":int, "top_p":float, "temperature":float}
}

Ακολουθούν μερικά παραδείγματα προτροπών και το κείμενο που δημιουργείται από το μοντέλο. Όλες οι έξοδοι δημιουργούνται με τις παραμέτρους συμπερασμάτων {"max_new_tokens": 512, "top_p": 0.9, "temperature": 0.6}.

Input:
User: what is the recipe of mayonnaise? Output:
Assistant: Sure, I can help you with that! Mayonnaise is a thick, creamy condiment made from a mixture of egg yolks, oil, vinegar or lemon juice, and seasonings. Here's a basic recipe for homemade mayonnaise: Ingredients: * 2 egg yolks
* 1/2 cup (120 ml) neutral-tasting oil, such as canola or grapeseed
* 1 tablespoon (15 ml) vinegar or lemon juice
* 1/2 teaspoon salt
* 1/4 teaspoon black pepper Instructions: 1. In a medium-sized bowl, whisk together the egg yolks, salt, and black pepper until well combined.
2. Slowly pour the oil into the bowl while continuously whisking the mixture. It's important to add the oil very slowly, otherwise the mixture can break and you'll end up with a separated, curdled mess.
3. Continue whisking until the mixture thickens and emulsifies, which should take about 5-7 minutes. You'll know it's ready when the mixture has doubled in volume and has a thick, creamy consistency.
4. Add the vinegar or lemon juice and continue whisking for another minute or two, until the flavors are fully incorporated.
5. Taste the mayonnaise and adjust the seasoning as needed. You can add more salt, pepper, or acid if desired.
6. Cover the bowl with plastic wrap and refrigerate the mayonnaise for at least 30 minutes before serving. This will allow the flavors to meld together and the mayonnaise to thicken further. That's it! This recipe makes about 1 1/2 cups (360 ml) of mayonnaise, which should be enough for a small to medium-sized batch of sandwiches or salads. You can also customize the recipe by adding different flavorings, such as garlic, mustard, or herbs, to create a unique taste. Enjoy!

Στο παρακάτω παράδειγμα, ο χρήστης είχε μια συνομιλία με τον βοηθό σχετικά με τουριστικές τοποθεσίες στο Παρίσι. Στη συνέχεια, ο χρήστης ρωτά για την πρώτη επιλογή που προτείνει ο βοηθός συνομιλίας.

Input:
User: I am going to Paris, what should I see?
Assistant: Paris, the capital of France, is known for its stunning architecture, art museums, historical landmarks, and romantic atmosphere. Here are some of the top attractions to see in Paris: 1. The Eiffel Tower: The iconic Eiffel Tower is one of the most recognizable landmarks in the world and offers breathtaking views of the city.
2. The Louvre Museum: The Louvre is one of the world's largest and most famous museums, housing an impressive collection of art and artifacts, including the Mona Lisa.
3. Notre-Dame Cathedral: This beautiful cathedral is one of the most famous landmarks in Paris and is known for its Gothic architecture and stunning stained glass windows. These are just a few of the many attractions that Paris has to offer. With so much to see and do, it's no wonder that Paris is one of the most popular tourist destinations in the world.
User: What is so great about #1? Output:
Assistant: The Eiffel Tower is a world-renowned iconic landmark that symbolizes Paris and France. It was built for the World's Fair in 1889 and was initially intended to be a temporary structure, but it has become a permanent part of the Parisian skyline. Here are some reasons why the Eiffel Tower is so great: 1. Engineering marvel: The Eiffel Tower was a groundbreaking feat of engineering at the time of its construction. It stands at 324 meters (1,063 feet) tall and was the tallest structure in the world for over 40 years.
2. Iconic design: The Eiffel Tower's distinctive shape and design make it instantly recognizable. It has been the subject of countless works of art, photographs, and films, and has become a symbol of Paris and France.
3. Panoramic views: The Eiffel Tower offers breathtaking views of the city from its observation decks. Visitors can enjoy a 360-degree view of Paris, including famous landmarks such as the Seine River, the Arc de Triomphe, and the Montmartre neighborhood.
4. Historical significance: The Eiffel Tower has played a significant role in Paris's history, having been the site of numerous important events, including the famous "Battle of the Eiffel Tower" during World War II.
5. Cultural impact: The Eiffel Tower has had a significant impact on popular culture, inspiring countless works of art, literature, and music. It has also been the subject of numerous documentaries and films, including the classic movie "An American in Paris."
6. Romantic setting: The Eiffel Tower is known for its romantic atmosphere, making it a popular destination for couples and newlyweds. It has been the site of countless marriage proposals and has been featured in numerous romantic films and literature.
7. Accessibility: The Eiffel Tower is easily accessible by public transportation, making it a convenient destination for visitors. It is also wheelchair-friendly, with elevators and ramps providing access to all levels. Overall, the Eiffel Tower is a must-see destination for anyone visiting Paris, offering a unique and unforgettable experience that combines history, culture, engineering, and rom

Στα ακόλουθα παραδείγματα, ορίζουμε τη διαμόρφωση του συστήματος:

Input:
System: Always answer with Haiku
User: I am going to Paris, what should I see? Output:
Assistant: Eiffel Tower high
Art in the Louvre Museum
River Seine flows Input:
System: Always answer with emojis
User: How to go from Beijing to NY? Output:
Assistant: Here are the emojis that represent the steps to go from Beijing to New York: 🇨🇳🛫🛬🇺🇸🗽🏙️🚕💨🛩️🛬🛫😴💤🛩️🛬🛫😍

εκκαθάριση

Αφού ολοκληρώσετε την εκτέλεση του σημειωματάριου, φροντίστε να διαγράψετε όλους τους πόρους, έτσι ώστε όλοι οι πόροι που δημιουργήσατε στη διαδικασία να διαγραφούν και η χρέωσή σας να διακοπεί:

predictor.delete_model()
predictor.delete_endpoint()

Συμπέρασμα

Σε αυτήν την ανάρτηση, σας δείξαμε πώς να ξεκινήσετε με τα μοντέλα Llama 2 στο SageMaker Studio. Με αυτό, έχετε πρόσβαση σε έξι μοντέλα βάσης Llama 2 που περιέχουν δισεκατομμύρια παραμέτρους. Επειδή τα μοντέλα θεμελίωσης είναι προεκπαιδευμένα, μπορούν επίσης να συμβάλουν στη μείωση του κόστους εκπαίδευσης και υποδομής και να επιτρέψουν την προσαρμογή για την περίπτωση χρήσης σας. Για να ξεκινήσετε με το SageMaker JumpStart, επισκεφτείτε τους παρακάτω πόρους:

Σχετικά με τους συγγραφείς

Ο Ιούνιος νίκησε είναι διαχειριστής προϊόντων με το SageMaker JumpStart. Επικεντρώνεται στο να κάνει τα μοντέλα θεμελίων εύκολα ανιχνεύσιμα και χρησιμοποιήσιμα για να βοηθήσει τους πελάτες να δημιουργήσουν παραγωγικές εφαρμογές τεχνητής νοημοσύνης. Η εμπειρία του στο Amazon περιλαμβάνει επίσης εφαρμογή αγορών για κινητά και παράδοση τελευταίου μιλίου.

Δρ Vivek Madan είναι Εφαρμοσμένος Επιστήμονας με την ομάδα Amazon SageMaker JumpStart. Πήρε το διδακτορικό του από το Πανεπιστήμιο του Ιλινόις στο Urbana-Champaign και ήταν μεταδιδακτορικός ερευνητής στο Georgia Tech. Είναι ενεργός ερευνητής στη μηχανική μάθηση και στο σχεδιασμό αλγορίθμων και έχει δημοσιεύσει εργασίες σε συνέδρια EMNLP, ICLR, COLT, FOCS και SODA. Δόκτωρ Kyle Ulrich είναι Εφαρμοσμένος Επιστήμονας με την ομάδα Amazon SageMaker JumpStart. Τα ερευνητικά του ενδιαφέροντα περιλαμβάνουν κλιμακωτούς αλγόριθμους μηχανικής μάθησης, όραση υπολογιστή, χρονοσειρές, μη παραμετρικές Μπεϋζιανές και διεργασίες Gauss. Το διδακτορικό του είναι από το Πανεπιστήμιο Duke και έχει δημοσιεύσει εργασίες στα NeurIPS, Cell και Neuron. Δρ Ashish Khetan είναι Senior Applied Scientist με το Amazon SageMaker JumpStart και βοηθά στην ανάπτυξη αλγορίθμων μηχανικής μάθησης. Πήρε το διδακτορικό του από το Πανεπιστήμιο του Illinois Urbana-Champaign. Είναι ενεργός ερευνητής στη μηχανική μάθηση και στα στατιστικά συμπεράσματα και έχει δημοσιεύσει πολλές εργασίες σε συνέδρια NeurIPS, ICML, ICLR, JMLR, ACL και EMNLP. Σούνταρ Ρανγκανάθαν είναι ο παγκόσμιος επικεφαλής των ειδικών GenAI/Frameworks GTM στο AWS. Επικεντρώνεται στην ανάπτυξη στρατηγικής GTM για μεγάλα γλωσσικά μοντέλα, GenAI και μεγάλης κλίμακας φόρτους εργασίας ML σε υπηρεσίες AWS όπως το Amazon EC2, το EKS, το EFA, το AWS Batch και το Amazon SageMaker. Η εμπειρία του περιλαμβάνει ηγετικούς ρόλους στη διαχείριση προϊόντων και την ανάπτυξη προϊόντων στις NetApp, Micron Technology, Qualcomm και Mentor Graphics.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Αυτοκίνητο / EVs, Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• BlockOffsets. Εκσυγχρονισμός της περιβαλλοντικής αντιστάθμισης ιδιοκτησίας. Πρόσβαση εδώ.
• πηγή: https://aws.amazon.com/blogs/machine-learning/llama-2-foundation-models-from-meta-are-now-available-in-amazon-sagemaker-jumpstart/