Το μοντέλο βάσης Falcon 180B από την TII είναι πλέον διαθέσιμο μέσω του Amazon SageMaker JumpStart | Υπηρεσίες Ιστού της Amazon

Σήμερα, είμαστε ενθουσιασμένοι που ανακοινώνουμε ότι το μοντέλο βάσης Falcon 180B που αναπτύχθηκε από το Technology Innovation Institute (TII) και εκπαιδεύτηκε στο Amazon SageMaker είναι διαθέσιμο για πελάτες μέσω Amazon SageMaker JumpStart για ανάπτυξη με ένα κλικ για εκτέλεση συμπερασμάτων. Με μέγεθος παραμέτρων 180 δισεκατομμυρίων και εκπαιδευμένο σε ένα τεράστιο σύνολο δεδομένων χωρητικότητας 3.5 τρισεκατομμυρίων, το Falcon 180B είναι το μεγαλύτερο και ένα από τα πιο αποδοτικά μοντέλα με ανοιχτά προσβάσιμα βάρη. Μπορείτε να δοκιμάσετε αυτό το μοντέλο με το SageMaker JumpStart, έναν κόμβο μηχανικής εκμάθησης (ML) που παρέχει πρόσβαση σε αλγόριθμους, μοντέλα και λύσεις ML, ώστε να μπορείτε να ξεκινήσετε γρήγορα με την ML. Σε αυτήν την ανάρτηση, περιγράφουμε πώς να ανακαλύψετε και να αναπτύξετε το μοντέλο Falcon 180B μέσω του SageMaker JumpStart.

Τι είναι το Falcon 180B

Το Falcon 180B είναι ένα μοντέλο που κυκλοφόρησε από ΤΙΙ που ακολουθεί προηγούμενες κυκλοφορίες στην οικογένεια Falcon. Είναι μια αναβαθμισμένη έκδοση του Falcon 40B και χρησιμοποιεί την προσοχή πολλών ερωτημάτων για καλύτερη επεκτασιμότητα. Είναι ένα μοντέλο γλώσσας αυτόματης παλινδρόμησης που χρησιμοποιεί μια βελτιστοποιημένη αρχιτεκτονική μετασχηματιστή. Εκπαιδεύτηκε σε 3.5 τρισεκατομμύρια tokens δεδομένων, που αποτελούνταν κυρίως από δεδομένα ιστού από RefinedWeb (περίπου 85%). Το μοντέλο έχει δύο εκδόσεις: 180B και 180B-Chat. Το 180B είναι ένα ακατέργαστο, προεκπαιδευμένο μοντέλο, το οποίο θα πρέπει να βελτιωθεί περαιτέρω για τις περισσότερες περιπτώσεις χρήσης. Το 180B-Chat είναι πιο κατάλληλο για τη λήψη γενικών οδηγιών. Το μοντέλο Chat έχει βελτιστοποιηθεί σε σύνολα δεδομένων συνομιλίας και οδηγιών μαζί με πολλά σύνολα δεδομένων συνομιλίας μεγάλης κλίμακας.

Το μοντέλο διατίθεται κάτω από το Άδεια Falcon-180B TII και Πολιτική Αποδεκτής Χρήσης.

Το Falcon 180B εκπαιδεύτηκε από την TII στις Amazon Sage Maker, σε ένα σύμπλεγμα περίπου 4K A100 GPU. Χρησιμοποίησε μια προσαρμοσμένη κατανεμημένη βάση κώδικα εκπαίδευσης που ονομάζεται Gigatron, η οποία χρησιμοποιεί τρισδιάστατο παραλληλισμό με το ZeRO και προσαρμοσμένους πυρήνες Triton υψηλής απόδοσης. Χρησιμοποιήθηκε η κατανεμημένη αρχιτεκτονική εκπαίδευσης Απλή υπηρεσία αποθήκευσης Amazon (Amazon S3) ως η μοναδική ενοποιημένη υπηρεσία φόρτωσης δεδομένων και εγγραφής και ανάγνωσης σημείων ελέγχου, η οποία συνέβαλε ιδιαίτερα στην αξιοπιστία του φόρτου εργασίας και στη λειτουργική απλότητα.

Τι είναι το SageMaker JumpStart

Με το SageMaker JumpStart, οι επαγγελματίες ML μπορούν να επιλέξουν από μια αυξανόμενη λίστα μοντέλων βάσης με τις καλύτερες επιδόσεις. Οι επαγγελματίες ML μπορούν να αναπτύξουν μοντέλα θεμελίωσης σε αποκλειστικές παρουσίες του SageMaker μέσα σε ένα απομονωμένο περιβάλλον δικτύου και να προσαρμόσουν μοντέλα χρησιμοποιώντας το Amazon SageMaker για εκπαίδευση και ανάπτυξη μοντέλων.

Τώρα μπορείτε να ανακαλύψετε και να αναπτύξετε το Falcon 180B με μερικά κλικ μέσα Στούντιο Amazon SageMaker ή μέσω προγραμματισμού μέσω του SageMaker Python SDK, επιτρέποντάς σας να εξάγετε στοιχεία ελέγχου απόδοσης μοντέλου και MLOps με λειτουργίες του SageMaker όπως π.χ. Αγωγοί Amazon SageMaker, Debugger Amazon SageMaker, ή αρχεία καταγραφής κοντέινερ. Το μοντέλο αναπτύσσεται σε ένα ασφαλές περιβάλλον AWS και υπό τους ελέγχους VPC σας, συμβάλλοντας στη διασφάλιση της ασφάλειας των δεδομένων. Το Falcon 180B είναι ανιχνεύσιμο και μπορεί να αναπτυχθεί σε περιοχές όπου είναι διαθέσιμες οι απαραίτητες παρουσίες. Προς το παρόν, περιπτώσεις ml.p4de είναι διαθέσιμες στις Η.Π.Α. (Ν. Βιρτζίνια) και στη Δύση των ΗΠΑ (Όρεγκον).

Ανακαλύψτε μοντέλα

Μπορείτε να αποκτήσετε πρόσβαση στα βασικά μοντέλα μέσω του SageMaker JumpStart στο SageMaker Studio UI και στο SageMaker Python SDK. Σε αυτήν την ενότητα, θα δούμε πώς να ανακαλύψετε τα μοντέλα στο SageMaker Studio.

Το SageMaker Studio είναι ένα ολοκληρωμένο περιβάλλον ανάπτυξης (IDE) που παρέχει μια ενιαία οπτική διεπαφή βασισμένη στον ιστό, όπου μπορείτε να έχετε πρόσβαση σε ειδικά σχεδιασμένα εργαλεία για να εκτελέσετε όλα τα βήματα ανάπτυξης ML, από την προετοιμασία δεδομένων έως τη δημιουργία, την εκπαίδευση και την ανάπτυξη των μοντέλων σας ML. Για περισσότερες λεπτομέρειες σχετικά με το πώς να ξεκινήσετε και να ρυθμίσετε το SageMaker Studio, ανατρέξτε στο Στούντιο Amazon SageMaker.

Στο SageMaker Studio, μπορείτε να αποκτήσετε πρόσβαση στο SageMaker JumpStart, το οποίο περιέχει προεκπαιδευμένα μοντέλα, σημειωματάρια και προκατασκευασμένες λύσεις, κάτω από Προκατασκευασμένες και αυτοματοποιημένες λύσεις.

Από τη σελίδα προορισμού του SageMaker JumpStart, μπορείτε να αναζητήσετε λύσεις, μοντέλα, σημειωματάρια και άλλους πόρους. Μπορείτε να βρείτε το Falcon 180B στο Μοντέλα θεμελίωσης: Δημιουργία κειμένου στροβιλοδρόμιο

Μπορείτε επίσης να βρείτε άλλες παραλλαγές μοντέλων επιλέγοντας Εξερευνήστε όλα τα μοντέλα δημιουργίας κειμένου ή αναζητώντας Falcon.

Μπορείτε να επιλέξετε την κάρτα μοντέλου για να προβάλετε λεπτομέρειες σχετικά με το μοντέλο, όπως άδεια χρήσης, δεδομένα που χρησιμοποιούνται για την εκπαίδευση και τον τρόπο χρήσης. Θα βρείτε επίσης δύο κουμπιά, Ανάπτυξη και Ανοίξτε το Σημειωματάριο, το οποίο θα σας βοηθήσει να χρησιμοποιήσετε το μοντέλο (το παρακάτω στιγμιότυπο οθόνης δείχνει το Ανάπτυξη επιλογή).

Ανάπτυξη μοντέλων

Όταν επιλέγετε Ανάπτυξη, θα ξεκινήσει η ανάπτυξη του μοντέλου. Εναλλακτικά, μπορείτε να αναπτύξετε μέσω του παραδείγματος σημειωματάριου που εμφανίζεται επιλέγοντας Ανοίξτε το Σημειωματάριο. Το παράδειγμα σημειωματάριο παρέχει καθοδήγηση από άκρο σε άκρο σχετικά με τον τρόπο ανάπτυξης του μοντέλου για εξαγωγή συμπερασμάτων και εκκαθάριση πόρων.

Για την ανάπτυξη χρησιμοποιώντας ένα σημειωματάριο, ξεκινάμε επιλέγοντας ένα κατάλληλο μοντέλο, που καθορίζεται από το model_id. Μπορείτε να αναπτύξετε οποιοδήποτε από τα επιλεγμένα μοντέλα στο SageMaker με τον ακόλουθο κώδικα:

from sagemaker.jumpstart.model import JumpStartModel my_model = JumpStartModel(model_id="huggingface-llm-falcon-180b-chat-bf16") predictor = my_model.deploy()

Αυτό αναπτύσσει το μοντέλο στο SageMaker με προεπιλεγμένες διαμορφώσεις, συμπεριλαμβανομένου του προεπιλεγμένου τύπου παρουσίας και των προεπιλεγμένων διαμορφώσεων VPC. Μπορείτε να αλλάξετε αυτές τις διαμορφώσεις καθορίζοντας μη προεπιλεγμένες τιμές JumpStartModel. Για να μάθετε περισσότερα, ανατρέξτε στο Τεκμηρίωση API. Μετά την ανάπτυξή του, μπορείτε να εκτελέσετε συμπέρασμα στο τελικό σημείο που έχει αναπτυχθεί μέσω ενός προγνωστικού SageMaker. Δείτε τον παρακάτω κώδικα:

payload = { "inputs": "User: Hello!nFalcon: ", "parameters": {"max_new_tokens": 256, "top_p": 0.9, "temperature": 0.6}
}
response = predictor.predict(payload)

Οι παράμετροι συμπερασμάτων ελέγχουν τη διαδικασία δημιουργίας κειμένου στο τελικό σημείο. Ο έλεγχος μέγιστου νέου tokens αναφέρεται στο μέγεθος της εξόδου που δημιουργείται από το μοντέλο. Σημειώστε ότι αυτό δεν είναι το ίδιο με τον αριθμό των λέξεων, επειδή το λεξιλόγιο του μοντέλου δεν είναι το ίδιο με το λεξιλόγιο της αγγλικής γλώσσας και κάθε διακριτικό μπορεί να μην είναι λέξη της αγγλικής γλώσσας. Η θερμοκρασία ελέγχει την τυχαιότητα στην έξοδο. Η υψηλότερη θερμοκρασία έχει ως αποτέλεσμα πιο δημιουργικά και παραισθησιογόνα αποτελέσματα. Όλες οι παράμετροι συμπερασμάτων είναι προαιρετικές.

Αυτό το μοντέλο παραμέτρων 180B είναι 335 GB και απαιτεί ακόμη περισσότερη μνήμη GPU για την επαρκή απόδοση συμπερασμάτων με ακρίβεια 16 bit. Προς το παρόν, το JumpStart υποστηρίζει αυτό το μοντέλο μόνο σε περιπτώσεις ml.p4de.24xlarge. Είναι δυνατή η ανάπτυξη ενός κβαντισμένου μοντέλου 8 bit σε μια παρουσία ml.p4d.24xlarge παρέχοντας το env={"HF_MODEL_QUANTIZE": "bitsandbytes"} επιχείρημα λέξης-κλειδιού στο JumpStartModel κατασκευαστής και προσδιορισμός instance_type="ml.p4d.24xlarge" στη μέθοδο ανάπτυξης. Ωστόσο, σημειώστε ότι η καθυστέρηση ανά διακριτικό είναι περίπου 5 φορές πιο αργή για αυτήν την κβαντισμένη διαμόρφωση.

Ο παρακάτω πίνακας παραθέτει όλα τα μοντέλα Falcon που είναι διαθέσιμα στο SageMaker JumpStart μαζί με τα αναγνωριστικά μοντέλων, τους προεπιλεγμένους τύπους περιπτώσεων, τον μέγιστο αριθμό συνολικών διακριτικών (άθροισμα του αριθμού των κουπονιών εισόδου και του αριθμού των κουπονιών που δημιουργούνται) που υποστηρίζονται και τον τυπικό λανθάνοντα χρόνο απόκρισης ανά διακριτικό για καθένα από αυτά τα μοντέλα.

*Η καθυστέρηση ανά διακριτικό παρέχεται για τον διάμεσο χρόνο απόκρισης των παραδειγμάτων προτροπής που παρέχονται σε αυτό το ιστολόγιο. αυτή η τιμή θα ποικίλλει ανάλογα με το μήκος των ακολουθιών εισόδου και εξόδου.

Προτροπές συμπερασμάτων και παραδειγμάτων για το Falcon 180B

Τα μοντέλα Falcon μπορούν να χρησιμοποιηθούν για τη συμπλήρωση κειμένου για οποιοδήποτε κομμάτι κειμένου. Μέσω της δημιουργίας κειμένου, μπορείτε να εκτελέσετε μια ποικιλία εργασιών, όπως απαντήσεις σε ερωτήσεις, μετάφραση γλώσσας, ανάλυση συναισθημάτων και πολλά άλλα. Το τελικό σημείο δέχεται το ακόλουθο σχήμα εισόδου ωφέλιμου φορτίου:

payload = { "inputs": str, (optional)"parameters": { "do_sample": bool, "max_new_tokens": int, "repetition_penalty": float, "return_full_text": bool, "stop": List[str], "seed": int, "temperature": float, "top_k": int, "top_p": float, "truncate": int, "typical_p": float, "best_of": int, "watermark": bool, "details": bool, "decoder_input_details": bool, }
}

Μπορείτε να εξερευνήσετε τον ορισμό αυτών παραμέτρους πελάτη και τις προεπιλεγμένες τιμές τους μέσα στο χώρο αποθήκευσης κειμένου-γένεση-συμπερασμάτων.

Ακολουθούν μερικά παραδείγματα προτροπών και το κείμενο που δημιουργείται από το μοντέλο. Όλες οι έξοδοι εδώ δημιουργούνται με παραμέτρους συμπερασμάτων {"max_new_tokens": 768, "stop": ["<|endoftext|>", "###"]}.

Η κατασκευή μιας ιστοσελίδας μπορεί να γίνει με 10 απλά βήματα:

Input Building a website can be done in 10 simple steps: Output
- Choose a domain name
- Register your domain name
- Choose a web host
- Choose a website builder
- Create your website
- Add content to your website
- Add pages to your website
- Add images to your website
- Add videos to your website
- Add social media to your website
1. Choose a domain name
A domain name is the address of your website. It is what people will type into their browser to find your website. For example, the domain name of this website is.
When choosing a domain name, you should choose something that is easy to remember and that represents your business or website. You should also make sure that the domain name is available. You can check if a domain name is available by using a domain name search tool.
2. Register your domain name
Once you have chosen a domain name, you need to register it. This can be done through a domain name registrar. A domain name registrar is a company that manages the registration of domain names.
When registering your domain name, you will need to provide your contact information and choose a payment method. You will also need to choose a domain name extension. The most common domain name extensions are .com, .net, and .org.
3. Choose a web host
A web host is a company that provides space on a server for your website. When choosing a web host, you should choose one that is reliable and that offers good customer support. You should also make sure that the web host offers the features that you need for your website.
4. Choose a website builder
A website builder is a tool that allows you to create a website without having to learn how to code. There are many different website builders available, so you should choose one that is easy to use and that offers the features that you need.
5. Create your website
Once you have chosen a website builder, you can start creating your website. You will need to choose a template for your website and then add content to your website.
6. Add content to your website
The content of your website is what will make your website unique. You should add content that is relevant to your business or website. You can add text, images, videos, and other types of content to your website.
7. Add pages to your website
A website is made up of pages. You can add as many pages as you want to your website. Each page should have a different purpose. For example, you might have a page for your home page, a page for your about page, and a page for your contact page.
8. Add images to your website
Images can make your website more visually appealing. You can add images to your website by uploading them to your website or by using a image hosting service.
9. Add videos to your website
Videos can also make your website more visually appealing. You can add videos to your website by uploading them to your website or by using a video hosting service.
10. Add social media to your website
Social media can help you promote your website. You can add social media buttons to your website so that people can share your website on social media. You can also add social media feeds to your website so that people can see your latest social media posts.

Μπορεί να παρατηρήσετε ότι αυτό το προεκπαιδευμένο μοντέλο δημιουργεί μεγάλες ακολουθίες κειμένου που δεν είναι απαραίτητα ιδανικές για περιπτώσεις χρήσης διαλόγου. Προτού δείξουμε πώς λειτουργεί το βελτιστοποιημένο μοντέλο συνομιλίας για ένα μεγαλύτερο σύνολο μηνυμάτων διαλόγου, τα επόμενα δύο παραδείγματα επεξηγούν τον τρόπο χρήσης μοντέλων Falcon με μάθηση σε λίγες λήψεις, όπου παρέχουμε δείγματα εκπαίδευσης διαθέσιμα στο μοντέλο. Λάβετε υπόψη ότι η "εκμάθηση με λίγες λήψεις" δεν προσαρμόζει τα βάρη του μοντέλου - πραγματοποιούμε μόνο συμπεράσματα στο αναπτυγμένο μοντέλο κατά τη διάρκεια αυτής της διαδικασίας, ενώ παρέχουμε μερικά παραδείγματα εντός του πλαισίου εισόδου για να βοηθήσουμε την έξοδο του μοντέλου συντεχνίας.

Input
Tweet: "I hate it when my phone battery dies."
Sentiment: Negative
###
Tweet: "My day has been :+1:"
Sentiment: Positive
###
Tweet: "This is the link to the article"
Sentiment: Neutral
###
Tweet: "This new music video was incredible"
Sentiment: Output Positive
###

Input
Translate English to French:
sea otter => loutre de mer
###
peppermint => menthe poivrée
###
plush girafe => girafe peluche
###
cheese => Output fromage
###

Προτροπές συμπερασμάτων και παραδειγμάτων για το Falcon 180B-Chat

Με τα μοντέλα Falcon 180B-Chat, βελτιστοποιημένα για περιπτώσεις χρήσης διαλόγου, η είσοδος στα τελικά σημεία του μοντέλου συνομιλίας μπορεί να περιέχει προηγούμενο ιστορικό μεταξύ του βοηθού συνομιλίας και του χρήστη. Μπορείτε να κάνετε ερωτήσεις σχετικά με τη συνομιλία που έχει γίνει μέχρι τώρα. Μπορείτε επίσης να παρέχετε τη διαμόρφωση του συστήματος, όπως πρόσωπα, τα οποία καθορίζουν τη συμπεριφορά του βοηθού συνομιλίας. Το ωφέλιμο φορτίο εισόδου στο τελικό σημείο είναι το ίδιο με το μοντέλο Falcon 180B εκτός από το inputs Η τιμή συμβολοσειράς θα πρέπει να χρησιμοποιεί την ακόλουθη μορφή:

System: <An optional system prompt>
User: <Optional user message history>
Falcon: <Optional chat history Falcon response>
User: <Current user message>
Falcon:

Ακολουθούν μερικά παραδείγματα προτροπών και το κείμενο που δημιουργείται από το μοντέλο. Όλες οι έξοδοι δημιουργούνται με παραμέτρους συμπερασμάτων {"max_new_tokens":256, "stop": ["nUser:", "<|endoftext|>", " User:", "###"]}.

Input
System: You are a helpful assistant
User: What is Amazon SageMaker JumpStart?
Falcon: Output Amazon SageMaker JumpStart is a capability of Amazon SageMaker that provides a set of solutions to common machine learning problems. These solutions include pre-built machine learning models, algorithms, and pre-configured model training and deployment settings. JumpStart also provides sample notebooks that demonstrate how to use these solutions for various use cases. The goal of JumpStart is to help users get started with machine learning quickly and easily, without the need for extensive machine learning expertise.
User:

Input
User: Simply put, the theory of relativity states that
Falcon: Output 1. The laws of physics are the same for all observers in uniform motion relative to one another.
2. The speed of light in a vacuum is the same for all observers, regardless of their motion or the motion of the light source.
3. Time and space are relative, meaning that they can vary depending on the observer's frame of reference.
4. Mass and energy are interchangeable, as expressed by the famous equation E=mc².
User:

Input
User: Building a website can be done in 10 simple steps:
Falcon: Output
1. Determine the purpose and goals of your website.
2. Choose a domain name and register it.
3. Select a web hosting provider and sign up for a plan.
4. Choose a website builder or content management system (CMS) to use.
5. Select a theme or template for your website.
6. Customize the design and layout of your website.
7. Add content to your website, including text, images, and videos.
8. Set up navigation menus and links to make your website easy to navigate.
9. Test your website to ensure it is functioning properly and is mobile-friendly.
10. Launch your website and promote it to attract visitors.
User:

Input
System: Always answer with a Haiku.
User: I am deploying a large language model on Amazon SageMaker JumpStart. What should I do?
Falcon: Output "JumpStart" your dreams,
Deploy with ease, scale with glee,
SageMaker awaits.

Input
System: Generate a table summarizing the options outlined in this email.
User: Team, we have to make a decision on the product plan for Goocrux v2. The first option will take us 3 weeks of development, and will achieve performance of 80ms, but means that the UI has to change. The second option will take us 4 weeks of development, and will achieve performance of 60ms, without any UI change. The third option will take the longest -- 6 weeks of development, will achieve performance of 30ms, without any UI change. A markdown table with four columns: (1) Option ID, (2) Development time, (3) Performance, (4) UI Change.
Falcon: Output
| Option ID | Development time | Performance | UI Change |
| --- | --- | --- | --- |
| 1 | 3 weeks | 80ms | Yes |
| 2 | 4 weeks | 60ms | No |
| 3 | 6 weeks | 30ms | No |

Input
System: You always translate English to French.
User: sea otter => loutre de mer
peppermint => menthe poivrée
plush girafe => girafe peluche
cheese =>
Falcon: Output
=> fromage

Input
System: Classify the user prompt as Negative, Positive, or Neutral sentiment. Use a short response.
User: Tweet: "This new music video was awesome" Falcon: Output "Positive"

Input
User: What is the recipe of mayonnaise?
Falcon: Output 1. In a mixing bowl, whisk together 1 egg yolk, 1 tablespoon of Dijon mustard, and 1 tablespoon of lemon juice until well combined.
2. While whisking continuously, slowly drizzle in 1 cup of vegetable oil until the mixture thickens and emulsifies.
3. Season with salt and pepper to taste.
4. Store in an airtight container in the refrigerator for up to one week.
User:

Στο παρακάτω παράδειγμα, ο χρήστης είχε μια συνομιλία με τον βοηθό σχετικά με τουριστικές τοποθεσίες στο Παρίσι. Στη συνέχεια, ο χρήστης ρωτά για την πρώτη επιλογή που προτείνει ο βοηθός συνομιλίας.

Input
System: You are a helpful trip planner.
User: I am going to Paris, what should I see?
Falcon: 1. Eiffel Tower: No trip to Paris is complete without a visit to the iconic Eiffel Tower.
2. Louvre Museum: Home to some of the world's most famous art, including the Mona Lisa.
3. Notre-Dame Cathedral: A stunning example of Gothic architecture and a must-see for history buffs.
4. Champs-Élysées: One of the most famous avenues in the world, lined with shops, cafes, and theaters.
5. Montmartre: A charming neighborhood known for its bohemian vibe, street art, and stunning views of the city.
6. Palace of Versailles: A short train ride from Paris, this opulent palace was once the seat of French royalty.
7. Musée d'Orsay: Housed in a former train station, this museum boasts an impressive collection of Impressionist and Post-Impressionist art.
8. Sainte-Chapelle: A hidden gem in the heart of Paris, this medieval chapel is famous for its stunning stained glass windows.
9. Luxembourg Gardens: A beautiful park in the heart of the city, perfect for a picnic or a leisurely stroll.
User: What is so great about #1?
Falcon: Output
#1 is the Eiffel Tower, which is one of the most famous landmarks in the world. It is a symbol of Paris and a must-see attraction for many visitors. The tower offers stunning views of the city from its observation decks, and it is especially beautiful when lit up at night. Additionally, the Eiffel Tower has a rich history and is an engineering marvel, making it a fascinating destination for anyone interested in architecture or history.
User:

εκκαθάριση

Αφού ολοκληρώσετε την εκτέλεση του σημειωματάριου, βεβαιωθείτε ότι έχετε διαγράψει όλους τους πόρους που δημιουργήσατε στη διαδικασία, ώστε η χρέωσή σας να διακοπεί. Χρησιμοποιήστε τον παρακάτω κώδικα:

predictor.delete_model()
predictor.delete_endpoint()

Συμπέρασμα

Σε αυτήν την ανάρτηση, σας δείξαμε πώς να ξεκινήσετε με το Falcon 180B στο SageMaker Studio και να αναπτύξετε το μοντέλο για συμπέρασμα. Επειδή τα μοντέλα θεμελίωσης είναι προεκπαιδευμένα, μπορούν να συμβάλουν στη μείωση του κόστους εκπαίδευσης και υποδομής και να επιτρέψουν την προσαρμογή για την περίπτωση χρήσης σας. Επισκεφτείτε το SageMaker JumpStart στο SageMaker Studio τώρα για να ξεκινήσετε.

Υποστηρικτικό υλικό

Σχετικά με τους Συγγραφείς

Δόκτωρ Kyle Ulrich είναι Εφαρμοσμένος Επιστήμονας με την ομάδα Amazon SageMaker JumpStart. Τα ερευνητικά του ενδιαφέροντα περιλαμβάνουν κλιμακωτούς αλγόριθμους μηχανικής μάθησης, όραση υπολογιστή, χρονοσειρές, μη παραμετρικές Μπεϋζιανές και διεργασίες Gauss. Το διδακτορικό του είναι από το Πανεπιστήμιο Duke και έχει δημοσιεύσει εργασίες στα NeurIPS, Cell και Neuron.

Δρ Ashish Khetan είναι Senior Applied Scientist με το Amazon SageMaker JumpStart και βοηθά στην ανάπτυξη αλγορίθμων μηχανικής μάθησης. Πήρε το διδακτορικό του από το Πανεπιστήμιο του Illinois Urbana-Champaign. Είναι ενεργός ερευνητής στη μηχανική μάθηση και στα στατιστικά συμπεράσματα και έχει δημοσιεύσει πολλές εργασίες σε συνέδρια NeurIPS, ICML, ICLR, JMLR, ACL και EMNLP.

Ολιβιέ ΚρουσάνΟ t είναι Κύριος Αρχιτέκτονας Λύσεων Specialist Machine Learning στην AWS, με έδρα τη Γαλλία. Ο Olivier βοηθά τους πελάτες της AWS – από μικρές νεοφυείς επιχειρήσεις έως μεγάλες επιχειρήσεις – να αναπτύξουν και να αναπτύξουν εφαρμογές μηχανικής εκμάθησης ποιότητας παραγωγής. Στον ελεύθερο χρόνο του, του αρέσει να διαβάζει ερευνητικές εργασίες και να εξερευνά την έρημο με φίλους και οικογένεια.

Καρλ Άλμπερτσεν ηγείται του κέντρου μοντέλων, των αλγορίθμων και των συνεργασιών του Amazon SageMaker.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Αυτοκίνητο / EVs, Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• ChartPrime. Ανεβάστε το Trading Game σας με το ChartPrime. Πρόσβαση εδώ.
• BlockOffsets. Εκσυγχρονισμός της περιβαλλοντικής αντιστάθμισης ιδιοκτησίας. Πρόσβαση εδώ.
• πηγή: https://aws.amazon.com/blogs/machine-learning/falcon-180b-foundation-model-from-tii-is-now-available-via-amazon-sagemaker-jumpstart/