Ma örömmel jelentjük be, hogy a Levélrügy modell már elérhető az ügyfelek számára Amazon SageMaker JumpStart. Gemma egy család nyelvi modellek a Google Gemini modelljei alapján, akár 6 billió tokennyi szövegre kiképezve. A Gemma család két méretből áll: egy 7 milliárd és egy 2 milliárd paraméteres modellből. Mostantól használhatja a Gemma 2B és Gemma 7B előképzett és utasításokkal hangolt modelleket SageMaker JumpStart. A JumpStart a SageMaker gépi tanulási (ML) központja, amely hozzáférést biztosít az alapmodellekhez a beépített algoritmusok és a végpontok közötti megoldássablonok mellett, hogy segítsen gyorsan elkezdeni az ML-t.
Ebben a bejegyzésben végigvezetjük a Gemma modell üzembe helyezését és a SageMaker JumpStart használati eseteihez való finomhangolását. A teljes jegyzetfüzet itt érhető el GitHub.
Gemma modell
Levélrügy egy könnyű, korszerű termékcsalád modellek Ugyanabból a kutatásból és technológiából épült, amelyet a létrehozásához használtak Gemini modellek. A Google DeepMind és a Google más csapatai által kifejlesztett Gemmát a Gemini ihlette. Gemma erős általános képességekkel rendelkezik a szöveges területeken, valamint a legkorszerűbb megértési és érvelési készségekkel rendelkezik. Jobb teljesítményt ér el más, nyilvánosan elérhető, hasonló vagy nagyobb léptékű modellekhez képest, különböző területeken, beleértve a kérdések megválaszolását, a józan gondolkodást, a matematikát és a tudományt, valamint a kódolást. A Gemma kiadta a modellsúlyokat, hogy támogassa a Gemma modelleket használó fejlesztői innovációt. A Gemma egy újjal indult Responsible Generative AI Toolkit amely útmutatást és alapvető eszközöket ad biztonságosabb AI-alkalmazások létrehozásához a Gemma segítségével.
Alapozó modellek a SageMakerben
A JumpStart hozzáférést biztosít a népszerű modellközpontok számos modelljéhez, beleértve a Hugging Face-t, a PyTorch Hub-ot és a TensorFlow Hub-ot, amelyeket a SageMaker ML-fejlesztési munkafolyamataiban használhat fel. Az ML közelmúltbeli fejlődése a modellek új osztályát eredményezte alapozó modellek, amelyek jellemzően több milliárd paraméterre vannak kiképezve, és a felhasználási esetek széles kategóriájához adaptálhatók, mint például a szövegösszegzés, a digitális művészet generálása és a nyelvi fordítás. Mivel ezeknek a modelleknek a betanítása költséges, az ügyfelek a meglévő, előre betanított alapozómodelleket szeretnék használni, és szükség szerint finomhangolni őket, ahelyett, hogy maguk képeznék ki ezeket a modelleket. A SageMaker a modellek válogatott listáját kínálja, amelyek közül választhat a SageMaker konzolon.
Mostantól különböző modellszolgáltatók alapozómodelljeit is megtalálhatja a JumpStartban, így gyorsan elkezdheti az alapozó modelleket. Különböző feladatokon vagy modellszolgáltatókon alapuló alapmodelleket találhat, valamint áttekintheti a modell jellemzőit és használati feltételeit. Ezeket a modelleket egy teszt UI widget segítségével is kipróbálhatja. Ha nagyszabású alapmodellt szeretne használni, a SageMaker elhagyása nélkül megteheti a modellszolgáltatók előre elkészített notebookjainak használatával. Mivel a modelleket az AWS-en tárolják és telepítik, az Ön adatait – akár a modell kiértékeléséhez, akár nagyszabású használatához használják – soha nem osztják meg harmadik felekkel.
Fedezzük fel, hogyan használhatod a Llama Guard modellt a JumpStartban.
Fedezze fel a Gemma modellt a Jumpstartban
A Gemma alapozó modelleket a SageMaker JumpStart segítségével érheti el a SageMaker Studio UI-ban és a SageMaker Python SDK-ban. Ebben a részben áttekintjük, hogyan fedezheti fel a modelleket a SageMaker Stúdióban.
A SageMaker Studio egy integrált fejlesztői környezet (IDE), amely egyetlen web-alapú vizuális felületet biztosít, ahol hozzáférhet a célra épített eszközökhöz az ML fejlesztési lépések elvégzéséhez, az adatok előkészítésétől az ML modellek felépítéséig, betanításáig és telepítéséig. A SageMaker Studio elindításával és beállításával kapcsolatos további részletekért lásd: Amazon SageMaker Studio.
A SageMaker Studio AWS-kezelési konzoljában lépjen a SageMaker JumpStart elemre a alatt Előre elkészített és automatizált megoldások. A Jumpstart előre betanított modelleket, notebookokat és előre elkészített megoldásokat tartalmaz.
A SageMaker JumpStart nyitóoldalán a Gemma kifejezésre keresve megtalálhatja a Gemma modellt.
Ezután számos Gemma modellváltozat közül választhat, beleértve a Gemma 2B, Gemma 7B, Gemma 2B utasításokat és a Gemma 7B utasításokat.
Válassza ki a modellkártyát a modell részleteinek megtekintéséhez, mint például a licenc, a betanításhoz használt adatok és a modell használatának módja. Azt is megtalálja a Telepítése gombra, amely egy nyitóoldalra visz, ahol tesztelheti a következtetést egy példa rakomány segítségével.
Telepítse a Gemmát a SageMaker Python SDK-val
A Gemma telepítését bemutató kódot megtalálja a JumpStarton, és egy példát a telepített modell használatára ez a GitHub notebook.
Először válassza ki a Gemma telepítésekor használandó SageMaker Model Hub modellazonosítót és modellverziót.
Válasszon egy modellazonosítót a következő táblázatból, amely részletezi a JumpStart telepítés alapértelmezett konfigurációs beállításait. A nagy, 256 ezer tokenből álló szókincs miatt a Gemma 7B csak egyetlen A10G GPU-n fér el, ha támogatja az 1 kontextushosszt. Emiatt a JumpStart nagyobb alapértelmezett példányt használ a Gemma 7B-hez.
Modellazonosító | Alapértelmezett következtetési példány | Tenzor párhuzamos fok | Támogatott környezet hossza |
huggingface-llm-gemma-2b | ml.g5.xnagy | 1 | 8k |
huggingface-llm-gemma-2b-instruct | ml.g5.xnagy | 1 | 8k |
huggingface-llm-gemma-7b | ml.g5.12xnagy | 4 | 8k |
huggingface-llm-gemma-7b-instruct | ml.g5.12xnagy | 4 | 8k |
Most már telepítheti a modellt a SageMaker JumpStart segítségével. A következő kód az alapértelmezett példányt használja ml.g5.12xlarge
a következtetési végponthoz A modellt átadással telepítheti más példánytípusokra is instance_type
a JumpStartModel
osztály. A telepítés 5-10 percig tarthat.
A sikeres telepítéshez manuálisan kell módosítania a accept_eula
argumentum a modell deploy metódusában True
. Ezt a modellt a szöveggenerációs következtetés (TGI) mélytanulási tároló használatával telepítették.
Végpont meghívása
Programozottan lekérheti a példa hasznos terheit a JumpStartModel
tárgy. Ez segít az indulásban, ha betartja az előre formázott utasításokat, amelyeket a Gemma be tud fogadni.
Mielőtt megvizsgálnánk a konkrét promptokat, nézzük meg a Gemma Instruct modellek chat-sablonját.
Itt helyezze el a promptot a [USER_PROMPT]
elhelyezkedés. A rendszerutasítás nem támogatott; ehelyett a kívánt utasítást a felhasználói prompt elé fűzheti. Ezenkívül, ha többfordulós beszélgetést folytat, a modellprompt szükség szerint váltogathatja a felhasználót és az asszisztenst.
Most nézzünk meg néhány példa utasítást. Itt megkéred Gemmát, hogy írjon egy Hello World programot.
A következő a várt kimenet:
Ezután hívd meg Gemmát egy versírás kreatív feladatára.
A következő a kimenet:
Ez nagyon jól néz ki!
Most pedig nézzük meg a késleltetési és átviteli teljesítmény-összehasonlítást a modellszolgáltatáshoz az alapértelmezett JumpStart telepítési konfigurációval. Itt bemutatjuk, hogyan változhat a modell teljesítménye a tipikus végponti munkaterhelés esetén. A következő táblázatokban megfigyelhető, hogy a kis méretű lekérdezések (256 bemeneti szó és 256 kimeneti token) meglehetősen jól teljesítenek nagyszámú egyidejű felhasználó esetén, és másodpercenként ezer-kétezer token átviteli sebességet érnek el. Azonban, ahogy a bemeneti szavak száma megközelíti a Gemma maximális támogatott kontextushosszát, nyolcezer token, a végpont telíti kötegelési kapacitását – az egyidejűleg feldolgozható egyidejű kérések számát – a példány memóriájához kötött megszorítások miatt.
Ha többet szeretne tudni arról, hogyan kell figyelembe venni ezeket az információkat, és hogyan módosíthatja a telepítési konfigurációkat az adott használati esetnek megfelelően, lásd: A végpontok telepítésének összehasonlítása és optimalizálása az Amazon SageMaker JumpStartban.
. | Átbocsátóképesség (token/s) | ||||||||||
Egyidejű felhasználók | 1 | 2 | 4 | 8 | 16 | 32 | 64 | 128 | |||
modell | Példánytípus | Írja be a szavakat | Kimeneti tokenek | . | . | . | . | . | . | . | . |
gemma-2b-utasít | ml.g5.xnagy | 256 | 256 | 73 | 137 | 262 | 486 | 829 | 1330 | 1849 | 1834 |
2048 | 256 | 69 | 126 | 227 | 373 | 537 | 704 | 764 | - | ||
7936 | 256 | 60 | 100 | 147 | 195 | 226 | 230 | - | - | ||
gemma-7b-utasít | ml.g5.12xnagy | 256 | 256 | 62 | 119 | 227 | 413 | 601 | 811 | 937 | 962 |
2048 | 256 | 56 | 100 | 172 | 245 | 267 | 273 | - | - | ||
7936 | 256 | 44 | 67 | 77 | 77 | 78 | - | - | - |
. | P50 késleltetés (ms/token) | ||||||||||
Egyidejű felhasználók | 1 | 2 | 4 | 8 | 16 | 32 | 64 | 128 | |||
modell | Példánytípus | Írja be a szavakat | Kimeneti tokenek | . | . | . | . | . | . | . | . |
gemma-2b-utasít | ml.g5.xnagy | 256 | 256 | 13 | 14 | 15 | 16 | 19 | 23 | 33 | 49 |
2048 | 256 | 14 | 15 | 17 | 20 | 28 | 43 | 79 | - | ||
7936 | 256 | 16 | 19 | 26 | 39 | 68 | 136 | - | - | ||
Gemma-7b-utasít | ml.g5.12xnagy | 256 | 256 | 16 | 16 | 17 | 19 | 26 | 38 | 57 | 110 |
2048 | 256 | 17 | 19 | 23 | 32 | 52 | 119 | - | - | ||
7936 | 256 | 22 | 29 | 45 | 105 | 197 | - | - | - |
A Gemma finomhangolása a SageMaker Python SDK használatával
Ezután megmutatjuk, hogyan lehet finomhangolni a Gemma 7B utasításmodelljét egy párbeszédes formátumú adatkészleten QLoRA technika. Mint korábban említettük, a nagy, 256 ezres szókincs és a 8 ezres kontextushossz miatt a JumpStart a következő alapértelmezett konfigurációkat kínálja a QLoRA finomhangolásához.
Modellazonosító | Alapértelmezett képzési példány | A bemeneti sorozat maximális hossza | Eszközenkénti képzési kötegméret szerint | Gradiens felhalmozási lépések |
huggingface-llm-gemma-2b | ml.g5.2xnagy | 1024 | 1 | 4 |
huggingface-llm-gemma-2b-instruct | ml.g5.2xnagy | 1024 | 1 | 4 |
huggingface-llm-gemma-7b | ml.g5.12xnagy | 2048 | 1 | 4 |
huggingface-llm-gemma-7b-instruct | ml.g5.12xnagy | 2048 | 1 | 4 |
Töltsük be és dolgozzuk fel az adatkészletet párbeszédes formátumban. A bemutató példaadatkészlete a következő Az OpenAssistant TOP-1 beszélgetési szálai.
A képzési adatokat JSON sorokban kell megfogalmazni (.jsonl
) formátumban, ahol minden sor egy szótár, amely beszélgetések halmazát reprezentálja. Az alábbiakban egy példa látható a JSON lines fájlban. Az adatkészlet feldolgozásával kapcsolatos részletekért tekintse meg a jegyzetfüzetet GitHub.
A képzési szkriptek mögött a JumpStart a HuggingFace-et használja SFTTtrainer val vel QLoRA és a FlashAttention. A Flash Attention lehetővé teszi a skálázás hatékonyságát, ami gyorsabb edzéshez és következtetésekhez vezet. A chat-alapú finomhangolás mellett a JumpStart támogatja az utasítások és a tartományadaptáció finomhangolását is a QLoRA segítségével. A részletekért lásd a jegyzetfüzetet GitHub.
A finomhangolás után telepítheti a finomhangolt modellt egy SageMaker végpontra.
Dönthet úgy, hogy a SageMaker-végpontban a beszélgetési adatokra finomhangolt modellt telepíti HuggingFace üzenetek API funkció alternatív megközelítésként. A Message API funkció használatának előnye, hogy lehetővé teszi a felhasználók számára, hogy nyers formátumban adják át a lekérdezési példákat, amint az a következő táblázatban látható, és a chat_template a végponton belül a megfelelő formátumba konvertálja a lekérdezési példákat, mielőtt elküldi őket a modellbe. A részletekért lásd a telepítési szakaszt a finomhangolás után jegyzetfüzet.
Miután telepítette a finomhangolt modellt egy végponton, összehasonlíthatja az előre betanított és finomhangolt Gemma modellek kimeneti válaszait. A példákat tesztadatokból gyűjtöttük össze, amelyek a képzési adatokból származó kitartási halmazok. A következtetési paraméterek a következők max_tokens
mint 512, top_p
mint 0.9, temperature
mint 0.4, és top_k
mint 50.
Amint a finomhangolási eredményekből látható, az ügynök válaszai pontosabbak.
A finomhangolt modellek további értékeléséhez fedezze fel FM kiértékelés az Amazon SageMaker Clarify segítségével hogy megnézze, hogyan teljesít a finomhangolt modell az alapmodellhez képest.
Bemenetek | Földi igazság | Válasz: bázis modell | Válasz a finomhangolt modelltől | |
1 |
Felhasználó: Szeretnék dolgozni a szókincsemen. Tudna adni néhány egyszerű módszert, amellyel új szavakat találhatok, amelyekkel bővíthetem a mondataim változatosságát? Asszisztens: Természetesen! A szókincs fejlesztése folyamatban van, de itt van néhány egyszerű módszer, amellyel új szavakat találhatsz, és növelheted a mondatok változatosságát: 1. Olvasson széles körben: A különböző műfajokból és témákból származó könyvek, cikkek és blogok olvasása új szavakat és kifejezéseket tesz lehetővé. Jegyezze fel az ismeretlen szavakat, amelyekkel találkozik, és nézze meg a jelentésüket. 2. Használjon tezauruszt: Amikor ír vagy olvas, használja a tezauruszt, hogy megtalálja a gyakran használt szavak szinonimáit. Ez nem csak segít új szavak elsajátításában, hanem javítja a jelentésük finom különbségeinek megértését is. 3. Naptárak vagy alkalmazások: Iratkozzon fel egy napi szóbeli e-mailre, vagy töltsön le egy szókincsépítő alkalmazást. Ezek az eszközök minden nap egy új szót mutatnak be, a jelentésével, kiejtésével és használati példáival együtt. 4. Csatlakozzon egy könyvklubhoz vagy vitacsoporthoz: A könyvekről, cikkekről vagy bármilyen más témáról folytatott beszélgetések és megbeszélések különböző nézőpontok és új szókincs elé tárulnak. Figyelmesen figyeljen másokra, és próbáljon új szavakat használni a szövegkörnyezetben. 5. Játssz szójátékokat: Az olyan játékok, mint a Scrabble, Boggle és a keresztrejtvények kihívást jelentenek a szókincs készségei között, és segítenek új szavak élvezetes elsajátításában. 6. Nézzen filmeket, tévéműsorokat vagy dokumentumfilmeket: A vizuális média gyakran sokféle nyelvezetet, szlenget és zsargont használ. A filmek, tévéműsorok vagy dokumentumfilmek feliratos megtekintése segíthet az új szavak jobb megértésében és emlékezésében. 7. Gyakorold az írást: A történetek, esszék vagy naplóbejegyzések rendszeres írása új szavak és kifejezések használatára ösztönöz. Kísérletezzen különböző írási stílusokkal és műfajokkal, hogy bővítse szókincsét. 8. Tanuljon meg egy új szó etimológiáját: Egy szó eredetének és történetének megértése megkönnyítheti az emlékezést és a helyes használatát. Az etimológia kutatása a kapcsolódó szavakat és fogalmakat is megismerheti. 9. Kártyák vagy szóközzel ismétlődő szoftverek használata: Készítsen kártyákat új szavakkal, azok jelentésével és példamondatokkal. Rendszeresen tekintse át őket, vagy használjon időközönként ismétlődő szoftvert, mint például az Anki, hogy optimalizálja a tanulást. 10. Tűzz ki személyes célokat: Tűzz ki elérhető célokat, például tanulj meg heti öt új szót. Kövesse nyomon előrehaladását, és jutalmazza meg magát, ha eléri céljait. Ha ezeket a stratégiákat következetesen beépíti a napi rutinjába, fokozatosan sokrétű és robusztus szókincs alakul ki. Felhasználó: Hm, nagyon tetszik az olvasás ötlete. Tudtok ajánlani egy klassz tudományos-fantasztikus thrillert, amit el tudnék olvasni? |
Asszisztens: Természetesen! Íme néhány ajánlás a tudományos-fantasztikus thrillerekhez, amelyek tetszeni fognak: 1. Liu Cixin „A három test problémája” – Ez a díjnyertes regény az emberiség és egy idegen civilizáció közötti első érintkezést, valamint az ebből fakadó politikai és személyes következményeket tárja fel. Ez egy lebilincselő és elgondolkodtató olvasmány, amely a létezés és az univerzum természetével kapcsolatos mély kérdésekbe merül fel. 2. Jeff Vandermeer „Megsemmisülése” – Ez a regény tudósok egy csoportját követi nyomon, amint bemerészkednek az „X. terület” néven ismert titokzatos területre, ahol furcsa és nyugtalanító jelenségekkel találkoznak. Ahogy mélyebbre hatolnak a környéken, sötét titkokat kezdenek feltárni a valóság természetéről és az őket körülvevő világról. 3. „Sötét anyag”, Blake Crouch – Ez a regény egy Jason Dessen nevű briliáns fizikust követ, akit elrabolnak és egy párhuzamos univerzumba szállítanak. Miközben megpróbál visszatalálni saját valóságába, szembe kell néznie saját döntéseivel és tettei következményeivel. 4. „Az Androméda törzs”, Michael Crichton – Ez a klasszikus regény egy tudóscsoportot követ nyomon, amint megpróbálják visszatartani és tanulmányozni a Földre szállt halálos földönkívüli mikrobát. Miközben versenyt futnak az idővel, hogy megtalálják a módját a mikrobák semlegesítésének, politikai intrikákkal és személyes konfliktusokkal is meg kell küzdeniük. 5. Ernest Cline „Ready Player One” – Ez a regény egy disztópikus jövőben játszódik, ahol a lakosság többsége az OASIS néven ismert virtuális valóság világában tölti idejét. Amikor az OASIS alkotója meghal, és maga mögött hagyja a kihívást, hogy megtaláljon egy elrejtett húsvéti tojást, egy fiatal főszereplő izgalmas küldetésre indul, amely örökre megváltoztatja az életét. Remélem, hogy ezen ajánlások közül valamelyik felkeltette érdeklődését! |
Asszisztens: A szöveg nem tartalmaz információt az Ön olvasási preferenciáiról vagy érdeklődési köréről, ezért nem tudok könyvajánlatot adni. |
Asszisztens: Persze, itt van néhány tudományos-fantasztikus thriller-ajánlat, amelyek tetszeni fognak: – Frank Herbert „Dűne”: Ez az epikus sci-fi regény Arrakis sivatagi bolygóján játszódik, ahol egy Paul Atreides nevű fiatal hercegnek szembe kell néznie az ellenséges környezet és az áruló politikai környezet kihívásaival. – Andy Weir „The marslakója”: Ez a lebilincselő sci-fi thriller Mark Watney, egy porvihar után a Marson rekedt űrhajós történetét követi nyomon, aki leleményességét és találékonyságát használja fel a túlélésre, és végül visszatér a Földre. – „Az időgép”, HG Wells: Ez a klasszikus sci-fi regény filozófiai megközelítést alkalmaz az időutazás fogalmához, feltárva a múlt és a jövő megváltoztatásának következményeit. – „The Blade Runner”, Philip K. Dick: Ez a neo-noir sci-fi regény, amely egy futurisztikus Los Angelesben játszódik, az emberi és a mesterséges intelligencia találkozási pontját, valamint a társadalomra és a valóság természetére gyakorolt hatását kutatja. – Isaac Asimov „Az Androidok”: Ez a sci-fi regény a mesterséges intelligencia fogalmát és lehetséges következményeit tárja fel, különösen akkor, amikor az emberek fejlett androidokat fejlesztenek ki, amelyek megkérdőjelezik a hagyományos emberi értékeket és hiedelmeket. Ez csak néhány javaslat, és végső soron személyes preferenciáitól és attól függ, hogy melyik könyv a legjobb számodra, és attól, hogy milyen élményt keresel egy sci-fi thrillerben. De remélem, hogy ezek az ajánlások jó kiindulópontot adnak a műfaj felfedezéséhez. Kérem, tudassa velem, ha további kérdése van, vagy ha bármiben segíthetek. |
2 |
Felhasználó: Írjon egy Hello World programot a VB.NET-ben Asszisztens: Tessék: "` vbnet Felhasználó: Állítsa be a $ bemenetet, majd mondja azt, hogy „Hello, $” a „Hello, World!” helyett. |
Asszisztens: HelloWorld nyilvános modul Nyilvános al-fő() System.Console.WriteLine("Mi a neved?") Dim name As String = System.Console.ReadLine() System.Console.WriteLine("Hello, " & name & "!") End Sub Vége modul |
Asszisztens: „`vbnet Nyilvános HelloWorld modul Nyilvános al-fő() Dim name As String = Console.ReadLine() Console.WriteLine("Hello, " & name) End Sub Vége modul |
Asszisztens: Persze! Íme egy példa: "` vbnet |
3 |
Felhasználó: Adjon meg egy listát a teendőkről, amikor elindít egy olyan nagy nyelvi modellt, amely képes megérteni és válaszolni az emberi kérdésekre. Asszisztens: Az alábbi lépések egy összefoglaló listája azoknak a lépéseknek, amelyeket meg kell tenni egy olyan projekt elindításakor, amelynek célja egy olyan nagy nyelvi modell betanítása, amely képes megérteni és válaszolni az emberi kérdésekre: 1. Határozza meg a projekt hatókörét és céljait, célközönségét. Ennek alapötletet kell adnia a szükséges lépésekről. Kifejtsem részletesebben valamelyik pontot? Felhasználó: Ezeket a feladatokat tovább kell bontani, kérem, adjon egy frissített teendők listáját az előttünk álló feladatok részletesebb lebontásával |
Asszisztens: Itt található az egyes lépések részletesebb lebontása: 1. A projekt hatókörének és célkitűzéseinek meghatározása: Fontos egyértelműen meghatározni a projekt céljait és a célközönséget. Ez segít eldönteni, hogy milyen típusú adatokat kell gyűjteni, és milyen modellarchitektúra a megfelelő. 2. Adatok gyűjtése és előfeldolgozása: Ez egy fontos lépés, mivel az adatok minősége és sokfélesége közvetlenül befolyásolja a modell teljesítményét. Az előfeldolgozás magában foglalhatja az adatok megtisztítását, a szöveg tokenizálását és a szavak numerikus megjelenítésekké alakítását. 3. Válassza ki a modellarchitektúrát: Számos különböző típusú modell közül választhat, beleértve a visszatérő neurális hálózatokat (RNN), a transzformátormodelleket és a konvolúciós neurális hálózatokat (CNN). A választás a projekt konkrét követelményeitől és a rendelkezésre álló adatok mennyiségétől függ. 4. Az adatkészlet felosztása és az adatkiegészítés megvalósítása: Az adatok betanítási, érvényesítési és tesztelési részhalmazokra való felosztása fontos a modell teljesítményének nyomon követéséhez a betanítás során. Az adatkiegészítés az adatkészlet méretének mesterséges növelésére és a modell robusztusságának javítására használható. 5. A modell betanítása és az előrehaladás figyelése: Ez a lépés magában foglalja a modell betanítását a betanítási adatokon, az érvényesítési halmaz segítségével a haladás figyelésére és a hiperparaméterek szükség szerinti beállítására. Lehetséges, hogy ezt a folyamatot többször meg kell ismételni, amíg a modell jól teljesít az érvényesítési halmazon. 6. A modell értékelése tesztkészleten: Ha a modellt betanították, fontos, hogy értékelje a teljesítményét egy külön tesztkészleten, hogy képet kapjon általánosító képességéről. Ez úgy tehető meg, hogy a modell előrejelzéseit összehasonlítjuk a tényleges eredményekkel, és elemezzük a hibákat. 7. Finomhangolás adott feladatokhoz vagy tartományokhoz: Ez a lépés magában foglalja a modell továbbképzését a feladatspecifikus adatokon, hogy javítsa egy adott tartomány teljesítményét. Ez történhet átviteli tanulással, amikor egy előre betanított modellt az új adatokon finomhangolnak, vagy finomhangolással, ahol a modellt a semmiből tanítják az új adatokra. 8. Hozzon létre egy felületet a felhasználói bevitelhez: Ez magában foglalja egy olyan interfész tervezését, amely lehetővé teszi a felhasználók számára, hogy kérdéseket vagy kéréseket vigyenek be, és válaszokat kapjanak a modelltől. 9. Tesztelés ellenőrzött környezetben: Mielőtt a modellt valós környezetben telepítené, fontos, hogy ellenőrzött környezetben tesztelje, és visszajelzéseket gyűjtsön a felhasználóktól. Ez segít azonosítani a modell hibáit vagy torzításait, és lehetőséget kínál a fejlesztésre. 10. Folyamatosan figyelje és javítsa a teljesítményt: Végül fontos a modell teljesítményének folyamatos figyelemmel kísérése, és szükség szerint frissítések és fejlesztések végrehajtása. Ez magában foglalhatja a modell új adatokra való átképzését, a hiperparaméterek finomhangolását vagy az architektúra frissítését. |
Asszisztens: ## Teendőlista egy nagy nyelvi modell betanításához a kérdések megválaszolásához **1. A projekt hatóköre és célkitűzései:** * Határozza meg a projekt céljait és a kívánt funkciókat. **2. Adatgyűjtés és előfeldolgozás:** * Azonosítsa a képzési adatok forrásait, és gyűjtsön össze egy változatos szöveges adatkészletet. **3. Modell kiválasztása és konfigurálása:** * Válassza ki a megfelelő modellarchitektúrát a feladat összetettsége és a kívánt teljesítmény alapján. **4. Képzés és értékelés:** * Ossza fel a képzési adatokat képzési, érvényesítési és tesztelési részhalmazokra. **5. Finomhangolás és interfészfejlesztés:** * Finomhangolja a modellt meghatározott feladatokhoz vagy tartományokhoz az átviteli tanulással. **6. Tesztelés és fejlesztés:** * Tesztelje a modellt ellenőrzött környezetben, különféle beviteli forgatókönyvekkel. **További szempontok:** * Állítsa be a projekt idővonalát és költségvetését. **Megjegyzés:** Ez a lista nem teljes, és előfordulhat, hogy a projekt konkrét követelményei alapján módosítani kell. |
Asszisztens: Persze, itt van egy részletesebb lebontás azokról a feladatokról, amelyek egy nagy nyelvi modell képzéséhez szükségesek, hogy megértsék és válaszolhassák az emberi kérdéseket: **1. A projekt hatókörének és célkitűzéseinek meghatározása** **2. Átfogó/változatos szöveges adatkészlet összegyűjtése és előfeldolgozása** **3. Válassza ki a megfelelő modellarchitektúrát, állítsa be a hiperparamétereket a pontosság/sebesség érdekében** **4. Az adatkészlet felosztása képzésre, érvényesítésre, tesztelési részhalmazokra, adatbővítés megvalósítására** **5. Vonatmodell, figyelje az érvényesítési készlet előrehaladását, szükség szerint állítsa be** **6. A modell értékelése a tesztkészleten, összehasonlítás a benchmarkokkal, a hibák és torzítások elemzése** **7. Finomhangolás konkrét feladatokra vagy tartományokra átviteli tanulással vagy finomhangolással** **8. Interfész létrehozása a felhasználói bevitelhez és a modellválaszhoz** **9. Teszt ellenőrzött környezetben, visszajelzés gyűjtése a fejlesztés érdekében** **10. Folyamatosan figyelje és javítsa a teljesítményt átképzéssel és finomhangolással** Ezek azok a lépések, amelyek egy nagy nyelvi modell képzéséhez szükségesek, hogy megértsék és megválaszolják az emberi kérdéseket. Kérem jelezze, ha kérdése van. |
Tisztítsuk meg
A végpontok tesztelése után törölje a SageMaker következtetési végpontokat és a modellt, hogy elkerülje a költségeket.
Következtetés
Ebben a bejegyzésben megmutattuk, hogyan kezdje meg a Gemmát a SageMaker Studio-ban, és hogyan alkalmazza a modellt következtetések levonásához. Azt is megmutattuk, hogyan lehet finomhangolni a Gemma modelleket a SageMaker Jumpstartban.
Mivel az alapmodellek előre betanítottak, csökkenthetik a képzési és infrastrukturális költségeket, és lehetővé teszik a testreszabást az Ön használati esetéhez. A kezdéshez látogasson el a SageMaker JumpStart oldalra a SageMaker Studio alkalmazásban.
Ez az útmutató csak tájékoztató jellegű. Ennek ellenére el kell végeznie a saját független értékelését, és meg kell tennie az intézkedéseket annak biztosítására, hogy megfeleljen saját minőség-ellenőrzési gyakorlatának és szabványainak, valamint az Önre, a tartalmaira és a tartalmaira vonatkozó helyi szabályoknak, törvényeknek, rendeleteknek, licenceknek és használati feltételeknek. az ebben az útmutatóban hivatkozott harmadik fél modellje. Az AWS-nek nincs ellenőrzése vagy felhatalmazása az ebben az útmutatóban hivatkozott harmadik féltől származó modellre, és nem vállal semmilyen kijelentést vagy garanciát arra vonatkozóan, hogy a harmadik féltől származó modell biztonságos, vírusmentes, működőképes vagy kompatibilis az Ön éles környezetével és szabványaival. Az AWS nem vállal semmilyen kijelentést, garanciát vagy garanciát arra vonatkozóan, hogy az ebben az útmutatóban szereplő információk egy adott eredményt vagy eredményt eredményeznek.
A szerzőkről
Dr. Kyle Ulrich egy alkalmazott tudós a Amazon SageMaker beépített algoritmusok csapat. Kutatási területei közé tartoznak a skálázható gépi tanulási algoritmusok, a számítógépes látás, az idősorok, a Bayes-féle nem-paraméterek és a Gauss-folyamatok. Doktori fokozatát a Duke Egyetemen szerezte, és publikációkat publikált a NeurIPS-ben, a Cell-ben és a Neuron-ban.
Dr. Xin Huang az Amazon SageMaker JumpStart és az Amazon SageMaker beépített algoritmusainak vezető alkalmazott tudósa. A skálázható gépi tanulási algoritmusok fejlesztésére összpontosít. Kutatási területe a természetes nyelvi feldolgozás, a táblázatos adatok magyarázható mély tanulása és a nem-paraméteres tér-idő klaszterezés robusztus elemzése. Számos közleményt publikált az ACL-ben, az ICDM-ben, a KDD konferenciákon és a Royal Statistical Society: A sorozatban.
Rachna Chadha az AWS stratégiai számláinak fő megoldástervezője, az AI/ML. Rachna optimista, aki hisz abban, hogy az AI etikus és felelős használata javíthatja a társadalmat a jövőben, és gazdasági és társadalmi jólétet hozhat. Szabadidejében Rachna szereti a családjával tölteni az idejét, kirándulni és zenét hallgatni.
Evan Kravitz az Amazon Web Services szoftvermérnöke, a SageMaker JumpStarton dolgozik. Szeret főzni és futni New Yorkban.
Dr. Ashish Khetan vezető alkalmazott tudós az Amazon SageMaker beépített algoritmusaival, és segít gépi tanulási algoritmusok fejlesztésében. PhD fokozatát az Illinois Urbana-Champaign Egyetemen szerezte. A gépi tanulás és a statisztikai következtetések aktív kutatója, és számos közleményt publikált NeurIPS, ICML, ICLR, JMLR, ACL és EMNLP konferenciákon.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://aws.amazon.com/blogs/machine-learning/gemma-is-now-available-in-amazon-sagemaker-jumpstart/
- :van
- :is
- :nem
- :ahol
- $ UP
- 1
- 10
- 100
- 11
- 13
- 135
- 17
- 19
- 1900
- 250
- 28
- 29
- 31
- 39
- 41
- 50
- 7
- 8
- 9
- a
- képesség
- Rólunk
- felett
- Elfogad!
- hozzáférés
- megközelíthetőség
- Fiók
- Fiókok
- felhalmozódás
- pontosság
- pontos
- elérhető
- ér
- beszerzés
- át
- cselekvések
- aktív
- tényleges
- alkalmazkodás
- mellett
- Ezen kívül
- állítsa
- fejlett
- előlegek
- Után
- ellen
- Ügynök
- AI
- AI / ML
- repülőgép
- algoritmusok
- idegen
- Minden termék
- lehetővé
- megengedett
- lehetővé teszi, hogy
- mentén
- Is
- alternatív
- amazon
- Amazon SageMaker
- Amazon SageMaker JumpStart
- Az Amazon Web Services
- összeg
- an
- elemzés
- elemez
- elemzések
- elemzése
- és a
- és az infrastruktúra
- andromeda
- Angeles
- bejelent
- válasz
- üzenetrögzítő
- válaszok
- bármilyen
- bármi
- api
- app
- alkalmazások
- alkalmazott
- alkalmaz
- megközelítés
- megközelít
- megfelelő
- alkalmazások
- építészet
- VANNAK
- TERÜLET
- területek
- érv
- körül
- Művészet
- cikkek
- mesterséges
- mesterséges intelligencia
- AS
- kérdez
- értékelés
- Helyettes
- űrhajós
- At
- közönség
- hatóság
- Automatizált
- elérhető
- elkerülése érdekében
- díjnyertes
- AWS
- AWS felügyeleti konzol
- vissza
- kiegyensúlyozott
- bázis
- alapján
- alapvető
- adagoló
- bayesi
- BE
- mert
- előtt
- kezdődik
- mögött
- hogy
- hiedelmek
- úgy gondolja,
- lent
- benchmarking
- referenciaértékek
- haszon
- kívül
- BEST
- Jobb
- között
- előítélet
- torzítások
- Billió
- milliárd
- PENGE
- Blokk
- Blog
- blogok
- Virágzik
- test
- könyv
- Könyvek
- Bontás
- ragyogó
- hoz
- Bringing
- Bring
- Törött
- költségvetés
- épít
- Épület
- épült
- beépített
- de
- gomb
- by
- naptárak
- hívás
- hívott
- TUD
- nem tud
- vászon
- képességek
- képes
- kártya
- eset
- esetek
- Kategória
- óvatosság
- sejt
- kihívás
- kihívások
- változik
- jellemzők
- díjak
- csevegés
- Ellenőrzések
- választás
- választás
- A pop-art design, négy időzóna kijelzése egyszerre és méretének arányai azok az érvek, amelyek a NeXtime Time Zones-t kiváló választássá teszik. Válassza a
- Város
- Civilizáció
- osztály
- klasszikus
- ragadozó ölyv
- Takarításra
- világosan
- kettyenés
- klub
- csoportosítás
- kód
- Kódolás
- együttműködés
- jön
- általában
- összehasonlítani
- képest
- összehasonlítva
- összehasonlítás
- összeegyeztethető
- teljes
- bonyodalmak
- bonyolultság
- megfelelnek
- számítógép
- Számítógépes látás
- koncepció
- fogalmak
- egyidejű
- konferenciák
- Configuration
- Konfliktusok
- Következmények
- Fontolja
- megfontolások
- figyelembe véve
- következetesen
- áll
- Konzol
- állandó
- korlátok
- kapcsolat
- tartalmaz
- Konténer
- tartalmaz
- állítják
- tartalom
- kontextus
- folyamatosan
- ellenőrzés
- vezérelt
- Beszélgetés
- társalgó
- beszélgetések
- megtérít
- konvertáló
- Hűvös
- helyesen
- kiadások
- tudott
- teremt
- létrehozása
- Kreatív
- Teremtő
- keresztrejtvény
- a válogatott
- kíváncsi
- Jelenlegi
- Ügyfelek
- testreszabás
- napi
- tánc
- sötét
- dátum
- adatkészletek
- nap
- határozatok
- mély
- mély tanulás
- mélyebb
- DeepMind
- alapértelmezett
- meghatározott
- Annak meghatározása,
- ás
- elmélyül
- demonstráció
- függ
- telepíteni
- telepített
- bevezetéséhez
- bevetés
- SIVATAG
- Design
- tervezés
- kívánatos
- részlet
- részletes
- részletek
- Határozzuk meg
- Fejleszt
- fejlett
- Fejlesztő
- fejlesztése
- Fejlesztés
- eszköz
- diagnosztizálása
- Párbeszéd
- különbözik
- különbségek
- különböző
- digitális
- digitális művészet
- közvetlenül
- könyvtár
- felfedez
- vita
- megbeszélések
- betegségek
- merülés
- számos
- Sokféleség
- osszuk
- do
- dokumentum
- dokumentumfilmek
- nem
- domain
- domainek
- csinált
- le-
- letöltés
- két
- Herceg
- herceg egyetem
- alatt
- Dust
- disztópikus
- minden
- föld
- könnyebb
- hatékonyság
- nyolc
- Empire
- lehetővé
- lehetővé teszi
- lehetővé téve
- találkozás
- ösztönzi
- végtől végig
- Endpoint
- vonzó
- mérnök
- Javítja
- élvez
- élvezetes
- biztosítására
- Környezet
- EPIKUS
- hibák
- alapvető
- létrehozni
- etikai
- értékelni
- értékelő
- értékelés
- végül is
- Minden
- példa
- példák
- izgatott
- átfogó
- kiállítási
- létezés
- létező
- Bontsa
- várható
- drága
- tapasztalat
- kísérlet
- szakértők
- feltárása
- feltárja
- Feltárása
- Arc
- méltányosság
- hamis
- család
- gyorsabb
- Funkció
- Visszacsatolás
- láb
- kevés
- mező
- harc
- filé
- Végül
- Találjon
- megállapítások
- végén
- vezetéknév
- első találkozás
- megfelelő
- öt
- Vaku
- repülés
- koncentrál
- következő
- következik
- A
- örökké
- formátum
- Alapítvány
- Keretrendszer
- őszinte
- ból ből
- funkció
- funkciós
- funkcionalitás
- működése
- további
- jövő
- futurisztikus
- Games
- gyűjt
- Gemini
- generáló
- nemző
- Generatív AI
- fajta
- Műfajok
- kap
- GitHub
- Ad
- adott
- Go
- Célok
- megy
- jó
- kapott
- GPU
- kegyelem
- fokozatosan
- nagy
- hatalmas erő
- Csoport
- garanciák
- Őr
- útmutatást
- útmutató
- irányadó
- kéz
- hám
- Legyen
- he
- magasság
- szia
- segít
- segít
- neki
- itt
- Rejtett
- övé
- történelem
- remény
- házigazdája
- Hogyan
- How To
- azonban
- HTML
- HTTPS
- Kerékagy
- csomópontok
- HuggingFace
- emberi
- Emberiség
- Az emberek
- i
- ID
- ötlet
- azonosítani
- if
- Illinois
- képek
- Hatás
- végre
- végrehajtás
- importál
- fontos
- javul
- javulás
- fejlesztések
- javuló
- in
- tartalmaz
- Beleértve
- amely magában foglalja
- Növelje
- független
- ipar
- ipari szabványok
- befolyás
- információ
- Tájékoztató
- Infrastruktúra
- találékonyság
- Innováció
- bemenet
- bemenet
- Érdeklődés
- meglátások
- inspirálta
- példa
- helyette
- integrálni
- integrált
- Intelligencia
- A szándék
- kölcsönhatás
- érdekek
- Felület
- útkereszteződés
- bele
- bevezet
- intuitív
- vonja
- részt
- jár
- IT
- tételek
- ITS
- zsargon
- csatlakozik
- folyóirat
- utazás
- jpg
- json
- éppen
- Tart
- Kedves
- Ismer
- tudás
- ismert
- Kyle
- leszállási
- táj
- nyelv
- nagy
- nagyobb
- Késleltetés
- indított
- törvények
- vezető
- TANUL
- tanulás
- tanul
- kilépő
- Hossz
- hadd
- szint
- Tőkeáttétel
- Engedély
- engedélyek
- élet
- villám
- Villám sebesség
- könnyűsúlyú
- mint
- Kedvencek
- vonal
- vonalak
- Lista
- hallgat
- Kihallgatás
- figyel
- Láma
- kiszámításának
- helyi
- elhelyezkedés
- néz
- keres
- MEGJELENÉS
- az
- Los Angeles
- alacsonyabb
- gép
- gépi tanulás
- Többség
- csinál
- rosszindulatú
- vezetés
- kézzel
- sok
- jel
- március
- matematika
- maximális
- Lehet..
- me
- jelenti
- jelentése
- intézkedések
- Média
- orvostudomány
- találkozó
- említett
- üzenet
- üzenetek
- módszer
- Michael
- esetleg
- bánja
- Perc
- ML
- modell
- modellek
- Modulok
- monitor
- ellenőrzés
- több
- a legtöbb
- Filmek
- zene
- kell
- my
- titokzatos
- név
- Nevezett
- Természetes
- Természetes nyelvi feldolgozás
- Természet
- elengedhetetlen
- Szükség
- szükséges
- igények
- hálózatok
- ideg-
- neurális hálózatok
- soha
- Új
- New York
- new york city
- éjszaka
- nem
- megjegyezni
- jegyzetfüzet
- regény
- Most
- szám
- Oázis
- tárgy
- célok
- megfigyelni
- of
- Ajánlatok
- gyakran
- on
- egyszer
- ONE
- folyamatban lévő
- csak
- operatív
- Lehetőségek
- optimalizálás
- Optimalizálja
- Opciók
- or
- érdekében
- származás
- OS
- Más
- Egyéb
- ki
- Eredmény
- eredmények
- teljesítmény
- felett
- saját
- oldal
- papírok
- Párhuzamos
- paraméter
- paraméterek
- különös
- különösen
- fél
- elhalad
- Múló
- múlt
- ösvény
- minták
- Paul
- Emberek (People)
- mert
- Teljesít
- teljesítmény
- előadó
- Előadja
- személyes
- perspektívák
- phd
- kifejezés
- fizikus
- pilóta
- Hely
- bolygó
- tervek
- Plató
- Platón adatintelligencia
- PlatoData
- játszani
- játékos
- kérem
- pont
- pont
- politikai
- Népszerű
- népesség
- állás
- potenciális
- hatalom
- gyakorlat
- gyakorlat
- Tippek
- Predictor
- preferenciák
- előkészítése
- szép
- korábban
- Herceg
- Fő
- Plakátok
- folyamat
- Feldolgozott
- Folyamatok
- feldolgozás
- Termelés
- Program
- Haladás
- program
- utasításokat
- megfelelő
- jólét
- ad
- szolgáltatók
- biztosít
- nyilvános
- nyilvánosan
- közzétett
- célokra
- Puzzle
- Piton
- pytorch
- világítás
- lekérdezések
- kérdés
- keresés
- kérdés
- Kérdések
- gyorsan
- egészen
- Futam
- elágazások
- hatótávolság
- Inkább
- Nyers
- elérése
- Olvass
- Olvasás
- való Világ
- Valóság
- tényleg
- birodalom
- ok
- kap
- új
- Ajánlást
- ajánlások
- ajánló
- visszatérő
- referencia
- hivatkozott
- tükrözi
- rendszeresen
- előírások
- összefüggő
- felszabaduló
- eszébe jut
- ismétlés
- képviselő
- kéri
- kötelező
- követelmények
- kutatás
- kutató
- Reagálni
- válaszol
- válasz
- válaszok
- felelősség
- felelős
- eredményez
- Eredmények
- Kritika
- Jutalom
- Emelkedik
- erős
- robusztusság
- Szerep
- rutin
- királyi
- szabályok
- futás
- fut
- s
- biztonságosabb
- sagemaker
- SageMaker következtetés
- azonos
- Megtakarítás
- azt mondják
- skálázható
- Skála
- Mérleg
- skálázás
- forgatókönyvek
- sci-fi
- Tudomány
- Tudós
- tudósok
- hatálya
- kaparni
- forgatókönyv
- szkriptek
- sdk
- zökkenőmentes
- keres
- Második
- titkok
- Rész
- biztonság
- lát
- válasszuk
- kiválasztott
- kiválasztása
- kiválasztás
- elküldés
- idősebb
- különálló
- Sorozat
- Series of
- A sorozat
- Szolgáltatások
- szolgáló
- ülés
- készlet
- Szettek
- beállítás
- számos
- megosztott
- kellene
- előadás
- kimutatta,
- mutató
- mutatott
- Műsorok
- oldal
- hasonló
- Egyszerű
- egyetlen
- Méret
- méretek
- készségek
- So
- Közösség
- Társadalom
- szoftver
- Software Engineer
- megoldások
- Megoldások
- néhány
- Források
- Sparks
- különleges
- sebesség
- Költési
- költ
- állvány
- szabványok
- kezdődött
- Kezdve
- Állami
- csúcs-
- nyilatkozat
- statisztikai
- Lépés
- Lépései
- Még mindig
- TÖRTÉNETEK
- vihar
- Történet
- furcsa
- Stratégiai
- stratégiák
- Húr
- erős
- stúdió
- Tanulmány
- Iratkozz fel
- feliratok
- sikeres
- ilyen
- megfelelő
- támogatás
- Támogatott
- Támogató
- Támogatja
- biztos
- túlélni
- rendszer
- táblázat
- Vesz
- tart
- mese
- cél
- célok
- Feladat
- feladatok
- csapat
- csapat
- technika
- technikák
- Technológia
- sablon
- sablonok
- tensorflow
- feltételek
- teszt
- kipróbált
- Tesztelés
- szöveg
- mint
- hogy
- A
- A terület
- A jövő
- a világ
- azok
- Őket
- maguk
- akkor
- Ott.
- ebből adódóan
- Ezek
- ők
- Harmadik
- harmadik felek
- harmadik fél
- ezt
- azok
- gondoltam
- elgondolkodtató
- ezer
- izgató
- Keresztül
- áteresztőképesség
- idő
- Idősorok
- időutazás
- időrendben
- alkalommal
- nak nek
- jelképes
- bontja le
- tokenek
- mondta
- szerszám
- szerszámok
- téma
- Végösszeg
- vágány
- hagyományos
- Vonat
- kiképzett
- Képzések
- átruházás
- Átadó
- transzformátor
- Fordítás
- utazás
- Trillió
- igaz
- megpróbál
- dallam
- hangolt
- hangolás
- tv
- kettő
- típus
- típusok
- tipikus
- jellemzően
- ui
- Végül
- feltárni
- alatt
- megért
- megértés
- ismeretlen
- Világegyetem
- egyetemi
- páratlan
- -ig
- leleplezés
- frissítve
- Frissítés
- frissítése
- us
- használhatóság
- Használat
- használ
- használati eset
- használt
- használó
- barátságos felhasználói
- Felhasználók
- használ
- segítségével
- érvényesítés
- Értékek
- fajta
- különféle
- vállalkozás
- változat
- Megnézem
- Tényleges
- Virtuális valóság
- látomás
- Látogat
- vizuális
- vizuális média
- kötet
- séta
- akar
- szavatosság
- volt
- Nézz
- őrzés
- Út..
- módon
- we
- háló
- webes szolgáltatások
- web-alapú
- hét
- JÓL
- Wells
- Mit
- Mi
- amikor
- bármikor
- vajon
- ami
- WHO
- széles
- széles körben
- modul
- lesz
- bölcsesség
- val vel
- belül
- nélkül
- szó
- szavak
- Munka
- munkafolyamat
- dolgozó
- világ
- ír
- írás
- X
- york
- te
- fiatal
- A te
- magad
- zephyrnet