A generatív AI-fejlesztés automatizálása

Újra kiadta Platón

Követő: 0

Automating generative AI development PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Szponzorált funkció Az utóbbi időben a mesterséges intelligencia (AI) uralja az üzleti és technológiai híreket, különösen az olyan generatív mesterséges intelligencia technológiák megjelenésével, mint a ChatGPT. A mesterséges intelligencia és a generatív mesterségesintelligencia használatát megkezdő vagy bővítő vállalatok számára azonban továbbra is jelentős technológiai kihívások, valamint képzési és eljárási akadályok állnak előttük.

Minden bizonnyal az AI-t használó cégek száma folyamatosan növekszik szerte a világon, és gyakorlatilag minden iparágban. Szerint a IBM Global AI Adoption Index 2022 jelentés szerint a technológia átvétele virágzik. A számítások szerint a mesterséges intelligencia globális elterjedésének aránya 2022-ben folyamatosan nőtt, és jelenleg 35 százalék, ami négypontos növekedés az előző évhez képest. A megkérdezett válaszadók további 42 százaléka pedig azt nyilatkozta, hogy vizsgálja, hogyan kezdhetné el az AI használatát.

„Általánosságban elmondható, hogy ez egy új tartomány, és nagyon gyorsan fejlődik” – mondja Assaf Katan, az izraeli székhelyű AT fejlesztő Deci üzletági igazgatója. „Rövid távú és hosszú távú kihívások kombinációja létezik. Rövid távon valójában az útválasztásról van szó. „Szeretnék-e házon belüli képességeket kiépíteni, nyílt forráskódú modellekkel dolgozni, és magam módosítani? vagy olyan API-n keresztül szeretnék dolgozni, mint például az Open AI? Akkor nem kell rendkívül jártasnak lennem, hanem a modell teljesítménye feletti irányítási szintre és a személyre szabhatóságomra is, miközben biztosítom, hogy az adatvédelem korlátozott.””

Ezek a kezdeti rövid távú döntések. Ezután hosszabb távra tekintve a vállalatoknak mérlegelni kell a méretezés szükségességét és ennek költségeit. „Hosszú távra tekintve, tegyük fel, hogy egy vállalat generatív AI-szolgáltatást szeretne kiépíteni. Úgy vélik, hogy ez javíthatja a hatékonyságot, javíthatja a munkafolyamatokat, és skálázható lesz” – magyarázza Katan. „El kell gondolkodniuk azon, hogy milyen következményekkel járhat a megoldásukhoz szükséges modell használatának bővítése. Ezek a generatív modellek hatalmasak, több milliárd paraméterrel, így a következtetésekhez szükséges számítási teljesítmény óriási. Hogyan építsd fel úgy, hogy ha méretezed, akkor is megbirkózz a költségekkel?"

A mesterséges intelligencia fejlesztése

A generatív mesterséges intelligencia és a nagyobb teljesítményű szerverhardver kombinációja, amely jobban megfelel ezeknek a munkaterheléseknek a feldolgozására, új lehetőségeket nyit a vállalatok számára az új AI-alkalmazások és -modellek gyors tervezésére, elkészítésére és szállítására. Ugyanezen IBM-kutatás szerint a mesterséges intelligencia sokféle módon segíti a vállalatokat. Ez magában foglalja a munkaerő- és tehetséghiány kezelését az ismétlődő feladatok automatizálásával; időmegtakarítás az IT, üzleti és hálózati folyamatok automatizálásával; költségek megtakarítása; a működés hatékonyabbá tétele, az informatikai és hálózati teljesítmény javítása; és végső soron jobb élményt nyújtva az ügyfeleknek.

A kézzelfogható üzleti előnyök nagy része a hatékonyságon összpontosul – magyarázza Katan. „Az egyik vállalat, amellyel beszélünk, nagy ügyfélkörrel rendelkezik, ezért sok ügyfélszolgálati és ügyfélszolgálati hívás érkezik” – mondja. „Ma már szabványos, nem mesterséges intelligencia chatbotokat használnak, sok alapvető problémával. Azt tervezik, hogy generatív mesterséges intelligenciát fognak használni a hívások túlnyomó többségének lefedésére, a többit pedig az emberi ügynökökre bízzák.”

Katan megemlített egy másik céget, amellyel a Deci dolgozik, és amely ügyesen használja az AI-t a tartalom generálására. „Több ezer különböző termékük és cikkszámuk van. Generatív AI-t használnak a termékleírások írásához” – magyarázza. „Most ezek a termékleírások nem csak kétsorosak. Tartalmazza a termékleírásokat, a műszaki jellemzőket és a funkciókra vonatkozó információkat. Generatív mesterséges intelligencia segítségével írják le a termékleírások 90 százalékát.”

Az AutoNAC hatékony mély tanulást tesz lehetővé

A Deci mély tanulási platformot az Automated Neural Architecture Construction (AutoNAC) technológia hajtja. „Ajánlatunk két fő összetevőből épül fel” – magyarázza Katan. „Az egyik a neurális hálózat, ahol technológiánk segít hatékony, egy adott használati esetre optimalizált neurális hálózati architektúrák felépítésében, a hardveren, amelyen futnak, és úgy állítják be, hogy megfeleljenek az adott KPI-nek.”

Az AutoNAC többcélú keresést hajt végre egy több tízmilliárd különböző potenciális architektúrát tartalmazó keresési területen, hogy azonosítsa az optimális architektúrát – amely egyensúlyt teremt a pontosság, az alacsony késleltetés és a nagy áteresztőképesség között, és amely egyedi feladatokra, adatokra van szabva. jellemzők, teljesítménycélok és konkrét hardver. A Deci AutoNAC-ja létrehozta a világ leghatékonyabb számítógépes látási és generatív modelljeit, mint például a YOLO-NAS, a DeciLM 6B, a DeciDiffusion.

Az AutoNAC motor az általa generált architektúra pontosságát és teljesítményszintjét is meg tudja jósolni anélkül, hogy ténylegesen előzetesen betanítania kellene a modellt, ahogy az sok mesterséges intelligencia modell esetében történik. A végeredmény egy automatikusan összeállított mesterséges intelligencia modell, amelyet sokkal gyorsabban és olcsóbban fejlesztettek ki, mint korábban, teszi hozzá Katan: „Pénzt takarít meg, és nagyobb átviteli sebességet biztosít, ami jobb felhasználói élményt jelent”.

A másik komponens az Infery, a Deci következtetési eszköz. „Az Infery tovább optimalizálja a neurális hálózat futásidejű teljesítményét annak érdekében, hogy a lehető leghatékonyabban működjön adott hardveren” – folytatja. „Erős következtetési eszközeink vannak, amelyeket különféle felhasználási esetekre optimalizáltunk. A generatív mesterséges intelligencia számára egy speciális következtetési eszközt készítünk, amelyet ezekre a nagy modellekre optimalizáltunk, mivel ezek másképp viselkednek, mint a kisebbek.”

A generatív AI-modellek, amelyeket összetett, iteratív folyamataikkal különböztetnek meg, különböznek a hagyományos statikus modellektől, amelyeket olyan feladatokban használnak, mint az objektumészlelés. A hagyományos optimalizálási eszközök elmaradnak, és speciális eszközöket igényelnek ezekhez a dinamikus architektúrákhoz.

A mesterséges intelligencia csapatai manapság sok hónapot és erőforrásokat fordítanak modelljeik fejlesztésére és optimalizálására, végtelen próba-hiba iterációkkal, amikor megpróbálják manuálisan tervezni a modelleket, de a modellek mindössze 30%-a jut el a gyártásig. A Deci platform leegyszerűsíti a modellfejlesztést és -optimalizálást, kiküszöböli a bizonytalanságot és garantálja a gyártás sikerét. A Deci segítségével az AI csapata hónapok helyett napok alatt elérheti a termelést.

AI munka közben

A Deci számítógépes látásmódot és generatív mesterséges intelligencia platformot a Lenovo ThinkSystem szerverekkel párosítva számos iparágban sikeresen használják, beleértve a gyártást, a kiskereskedelmet és még a mezőgazdaságot is. „A Deci két elsődleges piacon van” – magyarázza Katan –, „a számítógépes látás és a generatív AI”.

A számítógépes látásalkalmazásokat gyártó- és autógyárakban használják szemrevételezéssel, például a hibás termékek azonosítására. A mezőgazdaságban a Deci ügyfelei számítógépes kamerákkal figyelik az állatok egészségét, méretét és növekedését. A kiskereskedelemben a számítógépes látást használják az automatikus fizetéshez. „Minden az, hogy a jó öreg, számítógépes látásalapú mesterséges intelligencia segítségével elemzéseket végeznek és döntéseket hoznak” – teszi hozzá.

A generatív mesterséges intelligencia oldalon a Deci-t az ügyfelek számos olyan piacon használják, amely bármely iparágban megtalálható funkciókat szolgál ki. „Mindenütt elérhető az ügyfélszolgálat” – mondja. „A pénzügyi szolgáltatásokban aztán vannak konkrétabb felhasználási esetek, mint például a hitelelemzés. Az értékesítési és marketingcsapatok az ügyfelek adatait használják fel egyedi értékesítési ajánlatok elkészítéséhez. Egyedi marketinget is végeznek; és nem csak a tartalom. Van még egy vizuális komponens is, amely olyan eszközöket használ, mint a szöveg képpé, és a képek kombinálása testreszabott marketingcsomagok létrehozásához.”

Erő számokban

Az AI-rendszerek és -modellek bevezetésére törekvő vállalatok számára ez ijesztő és összetett folyamat lehet. A Lenovo és a Deci közös munkával leegyszerűsítik a folyamatot azáltal, hogy a Deci AI platformot és modelleket úgy konfigurálják, hogy a leghatékonyabban működjenek a Lenovo szerverein. Ez egyablakos ügyintézést tesz lehetővé a saját mesterségesintelligencia-modelljeik fejlesztésében érdekelt vállalatok számára.

A partnerség egyik aspektusa Deci részvétele a Lenovo AI Innovators Program. Ez segít a Deci mély tanulási platformjának és a természetes nyelvi feldolgozási modelleknek a Lenovo ThinkSystem szerverein történő futtatásával. A Lenovo AI Innovators program hozzáférést biztosít a Deci számára a Lenovo házon belüli AI-szakértelméhez, és előre konfigurált hardvert biztosít a partnereknek, amelyek készen állnak az AutoNAC platform futtatására.

A Lenovo AI Innovators program partnervállalatok hatalmas hálózatát és 180 országra kiterjedő globális hozzáférést biztosít. A Lenovo mesterséges intelligencia kiválósági központokat is létrehozott a partnercégek számára, hogy megosszák egymással szakértelmüket és erőforrásaikat.

Katan szerint nem csak a Lenovo hatóköre növeli a partnerséget. "Amikor felkeresel egy ügyfelet, tudnod kell, mi a felhasználási eset, mi az időzítés?" mondja. „Az időzítés fontos. Lehet, hogy van egy nagyszerű terméke, de túl korán vagy túl későn tették elérhetővé. Amikor olyan céggel dolgozunk együtt, mint a Lenovo, jobban ismerik a tervezett felhasználási esetet és a megoldás kidolgozásának időpontját.”

Példaként Katan elmagyarázza, hogy a kombinált AutoNAC platform és a Lenovo szerverek hogyan illeszkednének egy viszonylag gyakori használati esetbe. „Tegyük fel, hogy vizuális ellenőrzési megoldást épít a gyártóüzem számára” – mondja. „Kell a Lenovo számítógép. Kellenek a kamerák. Tárolásra van szüksége az adatokhoz és így tovább. Ebben a helyzetben mi vagyunk az AI összetevője.”

A nagy testvér lép be

A Lenovo a globális elérést, a megbízhatóságot, valamint az értékesítési és támogatási képességeket hozza magával. A Deci magával hozza az alapvető technológiát. „Számunkra olyanok, mint a nagy testvér” – mondja Katan. „Erősségünk az AI technológiában rejlik. Tehát ez az elérésük és az ügyfelek kombinációja a mi technológiánkkal. Ez az ígéretünk a Lenovónak. Mindig a legjobb és legerősebb mesterséges intelligencia technológiát hozzuk, és továbbra is dolgozunk, koncentrálunk, és a lehető legerősebbé tesszük.”

A Lenovo ThinkSystems egyedülállóan párosítva támogatja az olyan nehéz számítási funkciókat, mint az AI számítások. „Ha egy olyan vállalkozásra gondolunk, amely generatív mesterséges intelligenciát szeretne használni, és olyan szolgáltatást szeretne létrehozni, amely képes lesz skálázni, a költségek óriásiak” – magyarázza Katan. „És ezek a modellek csak egyre nagyobbak. Minél nagyobb a modell, annál több számítást igényel és fogyaszt, így a kevesebb számítást igénylő modellek építése kevesebb hardverköltséget jelent.”

A Deci-partnerség a Lenovóval viszonylag új, 2023 elején indult, és Katan kíváncsian tekint előre. „A magunk részéről folyamatosan bővítjük támogatási mátrixunkat” – teszi hozzá Katan. „Bővíteni fogjuk az általunk támogatott használati esetek típusát és szélességét. A Lenovóval való együttműködés csak nemrég kezdődött, ezért technológiai validációt végeztünk, hogy segítsük a Lenovo-embereket jobban megérteni platformunkat és értékajánlatunkat.”

A Lenovo támogatásával.