Mengotomatiskan pengembangan AI generatif

Mengotomatiskan pengembangan AI generatif

Stempel Waktu: 20 Oktober 2023 8:27
Mengotomatiskan pengembangan AI generatif PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Fitur Bersponsor Kecerdasan Buatan (AI) telah mendominasi berita utama bisnis dan teknologi akhir-akhir ini, terutama dengan munculnya teknologi AI generatif seperti ChatGPT. Namun bagi perusahaan yang memulai atau memperluas penggunaan AI dan AI generatif, masih terdapat tantangan teknologi yang signifikan, serta kendala pelatihan dan prosedur yang harus diatasi.

Tentu saja jumlah perusahaan yang menggunakan AI terus bertambah di seluruh dunia dan di hampir semua industri. Menurut Indeks Adopsi AI Global IBM 2022 laporan, penggunaan teknologi berkembang pesat. Laporan tersebut menghitung bahwa tingkat adopsi AI global terus meningkat pada tahun 2022 dan kini mencapai 35 persen, meningkat empat poin dari tahun sebelumnya. Dan 42 persen responden lainnya yang disurvei mengatakan mereka sedang menjajaki bagaimana mereka dapat mulai menggunakan AI.

“Secara umum, ini adalah domain baru dan berkembang sangat cepat,” kata Assaf Katan, chief business officer di pengembang AT Deci yang berbasis di Israel. “Ada kombinasi tantangan jangka pendek dan jangka panjang. Dalam jangka pendek, ini benar-benar tentang memilih jalan Anda. 'Apakah saya ingin membangun kemampuan internal, bekerja dengan model sumber terbuka, dan mengubahnya sendiri; atau apakah saya ingin bekerja melalui API dengan sesuatu seperti Open AI? Maka saya tidak perlu menjadi super mahir, tetapi juga tingkat kendali saya terhadap kinerja model, dan kemampuan untuk menyesuaikannya sambil memastikan privasi data terbatas.'”

Itu adalah keputusan awal jangka pendek. Kemudian, dalam jangka panjang, perusahaan harus mempertimbangkan kebutuhan untuk meningkatkan skala dan biaya yang harus dikeluarkan untuk melakukan hal tersebut. “Dalam jangka panjang, mari kita asumsikan sebuah perusahaan ingin membangun layanan AI generatif. Mereka percaya hal ini dapat meningkatkan efisiensi, meningkatkan alur kerja, dan akan berkembang,” jelas Katan. “Mereka perlu memikirkan dampak dari peningkatan penggunaan model yang mendukung solusi mereka. Model generatif ini berukuran sangat besar dengan miliaran parameter, sehingga daya komputasi yang diperlukan untuk inferensi sangat besar. Bagaimana Anda membangunnya sehingga jika Anda melakukan skala, Anda masih dapat mengatasi biayanya?”

Memajukan Kecerdasan Buatan

Kombinasi AI generatif dan perangkat keras server yang lebih kuat dan lebih cocok untuk memproses beban kerja tersebut membuka peluang baru bagi perusahaan untuk merancang, membangun, dan menghadirkan aplikasi dan model AI baru dengan cepat. Menurut penelitian IBM yang sama, AI membantu perusahaan dalam berbagai cara. Hal ini mencakup mengatasi kekurangan tenaga kerja dan talenta dengan mengotomatisasi tugas-tugas yang berulang; menghemat waktu dengan mengotomatiskan proses TI, bisnis, dan jaringan; menghemat biaya; menjadikan operasional lebih efisien, meningkatkan kinerja TI dan jaringan; dan pada akhirnya, memberikan pengalaman yang lebih baik bagi pelanggan.

Sebagian besar manfaat bisnis yang nyata berpusat pada efisiensi, jelas Katan. “Satu perusahaan yang kami ajak bicara memiliki basis pelanggan yang besar, sehingga ada banyak panggilan layanan pelanggan dan dukungan pelanggan,” katanya. “Saat ini mereka menggunakan chatbot non-AI standar dengan banyak masalah mendasar. Mereka berencana menggunakan AI generatif untuk menangani sebagian besar panggilan tersebut dan menyerahkan sisanya kepada agen manusia untuk ditangani.”

Katan menyebutkan perusahaan lain tempat Deci bekerja yang terampil menggunakan AI untuk menghasilkan konten. “Mereka memiliki ribuan produk dan SKU yang berbeda. Mereka menggunakan AI generatif untuk menulis deskripsi produk,” jelasnya. “Deskripsi produk ini bukan hanya dua baris saja. Itu mencakup deskripsi produk, spesifikasi teknis, dan informasi fitur. Mereka menggunakan AI generatif untuk menulis 90 persen deskripsi produk tersebut.”

AutoNAC memungkinkan pembelajaran mendalam yang efisien

Platform pembelajaran mendalam Deci didukung oleh teknologi Automated Neural Architecture Construction (AutoNAC). “Penawaran kami terdiri dari dua komponen utama,” jelas Katan. “Salah satunya adalah jaringan saraf, di mana teknologi kami membantu Anda membangun arsitektur jaringan saraf yang efisien dan dioptimalkan untuk kasus penggunaan tertentu, perangkat keras yang menjalankannya, dan disiapkan untuk memenuhi KPI tertentu.”

AutoNAC melakukan pencarian multi-objektif dalam ruang pencarian puluhan miliar arsitektur potensial yang berbeda untuk mengidentifikasi arsitektur optimal – arsitektur yang memberikan keseimbangan antara akurasi, latensi rendah, dan throughput tinggi, yang disesuaikan untuk tugas, data berbeda karakteristik, tujuan kinerja, dan perangkat keras tertentu. AutoNAC Deci telah menghasilkan beberapa visi komputer dan model generatif paling efisien di dunia seperti YOLO-NAS, DeciLM 6B, DeciDiffusion, dan lain-lain.

Mesin AutoNAC juga dapat memprediksi keakuratan dan tingkat performa arsitektur yang akan dihasilkannya tanpa harus melatih model terlebih dahulu, seperti yang terjadi pada banyak model AI. Hasil akhirnya adalah model AI yang dikompilasi secara otomatis dan dikembangkan jauh lebih cepat dan murah dibandingkan sebelumnya, tambah Katan: “Anda menghemat uang, dan memberikan throughput yang lebih tinggi, yang berarti pengalaman pengguna yang lebih baik”.

Komponen lainnya adalah Infery, alat inferensi Deci. “Infery semakin mengoptimalkan kinerja runtime jaringan saraf untuk memastikannya berjalan seefisien mungkin pada perangkat keras tertentu,” lanjutnya. “Kami memiliki alat inferensi kuat yang dioptimalkan untuk berbagai kasus penggunaan. Untuk AI generatif, kami membuat alat inferensi khusus yang dioptimalkan untuk model besar ini karena perilakunya berbeda dibandingkan model kecil.” 

Model AI generatif, yang dibedakan berdasarkan prosesnya yang kompleks dan berulang, berbeda dari model statis konvensional yang digunakan dalam tugas-tugas seperti deteksi objek. Alat pengoptimalan tradisional tidak berfungsi, sehingga memerlukan alat khusus untuk arsitektur dinamis ini.

Tim AI saat ini menghabiskan waktu berbulan-bulan dan sumber daya untuk mengembangkan dan mengoptimalkan model mereka dengan percobaan dan kesalahan yang tiada henti ketika mencoba mendesain model secara manual, namun hanya 30% model yang berhasil mencapai produksi. Platform Deci menyederhanakan pengembangan & optimalisasi model, menghilangkan ketidakpastian dan menjamin kesuksesan dalam produksi. Dengan Deci, tim AI dapat mencapai produksi dalam hitungan hari, bukan bulan.

AI di tempat kerja

Visi komputer Deci dan platform AI generatif, yang dipadukan dengan server Lenovo ThinkSystem, berhasil digunakan di sejumlah vertikal industri, termasuk manufaktur, ritel, dan bahkan pertanian. “Deci ada di dua pasar utama,” jelas Katan, “visi komputer dan AI generatif.” 

Aplikasi visi komputer digunakan di pabrik manufaktur dan otomotif untuk inspeksi visual guna mengidentifikasi produk cacat, misalnya. Di bidang pertanian, Deci memiliki pelanggan yang menggunakan kamera visi komputer untuk memantau kesehatan, ukuran, dan pertumbuhan hewan. Untuk ritel, computer vision digunakan untuk pembayaran otomatis. “Semua itu menggunakan AI berbasis visi komputer lama yang bagus untuk melakukan analisis dan mengambil keputusan,” tambahnya.

Di sisi AI generatif, Deci digunakan oleh pelanggan di berbagai pasar yang melayani fungsi-fungsi yang ditemukan di industri apa pun. “Ada layanan pelanggan secara menyeluruh,” katanya. “Kemudian di bidang jasa keuangan, ada kasus penggunaan yang lebih spesifik seperti melakukan analisis kredit. Tim penjualan dan pemasaran menggunakan data pelanggan untuk membuat proposal penjualan khusus. Mereka juga melakukan pemasaran khusus; dan bukan hanya isinya. Bahkan ada komponen visual yang menggunakan alat seperti teks ke gambar dan menggabungkan gambar untuk membuat paket pemasaran yang disesuaikan.”  

Kekuatan dalam angka

Bagi perusahaan yang ingin menerapkan sistem dan model AI, ini bisa menjadi proses yang menakutkan dan rumit. Melalui kerja sama, Lenovo dan Deci berharap dapat menyederhanakan proses dengan mengonfigurasi platform dan model Deci AI agar dapat beroperasi paling efisien di server Lenovo. Hal ini menjadikannya one-stop shopping bagi perusahaan yang tertarik untuk mengembangkan model AI mereka sendiri.

Salah satu aspek dari kemitraan tersebut adalah partisipasi Deci dalam Program Inovator AI Lenovo. Hal ini membantu dengan menjalankan platform pembelajaran mendalam Deci dan model pemrosesan bahasa alami di server Lenovo ThinkSystem. Program Lenovo AI Innovators memberi Deci akses ke keahlian AI internal Lenovo dan menyediakan perangkat keras pra-konfigurasi kepada mitra yang siap menjalankan platform AutoNAC.

Program Lenovo AI Innovators menyediakan jaringan perusahaan mitra yang luas dan jangkauan global di 180 negara. Lenovo juga telah mendirikan pusat keunggulan AI, bagi perusahaan mitra untuk berbagi keahlian dan sumber daya.

Dan bukan hanya cakupan Lenovo yang menambah kemitraan ini, menurut Katan. “Saat Anda mendekati pelanggan, Anda perlu mengetahui use case-nya, kapan waktunya?” dia berkata. “Waktunya penting. Mungkin Anda memiliki produk hebat, namun tersedia terlalu dini atau terlambat. Saat kami bekerja sama dengan perusahaan seperti Lenovo, mereka mengetahui kasus penggunaan yang dimaksudkan dan waktu yang lebih baik untuk membangun solusi.” 

Sebagai contoh, Katan menjelaskan bagaimana gabungan platform AutoNAC dan server Lenovo akan cocok dengan kasus penggunaan yang relatif umum. “Misalnya Anda sedang membangun solusi inspeksi visual untuk pabrik Anda,” katanya. “Itu membutuhkan komputer Lenovo. Itu membutuhkan kamera. Perlu penyimpanan data, dan sebagainya. Dalam situasi ini, kami adalah komponen AI.” 

Kakak masuk

Lenovo menghadirkan jangkauan global, keandalan, serta kemampuan penjualan dan dukungan. Deci menghadirkan teknologi intinya. “Bagi kami, mereka seperti kakak,” kata Katan. “Kekuatan kami ada pada teknologi AI. Jadi, ini adalah kombinasi jangkauan dan pelanggan mereka dengan teknologi kami. Itu adalah janji kami kepada Lenovo. Kami akan selalu menghadirkan teknologi AI terbaik dan terkuat, dan kami akan terus bekerja dan fokus serta menjadikannya sekuat mungkin.”

Lenovo ThinkSystems dipasangkan secara unik untuk mendukung fungsi komputasi berat seperti perhitungan AI. “Ketika Anda memikirkan sebuah perusahaan yang ingin menggunakan AI generatif, dan membangun layanan yang dapat diperluas, biayanya sangat besar,” jelas Katan. “Dan model-model ini semakin besar. Semakin besar modelnya, semakin banyak pula komputasi yang dibutuhkan dan dikonsumsi, sehingga membangun model yang mengonsumsi lebih sedikit komputasi berarti lebih sedikit biaya perangkat keras.”

Kemitraan Deci dengan Lenovo relatif baru, dimulai pada awal tahun 2023, dan Katan sangat menantikan masa depan. “Dari pihak kami, kami akan terus memperluas matriks dukungan kami,” tambah Katan. “Kami akan memperluas jenis dan cakupan kasus penggunaan yang kami dukung. Kemitraan dengan Lenovo baru saja dimulai, jadi kami telah melakukan validasi teknologi untuk membantu karyawan Lenovo lebih memahami platform dan proposisi nilai kami.”

Disponsori oleh Lenovo.

Stempel Waktu:

Lebih dari Pendaftaran