Munculnya teks dan pencarian semantik mesin telah membuat bisnis e-niaga dan ritel lebih mudah mencari konsumennya. Mesin pencari yang didukung oleh teks dan gambar terpadu dapat memberikan fleksibilitas ekstra dalam solusi pencarian. Anda dapat menggunakan teks dan gambar sebagai kueri. Misalnya, Anda memiliki folder berisi ratusan foto keluarga di laptop Anda. Anda ingin cepat menemukan foto yang diambil saat Anda dan sahabat Anda berada di depan kolam renang rumah lama Anda. Anda dapat menggunakan bahasa percakapan seperti "dua orang berdiri di depan kolam renang" sebagai kueri untuk menelusuri di mesin telusur teks dan gambar terpadu. Anda tidak perlu memiliki kata kunci yang tepat di judul gambar untuk melakukan kueri.
Layanan Pencarian Terbuka Amazon sekarang mendukung kesamaan cosinus metrik untuk indeks k-NN. Kesamaan cosinus mengukur cosinus sudut antara dua vektor, di mana sudut cosinus yang lebih kecil menunjukkan kesamaan yang lebih tinggi antara vektor. Dengan kesamaan cosinus, Anda dapat mengukur orientasi antara dua vektor, yang menjadikannya pilihan yang baik untuk beberapa aplikasi pencarian semantik tertentu.
Pra-Pelatihan Gambar-Bahasa Kontrastif (CLIP) adalah jaringan saraf yang dilatih pada berbagai pasangan gambar dan teks. Jaringan saraf CLIP mampu memproyeksikan gambar dan teks menjadi satu ruang laten, yang berarti bahwa mereka dapat dibandingkan menggunakan ukuran kesamaan, seperti kesamaan kosinus. Anda dapat menggunakan CLIP untuk menyandi gambar atau deskripsi produk Anda ke dalam pernikahan, lalu simpan ke dalam indeks OpenSearch Service k-NN. Kemudian pelanggan Anda dapat meminta indeks untuk mengambil produk yang mereka minati.
Anda dapat menggunakan CLIP dengan Amazon SageMaker untuk melakukan pengkodean. Inferensi Tanpa Server Amazon SageMaker adalah layanan inferensi yang dibuat khusus untuk memudahkan penerapan dan penskalaan model machine learning (ML). Dengan SageMaker, Anda dapat menerapkan tanpa server untuk pengembangan dan pengujian, lalu pindah ke inferensi waktu-nyata ketika Anda pergi ke produksi. SageMaker tanpa server membantu Anda menghemat biaya dengan menurunkan skala infrastruktur menjadi 0 selama waktu tidak ada aktivitas. Ini sempurna untuk membangun POC, di mana Anda akan memiliki waktu menganggur yang lama di antara siklus pengembangan. Anda juga bisa menggunakan Transformasi batch Amazon SageMaker untuk mendapatkan kesimpulan dari kumpulan data besar.
Dalam postingan ini, kami mendemonstrasikan cara membuat aplikasi pencarian menggunakan CLIP dengan SageMaker dan OpenSearch Service. Kodenya adalah open source, dan dihosting GitHub.
Ikhtisar solusi
Layanan OpenSearch menyediakan pencarian k-NN pencocokan teks dan penyematan. Kami menggunakan pencarian k-NN tersemat dalam solusi ini. Anda dapat menggunakan gambar dan teks sebagai kueri untuk menelusuri item dari inventaris. Menerapkan aplikasi pencarian gambar dan teks terpadu ini terdiri dari dua fase:
- indeks referensi k-NN โ Pada fase ini, Anda melewatkan sekumpulan dokumen korpus atau gambar produk melalui model CLIP untuk menyandikannya ke dalam penyematan. Penyematan teks dan gambar masing-masing adalah representasi numerik dari korpus atau gambar. Anda menyimpan penyematan tersebut ke dalam indeks k-NN di Layanan OpenSearch. Konsep yang mendasari k-NN adalah bahwa titik data serupa ada dalam jarak dekat di ruang embedding. Sebagai contoh, teks "bunga merah", teks "mawar", dan gambar mawar merah serupa, sehingga penyematan teks dan gambar ini berdekatan satu sama lain di ruang penyematan.
- kueri indeks k-NN โ Ini adalah fase inferensi dari aplikasi. Pada fase ini, Anda mengirimkan kueri penelusuran teks atau kueri penelusuran gambar melalui model pembelajaran mendalam (CLIP) untuk dikodekan sebagai penyematan. Kemudian, Anda menggunakan penyematan tersebut untuk mengkueri referensi indeks k-NN yang disimpan di Layanan OpenSearch. Indeks k-NN mengembalikan penyematan serupa dari ruang penyematan. Misalnya, jika Anda meneruskan teks "bunga merah", penyematan gambar mawar merah akan dikembalikan sebagai item serupa.
Gambar berikut mengilustrasikan arsitektur solusi.
Langkah-langkah alur kerjanya adalah sebagai berikut:
- Membuat Model SageMaker dari model CLIP terlatih untuk inferensi batch dan real-time.
- Buat penyematan gambar produk menggunakan tugas transformasi batch SageMaker.
- Gunakan Inferensi Tanpa Server SageMaker untuk menyandikan gambar kueri dan teks ke dalam penyematan secara waktu nyata.
- penggunaan Layanan Penyimpanan Sederhana Amazon (Amazon S3) untuk menyimpan teks mentah (deskripsi produk) dan gambar (gambar produk) dan penyematan gambar yang dihasilkan oleh tugas transformasi batch SageMaker.
- Gunakan Layanan OpenSearch sebagai mesin pencari untuk menyimpan penyematan dan menemukan penyematan serupa.
- Gunakan fungsi kueri untuk mengatur penyandian kueri dan melakukan pencarian k-NN.
Kami menggunakan Studio Amazon SageMaker laptop (tidak diperlihatkan dalam diagram) sebagai lingkungan pengembangan terintegrasi (IDE) untuk mengembangkan solusi.
Siapkan sumber daya solusi
Untuk menyiapkan solusi, selesaikan langkah-langkah berikut:
- Buat domain SageMaker dan profil pengguna. Untuk instruksi, lihat Langkah 5 dari Onboard ke Domain Amazon SageMaker Menggunakan Pengaturan cepat.
- Buat domain Layanan OpenSearch. Untuk instruksi, lihat Membuat dan mengelola domain Amazon OpenSearch Service.
Anda juga dapat menggunakan Formasi AWS Cloud template dengan mengikuti instruksi GitHub untuk membuat domain.
Anda dapat menghubungkan Studio ke Amazon S3 dari Cloud Pribadi Virtual Amazon (Amazon VPC) menggunakan titik akhir antarmuka di VPC Anda, alih-alih terhubung melalui internet. Dengan menggunakan titik akhir antarmuka VPC (antarmuka titik akhir), komunikasi antara VPC Anda dan Studio dilakukan sepenuhnya dan aman dalam jaringan AWS. Notebook Studio Anda dapat terhubung ke Layanan OpenSearch melalui VPC pribadi untuk memastikan komunikasi yang aman.
Domain Layanan OpenSearch menawarkan enkripsi data saat istirahat, yang merupakan fitur keamanan yang membantu mencegah akses tidak sah ke data Anda. Enkripsi node-to-node memberikan lapisan keamanan tambahan di atas fitur default Layanan OpenSearch. Amazon S3 secara otomatis menerapkan enkripsi sisi server (SSE-S3) untuk setiap objek baru kecuali Anda menentukan opsi enkripsi yang berbeda.
Di domain Layanan OpenSearch, Anda dapat melampirkan kebijakan berbasis identitas yang menentukan siapa yang dapat mengakses layanan, tindakan apa yang dapat mereka lakukan, dan jika berlaku, sumber daya tempat mereka dapat melakukan tindakan tersebut.
Mengkodekan pasangan gambar dan teks ke dalam penyematan
Bagian ini membahas cara menyandikan gambar dan teks ke dalam penyematan. Ini termasuk menyiapkan data, membuat model SageMaker, dan melakukan transformasi batch menggunakan model tersebut.
Ikhtisar dan persiapan data
Anda dapat menggunakan notebook SageMaker Studio dengan kernel Python 3 (Data Science) untuk menjalankan kode contoh.
Untuk posting ini, kami menggunakan Kumpulan Data Objek Amazon Berkeley. Kumpulan datanya adalah kumpulan dari 147,702 daftar produk dengan metadata multibahasa dan 398,212 gambar katalog unik. Kami hanya menggunakan gambar item dan nama item dalam bahasa Inggris AS. Untuk tujuan demo, kami menggunakan sekitar 1,600 produk. Untuk detail lebih lanjut tentang kumpulan data ini, lihat README. Kumpulan data dihosting di bucket S3 publik. Ada 16 file yang berisi deskripsi produk dan metadata produk Amazon dalam format listings/metadata/listings_<i>.json.gz
. Kami menggunakan file metadata pertama dalam demo ini.
Kau gunakan panda untuk memuat metadata, lalu pilih produk yang memiliki judul bahasa Inggris AS dari bingkai data. Pandas adalah alat analisis dan manipulasi data sumber terbuka yang dibangun di atas bahasa pemrograman Python. Anda menggunakan atribut yang disebut main_image_id
untuk mengidentifikasi gambar. Lihat kode berikut:
Ada 1,639 produk dalam bingkai data. Selanjutnya, tautkan nama item dengan gambar item yang sesuai. images/metadata/images.csv.gz
berisi metadata gambar. File ini adalah file CSV terkompresi gzip dengan kolom berikut: image_id
, height
, width
, dan path
. Anda dapat membaca file metadata dan kemudian menggabungkannya dengan metadata item. Lihat kode berikut:
Anda dapat menggunakan notebook bawaan SageMaker Studio Python 3 kernel perpustakaan PIL untuk melihat contoh gambar dari kumpulan data:
Persiapan model
Selanjutnya, buat a Model SageMaker dari model CLIP yang telah dilatih sebelumnya. Langkah pertama adalah mengunduh file pembobotan model yang telah dilatih sebelumnya, memasukkannya ke dalam file model.tar.gz
file, dan unggah ke bucket S3. Jalur model prapelatihan dapat ditemukan di Repo KLIP. Kami menggunakan pretrained ResNet-50 (RN50) dalam demo ini. Lihat kode berikut:
Anda kemudian perlu menyediakan skrip titik masuk inferensi untuk model CLIP. CLIP diimplementasikan menggunakan PyTorch, jadi Anda menggunakan SageMaker PyTorch kerangka. PyTorch adalah kerangka kerja ML sumber terbuka yang mempercepat jalur dari pembuatan prototipe penelitian hingga penerapan produksi. Untuk informasi tentang penerapan model PyTorch dengan SageMaker, lihat Terapkan Model PyTorch. Kode inferensi menerima dua variabel lingkungan: MODEL_NAME
dan ENCODE_TYPE
. Ini membantu kami beralih di antara model CLIP yang berbeda dengan mudah. Kita gunakan ENCODE_TYPE
untuk menentukan apakah kita ingin menyandikan gambar atau teks. Di sini, Anda menerapkan model_fn
, input_fn
, predict_fn
, dan output_fn
fungsi untuk menimpa penangan inferensi PyTorch default. Lihat kode berikut:
Solusinya memerlukan paket Python tambahan selama inferensi model, sehingga Anda dapat memberikan a requirements.txt
file agar SageMaker dapat menginstal paket tambahan saat menghosting model:
Anda menggunakan kelas PyTorchModel untuk membuat objek berisi informasi lokasi Amazon S3 artefak model dan detail titik masuk inferensi. Anda dapat menggunakan objek untuk membuat tugas transformasi batch atau menerapkan model ke titik akhir untuk inferensi online. Lihat kode berikut:
Transformasi batch untuk menyandikan gambar item ke dalam penyematan
Selanjutnya, kami menggunakan model CLIP untuk menyandikan gambar item ke dalam penyematan, dan menggunakan transformasi batch SageMaker untuk menjalankan inferensi batch.
Sebelum membuat tugas, gunakan cuplikan kode berikut untuk menyalin gambar item dari bucket S3 publik Amazon Berkeley Objects Dataset ke bucket Anda sendiri. Operasi memakan waktu kurang dari 10 menit.
Selanjutnya, Anda melakukan inferensi pada gambar item secara batch. Tugas transformasi batch SageMaker menggunakan model CLIP untuk menyandikan semua gambar yang disimpan di lokasi input Amazon S3 dan mengunggah penyematan output ke folder S3 output. Pekerjaan memakan waktu sekitar 10 menit.
Muat penyematan dari Amazon S3 ke variabel, sehingga Anda dapat menyerap data ke Layanan OpenSearch nanti:
Buat mesin telusur terpadu bertenaga ML
Bagian ini membahas cara membuat mesin pencari yang menggunakan pencarian k-NN dengan embedding. Ini termasuk mengonfigurasi kluster Layanan OpenSearch, menyerap penyematan item, dan melakukan kueri pencarian teks dan gambar gratis.
Siapkan domain Layanan OpenSearch menggunakan pengaturan k-NN
Sebelumnya, Anda membuat cluster OpenSearch. Sekarang Anda akan membuat indeks untuk menyimpan data katalog dan penyematan. Anda dapat mengonfigurasi pengaturan indeks untuk mengaktifkan fungsionalitas k-NN menggunakan konfigurasi berikut:
Contoh ini menggunakan Klien Python Elasticsearch untuk berkomunikasi dengan klaster OpenSearch dan membuat indeks untuk menghosting data Anda. Anda bisa lari %pip install elasticsearch
di notebook untuk menginstal perpustakaan. Lihat kode berikut:
Serap data penyematan gambar ke dalam Layanan OpenSearch
Anda sekarang mengulang dataset Anda dan menyerap data item ke dalam kluster. Penyerapan data untuk latihan ini akan selesai dalam 60 detik. Itu juga menjalankan kueri sederhana untuk memverifikasi apakah data telah berhasil diserap ke dalam indeks. Lihat kode berikut:
Lakukan kueri waktu nyata
Sekarang setelah Anda memiliki indeks Layanan OpenSearch yang berfungsi yang berisi penyematan gambar item sebagai inventaris kami, mari kita lihat cara membuat penyematan untuk kueri. Anda harus membuat dua titik akhir SageMaker untuk menangani penyematan teks dan gambar.
Anda juga membuat dua fungsi untuk menggunakan titik akhir untuk menyandikan gambar dan teks. Untuk encode_text
fungsi, Anda menambahkan this is
sebelum nama item untuk menerjemahkan nama item menjadi kalimat untuk deskripsi item. memory_size_in_mb
diatur sebagai 6 GB untuk melayani garis bawah Transformator dan ResNet model. Lihat kode berikut:
Anda dapat terlebih dahulu memplot gambar yang akan digunakan.
Mari kita lihat hasil kueri sederhana. Setelah mengambil hasil dari Layanan OpenSearch, Anda mendapatkan daftar nama item dan gambar dari dataset
:
Item pertama memiliki skor 1.0, karena kedua gambar tersebut sama. Item lainnya adalah berbagai jenis kacamata dalam indeks Layanan OpenSearch.
Anda juga dapat menggunakan teks untuk menanyakan indeks:
Anda sekarang bisa mendapatkan tiga gambar gelas air dari indeks. Anda dapat menemukan gambar dan teks dalam ruang laten yang sama dengan encoder CLIP. Contoh lain dari ini adalah mencari kata "pizza" di indeks:
Membersihkan
Dengan model bayar per penggunaan, Serverless Inference adalah opsi hemat biaya untuk pola lalu lintas yang jarang atau tidak dapat diprediksi. Jika Anda memiliki ketat perjanjian tingkat layanan (SLA), atau tidak dapat mentolerir cold start, titik akhir real-time adalah pilihan yang lebih baik. Menggunakan banyak model or multi-kontainer titik akhir memberikan solusi yang dapat diskalakan dan hemat biaya untuk menerapkan model dalam jumlah besar. Untuk informasi lebih lanjut, lihat Harga Amazon SageMaker.
Sebaiknya hapus titik akhir tanpa server jika sudah tidak diperlukan lagi. Setelah menyelesaikan latihan ini, Anda dapat menghapus sumber daya dengan langkah-langkah berikut (Anda dapat menghapus sumber daya ini dari Konsol Manajemen AWS, atau menggunakan AWS SDK atau SageMaker SDK):
- Hapus titik akhir yang Anda buat.
- Secara opsional, hapus model terdaftar.
- Secara opsional, hapus peran eksekusi SageMaker.
- Secara opsional, kosongkan dan hapus bucket S3.
Kesimpulan
Dalam postingan ini, kami mendemonstrasikan cara membuat aplikasi pencarian k-NN menggunakan fitur indeks k-NN SageMaker dan OpenSearch Service. Kami menggunakan model CLIP terlatih darinya OpenAI implementasi.
Implementasi penyerapan Layanan OpenSearch dari pos hanya digunakan untuk pembuatan prototipe. Jika Anda ingin menyerap data dari Amazon S3 ke Layanan OpenSearch dalam skala besar, Anda dapat meluncurkan Pekerjaan Pemrosesan Amazon SageMaker dengan jenis instans dan jumlah instans yang sesuai. Untuk solusi penyerapan embedding yang dapat diskalakan lainnya, lihat Novartis AG menggunakan Amazon OpenSearch Service K-Nearest Neighbor (KNN) dan Amazon SageMaker untuk memberdayakan pencarian dan rekomendasi (Bagian 3/4).
KLIP menyediakan tembakan nol kemampuan, yang memungkinkan untuk mengadopsi model pra-terlatih secara langsung tanpa menggunakan belajar transfer untuk menyempurnakan model. Ini menyederhanakan penerapan model CLIP. Jika Anda memiliki pasangan gambar produk dan teks deskriptif, Anda dapat menyempurnakan model dengan data Anda sendiri menggunakan pembelajaran transfer untuk lebih meningkatkan performa model. Untuk informasi lebih lanjut, lihat Mempelajari Model Visual yang Dapat Dipindahtangankan Dari Pengawasan Bahasa Alami dan Repo GitHub KLIPsitus.
Tentang Penulis
Kevin Du adalah Arsitek Lab Data Senior di AWS, berdedikasi untuk membantu pelanggan dalam mempercepat pengembangan produk Machine Learning (ML) dan platform MLOps mereka. Dengan lebih dari satu dekade pengalaman membangun produk yang mendukung ML untuk startup dan perusahaan, fokusnya adalah membantu pelanggan merampingkan produksi solusi ML mereka. Di waktu luangnya, Kevin senang memasak dan menonton bola basket.
Ananya Roy adalah seorang arsitek Lab Data Senior yang berspesialisasi dalam AI dan pembelajaran mesin yang berbasis di Sydney Australia. Dia telah bekerja dengan beragam pelanggan untuk memberikan panduan arsitektural dan membantu mereka memberikan solusi AI/ML yang efektif melalui keterlibatan lab data. Sebelum di AWS, dia bekerja sebagai ilmuwan data senior dan menangani model ML skala besar di berbagai industri seperti Telco, bank, dan fintech. Pengalamannya dalam AI/ML telah memungkinkannya untuk memberikan solusi yang efektif untuk masalah bisnis yang kompleks, dan dia bersemangat memanfaatkan teknologi mutakhir untuk membantu tim mencapai tujuan mereka.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://aws.amazon.com/blogs/machine-learning/implement-unified-text-and-image-search-with-a-clip-model-using-amazon-sagemaker-and-amazon-opensearch-service/
- :adalah
- ][P
- $NAIK
- 1
- 10
- 100
- 11
- 7
- 8
- 9
- a
- Sanggup
- Tentang Kami
- mempercepat
- Menerima
- mengakses
- Mencapai
- di seluruh
- tindakan
- Tambahan
- mengambil
- Setelah
- AG
- Persetujuan
- AI
- AI / ML
- Semua
- Amazon
- Layanan Pencarian Terbuka Amazon
- Amazon SageMaker
- analisis
- dan
- Lain
- berlaku
- Aplikasi
- aplikasi
- sesuai
- sekitar
- arsitektur
- arsitektur
- ADALAH
- argumen
- sekitar
- AS
- At
- melampirkan
- Australia
- secara otomatis
- AWS
- Bank
- berdasarkan
- Bola basket
- BE
- karena
- sebelum
- Berkeley
- TERBAIK
- Lebih baik
- antara
- tubuh
- membangun
- Bangunan
- dibangun di
- built-in
- bisnis
- bisnis
- by
- bernama
- CAN
- kemampuan
- katalog
- CD
- memeriksa
- pilihan
- klien
- Penyelesaian
- Kelompok
- kode
- koleksi
- Kolom
- menyampaikan
- Komunikasi
- dibandingkan
- lengkap
- kompleks
- konsep
- dilakukan
- konfigurasi
- Terhubung
- Menghubungkan
- koneksi
- Konsumen
- mengandung
- mengandung
- Konten
- percakapan
- Sesuai
- Biaya
- hemat biaya
- bisa
- membuat
- dibuat
- membuat
- Surat kepercayaan
- Cangkir
- pelanggan
- canggih
- siklus
- data
- analisis data
- titik data
- ilmu data
- ilmuwan data
- kumpulan data
- dasawarsa
- dedicated
- mendalam
- belajar mendalam
- Default
- mendefinisikan
- menyampaikan
- mendemonstrasikan
- menunjukkan
- menyebarkan
- penggelaran
- penyebaran
- deskripsi
- diinginkan
- rincian
- dev
- mengembangkan
- Pengembangan
- alat
- berbeda
- Dimensi
- langsung
- Display
- beberapa
- dokumen
- domain
- domain
- Dont
- turun
- Download
- selama
- setiap
- mudah
- mudah
- e-commerce
- Efektif
- aktif
- enkripsi
- Titik akhir
- interaksi
- Mesin
- Mesin
- Inggris
- memastikan
- perusahaan
- sepenuhnya
- masuk
- Lingkungan Hidup
- kesalahan
- contoh
- eksekusi
- Latihan
- pengalaman
- tambahan
- keluarga
- Fitur
- Fitur
- Angka
- File
- File
- Menemukan
- menyelesaikan
- Pertama
- keluwesan
- Fokus
- berikut
- berikut
- Untuk
- format
- ditemukan
- FRAME
- Kerangka
- Gratis
- teman
- dari
- depan
- fungsi
- fungsionil
- fungsi
- fungsi
- lebih lanjut
- menghasilkan
- dihasilkan
- mendapatkan
- pergi
- GitHub
- kaca
- Go
- Anda
- akan
- baik
- bimbingan
- menangani
- Memiliki
- header
- tinggi
- membantu
- membantu
- membantu
- di sini
- lebih tinggi
- Memukul
- Hits
- tuan rumah
- host
- tuan
- Seterpercayaapakah Olymp Trade? Kesimpulan
- How To
- HTML
- http
- HTTPS
- Ratusan
- i
- mengenali
- Siaga
- BEI
- gambar
- Pencarian gambar
- gambar
- melaksanakan
- implementasi
- diimplementasikan
- mengimplementasikan
- mengimpor
- memperbaiki
- in
- memasukkan
- termasuk
- indeks
- indeks
- Indeks
- industri
- informasi
- Infrastruktur
- memasukkan
- install
- contoh
- sebagai gantinya
- instruksi
- terpadu
- tertarik
- Antarmuka
- Internet
- inventaris
- IT
- item
- NYA
- Pekerjaan
- Jobs
- jpg
- json
- laboratorium
- bahasa
- laptop
- besar
- besar-besaran
- jalankan
- lapisan
- pengetahuan
- leveraging
- Perpustakaan
- 'like'
- LINK
- Daftar
- Daftar
- memuat
- pemuatan
- tempat
- Panjang
- lagi
- melihat
- mesin
- Mesin belajar
- terbuat
- MEMBUAT
- pengelolaan
- pelaksana
- manipulasi
- cara
- cara
- mengukur
- ukuran
- Bergabung
- meta
- Metadata
- metrik
- menit
- ML
- MLOps
- model
- model
- lebih
- pindah
- nama
- nama
- Alam
- Perlu
- jaringan
- saraf jaringan
- New
- berikutnya
- buku catatan
- nomor
- obyek
- objek
- of
- menawarkan
- Tua
- on
- secara online
- Buka
- open source
- operasi
- pilihan
- OS
- Lainnya
- keluaran
- mengesampingkan
- ikhtisar
- sendiri
- paket
- pasang
- panda
- bagian
- bergairah
- path
- pola
- Konsultan Ahli
- sempurna
- Melakukan
- prestasi
- melakukan
- tahap
- gambar
- Film
- bagian
- Pizza
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- PoC
- Titik
- poin
- Kebijakan
- kolam
- mungkin
- Pos
- kekuasaan
- didukung
- praktek
- ramalan
- Prediksi
- mempersiapkan
- mencegah
- Sebelumnya
- swasta
- masalah
- pengolahan
- Produk
- Produksi
- Produk
- Profil
- Pemrograman
- proyek
- properties
- prototyping
- memberikan
- menyediakan
- publik
- tujuan
- menempatkan
- Ular sanca
- pytorch
- Cepat
- segera
- jarak
- Mentah
- Baca
- nyata
- real-time
- Rekomendasi
- catatan
- Merah
- regex
- wilayah
- terdaftar
- menghapus
- membutuhkan
- penelitian
- Sumber
- tanggapan
- ISTIRAHAT
- mengakibatkan
- Hasil
- eceran
- kembali
- Pengembalian
- Naik
- Peran
- ROSE
- Run
- pembuat bijak
- sama
- Save
- terukur
- Skala
- skala
- Ilmu
- ilmuwan
- skor
- SDK
- Pencarian
- mesin pencari
- Mesin pencari
- detik
- Bagian
- aman
- aman
- keamanan
- senior
- putusan pengadilan
- melayani
- Tanpa Server
- layanan
- Sidang
- set
- pengaturan
- Bentuknya
- harus
- ditunjukkan
- mirip
- Sederhana
- Ukuran
- lebih kecil
- So
- larutan
- Solusi
- beberapa
- sumber
- Space
- terspesialisasi
- tertentu
- berdiri
- dimulai
- Startups
- Langkah
- Tangga
- penyimpanan
- menyimpan
- tersimpan
- mempersingkat
- Ketat
- studio
- menyerahkan
- berhasil
- seperti itu
- Mendukung
- Beralih
- sydney
- SYS
- Dibutuhkan
- tim
- Teknologi
- Telco
- Template
- uji
- bahwa
- Grafik
- informasi
- mereka
- Mereka
- Ini
- tiga
- Melalui
- waktu
- kali
- Judul
- judul
- untuk
- token
- alat
- puncak
- obor
- Penglihatan obor
- lalu lintas
- terlatih
- transfer
- Mengubah
- menterjemahkan
- benar
- jenis
- terpadu
- unik
- tak terduga
- us
- menggunakan
- Pengguna
- nilai
- variasi
- memeriksa
- melalui
- View
- maya
- menonton
- air
- BAIK
- yang
- SIAPA
- lebar
- Wikipedia
- akan
- dengan
- dalam
- tanpa
- Word
- kerja
- akan
- X
- Kamu
- Anda
- zephyrnet.dll