Klienci coraz częściej sięgają po recenzje produktów, aby podejmować świadome decyzje podczas zakupów, niezależnie od tego, czy kupują przedmioty codziennego użytku, takie jak ręcznik kuchenny, czy też dokonują większych zakupów, np. zakupu samochodu. Recenzje te stały się niezbędnym źródłem informacji, umożliwiającym kupującym dostęp do opinii i doświadczeń innych klientów. W rezultacie recenzje produktów stały się kluczowym aspektem każdego sklepu, dostarczając cennych informacji zwrotnych i spostrzeżeń pomagających w podejmowaniu decyzji zakupowych.
Amazon ma jeden z największych sklepów z setkami milionów dostępnych artykułów. W 2022 r. 125 milionów klientów przekazało prawie 1.5 miliarda recenzji i ocen sklepom Amazon, dzięki czemu recenzje online w Amazon stanowią dla klientów solidne źródło informacji zwrotnych. Biorąc pod uwagę skalę recenzji produktów przesyłanych co miesiąc, konieczne jest sprawdzenie, czy recenzje te są zgodne Wytyczne społeczności Amazona dotyczące dopuszczalnego języka, słów, filmów i obrazów. Praktykę tę wprowadzono, aby zagwarantować klientom otrzymywanie dokładnych informacji na temat produktu i zapobiec zamieszczaniu w recenzjach nieodpowiedniego języka, obraźliwych obrazów lub jakiegokolwiek rodzaju mowy nienawiści skierowanej do poszczególnych osób lub społeczności. Egzekwując te wytyczne, Amazon może zapewnić wszystkim klientom bezpieczne i integracyjne środowisko.
Automatyzacja moderacji treści pozwala Amazonowi skalować proces przy zachowaniu dużej dokładności. Jest to złożona przestrzeń problemowa z unikalnymi wyzwaniami i wymagająca różnych technik w przypadku tekstu, obrazów i filmów. Obrazy są istotnym elementem recenzji produktów i często wywierają na klientów bardziej bezpośredni wpływ niż tekst. Z Moderacja treści Amazon RekognitionAmazon jest w stanie automatycznie wykrywać szkodliwe obrazy w recenzjach produktów z większą dokładnością, ograniczając konieczność moderowania takich treści przez recenzentów. Moderacja treści uznania pomogła poprawić samopoczucie moderatorów i osiągnąć znaczne oszczędności.
Moderacja za pomocą samodzielnie hostowanych modeli ML
Zespół Amazon Shopping zaprojektował i wdrożył system moderacji, który wykorzystuje uczenie maszynowe (ML) w połączeniu z recenzją metodą human-in-the-loop (HITL), aby mieć pewność, że recenzje produktów dotyczą doświadczeń klientów z produktem i nie zawierają nieodpowiednich lub szkodliwe treści zgodnie z wytycznymi społeczności. Podsystem moderowania obrazu, jak pokazano na poniższym schemacie, wykorzystywał wiele samodzielnie hostowanych i samodzielnie szkolonych modeli widzenia komputerowego do wykrywania obrazów naruszających wytyczne Amazon. Osoba podejmująca decyzję określa działanie moderacyjne i podaje powody swojej decyzji w oparciu o wyniki modeli ML, decydując w ten sposób, czy obraz wymaga dalszej oceny przez moderatora-człowieka, czy też może zostać automatycznie zatwierdzony lub odrzucony.
W przypadku tych hostowanych samodzielnie modeli uczenia maszynowego zespół zaczął od automatyzacji decyzji dotyczących 40% obrazów otrzymanych w ramach recenzji i przez lata stale pracował nad udoskonalaniem rozwiązania, mierząc się z kilkoma wyzwaniami:
- Ciągłe wysiłki mające na celu poprawę stopnia automatyzacji – Zespół chciał poprawić dokładność algorytmów ML, mając na celu zwiększenie stopnia automatyzacji. Wymaga to ciągłych inwestycji w etykietowanie danych, analizę danych i MLOps na potrzeby szkolenia i wdrażania modeli.
- Złożoność systemu – Złożoność architektury wymaga inwestycji w MLOps, aby zapewnić efektywne skalowanie procesu wnioskowania ML w celu sprostania rosnącemu ruchowi związanemu z przesyłaniem treści.
Zastąp hostowane samodzielnie modele ML interfejsem API Rekognition Content Moderation API
Amazon Rekognition to zarządzana usługa sztucznej inteligencji (AI), która oferuje wstępnie wytrenowane modele za pośrednictwem interfejsu API moderacja zdjęć i filmów. Zostało powszechnie przyjęte w branżach takich jak e-commerce, media społecznościowe, gry, aplikacje randkowe i inne w celu moderowania treści generowanych przez użytkowników (UGC). Obejmuje to szereg typów treści, takich jak recenzje produktów, profile użytkowników i moderowanie postów w mediach społecznościowych.
Rekognition Content Moderation automatyzuje i usprawnia przepływy pracy związane z moderacją obrazów i wideo bez konieczności posiadania doświadczenia w zakresie uczenia maszynowego. Klienci Amazon Rekognition mogą przetwarzać miliony obrazów i filmów, skutecznie wykrywając nieodpowiednie lub niechciane treści, dzięki w pełni zarządzanym interfejsom API i konfigurowalnym regułom moderacji, aby zapewnić użytkownikom bezpieczeństwo i zgodność biznesową.
Zespołowi udało się przeprowadzić migrację podzbioru samodzielnie zarządzanych modeli uczenia maszynowego w systemie moderacji obrazów pod kątem wykrywania nagości i treści niebezpiecznych dla pracy (NSFW) do interfejsu API Amazon Rekognition Detect Moderation API, korzystając z bardzo dokładnych i kompleksowych, wstępnie wyszkolonych modeli moderacji . Dzięki wysokiej dokładności Amazon Rekognition zespół był w stanie zautomatyzować więcej decyzji, obniżyć koszty i uprościć architekturę systemu.
Większa dokładność i rozszerzone kategorie moderacji
Realizacja Interfejs API moderacji obrazu Amazon Rekognition zaowocowało większą dokładnością wykrywania nieodpowiednich treści. Oznacza to, że dodatkowy około 1 milion obrazów rocznie będzie automatycznie moderowany bez konieczności jakiejkolwiek weryfikacji przez człowieka.
Doskonałość operacyjna
Zespołowi Amazon Shopping udało się uprościć architekturę systemu, zmniejszając wysiłek operacyjny wymagany do zarządzania i konserwacji systemu. Takie podejście pozwoliło im zaoszczędzić miesiące wysiłków DevOps rocznie, co oznacza, że mogą teraz przeznaczyć swój czas na opracowywanie innowacyjnych funkcji, zamiast spędzać go na zadaniach operacyjnych.
Redukcja kosztów
Wysoka dokładność moderacji treści Rekognition umożliwiła zespołowi wysłanie mniejszej liczby zdjęć do sprawdzenia przez człowieka, w tym potencjalnie nieodpowiednich treści. Zmniejszyło to koszty związane z moderacją przez człowieka i pozwoliło moderatorom skoncentrować swoje wysiłki na zadaniach biznesowych o większej wartości. W połączeniu ze wzrostem wydajności DevOps, zespół Amazon Shopping osiągnął znaczne oszczędności.
Wnioski
Migracja z hostowanych samodzielnie modeli ML do interfejsu API Amazon Rekognition Moderation API w celu moderowania recenzji produktów może zapewnić firmom wiele korzyści, w tym znaczne oszczędności. Automatyzując proces moderacji, sklepy internetowe mogą szybko i dokładnie moderować duże ilości recenzji produktów, poprawiając doświadczenia klientów, zapewniając szybkie usuwanie nieodpowiednich lub spamowych treści. Dodatkowo, korzystając z usługi zarządzanej, takiej jak Amazon Rekognition Moderation API, firmy mogą skrócić czas i zasoby potrzebne do opracowania i utrzymania własnych modeli, co może być szczególnie przydatne dla firm z ograniczonymi zasobami technicznymi. Elastyczność API pozwala także sklepom internetowym na dostosowanie reguł i progów moderacji do ich konkretnych potrzeb.
Dowiedz się więcej o: moderacja treści na AWS i nasz przypadki użycia ML dotyczące moderacji treści. Zrób pierwszy krok w kierunku usprawnienie operacji moderowania treści za pomocą AWS.
O autorach
Shipra Kanoria jest głównym menedżerem produktu w AWS. Pasjonuje się pomaganiem klientom w rozwiązywaniu ich najbardziej złożonych problemów dzięki sile uczenia maszynowego i sztucznej inteligencji. Przed dołączeniem do AWS Shipra spędziła ponad 4 lata w Amazon Alexa, gdzie wprowadziła wiele funkcji związanych z produktywnością w asystencie głosowym Alexa.
Luca Agostino Rubino jest głównym inżynierem oprogramowania w zespole zakupów Amazon. Pracuje nad funkcjami społecznościowymi, takimi jak recenzje klientów i pytania i odpowiedzi, koncentrując się przez lata na moderowaniu treści oraz skalowaniu i automatyzacji rozwiązań uczenia maszynowego.
Lana Zhang jest starszym architektem rozwiązań w zespole AWS WWSO AI Services, specjalizującym się w sztucznej inteligencji i uczeniu maszynowym na potrzeby moderacji treści, widzenia komputerowego, przetwarzania języka naturalnego i generatywnej sztucznej inteligencji. Dzięki swojej wiedzy specjalizuje się w promowaniu rozwiązań AWS AI/ML i pomaganiu klientom w przekształcaniu ich rozwiązań biznesowych w różnych branżach, w tym w mediach społecznościowych, grach, handlu elektronicznym, mediach, reklamie i marketingu.
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Motoryzacja / pojazdy elektryczne, Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- ChartPrime. Podnieś poziom swojej gry handlowej dzięki ChartPrime. Dostęp tutaj.
- Przesunięcia bloków. Modernizacja własności offsetu środowiskowego. Dostęp tutaj.
- Źródło: https://aws.amazon.com/blogs/machine-learning/how-amazon-shopping-uses-amazon-rekognition-content-moderation-to-review-harmful-images-in-product-reviews/
- :ma
- :Jest
- :nie
- :Gdzie
- 1
- 100
- 125
- 2022
- 7
- 700
- a
- Zdolny
- O nas
- do przyjęcia
- dostęp
- precyzja
- dokładny
- dokładnie
- Osiągać
- osiągnięty
- w poprzek
- Działania
- Dodatkowy
- do tego
- przyjęty
- Korzyść
- Reklama
- AI
- Usługi AI
- AI / ML
- Cel
- Alexa
- Algorytmy
- wyrównać
- Wszystkie kategorie
- przeznaczyć
- dozwolony
- pozwala
- również
- Amazonka
- Amazon Rekognition
- Amazon Web Services
- an
- i
- każdy
- api
- Pszczoła
- podejście
- zatwierdzony
- przybliżony
- mobilne i webowe
- architektura
- SĄ
- sztuczny
- sztuczna inteligencja
- Sztuczna inteligencja (AI)
- AS
- aspekt
- Asystent
- pomoc
- powiązany
- At
- zautomatyzować
- automaty
- automatycznie
- automatyzacja
- Automatyzacja
- dostępny
- AWS
- na podstawie
- BE
- stają się
- być
- zanim
- Korzyści
- Miliard
- biznes
- biznes
- Zakup
- by
- CAN
- wózek
- Etui
- wyzwania
- połączony
- społeczności
- społeczność
- Firmy
- kompleks
- kompleksowość
- zgodny
- składnik
- wszechstronny
- komputer
- Wizja komputerowa
- spójnik
- zawierać
- zawartość
- Typy treści
- ciągły
- bez przerwy
- przyczyniły
- Koszty:
- oszczędności
- Koszty:
- mógłby
- istotny
- klient
- doświadczenie klienta
- Klientów
- konfigurowalny
- dostosować
- dane
- nauka danych
- Randki
- Decydowanie
- decyzja
- Decyzje
- dedykowane
- Wdrożenie
- zaprojektowany
- życzenia
- wykryć
- Wykrywanie
- określa
- rozwijać
- rozwijanie
- różne
- inny
- nie
- e-commerce
- ecommerce
- efektywność
- skutecznie
- wysiłek
- starania
- włączony
- umożliwiając
- Egzekwowanie
- inżynier
- zapewnić
- zapewnienie
- Środowisko
- szczególnie
- niezbędny
- Każdy
- codzienny
- rozszerzony
- doświadczenie
- Doświadczenia
- ekspertyza
- okładzina
- Korzyści
- informacja zwrotna
- mniej
- i terminów, a
- dopasować
- Elastyczność
- Skupiać
- skupienie
- następujący
- W razie zamówieenia projektu
- od
- w pełni
- dalej
- Zyski
- gier
- generatywny
- generatywna sztuczna inteligencja
- Rozwój
- gwarancja
- wytyczne
- szkodliwy
- Have
- he
- pomoc
- pomógł
- pomoc
- jej
- Wysoki
- wyższy
- wysoko
- W jaki sposób
- HTML
- HTTPS
- człowiek
- Setki
- setki milionów
- obraz
- zdjęcia
- Natychmiastowy
- Rezultat
- realizacja
- realizowane
- podnieść
- poprawy
- in
- obejmuje
- Włącznie z
- Włącznie
- Zwiększać
- coraz bardziej
- osób
- przemysłowa
- informować
- Informacja
- poinformowany
- Innowacyjny
- spostrzeżenia
- zamiast
- Inteligencja
- Interfejs
- najnowszych
- Inwestycje
- IT
- szt
- JEGO
- łączący
- podróż
- jpg
- Trzymać
- konserwacja
- etykietowanie
- język
- duży
- największym
- uruchomiona
- nauka
- lubić
- Ograniczony
- maszyna
- uczenie maszynowe
- utrzymać
- poważny
- robić
- Dokonywanie
- zarządzanie
- zarządzane
- kierownik
- wiele
- Marketing
- znaczy
- Media
- Poznaj nasz
- migrował
- milion
- miliony
- ML
- MLOps
- modele
- umiar
- Miesiąc
- miesięcy
- jeszcze
- większość
- wielokrotność
- Naturalny
- Przetwarzanie języka naturalnego
- prawie
- Potrzebować
- potrzebne
- wymagania
- już dziś
- NSFW
- of
- obraźliwy
- oferuje
- Oferty
- często
- on
- ONE
- Online
- operacyjny
- operacje
- Opinie
- or
- Inne
- Pozostałe
- ludzkiej,
- wydajność
- koniec
- ogólny
- własny
- część
- namiętny
- dla
- Miejsce
- plato
- Analiza danych Platona
- PlatoDane
- Post
- potencjalnie
- power
- praktyka
- zapobiec
- Główny
- Problem
- problemy
- wygląda tak
- przetwarzanie
- Produkt
- product manager
- Recenzje produktu
- profile
- promowanie
- zapewniać
- zapewnia
- że
- zakup
- zakupy
- nabywczy
- szybko
- zasięg
- Kurs
- Oceny
- Przyczyny
- otrzymać
- Odebrane
- zmniejszyć
- Zredukowany
- redukcja
- w sprawie
- poleganie
- Usunięto
- wymagany
- Wymaga
- Zasoby
- dalsze
- przeglądu
- Recenzje
- reguły
- "bezpiecznym"
- Zapisz
- Oszczędności
- Skala
- waga
- skalowaniem
- nauka
- wysłać
- senior
- usługa
- Usługi
- kilka
- ona
- Zakupy
- znaczący
- upraszczać
- Obserwuj Nas
- Media społecznościowe
- Tworzenie
- Software Engineer
- solidny
- rozwiązanie
- Rozwiązania
- ROZWIĄZANIA
- Źródło
- Typ przestrzeni
- spam
- specjalizujący się
- specyficzny
- przemówienie
- Spędzanie
- spędził
- rozpoczęty
- Ewolucja krok po kroku
- sklep
- sklep
- uległość
- składane
- Z powodzeniem
- taki
- system
- Brać
- biorąc
- zadania
- zespół
- Techniczny
- Techniki
- niż
- że
- Połączenia
- ich
- Im
- a tym samym
- Te
- one
- to
- Przez
- czas
- do
- w kierunku
- ruch drogowy
- Trening
- przekształcony
- transformatorowy
- Obrócenie
- rodzaj
- typy
- wyjątkowy
- niepożądany
- posługiwać się
- Użytkownik
- Użytkownicy
- zastosowania
- za pomocą
- wykorzystany
- Cenny
- zweryfikować
- Wideo
- Filmy
- wizja
- Głos
- kłęby
- była
- sieć
- usługi internetowe
- czy
- który
- Podczas
- szeroko
- będzie
- w
- bez
- słowa
- Praca
- pracował
- przepływów pracy
- działa
- rok
- lat
- Twój
- zefirnet