Használja az AWS AI-szolgáltatásokat a tartalom moderálásának és megfelelőségének automatizálására

A harmadik felek és a felhasználók által generált tartalmak (UGC) napi mennyisége az egyes iparágakban exponenciálisan növekszik. Az induló vállalkozásoknak, a közösségi médiának, a játéknak és más iparágaknak biztosítaniuk kell ügyfeleik védelmét, miközben csökkentik a működési költségeket. A műsorszórási és médiaiparban tevékenykedő vállalkozások gyakran nehezen tudják hatékonyan minősíteni a tartalomdarabokat és formátumokat, hogy megfeleljenek a különböző piacokra és közönségekre vonatkozó irányelveknek. A pénzügyi és egészségügyi szolgáltatásokkal foglalkozó más szervezetek kihívást jelentenek a személyazonosításra alkalmas és egészségügyi információk (PII és PHI) védelme belső és külső környezetben és folyamatokban.

Ebben a bejegyzésben megvitatjuk, hogyan automatizálhatja a tartalom moderálását, valamint a mesterséges intelligenciával (AI) és a gépi tanulással (ML) való megfelelést az online közösségek, felhasználóik és márkák védelme érdekében.

A tartalom moderálásának szükségessége

A tartalom moderálása alapvető fontosságú az online közösségek, tagjaik és a tagok személyes adatainak védelmében. Komoly üzleti okok is vannak annak átgondolására, hogy szervezete hogyan moderálja a tartalmat.

Az UGC platformipar 26%-os CAGR-rel növekszik, és 10-ra várhatóan eléri a 2028 milliárd dollárt (Grand View Research, 2021). A fogyasztói vásárlási döntések 79%-át az UGC (Stackla Customer Survey, 2019) befolyásolja, a fogyasztók 40%-a elszakad a márkától, miután egyszeri érintkezésbe került mérgező tartalommal, és 85%-uk egyetért azzal, hogy a márkák felelősek a felhasználók által online megosztott tartalom moderálásáért ( BusinessWire, 2021).

Vizsgáljuk meg a tartalommoderálás más, kényszerítő okait az egyes iparágakban:

• a közösségi média – Megakadályozza, hogy a felhasználók ki legyenek téve a nem megfelelő tartalomnak a fénykép- és videómegosztó platformokon, például játékközösségeken és társkereső alkalmazásokon. Ezek a védelmek növelik a közösség növekedését, a munkamenetek hosszát, a konverziós mutatókat, valamint más felelős közösségi médiacélokat és hálózati mutatókat.
• Gaming – Megakadályozza a nem megfelelő tartalmat, például a gyűlöletbeszédet, a káromkodást vagy a zaklatást a játékon belüli csevegésben. Ezenkívül a felhasználók által generált értékek (például a becenevek és profilok) moderálása leköti a játékosokat, és aktívak maradnak, és nincs motivációjuk elhagyni a játék ökoszisztémáját.
• Márkabiztonság – Kerülje el az olyan asszociációkat, amelyek növelik a nyilvános ellenreakció kockázatát a márka, a hirdetés vagy a hirdetéseken belüli tartalom közötti nem kívánt asszociáció miatt.
• E-kereskedelem – Tartsa távol az illegális vagy ellentmondásos terméklistákat, amelyek sértik a megfelelőségi irányelveket, amelyek felelősséget, valamint a vevő és az eladó lemorzsolódását vonhatják maguk után.
• Pénzügyi szolgáltatások – A személyazonosításra alkalmas adatok észlelése és törlése annak biztosítása érdekében, hogy az érzékeny felhasználói adatok privátak maradjanak. Ügyfelei megbízhatnak a platformjában, és növelhetik a részvételt, a befektetéseket és az ajánlásokat.
• Egészségügy – A PHI és más érzékeny információk észlelése és törlése annak biztosítása érdekében, hogy az adatok privátak maradjanak. Az egészségügyi szolgáltatók továbbra is betarthatják a HIPAA-t és más szabályozó hatóságokat a bírságok elkerülése érdekében.

Egyes vállalkozások nagy létszámú moderátorcsapatokat alkalmaznak. Ezzel szemben mások reaktív megközelítést alkalmaznak a felhasználók által már megtekintett tartalmak vagy érzékeny információk moderálásával. Ez a megközelítés rossz felhasználói élményhez, magas moderálási költségekhez, márkakockázathoz és szükségtelen felelősséghez vezet. A szervezetek az AI, az ML, a mély tanulás és a természetes nyelvi feldolgozás (NLP) felé fordulnak, hogy megszerezzék az online környezetek, ügyfelek és információk biztonságának megőrzéséhez szükséges pontosságot és hatékonyságot – miközben csökkentik a tartalom moderálási költségeit!

Az AWS AI szolgáltatásai és megoldásai fedezik moderálási igényeit. Vállalkozásával együtt méretezve javítják a tartalombiztonságot, ésszerűsítik a moderálási munkafolyamatokat, és növelik a megbízhatóságot, miközben csökkentik a működési költségeket.

Tartalom moderálása AWS AI-szolgáltatások segítségével

A tartalommoderálási igények kielégítéséhez számítógépes látásmód (CV), szöveg- és nyelvi átalakítás, valamint egyéb mesterséges intelligencia és ML-képességek kombinációjára van szükség az UGC és érzékeny információk növekvő beáramlásának hatékony mérsékléséhez. Például a tartalommoderáló csapatok alkalmazhatják az ML-t, hogy visszaszerezzék a tartalom moderálásával és az információk kézi védelmével töltött idő nagy részét. Csökkenthetik a moderálás költségeit, és megóvhatják a szervezetet a kockázatoktól, a felelősségtől és a márkakárosodástól, ha további kontextuális elemzést és emberi csapatokat integrálnak a moderálási munkafolyamatba. Olyan részletes moderálási szabályokat is meghatározhat, amelyek megfelelnek az üzletspecifikus biztonsági és megfelelőségi irányelveknek. A végfelhasználók elvárják, hogy a médiatípusok között együttműködjenek, ezért az eszközöknek és a képességeknek támogatniuk kell ezt a gazdag tartalmat. Jelentősen csökkentheti a bonyolultságot, ha az AWS AI-képességeit használja a feladatok automatizálására, az előrejelzési modellek frissítésére és az emberi felülvizsgálati szakaszok integrálására.

A következő diagram az AWS AI-szolgáltatások architektúráját szemlélteti egy tartalommoderálási megoldásban.

A következő AWS AI-szolgáltatásokat használhatja moderáláshoz, kontextuális betekintéshez és humán moderáláshoz:

• Amazon kiterjesztett AI (Amazon A2I) megkönnyíti az emberi ellenőrzéshez szükséges munkafolyamatok felépítését, függetlenül attól, hogy a moderálás fut-e AWS-en vagy sem.
• Amazon Comprehend az NLP-t használja, hogy betekintést nyerjen a dokumentumok tartalmába. Az Amazon Comprehend szöveg- és képfájlokat, valamint félig strukturált dokumentumokat dolgoz fel, például Adobe PDF és Microsoft Word dokumentumokat.
• Amazon felismerés tárgyakat, embereket, szöveget, jeleneteket és tevékenységeket azonosít a képeken és videókon. A nem megfelelő tartalmat is képes észlelni.
• Amazon átirat egy automatikus beszédfelismerő (ASR) szolgáltatás, amely ML modelleket használ a hang szöveggé alakítására.
• Amazon Translate egy olyan szövegfordító szolgáltatás, amely fejlett ML technológiákat használ, hogy igény szerint minőségi fordítást biztosítson.

Ezeket a szolgáltatásokat kombinálhatja a nem kívánt tartalom hatásának mérséklése érdekében az összes tartalomelem áttekintésével, amely proaktívan tartalombiztonságot nyújt a felhasználók és a márkák számára. Például értékelheti a képeket és videókat előre meghatározott kategóriák alapján, vagy a tiltott kifejezések listájából, hogy nagyarányú médiát moderáljon az Amazon Rekognition segítségével. Ezenkívül az Amazon Transcribe segítségével kiterjesztheti moderálási lehetőségeit hangfájlokra is, hogy az Amazon Comprehend segítségével értékes betekintést nyerjen és megértsen.

Zehong, a Mobisocial vezető építésze szerint: „Annak érdekében, hogy játékközösségünk biztonságos környezet legyen a társasági élethez és a szórakoztató tartalmak megosztásához, az ML segítségével azonosítottuk a közösségi szabványainknak nem megfelelő tartalmat. Létrehoztunk egy munkafolyamatot az Amazon Rekognition felhasználásával, hogy megjelöljük a nem megfelelő tartalmat tartalmazó feltöltött kép- és videótartalmakat. Az Amazon Rekognition Content Moderation API-ja segít nekünk elérni azt a pontosságot és léptéket, hogy világszerte kezeljük a több millió játékalkotóból álló közösséget. Az Amazon Rekognition bevezetése óta 95%-kal csökkentettük a műveleti csapatunk által manuálisan felülvizsgált tartalmak mennyiségét, miközben mérnöki erőforrásokat szabadítunk fel, hogy az alaptevékenységünkre összpontosíthassunk.”

Az AWS tartalommoderálási szolgáltatásaival és megoldásaival egyszerűsítheti és automatizálhatja a munkafolyamatokat, és eldöntheti, hogy hol integrálja az emberi moderálást, hogy a legtöbb értéket hozza létre vállalkozása számára. Testreszabhatja ezeket a szolgáltatásokat, vagy kulcsrakész munkafolyamatokat használhat, amelyek segítségével lehetővé teheti az adott üzleti igényeket és iparági felhasználási eseteket, így megbízható, méretezhető és költséghatékony felhőalapú tartalommoderálási munkafolyamatokat végezhet előzetes kötelezettségvállalások és drága licencek nélkül.

Következtetés

A tartalom mai moderálása elengedhetetlen elvárás az ügyfelek részéről. A cselekvés elmulasztása nemcsak ügyfelei biztonságára, hanem döntő fontosságú üzleti eredményekre is hatással van. A rossz vagy nem hatékony moderációs stratégiák rossz felhasználói élményhez, magas moderálási költségekhez, valamint szükségtelen márkakockázathoz és felelősséghez vezetnek.

Nézze meg Tartalom moderálása tervezési minták hogy többet megtudjon arról, hogyan kombinálhatja az AWS AI-szolgáltatásokat egy multimodális megoldássá. Ha további információra van szüksége arról, hogyan léphet kapcsolatba értékesítési és szakértői csapatainkkal, hogyan kereshet tartalommoderálási szakértelemmel rendelkező AWS-partnert, vagy ha ingyenesen kezdheti el, látogasson el AWS tartalommoderálás cimre.

---

A szerzőkről

Lauren Mullennex Sr. AI/ML Specialist Solutions Architect, Denver, CO. Az ügyfelekkel dolgozik, hogy segítsen nekik felgyorsítani az AWS-ben végzett gépi tanulási munkaterhelésüket. Fő érdeklődési területei az MLOps, a számítógépes látás és az NLP. Szabadidejében szeret túrázni és hawaii konyhát főzni.

Marvin Fernandes Solutions Architect az AWS-nél, New York-i székhelyű. Több mint 20 éves tapasztalattal rendelkezik pénzügyi szolgáltatási alkalmazások felépítésében és üzemeltetésében. Jelenleg nagyvállalati ügyfelekkel dolgozik azon, hogy összetett üzleti problémákat oldjon meg skálázható, rugalmas és rugalmas felhőarchitektúrák kidolgozásával.

Nate Bachmeier az AWS Senior Solutions Architect, aki nomád módon fedezi fel New Yorkot, egy-egy felhőintegrációval. Szakterülete az alkalmazások migrálása és modernizálása. Nate szintén nappali tagozatos diák, és két gyereke van.

• Coinsmart. Európa legjobb Bitcoin- és kriptográfiai tőzsdéje.
• Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. SZABAD HOZZÁFÉRÉS.
• CryptoHawk. Altcoin radar. Ingyenes próbaverzió.
• Forrás: https://aws.amazon.com/blogs/machine-learning/utilize-aws-ai-services-to-automate-content-moderation-and-compliance/