Próby uniknięcia barier ochronnych AI obwinianych za deepfakes Swift

Wirusowe, sprośne, fałszywe zdjęcia gwiazdy pop Taylor Swift podobno powstały w wyniku internetowego konkursu na 4chan, w którym uczestnicy musieli złamać filtry treści oprogramowania AI. 

Pracownicy Graphika, nowojorskiej firmy zajmującej się analizą mediów społecznościowych, powiązali zdjęcia bezpośrednio z 4chan. Uczestników poproszono o wymyślenie sztuczek pozwalających ominąć barierki zabezpieczające w aplikacjach takich jak Designer firmy Microsoft lub DALL-E firmy OpenAI w celu tworzenia obrazów gwiazd NSFW. Według Graphiki zdjęcia Taylor Swift powstały przy użyciu programu Microsoft Designer, a następnie zostały udostępnione na czacie grupowym w Telegramie, a następnie opublikowane na platformie X.

„Nadal badamy te obrazy i wzmacniamy nasze istniejące systemy bezpieczeństwa, aby jeszcze bardziej zapobiegać niewłaściwemu wykorzystaniu naszych usług do generowania takich obrazów” – powiedział rzecznik Microsoftu Rejestr w oświadczeniu. 

Deepfake obrazy Szybki zgromadził miliony wyświetleń na platformie X, zanim platforma mediów społecznościowych je usunęła i tymczasowo zablokowała niektóre wyszukiwane hasła związane z autorem piosenek. Graphika stwierdziła jednak, że celem konkursu były inne znane postacie kobiece i przestrzegła, że ​​technologia może zostać wykorzystana w celu wybrania dowolnej osoby. 

„Chociaż wirusowe zdjęcia pornograficzne Taylor Swift zwróciły uwagę głównego nurtu na problem intymnych obrazów generowanych bez zgody AI, nie jest ona jedyną ofiarą” – Cristina López G., starszy analityk w Graphika, powiedział Bloomberga. „W społeczności 4chan, z której pochodzą te zdjęcia, nie jest ona nawet najczęściej atakowaną osobą publiczną. To pokazuje, że w ten sposób można celować w każdego, od światowych celebrytów po dzieci w wieku szkolnym”.

Wydaje się jednak, że wirusowy charakter fałszywych zdjęć przedstawiających Swifta w pozach o charakterze seksualnym pobudził prawodawców do działania. Sekretarz prasowy Białego Domu Karine Jean-Pierre nalegała, aby Kongres „podjął działania legislacyjne” w odpowiedzi na „alarmujące” zdjęcia. 

W zeszłym tygodniu amerykańscy senatorzy wprowadzili ustawę DEFIANCE z 2024 r. o zakłócaniu jawnych fałszywych obrazów i edycji za zgodą dwupartyjny rachunek umożliwiłoby to ofiarom pozywanie osób, które tworzą i udostępniają nieprzyzwoite deepfake generowane przez sztuczną inteligencję. Ustawodawstwo, na którego czele stanęli senatorowie Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) i Josh Hawley (R-MO), wskazało na badanie, w którym wzięło udział 96 procent fałszywych filmów miały charakter pornograficzny i zostały stworzone bez pozwolenia i zgody przedstawionych na nich kobiet. 

Ustawa DEFIANCE została wprowadzona w czasie, gdy przed Kongresem przesłuchiwano czołowych dyrektorów generalnych platform mediów społecznościowych przesłuchanie w związku z wykorzystywaniem seksualnym dzieci w Internecie i brakiem ochrony.

Rejestr poprosił Graphikę o dalszy komentarz. ®

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/