IWF żąda działań wobec pedofilów korzystających z generatywnej sztucznej inteligencji

Fundacja Internet Watch ostrzega, że ​​generatywna sztuczna inteligencja grozi umożliwieniem „generowania obrazów na dużą skalę”, co „przytłoczy osoby pracujące na rzecz zwalczania niegodziwego traktowania dzieci w celach seksualnych w Internecie”.

Organ jest zaniepokojony szybkim postępem w zakresie generatywnej sztucznej inteligencji w ciągu ostatniego roku i przewiduje, że generowane przez sztuczną inteligencję materiały przedstawiające seksualne wykorzystywanie dzieci (CSAM) z czasem staną się coraz bardziej drastyczne.

Najbardziej niepokojąca ze zbrodni

Fundacja Internet Watch twierdzi, że jest to zjawisko generatywne AI kryje w sobie ogromny potencjał poprawy naszego życia, ostrzega jednak, że technologię tę można łatwo wykorzystać do złych celów.

Susie Hargreaves, dyrektor naczelna IWF, powiedziała Guardianowi Wednesday że „spełniły się najgorsze koszmary agencji”.

„Na początku tego roku ostrzegaliśmy, że obrazy sztucznej inteligencji mogą wkrótce stać się nie do odróżnienia od prawdziwych zdjęć dzieci będących ofiarami wykorzystywania seksualnego i że możemy zacząć widzieć, że te obrazy będą się rozprzestrzeniać w znacznie większej liczbie. Ten punkt już przekroczyliśmy” – powiedział Hargreaves.

Dodała: „Co przeraża, widzimy przestępców celowo trenujących swoją sztuczną inteligencję na zdjęciach prawdziwych ofiar, które już doświadczyły przemocy. Dzieci, które w przeszłości zostały zgwałcone, są obecnie uwzględniane w nowych scenariuszach, ponieważ ktoś gdzieś chce to zobaczyć”.

Skala problemu już powoduje poważne problemy dla walczących z CSAM.

W ciągu jednego miesiąca na jednym z forów CSAM w ciemnej sieci opublikowano 20,254 2,562 obrazów wygenerowanych przez sztuczną inteligencję. Analitycy IWF zidentyfikowali XNUMX pseudofotografie kryminalne utworzone przy pomocy generatywnej sztucznej inteligencji.

Ponad połowa z nich przedstawiała dzieci w wieku poniżej 10 lat, a 564 zaklasyfikowano do kategorii A – najpoważniejszej formy obrazów przedstawiających wykorzystywanie dzieci.

Zdjęcia gwiazd z CSAM

Generatywna sztuczna inteligencja tworzy nowe kategorie CSAM. Ustalenia IWF pokazują, że celebryci są odmładzani i przekształcani w dzieci za pomocą narzędzi sztucznej inteligencji.

Niestarzejące się gwiazdy są następnie umieszczane w scenach przemocy w celu zaspokojenia internetowych pedofilów.

Celem ataków są także dzieci celebrytów, które „nudizują” młodzież na forach darknetu.

IWF twierdzi, że coraz trudniej odróżnić te obrazy od prawdziwego CSAM.

„Najbardziej przekonujący CSAM AI jest wizualnie nie do odróżnienia od prawdziwego CSAM, nawet dla przeszkolonych analityków IWF. Technologia zamiany tekstu na obraz będzie coraz lepsza i będzie stanowić więcej wyzwań dla IWF i organów ścigania” – czytamy w artykule raport.

Zalecenia rządowe

IWF, którego siedziba znajduje się w UK, zwraca się do firm technologicznych z całego świata o upewnienie się, że CSAM jest niezgodny z ich umowami o użytkowaniu. Chce także lepszych szkoleń dla organów ścigania, aby mogły łatwiej identyfikować tego typu obrazy.

IWF zwraca się również do rządu brytyjskiego, aby uczynił AI CSAM głównym tematem dyskusji na nadchodzącym szczycie AI w Bletchley Park w przyszłym miesiącu.

Wielka Brytania ma nadzieję przyciągnąć na wydarzenie kluczowych graczy ze świata biznesu, a także światowych liderów. Jak dotąd premier Włoch Giorgia Meloni jest jedynym potwierdzonym przywódcą G7, jakiego oczekuje się, że będzie obecny.

• Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
• PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
• PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
• PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
• Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
• Źródło: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/