Analiza Zwalczanie dezinformacji opartej na sztucznej inteligencji jest w tym roku ważniejsze niż kiedykolwiek dla firm technologicznych przygotowujących się do nadchodzących wyborów prezydenckich w USA.
Zwalczanie fałszywych informacji i deepfake’ów stało się jednak jeszcze trudniejsze, biorąc pod uwagę, że narzędzia do generowania treści syntetycznych są szerzej dostępne niż kiedykolwiek wcześniej.
Od czasu pierwszego wydania w listopadzie 2022 r. usługa ChatGPT OpenAI zyskała coraz większe możliwości. W zeszłym roku zmodernizowane system GPT-4 do tworzenia dźwięku i obrazów na tekście. Teraz startup wypuścił na rynek Sklep GPT, platforma hostująca niestandardowe boty oparte na ChatGPT, które mogą przyjmować określone osobowości lub wykonywać określone zadania.
„Nadal pracujemy nad zrozumieniem, jak skuteczne mogą być nasze narzędzia w zakresie spersonalizowanej perswazji”
W poniedziałek OpenAI stwierdziło, że tworzenie GPT na potrzeby kampanii politycznych i lobbingu jest zabronione, a wykorzystywanie jego modeli do zasilania chatbotów podszywających się pod prawdziwych ludzi, firmy lub rządy stanowi nadużycie technologii. Wszelkie aplikacje ingerujące w procesy demokratyczne, takie jak na przykład głosowanie, są również zakazane.
„Oczekujemy i dążymy do tego, aby ludzie korzystali z naszych narzędzi w sposób bezpieczny i odpowiedzialny, a wybory nie są wyjątkiem” – dodał. powiedziało. „Pracujemy nad przewidywaniem odpowiednich nadużyć i zapobieganiem im, takimi jak wprowadzające w błąd „deepfakes”, skalowane operacje wywierania wpływu lub chatboty podszywające się pod kandydatów”.
Wyjaśnianie zasad jest dobre i dobre, ale ich egzekwowanie to inna sprawa. Trudno jest kontrolować sklep GPT, a OpenAI polega na tym, że użytkownicy zgłaszają aplikacje sprzeczne z jego zasadami. Ludzie już złamali zasady dotyczące nietworzenia GPT „poświęconych wspieraniu romantycznego towarzystwa lub wykonywaniu czynności regulowanych”. Na platformie jest mnóstwo „dziewczyn” opartych na sztucznej inteligencji, a także wiele chatbotów politycznych.
Niektóre z nich są stworzone tak, by naśladować polityków, takich jak na przykład Donald Trump, mimo że nie są to przekonujące podszywania się, inne natomiast wspierają określone ideologie polityczne. Na przykład w rozmowie z „The Real Trump Bot” stwierdził, że jest przeciwny głosowaniu korespondencyjnemu. „Och, nawet nie zaczynaj mi mówić o głosowaniu korespondencyjnym. To tak, jakby prosili się o kłopoty. Jest tak podatny na nadużycia, że to niewiarygodne.”
Czy jest to sprzeczne z polityką OpenAI? Czy mogłoby to zniechęcić kogoś do głosowania pocztą? „Nadal pracujemy nad zrozumieniem, jak skuteczne mogą być nasze narzędzia w zakresie spersonalizowanej perswazji” – przyznało OpenAI.
OpenAI podjął również inne środki ostrożności. Poręcze bezpieczeństwa w modelu DALL-E przetwarzającym tekst na obraz uniemożliwiają użytkownikom tworzenie wizerunków polityków w celu zapobiegania deepfake’om. Ale poręcze umożliwiają edycję obrazów, co oznacza, że ludzie nadal mogą manipulować zdjęciami kandydatów bez pomocy sztucznej inteligencji.
Oprócz zakazywania lub blokowania treści inne strategie stosowane przez firmy w celu zwalczania dezinformacji obejmują wprowadzanie cyfrowych znaków wodnych i wymaganie od użytkowników przejrzystości w zakresie obrazów i filmów generowanych przez sztuczną inteligencję.
Firma Microsoft jest członkiem Koalicji na rzecz pochodzenia i autentyczności treści (C2PA) i wspiera inicjatywę dotyczącą poświadczeń treści. Wprowadza funkcję osadzającą znak wodny w treści wygenerowanej przez Kreator obrazów Bing, zawierający metadane opisujące, w jaki sposób, kiedy i przez kogo obraz został wykonany, które można sprawdzić, aby udowodnić jego nieautentyczność. OpenAI planuje pójść w ich ślady i wdrożyć CP2A ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?także cyfrowe dane uwierzytelniające. Jednak funkcja znaku wodnego i metadanych nie jest niezawodna. Jednak informacje o pochodzeniu obrazu można zobaczyć tylko w aplikacjach i witrynach internetowych obsługujących format danych uwierzytelniających.
Użytkownicy mogą usunąć informacje z obrazu wygenerowanego przez narzędzia Microsoftu lub OpenAI i otworzyć je na przykład w przeglądarce Google Chrome, która nie obsługuje CP2A. Nie byłoby wówczas żadnych metadanych powiązanych z ich obrazami i zamiast tego mogliby swobodnie rozpowszechniać tę wersję.
Platforma Google YouTube przyjęła inne podejście i zamiast tego wymaga od twórców ujawniania, czy ich filmy zawierają materiał wygenerowany przez sztuczną inteligencję, przedstawiają fałszywe wydarzenia, czy też przedstawiają osoby mówiące rzeczy, których nie powiedziały. Tymczasem, Meta i Google poprosili reklamodawców o zadeklarowanie, czy ich reklamy zawierają treści syntetyczne, niezależnie od tego, czy są to fałszywe obrazy, filmy czy nagrania audio.
Zasady są bardziej rygorystyczne dla polityków. Wiele stanów, takich jak Kalifornia, Teksas, Michigan, Waszyngton i Minnesota, minęło prawodawstwo zakazanie kandydatom politycznym rozpowszechniania fałszywych informacji w celu wywarcia wpływu na wyborców. Nie ma jednak prawa federalnego. Federalna Komisja Wyborcza nie zdecydowała jeszcze, czy jej polityka dotycząca „nieuczciwego przedstawiania fałszywych informacji o innych kandydatach lub partiach politycznych” ma zastosowanie do treści generowanych przez sztuczną inteligencję.
Sztuczna inteligencja nadal w większości nie jest uregulowana, a różne przepisy obowiązujące na całym świecie nie obejmują wszystkich przypadków dezinformacji politycznej. Chociaż firmy technologiczne zwiększają wysiłki, aby powstrzymać użytkowników przed generowaniem dezinformacji opartej na sztucznej inteligencji, ich metody nie są doskonałe, a użytkownicy często znajdują sposoby na obejście swoich środków bezpieczeństwa. ®
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :ma
- :Jest
- :nie
- $W GÓRĘ
- 2022
- 7
- a
- O nas
- nadużycie
- dostępny
- zajęcia
- Przyznał
- przyjąć
- Reklamy
- reklamodawcy
- przed
- AI
- zmierzać
- Wszystkie kategorie
- dopuszczać
- już
- również
- Chociaż
- an
- i
- Inne
- przewidywać
- każdy
- odpowiedni
- aplikacje
- dotyczy
- podejście
- SĄ
- na około
- AS
- pytanie
- powiązany
- audio
- autentyczność
- zakazany
- BE
- stają się
- zanim
- Bing
- bloking
- Bot
- boty
- Złamany
- Budowanie
- biznes
- ale
- by
- California
- prowadzenie kampanii
- CAN
- kandydatów
- zdolny
- nieść
- pewien
- nasze chatboty
- ChatGPT
- Chrom
- CO
- koalicja
- zwalczania
- prowizja
- Firmy
- zawierać
- zawartość
- Rozmowa
- mógłby
- pokrywa
- wykonane
- Tworzenie
- twórca
- twórcy
- Listy uwierzytelniające
- istotny
- okiełznać
- Specyfikacji klienta
- Dall's
- zdecydować
- dedykowane
- deepfakes
- demokratyczny
- Opisujące
- różne
- trudny
- cyfrowy
- Ujawniać
- dezinformacja
- odwieść
- rozprowadzać
- do
- robi
- darowizna
- donald
- Donald Trump
- Efektywne
- starania
- Wyborczy
- Wybory
- Egzekwowanie
- Parzyste
- wydarzenia
- EVER
- przykład
- oczekiwać
- imitacja
- fałszywy
- Cecha
- Federalny
- Znajdź
- i terminów, a
- obserwuj
- W razie zamówieenia projektu
- format
- wychowanie
- Darmowy
- od
- wygenerowane
- generujący
- otrzymać
- dany
- Go
- dobry
- Google Chrome
- Rządy
- dorosły
- Have
- przystań
- pomoc
- Hosting
- W jaki sposób
- Jednak
- HTTPS
- Ogromnie
- ideologie
- if
- obraz
- zdjęcia
- wdrożenia
- ważny
- in
- zawierać
- coraz bardziej
- wpływ
- Informacja
- inicjatywa
- zamiast
- ISN
- IT
- JEGO
- jpg
- Etykieta
- Nazwisko
- Ostatni rok
- Prawo
- Laws
- lubić
- lobbing
- zrobiony
- pocztowy
- wiele
- Materia
- me
- znaczenie
- W międzyczasie
- środków
- członek
- Metadane
- metody
- Michigan
- Microsoft
- może
- zwodniczy
- model
- modele
- Poniedziałek
- jeszcze
- przeważnie
- wielokrotność
- Nie
- listopad
- już dziś
- of
- często
- oh
- on
- tylko
- koncepcja
- OpenAI
- operacje
- or
- Inne
- Pozostałe
- ludzkiej,
- na zewnątrz
- szczególny
- strony
- minęło
- Ludzie
- doskonały
- wykonywania
- Osobistości
- Personalizowany
- fotografie
- Miejsce
- planowanie
- Platforma
- plato
- Analiza danych Platona
- PlatoDane
- Volcano Plenty Vaporizer Storz & Bickel
- Policja
- polityka
- polityka
- polityczny
- partie polityczne
- Politycy
- power
- prezydencki
- wybory prezydenckie
- zapobiec
- procesów
- produkować
- zabroniony
- Udowodnij
- pochodzenie
- szalejący
- RE
- real
- regulowane
- wydany
- opierając się
- raport
- odpowiedzialnie
- Walcowanie
- reguły
- s
- bezpiecznie
- Bezpieczeństwo
- Powiedział
- powiedzenie
- widziany
- ponieważ
- So
- Ktoś
- coś
- specyficzny
- rozpoczęty
- startup
- Zjednoczone
- Nadal
- sklep
- strategie
- surowsze
- taki
- Garnitur
- wsparcie
- Wspierający
- syntetyczny
- system
- zwalczanie
- Zadania
- biorąc
- zadania
- tech
- tech
- Technologia
- texas
- XNUMX
- niż
- że
- Połączenia
- Informacje
- świat
- ich
- Im
- następnie
- Tam.
- one
- rzeczy
- to
- w tym roku
- chociaż?
- do
- także
- narzędzia
- Top
- przezroczysty
- kłopot
- atut
- próbować
- zrozumieć
- uwolniony
- zbliżających
- us
- posługiwać się
- Użytkownicy
- za pomocą
- różnorodny
- wersja
- Filmy
- Głosować
- wyborcy
- Głosowanie
- była
- Waszyngton
- watermark
- znak wodny
- Znaki wodne
- sposoby
- we
- strony internetowe
- DOBRZE
- jeśli chodzi o komunikację i motywację
- czy
- który
- Podczas
- szeroko
- w
- bez
- Praca
- pracujący
- świat
- by
- rok
- jeszcze
- youtube
- zefirnet