Autorka znajduje fałszywe książki wygenerowane przez sztuczną inteligencję, napisane pod jej nazwiskiem

Autorka znajduje fałszywe książki wygenerowane przez sztuczną inteligencję, napisane pod jej nazwiskiem

Znacznik czasu: 14 sierpnia 2023 8:31
Autorka znajduje fałszywe książki generowane przez sztuczną inteligencję napisane pod jej nazwiskiem PlatoBlockchain Data Intelligence. Wyszukiwanie pionowe. AI.

AI w skrócie Amazon usunął wiele fałszywych książek, które mogły zostać wygenerowane przez sztuczną inteligencję i zostały opublikowane, których autorką była Jane Friedman – po tym, jak prawdziwa pisarka skarżyła się, że ktoś sprzeniewierzył jej nazwisko.

Friedman była zszokowana, gdy zobaczyła, że ​​uznano ją za autorkę wielu książek, choć ich nie napisała. Pisze biuletyny internetowe dotyczące mediów cyfrowych i publikacji dla twórców i autorów, a od dziesięcioleci publikuje raporty na temat branży.

Fałszywe książki mają tytuły wyglądające na coś, co mogłaby napisać, np Jak szybko napisać i opublikować eBook i zarabiać pieniądze or Promuj, aby prosperować: strategie, dzięki którym Twoja sprzedaż e-booków na Amazonie wzrośnie w zawrotnym tempie. Powiedziano nam, że tytuły znalazły się także na GoodReads.

„Ktokolwiek to robi, najwyraźniej żeruje na pisarzach, którzy ufają mojemu nazwisku i myślą, że rzeczywiście napisałem te książki. Nie mam. Najprawdopodobniej zostały wygenerowane przez sztuczną inteligencję” – mówi wyjaśnione. Friedman uważa, że ​​ogólny styl pisania sprawia wrażenie, jakby został stworzony przez ChatGPT OpenAI lub podobny system, a jej prace można łatwo sfałszować, ponieważ jest ich dużo do skopiowania w Internecie.

Jak nam powiedziano, początkowo Amazon nie odpowiedział na jej prośby o usunięcie książek. Według Friedmana poproszono ją wówczas o podanie numerów rejestracyjnych znaków towarowych. Kiedy powiedziała, że ​​nie ma żadnych, jej prośby ponownie zostały zignorowane.

Po publicznym oburzeniu książki zostały ostatecznie usunięte z półek internetowego giganta oraz GoodReads.

Friedman powiedział, że platformy takie jak Amazon muszą wdrożyć metody weryfikujące autentyczność autorów i ich książek.

„Niestety, nawet jeśli usuniesz te szalone książki z twoich oficjalnych profili, nadal będą one krążyć z twoim imieniem i nazwiskiem w dwóch głównych witrynach, które przyciągają miliony odwiedzających, i tylko czekają na „odkrycie”. I absolutnie nic nie można z tym zrobić” – ostrzegała innych.

W oświadczeniu Amazon stwierdził: „Inwestujemy dużo, aby zapewnić godne zaufania zakupy i chronić klientów i autorów przed niewłaściwym wykorzystaniem naszych usług”. Goodreads nalegał również, aby po zbadaniu skarg fałszywych autorów, jeśli zajdzie taka potrzeba, szybko usunie książki.

Skoro mowa o sztucznej inteligencji i książkach… Okręg szkolny w stanie Iowa korzystał z ChatGPT wybrać 19 książek, które mają zostać usunięte z bibliotek szkolnych dla dzieci w wieku od 7 do 12 lat ze względu na rzekomo treści o charakterze seksualnym. Prawo przyjęte w tym roku w stanie USA wymaga, aby tytuły były „odpowiednie do wieku” i nie zawierały „opisów ani wizualnych przedstawień aktu seksualnego”, jeśli mają być dostępne dla dzieci.

Społeczny okręg szkolny Mason City powiedziany zwróciła się do ChatGPT o sporządzenie wykazu książek, ponieważ najwyraźniej urzędnicy nie mieli możliwości sprawdzenia każdej pojedynczej pozycji w zbiorach szkół. Zamiast tego okręg zapytał model sztucznej inteligencji, czy którakolwiek z książek z większej listy tytułów, które zwykle kwestionowano ze względu na treść, zawierała odniesienia do seksu, a jeśli tak, znalazła się na liście.

„Na podstawie tej recenzji 19 tekstów zostanie usuniętych ze zbiorów naszej biblioteki szkolnej w wieku 7–12 lat i przechowywanych w centrum administracyjnym do czasu oczekiwania na dalsze wytyczne lub wyjaśnienia. Poprosimy także nauczycieli o dokonanie przeglądu zbiorów bibliotek klasowych” – oznajmił okręg.

San Francisco daje zielone światło Rejs 24 godziny na dobę, 7 dni w tygodniu, roboty-taksówki Waymo

Urzędnicy Kalifornijskiej Komisji ds. Usług Publicznych (CPUC) głosowali za zatwierdzeniem autonomicznych samochodów Waymo i Cruises do użytku przez całą dobę w San Francisco.

Po sześciogodzinnym przesłuchaniu w zeszłym tygodniu ostatecznie osiągnięto wynik 3 do 1, który umożliwi obu firmom rozbudowę komercyjnych flot autonomicznych taksówek. Będą mogli odbierać i wysadzać pasażerów w amerykańskim mieście kiedykolwiekw samochodach sterowanych komputerowo, w których nie ma kierowcy zabezpieczającego.

Wcześniej Cruise mógł obsługiwać swoje pojazdy autonomiczne w San Francisco wyłącznie od późnych godzin nocnych do wczesnych godzin porannych. Tymczasem Waymo mogło pobierać opłaty za przejazdy o każdej porze dnia tylko wtedy, gdy obecny był kierowca zapewniający bezpieczeństwo, i mogło świadczyć usługi bez kierowcy, ale tylko wtedy, gdy nie pobierało opłat od pasażerów.

To posunięcie bez wątpienia zirytuje lokalne agencje transportu publicznego, które robiły to już wcześniej narzekał o pojazdach blokujących ruch i jeżdżących lekkomyślnie. Agencja Transportu Miejskiego w San Francisco wezwała Kalifornię, aby powstrzymała się od zwiększania liczby pojazdów autonomicznych na ulicach i gromadziła więcej danych dotyczących bezpieczeństwa tej technologii.

„Chociaż nie mamy jeszcze danych, aby ocenić pojazdy antywirusowe pod kątem standardów stosowanych przez ludzkich kierowców, wierzę w potencjał tej technologii w zakresie zwiększania bezpieczeństwa na drogach” – komisarz CPUC John Reynolds powiedziany w oświadczeniu. „Współpraca między kluczowymi stronami zainteresowanymi w branży a społecznością osób udzielających pierwszej pomocy będzie kluczowa w rozwiązywaniu problemów pojawiających się w tej innowacyjnej, powstającej przestrzeni technologicznej”.

Sztuczna inteligencja może rozpoznać, co piszesz, słuchając dźwięku klawiatury

Informatycy twierdzili, że opracowali model sztucznej inteligencji, który może rejestrować naciśnięcia klawiszy w celu kradzieży haseł lub wiadomości użytkowników na podstawie samego dźwięku ich pisania.

Połączenia papier wydany na arXiv made nagłówki w tym miesiącu i opisał algorytm klasyfikatora, który został wytrenowany w celu identyfikowania różnych przycisków naciskanych na klawiaturze MacBooka Pro. Naukowcy nagrali dźwięki 36 przycisków 25 razy i przyporządkowali fale dźwiękowe do każdego znaku na klawiaturze i stwierdzili, że jest to dokładne w 95%.

Przeprowadzenie takiego ataku na realne życie, jak pisaliśmy w zeszłym tygodniu, jest znacznie bardziej skomplikowane. Wymaga przejęcia mikrofonu celu, aby podsłuchać, jak pisze i nagrać dźwięki, które następnie zostaną wprowadzone do modelu. Badacze stwierdzili, że musieliby najpierw zainfekować czyjś komputer złośliwym oprogramowaniem. Inną opcją jest zdobycie nagrania dźwiękowego, na którym pisze, np. transkrypcji rozmów Zoom.

Kiedy przeprowadzili atak na dane zarejestrowane przez Zoom, dokładność algorytmu badaczy w identyfikowaniu naciśnięć klawiszy wyniosła 94 procent. Nie jest jasne, jak solidny był algorytm i czy dokładność spada w przypadku różnych typów klawiatur. Różne techniki pisania, takie jak pisanie bezwzrokowe, zmniejszają rozpoznawanie naciśnięć klawiszy do 40 procent.

Aby zminimalizować możliwość kradzieży haseł w ramach tego typu ataku, badacze zalecili stosowanie w hasłach złożonego, losowego ciągu liczb oraz uwierzytelnianie dwuskładnikowe. ®

Znak czasu:

Więcej z Rejestr