Demo chatbota internetowego AI firmy Meta szybko zaczyna rzucać fałszywe wiadomości i rasistowskie uwagi

W skrócie Kolejny dzień, kolejny nieuczciwy chatbot AI w Internecie.

Meta . z zeszłego tygodnia uwolniony Blenderbot 3, rozmowny model języka, w sieci jako eksperyment i poszło tak dobrze, jak można by się tego spodziewać.

BlenderBot 3 szybko potwierdził, że Donald Trump nadal jest i będzie prezydentem USA po 2024 r., i wypowiadał antysemickie poglądy, gdy zadano kontrowersyjne pytania: pokazane przez Business Insidera. Innymi słowy, BlenderBot 3 ma skłonność do rozpowszechniania fałszywych wiadomości i posiadania stronniczych opinii na podstawie stereotypów rasowych, tak jak wszystkie modele językowe wytrenowane z tekstu zeskrobanego z Internetu.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta ostrzegła internautów, że jej chatbot może wypowiadać „nieprawdziwe lub obraźliwe stwierdzenia” i utrzymuje wersję demonstracyjną online, aby zebrać więcej danych do swoich eksperymentów. Ludzie są zachęcani do lubienia lub nielubienia odpowiedzi BlenderBot 3 i powiadamiania badaczy, jeśli uważają, że to dlatego, że dana wiadomość jest nieodpowiednia, bezsensowna lub niegrzeczna. Celem jest wykorzystanie tych informacji zwrotnych do opracowania bezpieczniejszego, mniej toksycznego i bardziej efektywnego chatbota w przyszłości.

Fragmenty w wyszukiwarce Google, aby przestać rozpowszechniać fałszywe wiadomości

Gigant wyszukiwania wdrożył model sztucznej inteligencji, aby poprawić dokładność pól tekstowych, które czasami pojawiają się, gdy użytkownicy wpisują pytania w wyszukiwarce Google.

Te opisy, zwane fragmentami opisów funkcji, mogą być pomocne, jeśli ludzie szukają konkretnych faktów. Na przykład wpisując „ile planet ma Układ Słoneczny?” wyrzuci fragment opisujący „osiem planet”. Internauci nie muszą klikać losowych stron internetowych i czytać informacji, aby uzyskać odpowiedź, fragmenty funkcji robią to automatycznie.

Ale odpowiedzi Google nie zawsze są dokładne i czasami podawały konkretną datę fikcyjnego wydarzenia, takiego jak zabójstwo Abrahama Lincolna przez psa rysunkowego Snoopy'ego, według do skraju. Google powiedział, że jego system, Zunifikowany model wielozadaniowy (MUM), powinno zmniejszyć generowanie fragmentów kodu do fałszywych pytań o 40 procent; często po prostu nie zawiera żadnych opisów tekstowych.

„Korzystając z naszego najnowszego modelu sztucznej inteligencji, nasze systemy mogą teraz zrozumieć pojęcie konsensusu, który polega na tym, że wiele wysokiej jakości źródeł w sieci zgadza się na ten sam fakt” wyjaśnione w poście na blogu.

„Nasze systemy mogą porównywać objaśnienia we fragmencie (słowo lub słowa wywoływane nad wyróżnionym fragmentem większą czcionką) z innymi wysokiej jakości źródłami w sieci, aby sprawdzić, czy istnieje ogólna zgoda co do tego objaśnienia, nawet jeśli źródła używają innych słów lub koncepcje opisujące to samo”.

DALL-E 2 OpenAI pomogło stworzyć reklamę Heinza Ketchup

Heinz, amerykański gigant spożywczy, połączył siły z agencją kreatywną, aby stworzyć reklamę wykorzystującą obrazy AI generowane przez model DALL-E 2 firmy OpenAI, aby promować swój najbardziej znany produkt: ketchup. Reklama jest najnowszą odsłoną kampanii Heinza „Draw Ketchup”, ale zamiast zwrócić się do ludzi po ich szkice, kanadyjska agencja reklamowa Rethink skonsultowała się z maszynami. 

„Tak więc, podobnie jak w przypadku wielu naszych briefów, zadaniem było zademonstrowanie kultowej roli Heinza w dzisiejszej popkulturze”, dyrektor wykonawczy firmy Rethink, Mike Dubrick, powiedział Bęben w tym tygodniu. „Następne było przekazanie pomysłu marce. Po briefie rzadko czekamy do oficjalnej prezentacji, kiedy dzielimy się czymś, co naszym zdaniem jest świetne”.

Efektem końcowym jest sprytna reklama z jasnym i prostym przesłaniem: Biorąc pod uwagę wiele rodzajów podpowiedzi tekstowych zawierających słowo „ketchup”, DALL-E 2 wygeneruje coś, co bez wątpienia przypomina butelkę Heinza. Innymi słowy, kieruj hasłem firmy „to musi być Heinz”. Możesz obejrzeć reklamę poniżej.

Youtube Video

DALL-E 2 ostatnio pomógł również artyście w tworzeniu m.in okładka magazynu dla Cosmopolitan; to kolejny przykład tego, jak te narzędzia zamiany tekstu na obraz mogą być wykorzystywane komercyjnie w branżach kreatywnych. ®