Демонстрація інтернет-чат-бота зі штучним інтелектом Meta швидко починає викидати фейкові новини та расистські зауваження

Коротко Ще один день, ще один шахрайський чат-бот ШІ в Інтернеті.

Минулого тижня Мета випустив Blenderbot 3, модель балакучої мови, в Інтернеті як експеримент, і все пройшло так добре, як ви очікували.

BlenderBot 3 поспішив підтвердити, що Дональд Трамп все ще є і залишиться президентом США після 2024 року, і висловлював антисеметичні погляди, коли йому ставили суперечливі запитання. показаний від Business Insider. Іншими словами, BlenderBot 3 схильний поширювати фейкові новини та підтримувати упереджені думки на основі расових стереотипів, як і всі мовні моделі, навчені з тексту, зібраного з Інтернету.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta попередила користувачів мережі, що її чат-бот може робити «неправдиві або образливі заяви», і підтримує живу демонстрацію онлайн, щоб зібрати більше даних для своїх експериментів. Людям пропонується ставити або не лайкати відповіді BlenderBot 3 і сповіщати дослідників, якщо вони вважають, що певне повідомлення є недоречним, безглуздим або грубим. Мета полягає в тому, щоб використати цей відгук для розробки безпечнішого, менш токсичного та ефективнішого чат-бота в майбутньому.

Фрагменти пошуку Google, щоб припинити поширення фейкових новин

Пошуковий гігант розгорнув модель штучного інтелекту, щоб зробити текстові поля, які іноді з’являються, коли користувачі вводять запитання в пошук Google, більш точними.

Ці описи, відомі як фрагменти функцій, можуть бути корисними, якщо люди шукають конкретні факти. Наприклад, набравши «скільки планет у Сонячній системі?» з’явиться фрагмент функції, у якому йдеться про «вісім планет». Користувачам мережі не потрібно натискати випадкові веб-сторінки та читати інформацію, щоб отримати відповідь, фрагменти функцій роблять це автоматично.

Але відповіді Google не завжди точні й інколи вказують конкретну дату вигаданої події, як-от вбивство Авраама Лінкольна мультяшним песиком Снупі, відповідно до The Verge. Google заявив, що його система Уніфікована багатозадачна модель (MUM), має зменшити генерацію фрагментів функцій для помилкових запитань на 40 відсотків; він часто просто не придумає жодного текстового опису взагалі.

«Завдяки використанню нашої останньої моделі штучного інтелекту наші системи тепер можуть зрозуміти поняття консенсусу, тобто коли кілька високоякісних джерел в Інтернеті погоджуються з одним і тим же фактом», — йдеться в заяві. пояснені у своєму блозі.

«Наші системи можуть порівнювати виноски у фрагментах (слово або слова, які виводяться над фрагментом у вигляді більшого шрифту) з іншими високоякісними джерелами в Інтернеті, щоб побачити, чи є загальна згода щодо цього виноски, навіть якщо джерела використовують інші слова або концепції для опису того самого».

DALL-E 2 від OpenAI допоміг зробити рекламу Heinz Ketchup

Heinz, американський продуктовий гігант, об’єднався з креативним агентством, щоб створити рекламу, використовуючи зображення штучного інтелекту, згенеровані моделлю OpenAI DALL-E 2, щоб рекламувати свій найвідоміший продукт: кетчуп. Ця реклама є останньою частиною кампанії Хайнца «Намалюй кетчуп», але замість того, щоб звертатися до людей за ескізами, канадське рекламне агентство Rethink звернулося до машин. 

«Тож, як і в багатьох наших записах, завдання полягало в тому, щоб продемонструвати культову роль Гайнца в сучасній поп-культурі», – сказав виконавчий креативний директор Rethink Майк Дабрік. сказав Барабан цього тижня. «Наступною була презентація ідеї бренду. Після брифу ми рідко чекаємо офіційної презентації, коли ділимося тим, що вважаємо чудовим».

Кінцевим результатом є розумна реклама з чітким і простим повідомленням: враховуючи численні типи текстових підказок, що містять слово «ketchup», DALL-E 2 створить щось, що безпомилково виглядає як пляшка Heinz. Іншими словами, дотримуйтеся гасла компанії «це має бути Хайнц». Ви можете переглянути рекламу нижче.

Youtube Video

DALL-E 2 також нещодавно допоміг художнику створити a обкладинка журналу для Cosmopolitan; це ще один приклад того, як ці інструменти для перетворення тексту в зображення можна комерційно використовувати в творчих галузях. ®