요약 또 다른 날, 인터넷의 또 다른 불량 AI 챗봇.
지난 주 메타 해방된 블렌더봇 3, 수다스러운 언어 모델을 웹에서 실험으로 사용했고 예상한 대로 잘 진행되었습니다.
BlenderBot 3는 도널드 트럼프가 2024년 이후에도 여전히 미국 대통령이며 계속해서 대통령직을 수행할 것임을 재빠르게 확인했으며 다음과 같은 논란이 되는 질문을 받았을 때 반유대주의적 견해를 토해냈습니다. 표시 비즈니스 인사이더. 즉, BlenderBot 3는 가짜 뉴스를 퍼뜨리고 인터넷에서 스크랩한 텍스트로 훈련된 모든 언어 모델과 같은 인종적 고정관념에서 편향된 의견을 보유하는 경향이 있습니다.
Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD
— Jeff Horwitz (@JeffHorwitz) August 7, 2022
Meta는 네티즌들에게 자사의 챗봇이 "사실이 아니거나 공격적인 진술"을 할 수 있다고 경고했으며 실험을 위해 더 많은 데이터를 수집하기 위해 라이브 데모를 온라인에 유지하고 있습니다. 사람들은 BlenderBot 3의 답변을 좋아하거나 싫어하고 특정 메시지가 부적절하거나 무의미하거나 무례하기 때문이라고 생각하는 경우 연구원에게 알릴 수 있습니다. 목표는 이 피드백을 사용하여 향후 더 안전하고 독성이 적고 효과적인 챗봇을 개발하는 것입니다.
가짜 뉴스 확산을 막기 위한 Google 검색 스니펫
거대 검색 기업은 사용자가 Google 검색에 질문을 입력할 때 가끔 팝업되는 텍스트 상자를 보다 정확하게 만들기 위해 AI 모델을 출시했습니다.
기능 스니펫이라고 하는 이러한 설명은 사람들이 특정 사실을 찾는 경우에 유용할 수 있습니다. 예를 들어 "태양계에는 몇 개의 행성이 있습니까?"라고 입력합니다. "eight planets"라는 기능 스니펫을 표시합니다. 네티즌은 답변을 얻기 위해 임의의 웹페이지를 클릭하고 정보를 읽을 필요가 없습니다. 기능 스니펫이 이를 자동으로 수행합니다.
그러나 Google의 답변이 항상 정확한 것은 아니며 때때로 만화 개 스누피에 의한 Abraham Lincoln 암살과 같은 가상의 사건에 대한 특정 날짜를 명시했습니다. 따라 더 버지에. 구글은 자사의 시스템인 멀티태스킹 통합 모델(MUM), 거짓 질문에 대한 기능 스니펫의 생성을 40%까지 줄여야 합니다. 종종 텍스트 설명이 전혀 나오지 않습니다.
"최신 AI 모델을 사용함으로써 우리 시스템은 이제 웹의 여러 고품질 소스가 모두 동일한 사실에 동의하는 합의의 개념을 이해할 수 있습니다." 설명 블로그 게시물 인치
"저희 시스템은 출처가 다른 단어를 사용하더라도 해당 콜아웃에 대한 일반적인 합의가 있는지 확인하기 위해 스니펫 콜아웃(추천 스니펫 위에 더 큰 글꼴로 표시된 단어)을 확인할 수 있습니다. 또는 동일한 것을 설명하는 개념입니다.”
OpenAI의 DALL-E 2는 Heinz Ketchup 광고를 만드는 데 도움을 주었습니다.
미국 식품 대기업인 Heinz는 크리에이티브 에이전시와 팀을 이루어 가장 잘 알려진 제품인 케첩을 홍보하기 위해 OpenAI의 DALL-E 2 모델로 생성된 AI 이미지를 사용하여 광고를 제작했습니다. 이 광고는 Heinz의 "Draw Ketchup" 캠페인의 최신 작품이지만 스케치를 위해 인간에게 의존하는 대신 캐나다 광고 대행사인 Rethink는 기계에 문의했습니다.
Rethink의 크리에이티브 디렉터인 Mike Dubrick은 "우리의 많은 브리핑과 마찬가지로 오늘날 대중 문화에서 Heinz의 상징적인 역할을 보여주는 것이 과제였습니다."라고 말했습니다. 이야기 이번주 드럼. “아이디어를 브랜드에 전달하는 것이 다음이었습니다. 브리핑 후에 우리는 우리가 훌륭하다고 생각하는 것을 공유할 때 공식 프레젠테이션까지 거의 기다리지 않습니다.”
최종 결과는 명확하고 단순한 메시지가 포함된 영리한 광고입니다. "케첩"이라는 단어가 포함된 수많은 유형의 텍스트 프롬프트가 주어지면 DALL-E 2는 틀림없이 Heinz 병처럼 보이는 무언가를 생성합니다. 즉, "It must be Heinz"라는 회사의 슬로건에 신호를 보냅니다. 아래 광고를 볼 수 있습니다.
DALL-E 2는 최근 아티스트가 잡지 표지 코스모폴리탄을 위해; 이러한 텍스트를 이미지로 변환하는 도구가 창의적인 산업에서 상업적으로 사용될 수 있는 또 다른 예입니다. ®
