아마존, 'AI가 쓴 책' 문제 해결에 나서다

아마존, 'AI가 쓴 책' 문제 해결에 나서다

타임 스탬프 : 1 년 2023 월 6 일 오후 30:XNUMX

생성 AI가 지속적으로 지원을 받으면서 Amazon은 다음과 같은 정책을 발표했습니다. 봇이 쓴 책, 이는 플랫폼이 넘쳐난 후 전자상거래 회사에 골칫거리가 되었습니다.

산문, 시, 가사, 이미지, 오디오, 비디오를 제작하는 제너레이티브 AI의 능력은 일반적으로 전 세계를 매료시켰고, 기술이 거의 또는 전혀 없는 사람들도 콘텐츠 제작 기술에 눈을 돌리게 되었습니다.

"AI 넌센스"

그러나 동일한 기술에는 자체 수하물이 포함되어 있으며 Amazon은 문제를 해결하고 있습니다. 기사에 따르면 이제 그 "모든 상점"은 봇이 쓴 책으로 가득 차 있습니다. 유선.

기사에는 플랫폼에서 얼마나 많은 AI 생성 도서가 판매되고 있는지 정확히 명시되어 있지 않지만 플랫폼에는 다양한 장르를 포괄하는 광범위한 도서가 있으며 일부 장르는 품질이 낮은 도서로 어려움을 겪고 있습니다. 올해 초 작가 Caitlyn Lynch는 이것을 "AI 넌센스"라고 불렀습니다. X에 올라온 글 (구 트위터).

더 걱정스러운 것은 일부 책이 실제 인간 작가의 이름과 초상을 담고 있다는 것입니다. 예를 들어, 올 여름 작가이자 출판업계 전문가인 제인 프리드먼(Jane Friedman)은 자신의 책으로 잘못 등록된 다섯 권의 책을 발견했습니다. 아마존.

사기성 제목 중 하나는 "eBook을 빠르게 작성하고 출판하는 방법"입니다. 그리고 이 봇 뒤에 있는 사람들은 부도덕한 활동을 펼칩니다. Wired 보고서에 따르면 "YouTube 동영상에는 긴장감 넘치는 허슬 문화"가 있습니다.

이는 다음과 같은 제목을 포함하는 Kindle용 AI 생성 자료를 제작하여 시청자가 쉽게 부자가 될 수 있도록 장려합니다.

“Amazon KDP에 대해 감지할 수 없는 AI 콘텐츠를 만드는 방법(보장 방법).”

이러한 최신의 돈벌이 계획은 이제 책을 찾는 독자들이 인간이 쓴 고품질의 독서 자료를 얻는 것을 어렵게 만들고 있습니다.

또한 읽기 : ChatGPT의 실시간 웹 브라우징은 제한된 2021 데이터에서 벗어났습니다.

Amazon은 'AI가 쓴 책' 문제를 해결하기 위해 참여합니다. PlatoBlockchain 데이터 인텔리전스. 수직 검색. 일체 포함.Amazon은 'AI가 쓴 책' 문제를 해결하기 위해 참여합니다. PlatoBlockchain 데이터 인텔리전스. 수직 검색. 일체 포함.

아마존의 정책

이러한 딜레마에 직면한 Amazon은 지난 몇 주 동안 문제를 해결하기 위한 조치를 취하기 시작했습니다. 이제 회사는 한 명의 작가가 출판할 수 있는 책의 수에 제한을 두고 있습니다. 또한 정책 작가는 자신의 책이 인간에 의해 쓰여졌는지 아니면 AI로 생성되었는지 밝혀야 합니다.

프리드먼은 “아마존은 이 정보를 공개할 윤리적 의무가 있다”고 말했다.

"저자와 출판사는 이미 이를 공개해야 하지만 그렇지 않은 경우 Amazon은 모든 소매업체 및 유통업체와 함께 이를 의무화해야 합니다."

그녀는 그렇게 하지 않는 것은 “불신과 혼란을 키우는 것”과 같다고 덧붙였습니다.

Authors Guild CEO인 Mary Rasenberger는 "우리는 AI로 생성된 자료를 플랫폼이나 출판사 전반에 걸쳐 표시하도록 요구하는 법안을 옹호해 왔습니다."라고 말했습니다.

하지만 다른 방법도 있어요

그러나 이 문제를 해결하는 다른 방법이 있는데, 그 중 하나가 AI 감지기를 사용하는 것입니다.

일부 AI 탐지 스타트업 Wired와 별도로 대화를 나눈 이들은 Amazon이 AI 탐지 기술을 사용해 허점을 막고 AI 생성 자료에 쉽게 플래그를 지정할 수 있다고 제안했습니다.

AI 감지 스타트업 중 하나인 Reality Defender는 딥페이크 이미지에 중점을 두기 시작한 그의 회사가 이제 텍스트 감지까지 확장했다고 말합니다. 이 서비스는 다른 여러 회사에서 제공하는 서비스이며 Amazon의 문제에 대한 해결책이 될 수 있습니다.

또 다른 스타트업인 GPTZero의 CEO도 같은 수준의 자신감을 공유하고 있습니다.

“우리는 전자상거래 플랫폼에 이 기술을 절대적으로 제공할 수 있으며, 현재 다양한 공급업체와 이를 위해 대화를 진행 중입니다.”

Winston AI 창립자인 John Renaud는 이미 그의 고객 중 여러 출판사를 보유하고 있습니다.

Amazon은 또한 인간이 쓴 고품질 도서에 대한 고객의 기대를 충족해야 할 의무가 있지만 회사가 AI로 만든 자료에 자동으로 플래그를 지정하는 도구를 사용하지 않은 이유에 대한 우려가 있습니다. 이에 대해 물었을 때, 아마존 논평을 거부했지만 대변인 Ashley Vanicek은 서면 성명을 발표했습니다.

"Amazon은 지속적으로 새로운 기술을 평가하고 있으며 작가와 고객에게 최고의 쇼핑, 독서 및 출판 경험을 제공하기 위해 최선을 다하고 있습니다."

회의론

AI 탐지 도구와 그 결과가 얼마나 정확한지에 대해 회의적인 시각이 있는데, 이것이 Amazon이 AI 탐지 도구에 신중한 접근 방식을 취하는 이유일 수 있습니다.

메릴랜드 대학교 연구진이 발표한 논문에 따르면 탐지기의 결과에 결함이 있을 수 있다는 사실이 밝혀졌습니다.

"이러한 탐지기는 실제 시나리오에서는 신뢰할 수 없습니다." 쓴.

XNUMX월에 연구진이 수행한 또 다른 연구 스탠포드 탐지기가 영어가 모국어가 아닌 작가에 대해 어떻게 편향되었는지 보여주었습니다.

ChatGPT 제조사인 OpenAI는 나쁜 결과에 대한 비판을 받은 후 AI 분류를 종료해야 했습니다.

Turnitin의 AI 탐지 프로그램 실험이 실패한 후 Vanderbilt University의 Michael Coley는 "우리는 AI 탐지 소프트웨어가 사용해야 하는 효과적인 도구라고 믿지 않습니다."라고 말했습니다.

타임 스탬프 :

더보기 메타뉴스