Amazon bước vào để giải quyết cơn đau đầu về 'Sách do AI viết'

Amazon bước vào để giải quyết cơn đau đầu về 'Sách do AI viết'

Dấu thời gian: 1:2023 chiều ngày 6 tháng 30 năm XNUMX

Khi AI sáng tạo tiếp tục nhận được sự hỗ trợ, Amazon đã bước vào với các chính sách về sách do bot viết, đã khiến hãng thương mại điện tử đau đầu sau khi tràn ngập nền tảng của hãng.

Khả năng tạo ra văn xuôi, thơ, lời bài hát, hình ảnh, âm thanh và video của Generative AI nói chung đã mê hoặc cả thế giới, khiến những người có ít hoặc không có kỹ năng phải chuyển sang sử dụng công nghệ này để sản xuất nội dung.

Sự “vô nghĩa của AI”

Tuy nhiên, công nghệ tương tự cũng có những nhược điểm riêng và Amazon đang tìm cách khắc phục. Giờ đây, “cửa hàng mọi thứ” của nó chứa đầy sách được viết bởi bot, theo một bài báo của Có dây.

Mặc dù bài viết không nêu chính xác có bao nhiêu cuốn sách do AI tạo ra được bán trên nền tảng này, nhưng có rất nhiều loại sách trên nền tảng này, bao gồm nhiều thể loại khác nhau, trong đó một số thể loại bị cản trở bởi những tựa sách chất lượng thấp. Đầu năm nay, tác giả Caitlyn Lynch đã gọi đây là “sự vô nghĩa của AI” trong một bài đăng trên X (trước đây là Twitter).

Điều đáng lo ngại hơn là một số cuốn sách mang tên và hình ảnh giống các nhà văn có thật của con người. Ví dụ, mùa hè này, Jane Friedman, một nhà văn và chuyên gia ngành xuất bản, đã phát hiện ra năm cuốn sách riêng biệt bị liệt kê sai là của cô trên mạng. đàn bà gan dạ.

Một trong những tựa sách lừa đảo là “Cách viết và xuất bản sách điện tử nhanh chóng”. Và những kẻ đứng sau những con bot này rất quyết tâm trong những hoạt động vô đạo đức của mình. Theo báo cáo của Wired, có “một nền văn hóa hối hả hoàn toàn căng thẳng trên các video trên YouTube”.

Những điều này khuyến khích người xem dễ dàng làm giàu thông qua việc sản xuất tài liệu do AI tạo ra cho Kindle, mang những tựa game như;

“Cách tạo nội dung AI KHÔNG THỂ PHÁT HIỆN cho Amazon KDP (Phương pháp được đảm bảo).”

Những kế hoạch kiếm tiền mới nhất này hiện đang gây khó khăn cho những độc giả đang tìm kiếm sách để có được tài liệu đọc chất lượng cao do con người viết.

Ngoài ra đọc: Tính năng duyệt web theo thời gian thực của ChatGPT không bị ảnh hưởng do dữ liệu hạn chế vào năm 2021

Amazon bước vào để giải quyết vấn đề đau đầu về 'Sách do AI viết' Trí thông minh dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.Amazon bước vào để giải quyết vấn đề đau đầu về 'Sách do AI viết' Trí thông minh dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.

Chính sách của Amazon

Đối mặt với tình thế tiến thoái lưỡng nan này, trong vài tuần qua, Amazon đã bắt đầu thực hiện các bước để giải quyết vấn đề. Công ty hiện có giới hạn về số lượng sách mà một nhà văn có thể xuất bản. Nó cũng đã giới thiệu một điều luật điều đó yêu cầu người viết phải tiết lộ liệu sách của họ được viết bởi con người hay do AI tạo ra.

Friedman cho biết: “Amazon có nghĩa vụ phải tiết lộ thông tin này về mặt đạo đức.

“Các tác giả và nhà xuất bản lẽ ra phải tiết lộ nó rồi, nhưng nếu họ không làm vậy thì Amazon cần phải ủy quyền cho mọi nhà bán lẻ và nhà phân phối.”

Cô nói thêm rằng việc không làm như vậy tương đương với việc “gây ra sự ngờ vực và nhầm lẫn”.

Giám đốc điều hành của Hiệp hội tác giả Mary Rasenberger đã cân nhắc và nói: “Chúng tôi đã ủng hộ luật yêu cầu tài liệu do AI tạo ra phải được các nền tảng hoặc nhà xuất bản gắn cờ như vậy”.

Nhưng có một cách khác

Tuy nhiên, có nhiều cách khác để giải quyết vấn đề, một trong số đó là sử dụng máy dò AI.

Một số Khởi nghiệp phát hiện AI người đã nói chuyện riêng với Wired gợi ý rằng Amazon có thể thử các công nghệ phát hiện AI để khắc phục các lỗ hổng và dễ dàng gắn cờ tài liệu do AI tạo ra.

Một trong những công ty khởi nghiệp về phát hiện AI, Reality Defender, cho biết công ty của ông, vốn bắt đầu tập trung vào hình ảnh deepfake, giờ đã mở rộng sang phát hiện văn bản, một dịch vụ được cung cấp bởi một số công ty khác và có thể là giải pháp cho vấn đề của Amazon.

Một startup khác, CEO của GPTZero, cũng có mức độ tin cậy tương tự.

“Chúng tôi hoàn toàn có thể cung cấp công nghệ cho các nền tảng thương mại điện tử và chúng tôi hiện đang trong quá trình đàm phán để thực hiện điều đó với các nhà cung cấp khác nhau của mình”.

Người sáng lập Winston AI, John Renaud, đã có một số nhà xuất bản trong số khách hàng của mình.

Mặc dù Amazon cũng có nghĩa vụ với khách hàng của mình là phải đáp ứng mong đợi của họ về những cuốn sách do con người viết, chất lượng cao, nhưng vẫn có những lo ngại về lý do tại sao công ty không sử dụng các công cụ để tự động gắn cờ tài liệu do AI tạo ra. Khi được hỏi về điều này, đàn bà gan dạ từ chối bình luận, nhưng người phát ngôn của nó, Ashley Vanicek, đã đưa ra một tuyên bố bằng văn bản.

“Amazon liên tục đánh giá các công nghệ mới nổi và cam kết cung cấp trải nghiệm mua sắm, đọc và xuất bản tốt nhất có thể cho tác giả và khách hàng.”

Sự hoài nghi

Có sự hoài nghi về các công cụ phát hiện AI và độ chính xác của kết quả của chúng, đó có thể là lý do khiến Amazon thực hiện cách tiếp cận thận trọng với chúng.

Một bài báo do các nhà nghiên cứu tại Đại học Maryland xuất bản cho thấy kết quả của máy dò có thể bị lỗi.

“Những máy dò này không đáng tin cậy trong các tình huống thực tế,” họ đã viết.

Một nghiên cứu khác được thực hiện vào tháng XNUMX bởi các nhà nghiên cứu tại Stanford cho thấy các máy dò có thành kiến ​​như thế nào đối với những nhà văn không phải là người nói tiếng Anh bản xứ.

Nhà sản xuất ChatGPT OpenAI đã phải đóng phân loại AI của họ sau khi bị chỉ trích vì kết quả kém.

Michael Coley của Đại học Vanderbilt cho biết: “Chúng tôi không tin rằng phần mềm phát hiện AI là một công cụ hiệu quả nên được sử dụng”.

Dấu thời gian:

Thêm từ MetaNews