Các trường đại học cung cấp phần mềm để đọc các bài luận do ChatGPT viết

Đặc tính Turnitin, nổi tiếng với phần mềm chống đạo văn được sử dụng bởi hàng chục nghìn trường đại học và phổ thông trên khắp thế giới, đang xây dựng một công cụ để phát hiện văn bản do AI tạo ra.

Các mô hình ngôn ngữ lớn đã đạt được sức hút kể từ khi phát hành thương mại GPT-3 của OpenAI vào năm 2020. Hiện tại nhiều công ty đã xây dựng các hệ thống máy học cạnh tranh của riêng họ, khởi động một làn sóng mới các công ty khởi nghiệp đang phát triển các sản phẩm được cung cấp bởi AI tổng quát. Các mô hình này hoạt động giống như các chatbot đa năng. Người dùng nhập hướng dẫn và họ sẽ trả lời bằng những đoạn văn bản mạch lạc, thuyết phục.

Học sinh ngày càng chuyển sang sử dụng các công cụ AI để hoàn thành bài tập, trong khi giáo viên mới chỉ bắt đầu xem xét tác động và vai trò của chúng trong giáo dục. Ý kiến ​​​​được chia. Một số người tin rằng công nghệ này có thể trau dồi kỹ năng viết, trong khi những người khác coi đó là hành vi gian lận. Các trường học ở California, New York, Virginia và Alabama đã chặn học sinh truy cập mô hình ChatGPT mới nhất trên mạng công cộng, theo đến Forbes.

Các sở giáo dục không chắc chắn những chính sách học thuật nào nên được đưa ra để điều chỉnh việc sử dụng trình tạo văn bản AI. Ngoài ra, tất cả các quy tắc sẽ khó thực thi dù sao đi nữa vì hiện tại không có cách nào hiệu quả để phát hiện tác phẩm do máy viết. Nhập Turnitin. Được thành lập vào năm 1998, công ty Mỹ bán phần mềm tính toán mức độ giống nhau của một bài luận cụ thể so với nội dung từ cơ sở dữ liệu lớn gồm các bài báo, trang web và sách để tìm kiếm dấu hiệu đạo văn.

Turnitin đã được gã khổng lồ truyền thông Advanced Publications mua lại với giá 1.75 tỷ USD vào năm 2019 và phần mềm của nó đã được đã sử dụng bởi 15,000 tổ chức trên 140 quốc gia. Với hơn hai thập kỷ kinh nghiệm, Turnitin có phạm vi tiếp cận rộng rãi trong lĩnh vực giáo dục và đã tích lũy được một kho lưu trữ khổng lồ các bài viết của học sinh, khiến Turnitin trở thành công ty lý tưởng để phát triển công cụ phát hiện văn bản AI học thuật.

Turnitin đã âm thầm xây dựng phần mềm trong nhiều năm kể từ khi phát hành GPT-3, Annie Chechitelli, giám đốc sản phẩm, cho biết Đăng ký. Việc gấp rút cung cấp cho các nhà giáo dục khả năng xác định văn bản do con người và máy tính viết đã trở nên gay gắt hơn với sự ra mắt của phiên bản kế nhiệm mạnh mẽ hơn, ChatGPT. Khi AI tiếp tục phát triển, các trường đại học và trường phổ thông cần có khả năng bảo vệ tính liêm chính trong học thuật hơn bao giờ hết.

“Tốc độ quan trọng. Chechitelli nói. Turnitin hy vọng sẽ ra mắt phần mềm của mình trong nửa đầu năm nay. “Ban đầu, đây sẽ là tính năng phát hiện khá cơ bản, sau đó chúng tôi sẽ tung ra các bản phát hành nhanh tiếp theo để tạo ra một quy trình làm việc dễ thực hiện hơn cho giáo viên.” Kế hoạch là cung cấp nguyên mẫu miễn phí cho các khách hàng hiện tại khi công ty thu thập dữ liệu và phản hồi của người dùng.

“Lúc đầu, chúng tôi thực sự chỉ muốn giúp đỡ ngành công nghiệp và giúp các nhà giáo dục vững vàng và cảm thấy tự tin hơn. Và để chúng tôi sử dụng càng nhiều càng tốt ngay từ đầu; đó là điều quan trọng để tạo ra một công cụ thành công. Sau đó, chúng tôi sẽ xác định cách chúng tôi sẽ sản xuất nó,” cô nói.

Các mẫu trong văn bản AI

Mặc dù văn bản do AI tạo ra rất thuyết phục, nhưng vẫn có những dấu hiệu nhận biết cho thấy công việc của một thuật toán. Văn bản thường nhạt nhẽo và không nguyên bản; các công cụ như ChatGPT lấy lại những ý tưởng và quan điểm hiện có và không có tiếng nói riêng biệt. Con người đôi khi có thể phát hiện ra văn bản do AI tạo ra, nhưng máy móc làm tốt hơn nhiều.

Eric Wang, Phó chủ tịch AI của Turnitin, cho biết có những mẫu rõ ràng trong cách viết AI mà máy tính có thể phát hiện. “Mặc dù chúng ta cảm thấy nó giống con người, nhưng [máy viết sử dụng] một cơ chế khác về cơ bản. Đó là chọn từ có thể xảy ra nhất ở vị trí có thể xảy ra nhất và đó là một cách rất khác để xây dựng ngôn ngữ [so với] bạn và tôi,” anh ấy nói Đăng ký.

“Chúng ta đọc bằng cách nhìn đi nhìn lại mà không hề hay biết, hoặc lướt qua lại giữa các từ, giữa các đoạn văn và đôi khi là giữa các trang. Chúng ta sẽ lật qua lật lại. Chúng tôi cũng có xu hướng viết với một trạng thái tương lai của tâm trí. Tôi có thể đang viết, và tôi đang nghĩ về một điều gì đó, một đoạn, một câu, một chương; phần cuối của bài luận được liên kết trong tâm trí tôi với câu tôi đang viết mặc dù các câu từ bây giờ đến lúc đó vẫn chưa được viết.”

Tuy nhiên, ChatGPT không có loại linh hoạt này và chỉ có thể tạo từ mới dựa trên các câu trước đó, ông giải thích. Trình phát hiện của Turnitin hoạt động bằng cách dự đoán những từ mà AI có nhiều khả năng tạo ra hơn trong một đoạn văn bản nhất định. “Nó rất nhạt nhẽo về mặt thống kê. Con người không có xu hướng sử dụng nhất quán một từ có xác suất cao ở những nơi có xác suất cao, nhưng GPT-3 làm vậy nên máy dò của chúng tôi thực sự phát hiện ra điều đó,” ông nói.

Wang cho biết máy dò của Turnitin dựa trên kiến ​​trúc giống như GPT-3 và mô tả nó giống như một phiên bản thu nhỏ của mô hình. “Tôi sẽ [nói] chữa cháy bằng lửa theo nhiều cách. Có một thành phần phát hiện được gắn vào nó thay vì thành phần tạo. Vì vậy, những gì nó đang làm là đọc ngôn ngữ theo cách chính xác giống như cách GPT-3 đọc ngôn ngữ, nhưng thay vì đưa ra nhiều ngôn ngữ hơn, nó cho chúng tôi dự đoán liệu chúng tôi có nghĩ rằng đoạn văn này giống [it's from] GPT-3 hay không.”

Công ty vẫn đang quyết định cách tốt nhất để trình bày kết quả của máy dò cho giáo viên sử dụng công cụ này. “Đó là một thử thách khó khăn. Làm thế nào để bạn nói với một người hướng dẫn trong một khoảng không gian nhỏ những gì họ muốn xem?” Chechitelli nói. Họ có thể muốn xem tỷ lệ phần trăm cho biết có bao nhiêu phần trăm bài luận dường như do AI viết hoặc họ có thể muốn mức độ tin cậy cho biết liệu độ tin cậy dự đoán của máy dò là thấp, trung bình hay cao để đánh giá độ chính xác.

Phần mềm này không được thiết kế với mục tiêu khiến ChatGPT bị cấm trong giới học thuật. Mặc dù nó có thể ngăn học sinh sử dụng các loại công cụ này, nhưng Turnitin tin rằng máy dò của họ thay vào đó sẽ giúp giáo viên và học sinh tin tưởng lẫn nhau và tin tưởng vào công nghệ. 

“Tôi nghĩ rằng có một sự thay đổi lớn trong cách chúng tôi tạo nội dung và cách chúng tôi làm việc,” Wang nói. “Chắc chắn điều đó kéo dài đến cách chúng ta học. Chúng ta cần phải suy nghĩ lâu dài về cách chúng ta giảng dạy. Làm thế nào để chúng ta học hỏi trong một thế giới nơi công nghệ này tồn tại? Tôi nghĩ không có chuyện bỏ thần đèn trở lại lọ. Bất kỳ công cụ nào cung cấp khả năng hiển thị cho việc sử dụng các công nghệ này đều sẽ có giá trị vì đó là những nền tảng xây dựng nền tảng của sự tin cậy và minh bạch.” ®

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• Platoblockchain. Web3 Metaverse Intelligence. Khuếch đại kiến ​​thức. Truy cập Tại đây.
• nguồn: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/