5 cạm bẫy trong học tập dựa trên AI

Mọi người đang nói về các mô hình AI như ChatGPT và DALL-E ngày nay, nhưng AI có vị trí nào trong giáo dục? Nó có thể giúp ích cho sinh viên hay nó mang lại nhiều rủi ro hơn là lợi ích? Ấn tượng như công nghệ này, có một số cạm bẫy nghiêm trọng của việc học tập dựa trên AI mà phụ huynh, giáo viên và học sinh nên biết.

1. Truyền bá thông tin sai lệch

Một trong những vấn đề lớn nhất với AI ngày nay là thông tin sai lệch và thông tin “ảo giác”. Đây là một thách thức đặc biệt nổi bật với các chatbot như ChatGPT. Các mô hình AI này rất giỏi trong việc xử lý ngôn ngữ tự nhiên nhưng không phải lúc nào cũng cung cấp thông tin chính xác hoặc thực. Kết quả là, họ có thể đưa ra những câu trả lời nghe có vẻ có thẩm quyền trong khi cung cấp các sự kiện, tài liệu tham khảo hoặc tuyên bố thiếu sót hoặc hoàn toàn bịa đặt.

Mô hình AI trò chuyện như ChatGPT và Bing AI thường xuyên đưa ra câu trả lời sai. Hiện tượng này được gọi là câu trả lời “ảo giác”. AI thực sự không có khả năng hiểu một sự thật theo cách mà con người có thể - nó không có khái niệm đúng hay sai. Nó chỉ đơn giản là được đào tạo để đưa ra câu trả lời bắt chước một câu hỏi, định dạng hoặc ngữ cảnh khác.

Điều này gây rủi ro nghiêm trọng cho sinh viên, những người có thể không biết khi nào AI cung cấp thông tin không chính xác. Trên thực tế, ChatGPT thậm chí còn được biết đến là người tạo ra các “tài liệu tham khảo” hoàn toàn hư cấu cho các câu trả lời có vẻ thực tế, khiến thông tin sai lệch thậm chí còn thuyết phục hơn. Điều này có thể khiến học sinh đặt toàn bộ bài tiểu luận và dự án nghiên cứu trên thông tin sai lệch.

Nguy cơ thông tin sai lệch áp dụng cho giáo viên cũng như học sinh. Họ không thể tin tưởng các công cụ dựa trên AI để cung cấp thông tin chính xác hoặc đáng tin cậy cho những thứ như chấm điểm hoặc tạo hướng dẫn học tập. Nếu giáo viên không cẩn thận, AI có thể khiến họ cho điểm sai học sinh hoặc cung cấp thông tin không chính xác.

“Những mô hình AI này rất giỏi trong việc xử lý ngôn ngữ tự nhiên nhưng không phải lúc nào cũng cung cấp thông tin chính xác hoặc thực tế.” 

2. Gian lận và quá phụ thuộc vào AI

Giờ đây, AI có thể nhanh chóng tạo ra các bài luận và hướng dẫn học thuyết phục, gian lận là một mối lo ngại nghiêm trọng. Khả năng xử lý ngôn ngữ tự nhiên của các chatbot AI hiện đại có thể cho phép sinh viên dễ dàng gian lận, đạo văn và phụ thuộc quá nhiều vào AI. Điều này không chỉ đe dọa tính toàn vẹn của giáo dục mà còn gây nguy hiểm cho hiệu quả của các khóa học.

Học sinh có thể mất các kỹ năng tư duy phản biện quan trọng và không học được các khái niệm có giá trị khi họ chỉ cần nhập bài tập về nhà vào một chatbot. Vì AI có thể tạo ra nội dung thuyết phục như vậy nên giáo viên có thể rất khó biết khi nào học sinh sử dụng AI để hoàn thành bài tập về nhà hoặc bài luận của mình. Việc không học và hoàn thành bài tập chỉ có thể được chú ý sau khi học sinh làm bài kiểm tra hoặc bài kiểm tra.

3. Xem nhẹ vai trò của giáo viên

Có một câu chuyện phổ biến rằng AI có thể thay thế con người trong vô số công việc, nhưng dạy học không phải là một trong số đó. Giáo viên đóng một vai trò vô giá trong giáo dục — một phần của phần mềm không thể sao chép. AI có khả năng cắt xén nghiêm trọng vai trò của giáo viên, làm suy yếu sự hướng dẫn, quyền hạn và sự cố vấn của họ.

Trên thực tế, AI thậm chí có thể làm giảm chất lượng giáo dục và giá trị của trải nghiệm giáo dục tùy chỉnh mà trường học có thể cung cấp. Ví dụ, không AI nào có thể tái tạo thực sự trải nghiệm khi theo học trường Montessori, nơi tập trung vào dạy các kỹ năng mềm như sự đồng cảm và độc lập thông qua các kỹ thuật học tập cá nhân.

Học tập dựa trên AI có thể biến việc giáo dục thành việc chia sẻ sự thật hoặc cung cấp dữ liệu cho người dùng dựa trên thuật toán. Trên thực tế, giáo dục là sự phát triển cá nhân, kỹ năng sống, xã hội hóa và sáng tạo, bên cạnh việc đạt được kiến ​​thức. Chỉ giáo viên mới có thể cung cấp sự hướng dẫn của con người mà học sinh cần.

“Học tập dựa trên AI có thể rút gọn giáo dục thành việc chia sẻ sự thật hoặc cung cấp dữ liệu cho người dùng dựa trên thuật toán” 

4. Bảo mật dữ liệu của học sinh

Học tập dựa trên AI cũng có thể đặt ra những thách thức về kỹ thuật và pháp lý — đặc biệt là khi xử lý dữ liệu của học sinh. Các mô hình AI học bằng cách theo dõi và xử lý tất cả dữ liệu mà chúng gặp phải. Điều này có thể bao gồm những thứ như câu trả lời kiểm tra của học sinh, câu hỏi được nhập vào chatbot và các đặc điểm như tuổi tác, giới tính, chủng tộc hoặc ngôn ngữ mẹ đẻ.

Bản chất hộp đen của hầu hết các mô hình AI khiến bất kỳ ai cũng khó hoặc thậm chí không thể biết cách AI sử dụng dữ liệu mà nó thu thập. Do đó, có những vấn đề đạo đức thực sự khi sử dụng AI trong giáo dục. Phụ huynh, giáo viên và học sinh có thể muốn giữ dữ liệu của họ khỏi AI vì lo ngại về quyền riêng tư của họ. Điều này đặc biệt đúng với các nền tảng AI giúp cá nhân hóa trải nghiệm của sinh viên thông qua giám sát, chẳng hạn như theo dõi hoạt động hoặc thao tác gõ phím của họ.

Ngay cả trong trường hợp nền tảng học tập dựa trên AI yêu cầu sự đồng ý của người dùng để sử dụng dữ liệu của họ, quyền riêng tư vẫn có nguy cơ bị đe dọa. Như các nghiên cứu chỉ ra, sinh viên thường không được trang bị để hiểu sự đồng ý bảo mật dữ liệu. Ngoài ra, nếu một trường học yêu cầu nền tảng dựa trên AI, học sinh và giáo viên có thể không có lựa chọn nào khác ngoài việc đồng ý cung cấp thông tin cá nhân của họ.

“Các mô hình AI học bằng cách theo dõi và tiêu hóa tất cả dữ liệu mà chúng gặp phải. Điều này có thể bao gồm những thứ như câu trả lời kiểm tra của học sinh, câu hỏi được nhập vào chatbot và các đặc điểm như tuổi tác, giới tính, chủng tộc hoặc ngôn ngữ đầu tiên.” 

5. Xu hướng dữ liệu và giáo dục không đồng đều

Mặc dù AI có thể “cá nhân hóa” giáo dục, nhưng nó cũng có thể dẫn đến những trải nghiệm không đồng đều hoặc không đồng đều. Cơ hội giáo dục bình đẳng dựa trên việc có một số tiêu chuẩn cơ bản cho nội dung mà tất cả học sinh học. Việc học tập được cá nhân hóa thông qua AI có thể quá khó đoán để đảm bảo trải nghiệm công bằng cho tất cả học sinh.

Ngoài ra, dữ liệu thiên vị đe dọa bình đẳng chủng tộc và giới tính trong giáo dục. Đã có bằng chứng về sự thiên vị trong AI trong nhiều năm. Ví dụ, năm 2018, Amazon bị chỉ trích vì sử dụng AI tuyển dụng phân biệt đối xử với ứng viên dựa trên các chỉ số giới tính chẳng hạn như từ “phụ nữ” hoặc tên của một trường cao đẳng nữ. AI không khách quan như nhiều người vẫn tưởng — nó cũng sai lệch như dữ liệu đào tạo mà nó học được.

Do đó, những thành kiến ​​xã hội cơ bản có thể dễ dàng rò rỉ vào các mô hình AI, thậm chí cả ngôn ngữ mà AI sử dụng trong các ngữ cảnh nhất định. Chẳng hạn, AI chỉ có thể sử dụng đại từ giống đực để mô tả các sĩ quan cảnh sát hoặc quan chức chính phủ. Tương tự như vậy, nó có thể khơi dậy nội dung phân biệt chủng tộc hoặc xúc phạm mà nó học được từ dữ liệu đào tạo được lọc kém.

Thiên vị và bất bình đẳng không có lợi cho việc học tập an toàn, công bằng và hỗ trợ. Cho đến khi AI có thể được tin tưởng để duy trì sự công bằng thực sự, nó sẽ đe dọa đến các cơ hội bình đẳng trong giáo dục.

AI nên được sử dụng như thế nào trong giáo dục? 

Năm cạm bẫy đáng kể này của việc học dựa trên AI cần được xem xét cẩn thận khi công nghệ này trở nên phổ biến hơn. Giống như bất kỳ công nghệ nào, AI nên là một công cụ, không phải là một giải pháp khắc phục tất cả. Giáo viên có thể sử dụng AI để tự động hóa các nhiệm vụ có rủi ro thấp và cải thiện chất lượng giáo dục mà họ cung cấp, nhưng AI không phải là sự thay thế cho chính giáo viên.

Các nhà giáo dục nên thực hiện các bước để giúp học sinh hiểu được cách sử dụng và rủi ro của AI để họ cũng có thể đưa ra những lựa chọn thông minh về quyền riêng tư dữ liệu của mình. Cuối cùng, học tập dựa trên AI là tốt nhất trong chừng mực, không phải là phương pháp thay thế cho các trải nghiệm học tập thông thường.

Ngoài ra, đọc Các công cụ AI đã sẵn sàng để được tin cậy và sử dụng làm tài nguyên giáo dục chưa?

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoAiStream. Thông minh dữ liệu Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Đúc kết tương lai với Adryenn Ashley. Truy cập Tại đây.
• Mua và bán cổ phần trong các công ty PRE-IPO với PREIPO®. Truy cập Tại đây.
• nguồn: https://www.aiiottalk.com/pitfalls-in-ai-based-learning/