5 Jebakan dalam Pembelajaran Berbasis AI

5 Jebakan dalam Pembelajaran Berbasis AI

Stempel Waktu: 5 Mei 2023 3
5 Kesalahan dalam Pembelajaran Berbasis AI PlatoBlockchain Data Intelligence. Pencarian Vertikal. Ai.

Semua orang berbicara tentang model AI seperti ChatGPT dan DALL-E hari ini, tetapi apa tempat AI dalam pendidikan? Bisakah itu membantu siswa atau apakah itu menimbulkan lebih banyak risiko daripada manfaat? Betapapun mengesankannya teknologi ini, ada beberapa jebakan serius dari pembelajaran berbasis AI yang harus diperhatikan oleh orang tua, guru, dan siswa.

1. Penyebaran Misinformasi

Salah satu masalah terbesar dengan AI saat ini adalah informasi yang salah dan informasi yang "berhalusinasi". Ini adalah tantangan yang sangat menonjol dengan chatbots seperti ChatGPT. Model AI ini mahir dalam pemrosesan bahasa alami, tetapi tidak selalu memberikan informasi yang benar atau nyata. Akibatnya, mereka dapat memberikan jawaban yang terdengar berwibawa sambil memberikan fakta, referensi, atau pernyataan yang cacat atau dibuat-buat.

Model obrolan AI seperti ChatGPT dan Bing AI sering memberikan jawaban yang salah. Fenomena ini dikenal sebagai jawaban "berhalusinasi". AI sebenarnya tidak mampu memahami fakta seperti yang bisa dilakukan manusia - AI tidak memiliki konsep benar atau salah. Itu hanya dilatih untuk memberikan jawaban yang meniru pertanyaan, format, atau konteks lainnya.

Hal ini menimbulkan risiko serius bagi siswa, yang mungkin tidak dapat mengetahui kapan AI memberikan informasi yang tidak akurat. Faktanya, ChatGPT bahkan diketahui membuat "referensi" yang sepenuhnya fiktif untuk jawaban yang tampaknya faktual, membuat informasi yang salah menjadi lebih meyakinkan. Hal ini dapat mengarahkan siswa untuk mendasarkan seluruh esai dan proyek penelitian pada informasi yang salah.

Risiko misinformasi berlaku untuk guru dan juga siswa. Mereka tidak dapat mempercayai alat berbasis AI untuk memberikan informasi yang benar atau andal untuk hal-hal seperti penilaian atau pembuatan panduan belajar. Jika guru tidak berhati-hati, AI dapat membuat mereka memberikan nilai yang salah kepada siswa atau memberikan informasi yang tidak akurat.

“Model AI ini mahir dalam pemrosesan bahasa alami tetapi tidak selalu memberikan informasi yang benar atau nyata.” 

2. Kecurangan dan Terlalu Bergantung pada AI

Sekarang AI dapat dengan cepat menghasilkan esai dan panduan belajar yang meyakinkan, menyontek menjadi perhatian serius. Kemampuan pemrosesan bahasa alami chatbots AI modern memungkinkan siswa untuk dengan mudah menipu, melakukan plagiarisme, dan terlalu mengandalkan AI. Hal ini tidak hanya mengancam integritas pendidikan, tetapi juga membahayakan efektivitas kursus.

Siswa mungkin kehilangan keterampilan berpikir kritis yang penting dan gagal mempelajari konsep-konsep yang berharga ketika mereka cukup mengetik pekerjaan rumah mereka ke dalam chatbot. Karena AI dapat membuat konten yang begitu meyakinkan, akan sangat sulit bagi guru untuk mengetahui kapan seorang siswa menggunakan AI untuk menyelesaikan pekerjaan rumah atau esai mereka. Kegagalan untuk belajar dan menyelesaikan kursus mungkin hanya terlihat setelah siswa mengikuti tes atau ujian.

3. Meremehkan Peran Guru

Ada narasi populer bahwa AI dapat menggantikan manusia dalam pekerjaan yang tak terhitung jumlahnya, tetapi mengajar bukanlah salah satunya. Guru memainkan peran yang tak ternilai dalam pendidikan — satu perangkat lunak tidak dapat ditiru. AI memiliki potensi untuk melemahkan peran guru secara serius, merusak instruksi, otoritas, dan bimbingan mereka.

Faktanya, AI bahkan dapat mengkompromikan kualitas pendidikan dan nilai pengalaman pendidikan khusus yang dapat diberikan oleh sekolah. Misalnya, tidak ada AI yang benar-benar dapat meniru pengalaman menghadiri sekolah Montessori yang berfokus pada mengajarkan soft skill seperti empati dan kemandirian melalui teknik pembelajaran individual.

Pembelajaran berbasis AI dapat meringkas pendidikan menjadi sekadar berbagi fakta atau memberi makan data pengguna berdasarkan algoritme. Pada kenyataannya, pendidikan adalah tentang pertumbuhan pribadi, kecakapan hidup, sosialisasi dan kreativitas, selain untuk memperoleh pengetahuan. Hanya guru yang dapat memberikan bimbingan manusia yang dibutuhkan siswa.

“Pembelajaran berbasis AI dapat mereduksi pendidikan menjadi sekadar berbagi fakta atau memberi makan data pengguna berdasarkan algoritme” 

4. Privasi Data Mahasiswa

Pembelajaran berbasis AI juga dapat menimbulkan tantangan teknis dan hukum — terutama terkait dengan penanganan data siswa. Model AI belajar dengan melacak dan mencerna semua data yang mereka temui. Ini dapat mencakup hal-hal seperti jawaban ujian siswa, pertanyaan yang diketik ke dalam chatbot, dan karakteristik seperti usia, jenis kelamin, ras, atau bahasa pertama.

Sifat kotak hitam sebagian besar model AI mempersulit atau bahkan tidak mungkin bagi siapa pun untuk melihat bagaimana AI menggunakan data yang dikumpulkannya. Akibatnya, ada masalah etika nyata dengan penggunaan AI dalam pendidikan. Orang tua, guru, dan siswa mungkin ingin data mereka disimpan dari AI karena khawatir akan privasi mereka. Hal ini terutama terjadi pada platform AI yang mempersonalisasi pengalaman siswa melalui pengawasan, seperti melacak aktivitas atau penekanan tombol mereka.

Bahkan dalam kasus di mana platform pembelajaran berbasis AI meminta persetujuan pengguna untuk menggunakan data mereka, privasi tetap berisiko. Seperti yang ditunjukkan oleh penelitian, siswa seringkali tidak diperlengkapi untuk mengerti persetujuan privasi data. Selain itu, jika sekolah memerlukan platform berbasis AI, siswa dan guru mungkin tidak punya pilihan selain menyetujui untuk memberikan informasi pribadi mereka.

“Model AI belajar dengan melacak dan mencerna semua data yang mereka temui. Ini dapat mencakup hal-hal seperti jawaban tes siswa, pertanyaan yang diketik ke dalam chatbot, dan karakteristik seperti usia, jenis kelamin, ras, atau bahasa pertama.” 

5. Pendidikan dan Bias Data yang Tidak Merata

Meskipun AI mungkin dapat "mempersonalisasikan" pendidikan, itu juga dapat menyebabkan pengalaman yang tidak merata atau tidak setara. Peluang pendidikan yang setara bergantung pada memiliki beberapa dasar standar untuk konten yang dipelajari semua siswa. Pembelajaran yang dipersonalisasi melalui AI bisa terlalu tidak terduga untuk memastikan pengalaman yang adil bagi semua siswa.

Selain itu, bias data mengancam kesetaraan ras dan gender dalam pendidikan. Ada bukti bias dalam AI selama bertahun-tahun. Misalnya, pada tahun 2018, Amazon mendapat kecaman karena menggunakan AI perekrutan yang mendiskriminasi pelamar berdasarkan indikator jenis kelamin seperti kata “wanita” atau nama perguruan tinggi wanita. AI tidak seobjektif yang diyakini banyak orang — ini sama biasnya dengan data pelatihan yang dipelajarinya.

Akibatnya, bias masyarakat yang mendasar dapat dengan mudah bocor ke dalam model AI, bahkan sampai ke bahasa yang digunakan AI dalam konteks tertentu. Misalnya, AI mungkin hanya menggunakan kata ganti laki-laki untuk mendeskripsikan petugas polisi atau pejabat pemerintah. Demikian juga, itu mungkin memuntahkan konten rasis atau ofensif yang dipelajari dari data pelatihan yang disaring dengan buruk.

Bias dan ketidaksetaraan tidak kondusif untuk pembelajaran yang aman, adil, dan mendukung. Sampai AI dapat dipercaya untuk tetap benar-benar adil, itu menjadi ancaman terhadap kesempatan yang sama dalam pendidikan.

Bagaimana AI Harus Digunakan dalam Pendidikan? 

Lima jebakan signifikan dari pembelajaran berbasis AI ini memerlukan pertimbangan yang cermat karena teknologi ini menjadi lebih umum. Seperti teknologi apa pun, AI harus menjadi alat, bukan solusi untuk semua perbaikan. Guru dapat menggunakan AI untuk mengotomatiskan tugas berisiko rendah dan meningkatkan kualitas pendidikan yang mereka berikan, tetapi AI bukanlah pengganti guru itu sendiri.

Pendidik harus mengambil langkah-langkah untuk membantu siswa memahami penggunaan dan risiko AI sehingga mereka juga dapat membuat pilihan cerdas tentang privasi data mereka. Pada akhirnya, pembelajaran berbasis AI adalah yang terbaik dalam moderasi, bukan sebagai pengganti pengalaman belajar konvensional.

Baca juga Apakah Alat AI Siap Dipercaya dan Digunakan sebagai Sumber Daya Pendidikan?

Stempel Waktu:

Lebih dari Teknologi AIIOT