Kekhawatiran Hukum dan Etis Mencengkeram Gen AI Saat Aplikasi Menidurkan Anak-Anak

Kekhawatiran Hukum dan Etis Mencengkeram Gen AI Saat Aplikasi Menidurkan Anak-Anak

Stempel Waktu: 27 Desember 2023 1:55

Peluncuran ChatGPT tahun lalu membuka kemungkinan baru bagi industri kreatif, dengan pengembang menciptakan model AI yang dapat menceritakan kisah pengantar tidur anak-anak menggunakan karakter favorit mereka.

Hal ini terjadi ketika orang-orang beralih ke AI generatif untuk melakukan beberapa tugas sehari-hari, memanfaatkan kemampuan transformatif teknologi dan kemampuan untuk menulis buku, mengarang musik, dan menulis puisi. Integrasi teknologi AI memungkinkan siapa pun menjadi pencipta narasinya sendiri, termasuk cerita anak-anak.

Namun, terdapat kekhawatiran hukum dan etika seputar penerapan teknologi AI di berbagai sektor, termasuk cerita anak-anak.

Baca juga: Perkembangan Utama dan Tren yang Muncul di Web3 pada tahun 2023

Mengubah tradisi

Jika dulu pengasuh, orang tua, dan wali menidurkan anak-anak mereka dengan cerita atau lagu, tradisi ini berubah dengan AI generatif menawarkan cerita pengantar tidur. Dengan aplikasi bercerita sebelum tidur yang dikenal sebagai Bluey-GPT, alat yang didukung AI ini memulai sesinya dengan menanyakan pertanyaan dasar kepada anak-anak seperti nama, usia, dan banyak lagi tentang keseharian mereka. Pendekatan interaktif membuat anak-anak rileks.

Chatbot selanjutnya membuat cerita yang dipersonalisasi yang dibintangi oleh Bluey dan saudara perempuannya Bingo.

“Itu menyebutkan nama sekolahnya, daerah tempat dia tinggal, dan berbicara tentang fakta bahwa di luar dingin. Itu membuatnya lebih nyata dan menarik,” jelas pengembangnya yang berbasis di London, Luke Warner, kepada Wired.

Dengan menggunakan ChatGPT, orang-orang yang tidak memiliki keahlian dalam bercerita atau menulis dapat membuat cerita yang dipersonalisasi untuk anak-anak dan karakter favorit mereka.

Menurut Glasham, aplikasi yang membuat cerita seperti Oscar, Suatu Saat Bot, dan Bedtimestory.ai menggunakan karakter umum yang sudah ada dalam domain publik.

Namun beberapa aplikasi mungkin mengintegrasikan ilustrasi buatan AI “atau opsi agar cerita dibacakan.”

Kekhawatiran Hukum dan Etika yang Muncul Saat AI Generatif Menidurkan Anak-Anak ke Tempat Tidur

Kekhawatiran Hukum dan Etika yang Muncul Saat AI Generatif Menidurkan Anak-Anak ke Tempat Tidur

Apa implikasi hukumnya?

Namun, “cerita yang dihasilkan oleh AI tidak sebaik acara itu sendiri dan menimbulkan masalah hukum dan etika,” kata laporan tersebut.

“Di Inggris, perlindungan hukum terhadap karakter mencakup nama serta latar belakang, tingkah laku, dan ekspresi,” menurut Xuyang Zhu, pengacara di firma Taylor Wessing.

“Hak cipta tersebut dapat dilanggar jika sebuah karakter direplikasi dalam konteks lain dengan cara yang cukup mereproduksi aspek-aspek ini,” kata Zhu seperti dikutip dalam laporan tersebut.

Laporan Glamsham lebih lanjut mencatat bahwa ada lebih banyak masalah merek dagang dibandingkan dengan masalah hak cipta saat menggunakan GPT khusus karakter.

Masalah hak cipta dan merek dagang bukan satu-satunya masalah yang perlu dipikirkan.

Aplikasi seperti Once Upon a Bot memungkinkan pengguna memunculkan ide, dan bot akan membuat cerita “dari awal” berdasarkan ide tersebut menggunakan AI. Oleh karena itu, seseorang dapat membaca cerita tersebut, mengedit, mengekspor, dan berbagi cerita tersebut dengan orang lain.

Aplikasi lain, seperti percikan cerita, juga memungkinkan orang tua atau wali membuat cerita yang dipersonalisasi untuk anak-anak.

Kesesuaian konten

Namun, ada kekhawatiran lain seputar bot yang membuat cerita untuk anak-anak, salah satunya adalah “memastikan apa yang mereka buat benar-benar aman untuk anak-anak.”

Menurut Forbes, meskipun AI generatif memiliki banyak kelebihan, AI generatif juga memiliki banyak kelemahan yang perlu dipertimbangkan. Hal ini mencakup pembuatan konten yang tidak pantas untuk anak-anak, kurangnya sentuhan kemanusiaan atau nilai pendidikan, informasi yang salah, serta pelanggaran privasi.

Pendidikan Keluarga juga mencatat bahwa AI menggunakan data yang sudah ada, yang mungkin berisi informasi yang tidak pantas dan “bias yang merugikan”.

Stempel Waktu:

Lebih dari Berita Meta