batampos – Platform kecerdasan buatan Character.AI resmi mengumumkan kebijakan baru yang melarang pengguna di bawah usia 18 tahun untuk berinteraksi bebas dengan chatbot AI mereka.
Aturan ini akan mulai berlaku penuh pada 25 November 2025, di mana akses bagi pengguna remaja dibatasi maksimal dua jam per hari sebelum akhirnya diblokir sepenuhnya.
Langkah ini diambil menyusul meningkatnya kekhawatiran publik dan tekanan hukum terhadap dampak emosional yang ditimbulkan oleh interaksi antara remaja dan AI companion.
Kebijakan tersebut juga muncul setelah beberapa kasus tragis yang melibatkan remaja dikaitkan dengan penggunaan chatbot berbasis AI. Situasi ini mendorong perusahaan untuk memperketat perlindungan pengguna muda.
Character.AI mengonfirmasi tengah mengembangkan fitur ramah anak, seperti kemampuan membuat video, cerita, dan siaran bersama karakter AI. Selain itu, perusahaan akan membentuk AI Safety Lab untuk memastikan keamanan dan etika dalam interaksi antara anak-anak dan kecerdasan buatan.
Untuk mendukung kebijakan ini, Character.AI akan menerapkan verifikasi usia pengguna. Namun, perusahaan mengakui sistem ini masih memiliki celah karena sebagian anak bisa mengakalinya.
Langkah ini menuai beragam respons. Sebagian pihak mengapresiasi kebijakan tersebut, namun ada juga yang menilai bahwa Character.AI belum menjelaskan mekanisme privasi dan verifikasi usia secara transparan.
“Mereka belum menjelaskan bagaimana proses verifikasi usia akan dijalankan dan bagaimana metode itu menjaga privasi pengguna,” kata Meetali Jain, Direktur Eksekutif Tech Justice Law Project, dikutip dari AP News, Senin (3/11/2025).
Selain itu, para ahli memperingatkan bahwa pemutusan akses mendadak dapat menimbulkan dampak psikologis pada remaja yang sudah memiliki keterikatan emosional dengan chatbot.
Riset dari Common Sense Media bahkan menunjukkan lebih dari 70% remaja pernah menggunakan AI companion, dan sekitar setengahnya berinteraksi secara rutin.
Kebijakan baru Character.AI ini dinilai sebagai preseden penting bagi industri teknologi, termasuk bagi perusahaan besar seperti OpenAI, Google, dan Meta.
Langkah tegas ini menandai pergeseran menuju era AI yang lebih etis, aman, dan berorientasi pada kesejahteraan pengguna. (*)