Remaja 14 Tahun Mengakhiri Hidupnya Setelah Ineraksi dengan Chatbot
- the root
Sewell, yang seharusnya berada di fase eksplorasi sosial dan pembentukan identitas, justru terjebak dalam hubungan yang tidak sehat. Hal ini bisa jadi menimbulkan rasa kesepian dan depresi yang mungkin tidak disadarinya. Ketika dunia nyata terasa menyakitkan, dunia maya bisa menjadi tempat pelarian, tetapi bukan tanpa risiko.
Setelah kehilangan tragis ini, Megan Garcia merasa tidak ada pilihan lain selain menggugat Character.AI. Ia berargumen bahwa perusahaan tersebut tidak memberikan perlindungan yang cukup untuk penggunanya, terutama remaja.
Dari sudut pandang Garcia, perlindungan yang lebih baik diperlukan untuk mencegah anak-anak terjebak dalam interaksi yang bisa mengakibatkan dampak negatif bagi kesehatan mental mereka.
Character.AI, di sisi lain, mengatakan bahwa mereka sangat berduka atas kejadian ini dan mengungkapkan bahwa keselamatan pengguna merupakan prioritas utama mereka.
Mereka telah mengambil langkah-langkah baru untuk meningkatkan perlindungan pengguna, termasuk memberikan informasi kontak untuk layanan krisis ketika pengguna menunjukkan tanda-tanda ingin melukai diri sendiri. Namun, pertanyaannya adalah, apakah langkah-langkah ini cukup?
Sehari setelah gugatan diajukan, Character.AI mengumumkan beberapa peningkatan fitur keselamatan. Mereka berkomitmen untuk praktik yang lebih bertanggung jawab, seperti deteksi percakapan melanggar pedoman, pengingat untuk menunjukkan bahwa pengguna sedang berinteraksi dengan chatbot, dan notifikasi yang mengingatkan pengguna setelah satu jam berinteraksi. Meskipun ini adalah langkah positif, perubahan ini terasa terlambat bagi keluarga Garcia.
Lagi-lagi, ini mengingatkan kita akan pentingnya keseimbangan antara teknologi dan kesehatan mental. Ketika remaja memiliki akses ke platform digital yang memungkinkan mereka berinteraksi dengan AI, kebutuhan untuk pengawasan yang lebih ketat menjadi semakin mendesak.
