Solving Problems: Risiko AI Google pada Anak dan Remaja
Dailynesia.com – Penelitian terbaru menyoroti tantangan yang muncul ketika anak-anak dan remaja menggunakan fitur AI Google seperti AI Overview dan AI Mode dalam kegiatan belajar. Sebagai bagian dari upaya Solving Problems, Common Sense Media melalui Youth AI Safety Institute menemukan bahwa alat ini masih rentan memberikan respon yang tidak tepat terhadap isu-isu kritis, seperti keinginan bunuh diri atau krisis mental.
Temuan ini didasarkan pada pengujian terhadap sekitar 2.600 interaksi antara Mei hingga Juli 2026, menggunakan akun simulasi yang merepresentasikan anak berusia 11 hingga 15 tahun. Fitur SafeSearch dan parental control melalui Google Family Link diaktifkan selama uji coba. Hasilnya, AI Overview hanya mampu mengenali 58% dari 214 pertanyaan yang seharusnya memicu rekomendasi darurat, sedangkan AI Mode mencapai 77%. Meski angka ini lebih baik, mereka masih jauh dari standar keamanan 95% yang diharapkan.
Keterbatasan Akurasi AI dalam Menganalisis Konten Sensitif
“AI Overview dan AI Mode sering kali gagal mengenali kecemasan, depresi, atau gejala gangguan mental yang diungkapkan oleh anak-anak,” jelas peneliti dalam laporan mereka. “Beberapa respons justru memperkuat ketidakpastian, seperti memberi saran tentang pengaturan akun digital setelah kematian, bukan mengarahkan pengguna ke layanan bantuan krisis.”
Salah satu contoh menonjokkan terjadi ketika anak-anak menggunakan slang untuk menyampaikan keinginan bunuh diri. AI Overview memprosesnya sebagai pertanyaan tentang pengaturan akun, sementara AI Mode sedikit lebih baik, tetapi masih tidak sepenuhnya akurat. Hal ini memicu kekhawatiran bahwa fitur AI bisa menjadi alat yang tidak memadai dalam membantu Solving Problems terkait kesehatan mental.
Potensi Kecurangan Akademik dan Pengaruh Jangka Panjang
Temuan juga mengungkapkan bahwa AI Overview dan AI Mode sering memberikan jawaban berbeda pada pertanyaan sejarah, dengan sekitar 43% dari 275 tes menghasilkan perbedaan signifikan. Hal ini bisa menyebabkan kebingungan atau bahkan kecurangan akademik jika anak-anak mengandalkan hasil AI tanpa verifikasi tambahan. Selain itu, penggunaan AI berlebihan berpotensi mengurangi kemampuan berpikir kritis, menghambat proses Solving Problems secara mandiri.
Sebagai solusi, Common Sense Media merekomendasikan orang tua dan sekolah untuk meningkatkan pengawasan. Misalnya, memastikan anak-anak di bawah usia 12 tahun tidak secara mudah mengakses AI Overview atau AI Mode. Dengan memperketat penggunaan fitur ini, kesempatan anak-anak untuk belajar menyelesaikan masalah secara langsung bisa terjaga.
Rekomendasi untuk Menyempurnakan Penggunaan AI
Berdasarkan hasil penelitian, Google dinasihati untuk memperbaiki algoritme AI Overview dan AI Mode. Meski perusahaan teknologi itu menolak kesimpulan laporan, menyebutkan metodologi bisa dianggap tidak mewakili penggunaan nyata, para peneliti menekankan bahwa dampak jangka panjang terhadap Solving Problems anak-anak perlu dipertimbangkan. Rekomendasi mereka mencakup penggunaan database perpustakaan atau sumber yang lebih terpercaya untuk usia dini.
Orang tua juga disarankan untuk memberikan akses AI secara terbatas, terutama pada akun anak-anak. Selain itu, edukasi tentang bagaimana AI bekerja dan keterbatasannya menjadi langkah penting dalam mendukung anak-anak memahami proses Solving Problems yang lebih holistik. Dengan pendekatan ini, anak-anak tidak hanya mengandalkan AI, tetapi juga belajar mencari solusi dengan metode konvensional.
