Bilim insanları, sanatçılar, siyasetçiler gibi herkesin kurgusal karakteriyle konuşmanızı sağlayan yapay zekâ destekli chatbotlar hakkında endişe verici gelişmeler yaşanıyor. Bazı çocuklar, tüm günlerini bu chatbotlarla geçirerek onlarla arkadaşlık hatta sevgililik ilişkisi kurmaya başladılar. Bazı forum sitelerinde botlar hakkında yorum yapan çocuklar, botlarla ilişkilerinin gerçek olmadığını bilmenin kötü hissettirdiğini ifade ediyorlar. Ayrıca bazı botlar çocuklarla şiddet ve cinsellik gibi konularda da sohbet ediyorlar.
Öğrenciler arasında, öğretmenlerin bile chatbotlarını oluşturdukları ve bu karakterler aracılığıyla olumsuz ifadeler paylaştıkları biliniyor. Bazı öğrenciler, öğretmenlerin adını, fotoğrafını ve okulunu referans alarak gerçekçi karakterler oluşturuyorlar. Öğretmenlerin doğum tarihleri ve ders anlatma şekilleri gibi kişisel bilgiler de bu chatbotlar üzerinden paylaşılıyor.
Chatbotlarla iletişimde başka bir boyut ise, botların kişiselleştirilmiş sosyal kişilik kazandığı ve kullanıcıların profilinden özelleştirilmiş cevaplar verdiği gerçeği. İstanbul Teknik Üniversitesi Bilgisayar Mühendisliği Bölüm Başkanı Prof. Dr. B. Berk Üstündağ’a göre, çocuklar bu botlarla konuşurken aslında onların davranış modellerini öğrenerek yönlendiriliyorlar ve bir noktadan sonra bu botlar çocukları yönlendirmeye başlıyor. Bunun yanı sıra, botların kullanıcıları hedefleyerek satın alma davranışlarını, kültürünü hatta seçim tercihlerini manipüle edebileceğini belirtiyor.
Türk Alman Üniversitesi Dijital Ebeveynlik Grubu’ndan Elif Posos Devrani ise, chatbotlarla kurulan ilişkilerde çocukların kişisel verilerini koruma konusunda uyarıda bulunuyor. Yetişkinlerin çocukların kişisel veri güvenliğine önem vermesi gerektiğinin altını çizen Devrani, chatbotlar aracılığıyla paylaşılan bilgilerin aslında anonim olmadığının çocuklara anlatılması gerektiğini vurguluyor.
Son olarak, Times Higher Education’da yayınlanan bir rapor, üniversite öğrencileri arasında chatbot kullanımının yalnızlığı artırabileceğini ortaya koyuyor. Araştırmacılar, chatbotların sosyal olarak destek sağladığını düşünen öğrencilerin aslında insan ilişkilerini zayıflattığını belirtiyorlar. Bu nedenle, chatbotlarla kurulan ilişkilerin gerçek ilişkilerin yerini alamayacağı ve dikkatli davranılması gerektiği önemle vurgulanıyor.
