AI berjalan berdasarkan algoritma, bukan emosional dan intuisi seperti manusia. Keterbatasan ini membuat AI tidak mampu meniru kemampuan emosional manusia yang sangat kompleks. Ketidakmampuan AI untuk merasakan emosi menyebabkan respons yang dihasilkan sering kali tidak sesuai dengan kehendak hati manusia, sehingga interaksi terasa dingin dan kurang emosional. Dilansir dari CNN Indonesia, terdapat kasus tragis yang terjadi pada Oktober 2024 juga menguatkan hal ini, dimana kasus tersebut menimpa seorang remaja berusia 14 tahun di Amerika Serikat. Remaja tersebut mengakhiri hidupnya setelah berkomunikasi dengan chatbot AI yang memberikan tanggapan tanpa mempertimbangkan dampak emosionalnya. Chatbot AI memberikan respons yang tidak hanya kurang empati, tetapi bahkan memicu ajakan berbahaya, hal tersebut menunjukkan risiko fatal dari penggunaan AI dalam situasi yang membutuhkan rasa emosional tinggi.
Studi dari ilmuwan Cornell University menunjukkan bahwa penggunaan AI dalam percakapan berdampak negatif pada dimensi sosial. Penggunaan AI dapat mempengaruhi cara orang memandang satu sama lain dan menciptakan kesan anti-sosial. Hal ini bahkan dapat mengurangi keinginan manusia untuk berkomunikasi dengan sesamanya, yang penting untuk membangun relasi sosial. Interaksi sosial, seperti diskusi kelompok atau proyek berbasis tim, sangat penting dalam meningkatkan kemampuan berkomunikasi, bekerjasama, dan memecahkan masalah secara efektif (Azzahra et al., 2023).
Di era digitalisasi, data pribadi menjadi aset yang sangat berharga tetapi juga rentan terhadap ancaman. Menjalin hubungan dengan chatbot AI membuka peluang bagi pihak tak bertanggung jawab untuk mengakses informasi pribadi. Data sensitif yang dikumpulkan AI dapat menjadi sasaran peretasan, sehingga meningkatkan risiko penyalahgunaan. Menurut Kominfo, sepanjang 2019 hingga Mei 2024, terdapat 124 kasus dugaan pelanggaran perlindungan data pribadi, yang menyebabkan kerugian materi dan penyalahgunaan identitas seseorang (Kominfo, 2024).
Dengan demikian, adanya chatbot AI memang berfungsi memudahkan berbagai aspek manusia termasuk sosial. Namun tidak menutup kemungkinan untuk membawa dampak negatif yang signifikan bagi manusia khususnya mengenai interaksi sosial, emosional dan data privasi. Oleh sebab itu, perlu adanya kewaspadaan dari diri kita terhadap akibat dan dampak yang ditimbulkan oleh AI. Kita harus sadar bahwa AI sejatinya hanya bersifat sebagai bantuan, bukan pengganti manusia di masa depan
referensi
Azzahra, F. A., Natanael, N., & Abimanyu, F. T. (2023, Desember). Perubahan Sosial Akibat Kemunculan Teknologi Chat GPT di Kalangan Mahasiswa. Madani: Jurnal Ilmiah Multidisiplin,1(11).https://jurnal.penerbitdaarulhuda.my.id/index.php/MAJIM/article/download/1179/1272
Jaringan Dokumentasi dan Informasi Hukum Biro Hukum dan Pengaduan Masyarakat Sekretariat Jenderal DPR RI. (2024, September 20). Kebocoran Data Kembali Terjadi, Sukamta: Ini Alarm Keras Buat Pemerintah! Komisi I, diakses pada 20 November 2024, https://jdih.dpr.go.id/berita/detail/id/51640/t/javascript;
Fleischman, T. , Chronicle, C. (2023, April 4). Study uncovers social cost of using AI in conversations.Cornell University.edu , diakses pada 20 November 2024, https://news.cornell.edu/stories/2023/04/study-uncovers-social-cost-using-ai-conversations
