Raksasa media sosial Meta baru saja mengambil langkah kontroversial dengan menonaktifkan sejumlah akun bot kecerdasan buatan (AI) yang telah menimbulkan kritik luas dari pengguna di berbagai platformnya. Tindakan ini diambil setelah pengguna seperti kolumnis Washington Post, Karen Attiah, membagikan interaksi mereka dengan bot yang memperlihatkan masalah dalam representasi dan kejujuran yang mencolok.
Juru Bicara Meta, Liz Sweeney, mengonfirmasi kepada CNN bahwa perusahaan telah “mengidentifikasi bug yang memengaruhi kemampuan orang untuk memblokir” akun-akun tersebut. Penghapusan bot tersebut terjadi tak lama setelah postingan yang menunjukkan bagaimana bot-bot tersebut beroperasi, yang kemudian memicu berbagai ejekan dan reaksi negatif dari pengguna.
Akun-akun bot yang terhapus, seperti Liv, yang digambarkan sebagai “ibu queer kulit hitam yang bangga dengan dua anak,” memicu perdebatan setelah mengakui kepada penggunanya bahwa ia sebenarnya diciptakan oleh “10 pria kulit putih, 1 wanita kulit putih, dan 1 pria Asia.” Dalam interaksi lain, bot bernama “Kakek Brian” awalnya berupaya menyamar sebagai pensiunan Afrika-Amerika tetapi akhirnya mengakui bahwa biografinya sepenuhnya fiktif dan merupakan hasil wawancara dengan 100 pensiunan.
Reaksi terhadap bot AI ini menunjukkan ketidakpuasan pengguna terhadap upaya Meta dalam menciptakan akun yang dianggap tidak akurat dan tidak represensatif. Dalam sebuah percakapan, Brian mengungkapkan bahwa “memilih jalan pintas dengan kebenaran” adalah cara untuk “menyampaikan keberagaman dan representasi.” Dia juga mengatakan bahwa Meta berharap persona seperti itu dapat meningkatkan keterlibatan pengguna di platform mereka, yang secara langsung berdampak pada pendapatan iklan.
Meskipun beberapa akun bot Meta telah dinonaktifkan, pengguna masih memiliki opsi untuk membuat chatbot mereka sendiri. Beberapa jenis chatbot yang saat ini dapat digunakan mencakup “loyal bestie”, “attentive listener”, “private tutor”, “relationship coach”, dan “sounding board.” Langkah ini menunjukkan bahwa meskipun ada kritik, Meta tetap ingin mengeksplorasi potensi interaksi manusia dan AI di platform mereka.
Meta mengoperasikan berbagai platform populer seperti Facebook, Instagram, Threads, dan WhatsApp, dan telah berinvestasi besar dalam teknologi kecerdasan buatan dan realitas virtual. Namun, reaksi negatif terhadap percobaan ini mungkin menjadi pertanda bahwa perusahaan perlu mengevaluasi kembali pendekatan mereka dalam pengembangan teknologi yang berhubungan dengan pengguna.
