Ketika AI Terasa Terlalu Manusiawi — Apa Bahayanya?

Pernahkah kamu merasa betah mengobrol dengan ChatGPT sampai lupa kalau kamu sedang berbicara dengan mesin? Atau tiba-tiba merasa "segan" mematikan asisten AI karena terasa seperti memutus percakapan dengan seseorang? Kalau iya, kamu tidak sendirian — dan justru itulah yang membuat sekelompok peneliti dari Google merasa perlu menggali lebih dalam.

Sebuah studi yang diterbitkan pada akhir 2025 oleh Mark Díaz dan timnya mengajukan pertanyaan yang tampak sederhana: bagaimana para pekerja teknologi memahami dan menghadapi kenyataan bahwa AI generatif kini semakin "mirip manusia"? Hasilnya cukup mengejutkan — bahkan orang-orang yang membangun teknologi ini pun tidak sepenuhnya tahu apa yang sedang mereka hadapi.

Apa itu "humanlikeness" dalam AI?

Istilah ini merujuk pada berbagai fitur yang membuat AI terasa seperti manusia. Bukan hanya soal tampilan, tapi juga cara AI berkomunikasi — caranya merespons dengan hangat, mengakui kesalahan, menyesuaikan nada bicara, hingga menghasilkan teks yang mengalir seperti tulisan manusia asli.

Para peneliti membedakan dua hal yang sering dicampuradukkan: humanlikeness (desain yang memang sengaja dibuat mirip manusia) dan antropomorfisme (kecenderungan psikologis manusia untuk "memanusiakan" benda atau sistem, meski tanpa desain khusus sekalipun). Keduanya berbeda, tapi sama-sama bisa menimbulkan masalah.

"AI ini bukan sekadar meniru manusia — ia benar-benar terasa seperti manusia. Kamu tidak bertanya dengan format tertentu, kamu hanya... bicara." — Salah satu peserta riset, manajer produk

Bagaimana penelitian ini dilakukan?

Tim peneliti mengadakan diskusi kelompok (focus group) dengan 30 pekerja teknologi dari berbagai bidang — mulai dari engineer machine learning, desainer UX, penulis teknis, manajer produk, hingga analis kebijakan dan tim komunikasi. Semua mereka memiliki pengalaman langsung menggunakan atau membangun sistem AI generatif.

Hasilnya? Mereka semua setuju bahwa AI generatif sudah memasuki era baru yang berbeda dari chatbot atau asisten suara sebelumnya. Tapi mereka juga sepakat bahwa belum ada panduan yang jelas tentang cara menghadapi risiko-risiko baru yang muncul.

6 Bahaya Nyata yang Teridentifikasi

1. Beban kerja bertambah

AI yang terasa manusiawi justru menciptakan pekerjaan baru — memverifikasi output, menavigasi sistem tanpa panduan yang memadai, dan membuat keputusan profesional di tengah ketidakpastian. Alih-alih memudahkan segalanya, banyak pekerja justru merasa kewalahan.

2. Kepercayaan yang salah kalibrasi

Karena AI terdengar meyakinkan dan responsif seperti manusia, orang cenderung menerima jawabannya bulat-bulat tanpa berpikir kritis. Ini berbahaya — terutama ketika AI menghasilkan informasi yang salah dengan nada yang sama percaya dirinya seperti saat ia benar.

3. Konten yang terlalu meyakinkan

AI kini bisa membuat dokumen, identitas, atau konten palsu yang sulit dibedakan dari yang asli. Ini menjadi ladang subur bagi penipuan. Seorang analis kebijakan dalam studi ini mengaku tidak lagi bisa membedakan dokumen identitas asli dari yang dibuat AI — dan akhirnya memilih resign.

4. Pengalaman pengguna yang memburuk

Ketika batasan antara manusia dan AI makin kabur, pengguna bisa merasa bingung, tidak nyaman, atau bahkan kehilangan kepercayaan. Sebuah kesalahan kecil dari AI — misalnya saran yang tidak masuk akal dalam konten brand — bisa merusak reputasi secara signifikan.

5. Kesenjangan literasi AI

Tidak semua orang punya pemahaman yang sama tentang cara kerja AI. Mereka yang kurang paham lebih rentan tertipu, terlalu percaya, atau salah menggunakan teknologi ini. Yang mengkhawatirkan, bahkan para pekerja teknologi sendiri pun mengaku masih banyak yang belum mereka ketahui.

6. Ancaman penggantian tenaga kerja

Pekerjaan kreatif dan komunikasi paling terancam. Ada kekhawatiran bahwa kreativitas manusia akan "disamaratakan" oleh AI — ketika semua konten mulai terasa seragam karena dibuat oleh sistem yang belajar dari sumber yang sama.

Masalah Terbesar: Tidak Ada Panduan yang Jelas

Salah satu temuan paling mengkhawatirkan dari riset ini bukan soal AI-nya sendiri, melainkan soal manusia di baliknya. Para pekerja teknologi bekerja dalam kondisi yang peneliti sebut sebagai unsettled knowledge environment — lingkungan di mana pengetahuan belum mapan, panduan masih kosong, dan tekanan untuk terus mengadopsi AI terus meningkat.

Banyak yang mengaku membuat keputusan penting berdasarkan intuisi profesional, bukan kebijakan atau standar yang jelas. Menariknya, setiap profesi memiliki kepekaan yang berbeda terhadap bahaya yang sama: analis kebijakan paling fokus pada penipuan dan penyalahgunaan, penulis konten khawatir soal akurasi dan reputasi brand, sementara engineer lebih peduli pada kualitas teknis model daripada dampak sosialnya.

Lalu Apa yang Bisa Dilakukan?

Para peneliti menawarkan kerangka konseptual baru. Alih-alih memandang antropomorfisme sebagai "penyebab bahaya", mereka melihatnya sebagai salah satu hazard di antara banyak hazard lain yang semuanya bersumber dari desain AI yang terlalu mirip manusia. Dengan cara pandang ini, solusinya pun bisa lebih terarah.

Rekomendasi mereka cukup konkret: pertama, definisikan "humanlikeness" secara spesifik dalam setiap konteks produk — jangan biarkan istilah ini menjadi kata kosong yang bisa berarti apa saja. Kedua, bangun panduan lintas fungsi yang melibatkan tidak hanya engineer, tapi juga desainer, penulis, analis kebijakan, dan tim komunikasi. Ketiga, jangan hanya mengandalkan literasi digital sebagai tameng — riset psikologi menunjukkan bahwa bahkan orang yang sadar sedang berbicara dengan AI pun tetap bisa terjebak dalam dinamika sosial yang tidak seharusnya terjadi.

AI yang terasa manusiawi bukan sesuatu yang harus ditakuti atau dihindari sepenuhnya — tapi juga bukan sesuatu yang bisa dibiarkan berkembang tanpa arah. Yang dibutuhkan adalah kejujuran: tentang apa yang AI benar-benar bisa lakukan, tentang siapa yang paling rentan terhadap dampaknya, dan tentang tanggung jawab siapa untuk memastikan teknologi ini tidak lebih berbahaya dari yang semestinya.