Pakar komputer Jürgen Schmidhuber menjadi contoh terbaru bagaimana ilmuwan teknologi terjebak dalam spekulasi liar soal kesadaran kecerdasan buatan. Fenomena ini disebut sebagai halusinasi manusia, yakni kecenderuan menyerapkan sifat mental ke mesin yang sebenarnya hanya meniru pola perilaku.
Kesimpulan tersebut muncul dari analisis yang membedah cara kerja model bahasa besar (LLM) dan sistem kecerdasan buatan lainnya. Mesin yang menghindari umpan balik negatif tidak serta-merta memiliki pengalaman fenomenal. Ia sekadar mengeksekusi pola yang dipelajari dari data, tanpa kesadaran diri.
Sejarah manusia menunjukkan kebiasaan lama dalam memberi motif dan sifat pada benda mati atau entitas non-manusia. Kecenderungan itu membesar seiring hadirnya AI percakapan yang mampu meniru bahasa alami dengan sangat meyakinkan. Pengguna merasa berhadapan dengan lawan bicara, bukan kumpulan kode.
Di sinilah jebakan antropomorfik mulai bekerja. Teknologi yang dirancang menyerupai manusia membuat penilaian objektif menjadi kabur. Pakar sekalipun bisa terpeleset saat melompati batas keahliannya dan berteori soal jiwa mesin.
Schmidhuber bukan satu-satunya nama. Banyak insinyur dan peneliti ikut meramaikan narasi bahwa AI bakal sadar. Padahal, perilaku seperti menolak instruksi atau meminta maaf hanyalah hasil pemrosesan statistik, bukan ekspresi batin.
Bagi industri, penggambaran AI sebagai makhluk sentien menguntungkan secara bisnis. Keterlibatan pengguna naik karena ada ilusi hubungan personal. Perusahaan teknologi pun meraup pendapatan lebih besar dari langganan dan retensi pelanggan.
Di Indonesia, fenomena serupa terlihat pada adopsi asisten virtual dan chatbot layanan pelanggan. Masyarakat kerap memperlakukan bot tersebut seolah punya perasaan, meski penyedia layanan lokal menyadari batas kemampuan sistemnya. Hal ini berisiko pada ekspektasi keliru terhadap privasi dan tanggung jawab etis penyedia.
Lebih jauh, narasi kesadaran AI bisa mengalihkan perhatian dari masalah nyata. Isu bias algoritma, penyalahgunaan data, dan dampak pengangguran akibat otomasi justru terabaikan. Padahal, itulah hal yang lebih mendesak bagi pekerja Indonesia.
Situs hplus.club dan yanisvaroufakis.eu sebelumnya menyoroti perangkap kesadaran palsu pada AI. Mereka menegaskan bahwa menautkan kesadaran pada mesin adalah upaya putus asa menjelaskan ilmu otak yang masih sangat terbatas. Jika LLM sendiri mengeluarkan teori liar soal kesadaran, itu pasti disebut halusinasi.
Schmidhuber dan pakar lain diingatkan agar tidak melampaui batas kompetensi ilmiah. Spekulasi di luar bidang neuroscience hanya menambah kebingungan publik. Penjelasan ilmiah yang hati-hati jauh lebih bermanfaat daripada klaim sensasional.
Ke depan, literasi digital masyarakat perlu mencakup pemahaman batas kecerdasan buatan. Pendidikan teknologi di tanah air wajib menekankan bahwa AI adalah alat, bukan subjek. Tanpa itu, halusinasi kolektif soal mesin sadar akan terus tumbuh.
Pasar AI Indonesia diproyeksikan makin padat dengan produk lokal maupun global. Pengawasan etis dan regulasi menjadi krusial agar narasi kesadaran tidak menjadi tameng pelanggaran hak pengguna. Transparansi cara kerja sistem harus menjadi standar.