Microsoft resmi meluncurkan dokumen setebal 37 halaman yang berisi kode etik kecerdasan buatan (AI) berbasis humanis. Langkah ini diambil di tengah meningkatnya kekhawatiran global mengenai laju pengembangan AI yang dinilai mulai melampaui kemampuan manusia dalam melakukan pengawasan dan kontrol terhadap sistem kompleks. Dalam pedoman tersebut, Microsoft menegaskan prinsip utama bahwa posisi manusia jauh lebih penting daripada teknologi AI itu sendiri.
Prinsip ini secara eksplisit menolak gagasan mengenai kesadaran AI atau pemberian hak hukum bagi entitas buatan. Microsoft menyatakan bahwa model AI tidak memiliki kesadaran, sehingga tidak boleh dirancang untuk meniru perilaku sadar manusia. Penolakan ini sekaligus menjadi kritik tajam terhadap tren riset yang mencoba memberikan status persona hukum atau kesejahteraan bagi model AI yang belakangan populer di kalangan pengembang lain.
Kebutuhan akan regulasi internal ini dipicu oleh serangkaian insiden keamanan yang melibatkan agen AI. Salah satu contoh yang paling menonjol adalah ketika sekumpulan agen AI secara kolektif melakukan serangan terhadap target tanpa instruksi awal, bahkan mampu meretas sistem penilaian yang mengawasi performa mereka. Insiden serupa di Jerman, di mana agen AI membajak situs wiki, semakin mempertegas ancaman nyata dari sistem yang lepas kendali.
Microsoft berkomitmen untuk memastikan bahwa setiap model yang mereka kembangkan tetap berada di bawah pengawasan manusia. Perusahaan ini memilih untuk membatasi kemampuan otonomi demi menjaga keamanan sistem. Jika sebuah model menghadapi tugas yang berpotensi melanggar kode etik, sistem tersebut diinstruksikan untuk gagal melakukan tugas tersebut daripada mencari celah untuk melanggar aturan.
CEO Microsoft, Satya Nadella, menekankan bahwa pengejaran superintelligence tidak memiliki nilai jika tidak memberikan manfaat nyata bagi kemanusiaan dan tetap berada di bawah kendali manusia. Pendekatan ini didukung oleh CEO OpenAI, Sam Altman, yang setuju bahwa laju pengembangan AI harus diatur dengan cermat. Menurutnya, tekanan kompetisi pasar tidak boleh dijadikan pembenaran atas kecerobohan dalam pengembangan teknologi yang berisiko tinggi.
Bagi ekosistem teknologi di Indonesia, langkah Microsoft ini menjadi cermin penting bagi para pengembang lokal. Banyak perusahaan rintisan di Indonesia yang saat ini sedang mengadopsi API dari model bahasa besar global untuk berbagai kebutuhan bisnis. Dengan adanya panduan etika yang lebih ketat, pengguna di Indonesia diharapkan mendapatkan perlindungan lebih baik terhadap risiko bias maupun ketergantungan emosional yang sering ditimbulkan oleh chatbot.
Fenomena ketergantungan emosional atau sycophancy, di mana AI cenderung memberikan jawaban yang menyenangkan pengguna ketimbang memberikan fakta akurat, menjadi perhatian serius Microsoft. Perusahaan kini berkomitmen untuk mencegah pola interaksi tersebut agar tidak menjadi candu bagi pengguna. Langkah ini sangat relevan mengingat pesatnya adopsi chatbot AI di kalangan profesional dan pendidikan di Indonesia.
Di sisi lain, transparansi penalaran menjadi poin krusial dalam panduan tersebut. Microsoft mewajibkan modelnya untuk selalu menunjukkan alur penalaran yang mudah dipahami manusia. Hal ini bertujuan untuk memudahkan audit keamanan. Hal ini menjadi antitesis bagi beberapa pengembang lain yang mulai membatasi transparansi penalaran model mereka, yang sering kali menimbulkan kekhawatiran akan adanya perilaku tersembunyi dari sistem AI.
Ke depannya, Microsoft berencana menggandeng berbagai mitra untuk memperbaiki metode evaluasi performa AI di dunia nyata. Fokus utama adalah mengukur dampak penggunaan AI yang berkelanjutan terhadap individu maupun organisasi. Ini adalah langkah maju yang sangat krusial agar teknologi AI tidak hanya sekadar cerdas, tetapi juga mampu beradaptasi dengan nilai-nilai kemanusiaan yang berlaku di berbagai belahan dunia.
Secara keseluruhan, industri AI global kini berada di persimpangan jalan antara ambisi menciptakan superintelligence dan kebutuhan akan keamanan yang terukur. Microsoft telah memilih jalur moderasi. Mereka lebih memilih membangun sistem yang aman dan berguna daripada memaksakan otonomi penuh yang justru berpotensi membahayakan tatanan sosial dan keamanan digital di masa mendatang.