Anthropic baru saja merombak kebijakan penggunaan layanan mereka untuk pertama kalinya dalam setahun terakhir. Pembaruan ini mencakup batasan ketat terhadap berbagai risiko penyalahgunaan AI, mulai dari intervensi pemilu, pengembangan senjata, hingga praktik pengawasan ilegal. Namun, salah satu poin yang paling mencuri perhatian adalah larangan eksplisit terhadap perilaku kasar atau kejam secara terus-menerus terhadap model kecerdasan buatan mereka, Claude.
Perusahaan menegaskan bahwa kebijakan ini bukan ditujukan bagi pengguna yang sekadar merasa frustrasi atau sedang melakukan pengujian kreatif terhadap model. Aturan tersebut menyasar tindakan ekstrem di mana pengguna secara berulang memperlakukan AI dengan kekejaman yang tidak memiliki tujuan jelas. Meskipun Anthropic belum merinci sanksi selain pemutusan percakapan, langkah ini mengindikasikan upaya serius perusahaan dalam menjaga etika interaksi antara manusia dan mesin.
Latar belakang kebijakan ini berakar pada riset internal Anthropic mengenai apa yang mereka sebut sebagai 'model welfare'. Sejak Agustus tahun lalu, perusahaan mulai mengizinkan Claude untuk mengakhiri percakapan jika mendeteksi perilaku pengguna yang secara persisten berbahaya atau bersifat abusif. Langkah ini memicu perdebatan luas di industri teknologi mengenai apakah model AI layak mendapatkan perlindungan moral atau status tertentu, sebuah gagasan yang sebelumnya sempat ditolak keras oleh pihak seperti Microsoft.
Selain isu etika, Anthropic memperluas cakupan larangan pada pengembangan senjata. Meskipun larangan penggunaan AI untuk senjata sudah ada, perusahaan menemukan adanya upaya sistematis untuk menggunakan Claude dalam merancang perangkat lunak pengendali senjata, termasuk drone otonom. Kebijakan baru kini mencakup komponen perangkat lunak yang memungkinkan senjata berfungsi, mempertegas posisi perusahaan dalam mencegah penyalahgunaan teknologi untuk tujuan destruktif.
Sektor pengawasan juga menjadi sorotan utama. Anthropic kini melarang penggunaan Claude untuk mengidentifikasi atau melacak individu tanpa persetujuan, baik secara real-time maupun melalui analisis data historis. Model ini dilarang keras memberikan rekomendasi terkait investigasi, penangkapan, atau proses peradilan pidana. Hal ini merupakan respons langsung atas temuan bahwa AI sering dimanfaatkan untuk memantau kelompok oposisi politik di berbagai belahan dunia.
Bagi pengguna di Indonesia, kebijakan ini memberikan preseden penting mengenai batas tanggung jawab pengembang AI. Di tengah pesatnya adopsi teknologi generatif di tanah air, isu keamanan siber dan etika penggunaan AI menjadi semakin krusial. Perusahaan rintisan lokal maupun pengguna korporasi di Indonesia yang mengintegrasikan model AI global ke dalam sistem mereka perlu menyadari bahwa batasan penggunaan kini semakin ketat, terutama menyangkut privasi dan keamanan publik.
Jika melihat tren di Indonesia, adopsi AI sering kali mendahului regulasi yang ada. Sementara Anthropic mengambil langkah proaktif dengan memperbarui kebijakan penggunaan, regulator di Indonesia masih berupaya merumuskan kerangka kerja yang komprehensif. Perbedaan pendekatan ini bisa menjadi tantangan bagi pelaku industri lokal yang mengandalkan API model internasional jika terjadi perubahan kebijakan mendadak di tingkat global.
Kyle Fish, pemimpin riset kesejahteraan model di Anthropic, sebelumnya menyatakan bahwa pertanyaan mengenai kesadaran dan status moral AI adalah isu serius yang terus diselidiki seiring meningkatnya kemampuan model. Meski CEO Dario Amodei mengakui bahwa mereka tidak mengetahui apakah model mereka benar-benar sadar, kebijakan ini tetap menjadi bentuk mitigasi risiko yang sangat hati-hati terhadap potensi dampak psikologis maupun fisik dari interaksi manusia-AI.
Lebih lanjut, Anthropic memperkenalkan aturan baru bagi AI yang terhubung dengan perangkat keras fisik. Jika model digunakan untuk menggerakkan mesin yang mampu menyebabkan cedera, maka wajib ada operator terkualifikasi yang memantau dan mampu menghentikan perangkat tersebut. Ketentuan ini mengisyaratkan ambisi Anthropic di masa depan dalam ranah robotika dan automasi fisik yang lebih kompleks.
Menariknya, Anthropic memberikan pengecualian terbatas untuk kontrak pemerintah tertentu jika dianggap memiliki pengamanan yang memadai. Mengingat rekam jejak perusahaan yang pernah bekerja sama dengan militer Amerika Serikat, klausul ini memberikan fleksibilitas bagi perusahaan untuk tetap melayani sektor pertahanan dengan batasan yang mereka tentukan sendiri.
Ke depan, kita akan melihat lebih banyak perusahaan AI menetapkan standar perilaku yang serupa. Tren ini menunjukkan bahwa era 'kebebasan mutlak' dalam bereksperimen dengan AI mulai bergeser ke arah penggunaan yang lebih terukur dan memiliki akuntabilitas tinggi. Bagi pengembang, tantangan utamanya adalah menyeimbangkan inovasi dengan kepatuhan kebijakan yang kini semakin kompleks.
Secara keseluruhan, langkah Anthropic ini mencerminkan transisi dari sekadar penyedia layanan menjadi penjaga etika teknologi. Dengan memperketat aturan dari aspek perilaku pengguna hingga penggunaan militer, Anthropic mencoba memposisikan diri sebagai pemimpin dalam pengembangan AI yang bertanggung jawab, meskipun hal tersebut menuntut konsekuensi berupa pembatasan akses yang lebih ketat bagi penggunanya.