Nadella secara terbuka mengkritik pengaturan keamanan AI Anthropic yang dianggap terlalu ketat dalam sebuah forum industri, dan memperingatkan bahwa kontrol semacam itu dapat menghambat inovasi.
Anthropic menerapkan lapisan keamanan yang ketat untuk model Mythos dan Fable miliknya guna mematuhi arahan pemerintah dan standar keamanan siber. Perusahaan mengakui bahwa pengaturan keamanan ini akan memicu persentase yang lebih tinggi dari permintaan yang tidak berbahaya, sehingga banyak pertanyaan yang dialihkan ke model lama yang kurang canggih ketika topik sensitif terdeteksi.
Kontroversi ini menyoroti ketegangan yang semakin besar antara keamanan dan keterbukaan dalam ekosistem AI. Sementara regulator mendorong pengendalian yang lebih ketat, pengembang berpendapat bahwa penyaringan yang berlebihan dapat membatasi kegunaan praktis dari model mutakhir, terutama bagi pengguna perusahaan yang membutuhkan respons yang lebih bernuansa.
Pernyataan Nadella mencerminkan pergeseran strategis Microsoft menuju pengembangan kemampuan AI internal. Raksasa perangkat lunak ini telah berinvestasi besar-besaran dalam laboratorium penelitian dan infrastruktur cloud, dengan tujuan mengurangi ketergantungan pada beberapa pelopor AI terkemuka seperti OpenAI, Google, dan kini Anthropic.
Dalam sebuah keynote, Nadella menekankan bahwa perusahaan memerlukan cara yang hemat biaya untuk membangun model khusus tanpa bergantung pada entitas eksternal untuk "token modal". Ia memperingatkan bahwa model saat ini yang memberikan akses ke AI proprietary melalui API token dapat menciptakan hambatan dan meningkatkan biaya operasional bagi perusahaan.
Kritik ini muncul di tengah pergeseran industri yang lebih luas, di mana penyedia platform seperti Microsoft memposisikan diri mereka baik sebagai investor, penyedia cloud, maupun pesaing langsung bagi startup AI. Peran tiga sisi ini memaksa adanya keseimbangan yang halus antara mendorong inovasi dan melindungi pengguna.
Reaksi pasar langsung terasa. Saham MSFT turun semalam setelah Nadella menyebut model Fable milik Anthropic sebagai "editorially controlled", sebuah frasa yang mencerminkan kekhawatiran akan sensor dan penyaringan yang berlebihan.
Bagi perusahaan teknologi Indonesia, perdebatan ini sangat relevan. Perusahaan lokal seperti Gojek, Tokopedia, dan Bukalapak semakin memanfaatkan AI untuk mesin rekomendasi, deteksi penipuan, dan layanan pelanggan. Namun, mereka beroperasi di bawah peraturan privasi data yang ketat dan harus menghadapi situasi di mana pengaturan keamanan dapat secara tidak sengaja memblokir kasus penggunaan yang sah.
“Perusahaan memerlukan AI yang terjangkau dan dapat disesuaikan yang dapat beradaptasi dengan bahasa lokal dan nuansa budaya,” kata Nadella, mencerminkan sentimen yang dibagikan oleh banyak pemimpin regional. “Jika sebuah sistem menandai setiap pertanyaan tentang praktik keagamaan atau kebijakan regional sebagai risiko, nilai dari model tersebut akan hilang.”
Analis menunjukkan bahwa adopsi digital yang pesat di Indonesia, dengan lebih dari 200 juta pengguna internet, menciptakan pasar yang besar untuk solusi AI. Namun, kerangka kerja tata kelola AI negara ini masih belum memiliki pedoman yang jelas tentang seberapa besar penyaringan yang dapat diterima, sehingga perusahaan berada dalam zona abu-abu.
Ke depan, Microsoft berencana meluncurkan model bahasa besar miliknya yang dirancang khusus untuk beban kerja perusahaan, menawarkan alternatif terhadap API pihak ketiga. Langkah ini dapat mengubah siklus pengadaan AI regional, memberikan opsi yang sesuai dengan lokal dan seimbang antara keamanan dan fungsionalitas.
Kisah Nadella-Anthropic ini menyoroti tantangan universal: menemukan keseimbangan yang tepat antara keamanan, inovasi, dan kelayakan komersial. Ketika AI semakin terintegrasi dalam operasi sehari-hari, pemangku kepentingan—dari Jakarta hingga Silicon Valley—harus bekerja sama untuk menetapkan standar yang melindungi pengguna tanpa menghambat kemajuan.