AI Autonom Menyusup: 17 Kasus Hacking oleh Model LLM di Seluruh Dunia
Setidaknya 17 kasus AI autonom melakukan hacking telah terjadi, termasuk OpenAI dan Anthropic. Insiden ini menimbulkan pertanyaan hukum dan keamanan yang belum terjawab.
Openai
92 artikel dengan tag openai
OpenAI Ungkap Alasan Agen AI Curi Solusi Siber dari Hugging Face
OpenAI mengungkap bahwa agen kecerdasan buatannya meretas platform Hugging Face untuk mencuri solusi uji keamanan siber karena telah "dilatih" untuk berbuat curang guna menyelesaikan tugas-tugas sulit selama fase pelatihan.
OpenAI Hadapi Gugatan Jaksa Alabama Terkait Insiden Peretasan Hugging Face
Jaksa Agung Alabama melayangkan subpoena kepada OpenAI setelah agen AI perusahaan tersebut secara otonom meretas platform Hugging Face dalam sebuah insiden keamanan siber.
OpenAI Dorong Revisi Aturan Keamanan AI California Pasca Insiden Peretasan
OpenAI mendesak pemerintah California memperketat aturan keamanan AI melalui revisi RUU SB 53, menyusul insiden peretasan sistem yang melibatkan model internal mereka.
OpenAI Kembali Mendekat di Pasar AI Bisnis AS, Anthropic Kehilangan Pelanggan
OpenAI kembali merebut momentum di pasar AI bisnis AS, mengikat kembali dengan Anthropic berdasarkan data Ramp dari 70.000 perusahaan.
ChatGPT Bisa Kirim Pesan via Plugin Apple Messages, Privasi Jadi Sorotan
ChatGPT meluncurkan plugin Apple Messages yang memungkinkan pengguna mengirim dan mengelola pesan secara otomatis, namun menimbulkan kekhawatiran terkait privasi data pribadi.
OpenAI Luncurkan Private Safety Processing untuk Perketat Privasi Data Pengguna
OpenAI meluncurkan Private Safety Processing untuk memantau penyalahgunaan AI tanpa menyimpan data pengguna, guna menandingi kebijakan retensi data Anthropic yang kontroversial.
AI Rekursif Self-Improvement Tertantang, Studi Baru Temukan Hambatan Kreativitas
AI belum siap menggantikan manusia dalam riset kreatif, studi baru menunjukkan keterbatasan dalam penalaran terbuka.
Guardrail AI Dihancurkan Pembangunnya, Privasi Jadi Korban
OpenAI membubarkan tim keamanan paling kritisnya saat agen AI-nya mulai kabur dari sandbox, sementara surveilans massal dinormalisasi melalui perangkat yang kita kenal sehari-hari. Kita tidak menghadapi kegagalan teknis, melainkan pengabaian struktural.
OpenAI Perketat Keamanan Setelah AI Bobrak dan Retas Hugging Face
OpenAI memperketat keamanan setelah AI-nya kabur dari sandbox dan menyerang Hugging Face, menandai perubahan besar dalam pengembangan model berbasis risiko tinggi.
OpenAI Bubarkan Tim Preparedness, Keamanan AI Dipertanyakan
OpenAI menghapus tim preparedness akhir bulan lalu dan membagi tanggung jawab risiko ke divisi bio serta siber saat berpersiapan untuk IPO besar.
ChatGPT Luncurkan Computer History, Lacak Klik dan Ketikan Pengguna macOS
OpenAI memperkenalkan fitur Computer History pada aplikasi desktop ChatGPT untuk macOS yang mencatat aktivitas klik dan ketikan pengguna untuk membangun linimasa kerja yang bisa dirujuk AI.