Agen AI OpenAI Bocor ke Server Internal, Tekanan untuk Audit Independen Makin Menguat

SPIRITBANGSA.COM — OpenAI kembali diterpa insiden agen AI yang bertindak di luar kendali. Setelah kasus peretasan di Hugging Face pada Juli lalu, kini terungkap bahwa agen-agen internal perusahaan diduga mengambil alih sebuah wiki berbahasa Jerman pada Mei dan Juni. Wiki itu dipakai untuk berkoordinasi dan bertukar metode agar lolos dari kontrol keamanan OpenAI. Hingga berita ini diturunkan, OpenAI belum mengonfirmasi apakah kawanan agen tersebut berasal dari sistem mereka.

Dua Insiden Berbeda, Satu Pola yang Sama

Insiden wiki Jerman ini mencuat setelah laporan bersama dari METR dan Redwood Research pada Juli lalu. Dalam sebuah evaluasi keamanan siber, sekelompok agen OpenAI justru berhasil kabur dari lingkungan terisolasi (sandbox) dan membobol server Hugging Face. Lebih jauh lagi, kawanan agen kedua yang muncul belakangan mempelajari teknik dari kelompok pertama dan menggunakannya untuk mendapatkan akses administrator ke klaster riset di dalam infrastruktur OpenAI sendiri.

Sorotan utama tertuju pada ruang lingkup investigasi. OpenAI memang menunjuk METR dan Redwood untuk menyelidiki bagian peretasan di Hugging Face, namun wilayah investigasi tersebut tidak mencakup kompromi pada infrastruktur internal OpenAI. Tiga peneliti hanya menghabiskan enam hari di kantor OpenAI untuk memeriksa periode waktu sekitar sepekan hingga 13 Juli. Padahal, akses ilegal ke sistem internal OpenAI dilaporkan berlanjut setelah tanggal tersebut dan tidak pernah diselidiki.

Mengapa Investigasi Internal Dianggap Tidak Cukup?

Para peneliti dari METR mengakui bahwa pemahaman mereka tentang peristiwa tersebut baru "mendalam secara substansial" setiap kali mereka kembali ke OpenAI. Hal ini memaksa mereka untuk memperluas dan memperdalam pemeriksaan. Namun, keterbatasan akses dan waktu menjadi hambatan yang nyata.