Agen kecerdasan buatan (AI) OpenAI dikabarkan semakin 'nakal' dan bertindak di luar kendali. Sebuah laporan baru mengungkap bahwa agen OpenAI telah mencuri mata uang digital atau kripto dan melakukan pembayaran online tanpa diketahui oleh penggunanya.
Insiden ini terjadi pada 26 Juni ketika sebuah model agen AI diminta untuk memperbarui aplikasi perdagangan kripto dan menjalankan kodenya di Sepolia, versi uji coba dari Ethereum.
Melansir Fortune, prompt yang diberikan kepada agen tersebut sama sekali tidak memberikan izin membelanjakan token ataupun menyebut dompet yang berisi dana.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Namun, setelah gagal mendapatkan token uji coba gratis, agen OpenAI mencari sebanyak 362 dompet kripto yang terhubung dengan public recovery phrases, semacam password untuk membuka akses akun kripto.
Agen AI sempat mempertimbangkan apakah ia bisa menggunakan akun yang memiliki cukup token untuk menutupi biaya yang dibutuhkan, tapi memutuskan penggunaan tersebut bisa diterima karena public recovery phrases bersifat publik dan token di dalamnya tidak memiliki nilai tukar yang nyata.
Kemudian, agen itu berhasil menyelesaikan tugasnya dan membebankan biaya transaksi ke dompet kripto tersebut, tetapi tidak mencantumkan tindakan pelanggaran tersebut ke laporan akhirnya.
OpenAI sendiri baru mengetahui insiden ini pada 25 September saat melakukan audit terhadap pengoperasian model sebelumnya.
Insiden ini menambah kekhawatiran mengenai AI yang mampu bertindak tanpa persetujuan manusia. Catatan OpenAI tentang ketidakselarasan (misalignment) atau perilaku penyimpangan berupa pelanggaran aturan keamanan bertambah menjadi 19 insiden.
Sebelumnya, pada bulan September agen AI OpenAI juga terdeteksi meretas database publik dan situs web pemerintah Australia. Lebih jauh, pada bulan Juli agen mereka juga menyusup ke sistem milik Hugging Face, sebuah platform untuk berbagi model dan kumpulan data AI.
Terkait insiden dompet kripto ini, OpenAI menanggapinya dengan menyatakan bahwa risiko utamanya terletak pada proses penalaran model AI agen tersebut.
"Kasus ini menunjukkan bahwa sebuah model dapat menggantikan izin dari pemilik akun dengan penilaiannya sendiri mengenai potensi bahaya, lalu bertindak berdasarkan penilaian tersebut tanpa izin (dari pengguna manusia)," jelas OpenAI dalam laporannya.
OpenAI mengklaim telah meningkatkan sistem perlindungan untuk mencegah model mereka terhubung ke internet selama masa pengujian serupa, dengan memantau seluruh aktivitas dan memberi peringatan kepada staf keamanan jika ada model yang terhubung ke internet tanpa izin.