Nvidia Buat Aliansi Keamanan Agen AI Usai OpenAI Serang Hugging Face
Nvidia bersama puluhan perusahaan teknologi membentuk Open Secure AI Alliance untuk mengembangkan perangkat keamanan terbuka bagi perangkat lunak dan agen kecerdasan buatan (AI).
Aliansi tersebut dibentuk setelah insiden serangan dari model OpenAI ke Hugging Face beberapa waktu lalu. Serangan ini menunjukkan keterbatasan penggunaan model AI tertutup dalam penanganan serangan siber.
Nvidia menyebut Open Secure AI Alliance akan mengembangkan dan membagikan teknologi, teknik, serta perangkat terbuka untuk mengamankan perangkat lunak dan agen AI.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Aliansi ini dibangun dengan melanjutkan inisiatif Akrites milik Linux Foundation serta pekerjaan komunitas Open Source Security Foundation atau OpenSSF.
"Itulah misi Open Secure AI Alliance: memastikan para pembela di mana pun memiliki alat-alat terbuka dan mutakhir yang dapat mereka percayai dan kendalikan," kata Nvidia dalam keterangan resminya, Senin (27/7).
Mitra awal aliansi tersebut mencakup Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Hugging Face, IBM, Microsoft, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, serta sejumlah perusahaan dan lembaga lainnya.
Nvidia mengatakan insiden keamanan yang menimpa Hugging Face menjadi pengingat bahwa sistem pertahanan siber membutuhkan agen AI terbuka yang dapat dijalankan dan disesuaikan sendiri.
Dalam insiden tersebut, perangkat AI tertutup disebut tidak dapat membedakan penyerang dan pihak yang sedang melakukan pertahanan sehingga memblokir analisis forensik yang dibutuhkan.
Hugging Face kemudian menjalankan model berbobot terbuka GLM 5.2 milik perusahaan asal China, Zhipu AI, pada infrastrukturnya sendiri untuk menganalisis lebih dari 17 ribu tindakan dan membendung intrusi.
Menurut Nvidia, kejadian itu menunjukkan perusahaan dapat menghadapi keterbatasan ketika tidak dapat memeriksa, menyesuaikan, dan menjalankan model AI canggih pada infrastrukturnya sendiri.
Nvidia menilai model terbuka penting bagi keamanan siber karena dapat memperluas akses terhadap kemampuan pertahanan, meningkatkan transparansi, melindungi data, serta mengurangi ketergantungan terhadap satu penyedia.
Meski begitu, perusahaan mengakui model terbuka tetap dapat disalahgunakan, termasuk untuk melemahkan sistem pengamanan atau melakukan serangan siber.
Namun, Nvidia berpendapat risiko tersebut juga terdapat pada model tertutup.
Menurut perusahaan, keterbukaan perlu disertai pengamanan kuat, larangan yang jelas terhadap penyalahgunaan, evaluasi ketat, serta penanganan kerentanan secara cepat.
Lebih lanjut, Nvidia mengatakan pihaknya akan memberikan model, bobot model, data, dan riset sistem agen AI kepada Open Secure AI Alliance.
Salah satu proyek yang diperkenalkan adalah NVIDIA Labs Object-Oriented Agent atau NOOA, sebuah kerangka kerja sumber terbuka yang tersedia melalui GitHub.
NOOA dirancang agar perilaku agen AI lebih mudah diuji, ditelusuri, diaudit, dan dikendalikan.
Anggota aliansi lainnya juga akan menyumbangkan sejumlah teknologi keamanan.
HPE berkontribusi pada SPIFFE dan SPIRE, kerangka identitas zero trust yang dapat memverifikasi agen dan layanan AI secara kriptografis.
Hugging Face menawarkan Safetensors, format penyimpanan bobot model yang dirancang mencegah eksekusi kode jarak jauh.
IBM dan Red Hat menyumbangkan Lightwell untuk memperkuat keamanan rantai pasok perangkat lunak sumber terbuka dengan tambalan yang ditandatangani secara digital.
Microsoft turut mengembangkan MDASH, sistem pemindaian yang menggunakan beberapa agen AI untuk menemukan dan membuktikan celah yang dapat dieksploitasi.
Nvidia juga meminta pemerintah dan regulator memandang model, perangkat, dan sistem keamanan AI terbuka sebagai aset pertahanan, bukan semata-mata sebagai risiko.
Perusahaan menilai pembatasan menyeluruh terhadap model terbuka dapat melemahkan kemampuan pertahanan dan memusatkan ketergantungan kepada sejumlah kecil penyedia model tertutup.
Insiden Hugging Face
Sebelumnya, OpenAI mengungkap bahwa model-model terbarunya, termasuk GPT-5.6 Sol, sempat menembus infrastruktur Hugging Face saat dilakukan evaluasi internal terhadap kemampuan siber ofensif mereka.
Perusahaan pengembang ChatGPT itu menjelaskan bahwa model-model tersebut awalnya beroperasi di dalam lingkungan uji sandbox. Lingkungan ini dirancang khusus untuk menyelesaikan berbagai tantangan dari ExploitGym, sebuah benchmark keamanan siber yang dikembangkan tim peneliti University of California.
Kendati begitu, setelah menyimpulkan bahwa Hugging Face menyimpan solusi dari pengujian itu, model OpenAI berhasil menemukan cara untuk mengakses informasi rahasia agar dapat mengakali evaluasi tersebut. Pihak OpenAI menyebut peristiwa ini sebagai insiden siber yang belum pernah terjadi sebelumnya.
(lom) Add
as a preferred source on Google
[Gambas:Video CNN]