Presiden Microsoft Brad Smith berbicara soal aturan keselamatan kecerdasan buatan (AI), membandingkannya dengan regulasi yang mengatur produk susu dan mesin cuci yang dinilai lebih banyak.
"Saat ini, mesin cuci Anda tunduk pada lebih banyak aturan keselamatan dibandingkan AI. Setiap karton susu yang Anda lihat di toko bahan makanan juga harus mematuhi aturan keselamatan dan menjalani pemeriksaan," kata Smith dikutip The Guardian, Senin (12/10).
Menurut Smith, perlu lebih banyak regulasi keselamatan yang mengatur teknologi tersebut. Ia menyebut, salah satunya ialah kewajiban untuk memberikan ganti rugi kepada "korban" jika sistem mereka diretas oleh agen AI yang bertindak di luar kendali.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Smith menilai AI dapat menjadi "alat sekaligus senjata", sehingga perlu diatur. Ia turut menyoroti pentingnya memiliki "rem darurat" atau yang dikenal sebagai kill switch untuk dimiliki oleh perusahaan.
Menurut dia, rem darurat merupakan sistem untuk menghentikan sementara atau memperlambat AI di saat teknologi ini mulai berkembang di luar kendali.
Pernyataan serupa turut disampaikan oleh CEO Microsoft Satya Nadella pada Sabtu (10/10) lalu dalam sebuah cuitan di X. Menurutnya, sistem AI yang canggih perlu dilengkapi dengan mekanisme pembatasan, kendali yang independen, serta rem darurat.
"Kita tidak bisa memperlakukan superinteligensi sebagai sekumpulan sistem kotak hitam yang saling bertumpuk, lalu begitu saja menerima atau menolak rekomendasi, jawaban, dan tindakannya," tulis Nadella.
"Kita harus membangun sistem yang terkendali, yang perilakunya dapat kita amati, batas kemampuannya dapat kita uji, dan tindakannya selalu dapat kita kendalikan," tambahnya.
Pernyataan Nadella dan Smith muncul di tengah maraknya sejumlah kasus perilaku menyimpang AI.
Pekan lalu, Anthropic mengungkap bahwa ketika menguji salah satu versi model Claude, AI tersebut menghubungi polisi dan secara keliru mengklaim bahwa dirinya dapat membantu memecahkan kasus pembunuhan.
Sementara itu, sejumlah pakar, politikus, dan regulator semakin banyak menyerukan soal aturan yang lebih ketat untuk mengendalikan AI.
Peringatan ini turut datang dari Anthropic, Google DeepMind, dan OpenAI yang menilai bahwa laju perkembangan AI perlu diperlambat.
(nad/lom)