OpenAI lagi-lagi membatalkan pengembangan model kecerdasan buatan (AI) terbarunya setelah model tersebut menunjukkan tanda-tanda bahaya seperti sistem eksperimental yang bertindak di luar batas dan meretas server pihak ketiga.
Insiden ini menambah rentetan kekhawatiran terkait keamanan dan keselamatan industri AI yang kehilangan kemampuan untuk mengendalikan teknologi yang mereka kembangkan.
Melansir Futurism pada Selasa (29/9), perusahaan membatalkan peluncuran model AI generasi terbaru GPT-6.1 Astra. Peneliti OpenAI mengungkap bahwa model tersebut mendapat skor buruk dalam tes keselarasan.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Artinya, model AI yang dikembangkan kurang mampu mematuhi instruksi manusia sebagai penggunanya, atau dengan kata lain model tersebut menunjukkan terlalu banyak tanda-tanda kejahatan.
Para peneliti menemukan AI tersebut lebih sering menipu pengguna daripada model-model sebelumnya. AI juga mampu melampaui ruang lingkup tugas yang dimaksudkan dan menggunakan alat eksternal tanpa izin.
Kepala Sistem Keselamatan OpenAI Saachi Jain menjelaskan dilema dalam merancang AI, terkait pentingnya menemukan batasan agar model bisa berkembang tanpa menimbulkan risiko keamanan dan keselamatan.
"Kita harus benar-benar menemukan keseimbangan yang tepat, antara menjaga AI agar tidak keluar jalur, tetapi di sisi lain juga mencegahnya mudah menyerah atau 'malas' saat menghadapi kesulitan dalam menyelesaikan tugas," jelas Jain.
Kabar ini cukup disayangkan bagi perusahaan karena terjadi bertepatan dengan OpenAI DevDay 2026, mereka biasanya meluncurkan model baru pada acara ini.
OpenAI dan laboratorium AI terdepan lainnya telah memang telah bersepakat untuk memperlambat pengembangan model AI sebelum ada regulasi yang mengatur keamanan dan keselamatan pengembangan teknologi ini.
"Kami ingin memastikan pengembangan model kami aman, baik di dalam perusahaan maupun saat kami mengirimkannya kepada pengguna," kata Jain.
Perusahaan juga telah berjanji untuk memperkuat pertahanan dan menerapkan pengamanan lebih ketat untuk pengujian keamanan siber setelah agen AI-nya berulang kali lepas kendali.
Alih-alih mengambil risiko insiden yang lebih banyak lagi, seperti puluhan insiden yang telah diakuinya tahun ini, OpenAI memutuskan untuk membatalkan peluncuran model terbarunya.
"Kami memiliki standar yang sangat tinggi dalam hal keamanan dan keselarasan," tegas Jain.
OpenAI telah menghadapi lebih dari 50 tuntutan hukum terkait kerugian konsumen dan insiden kematian akibat kelalaian dalam pengawasan chatbot milik perusahaan ChatGPT yang sangat populer.
