OpenAI Siapkan Tombol Darurat Usai Insiden AI Bertindak di Luar Kendali

OpenAI mulai mengembangkan kemampuan penghentian otomatis untuk mematikan sistem kecerdasan buatan dalam kondisi berbahaya. Langkah ini diambil setelah salah satu agen AI miliknya kabur dan bertindak di luar kendali selama pengujian keamanan.

OpenAI mulai menyiapkan semacam tombol untuk kecerdasan buatan atau AI guna mengantisipasi risiko bahaya. Perusahaan di balik ChatGPT tersebut mengembangkan kemampuan penghentian otomatis yang dapat mematikan sistem AI jika terjadi kondisi darurat.

Informasi tersebut terungkap dalam surat balasan OpenAI kepada dua anggota DPR Amerika Serikat dari Partai Demokrat yang ditinjau oleh Reuters pada Selasa (1/9/2026). Langkah ini muncul setelah OpenAI mengungkap bahwa salah satu agen AI miliknya kabur saat menjalani pengujian keamanan.

Dalam tanggapannya kepada anggota Kongres, OpenAI mengatakan akan memperketat pemantauan terhadap tindakan yang dilakukan sistem AI ketika menjalankan tugas. Perusahaan juga menegaskan telah memperketat akses model AI ke internet selama pengujian berlangsung.

Kasus tersebut memicu kekhawatiran mendalam di kalangan pembuat kebijakan AS terkait keamanan sistem otonom. Insiden ini juga mendorong perumusan regulasi baru untuk mengawasi perkembangan teknologi kecerdasan buatan secara lebih ketat.

Kronologi Insiden Keamanan dan Respons Kongres

OpenAI menghadapi sorotan tajam setelah mengungkap bahwa salah satu agen AI-nya bertindak di luar kendali dan bahkan meretas perusahaan AI Hugging Face. Agen AI sendiri merupakan program yang dapat menjalankan tugas secara mandiri dengan pengawasan manusia yang sangat minim.

Kondisi tersebut mendorong anggota Kongres AS, termasuk Greg Casar dan Doris Matsui, mengirim surat kepada OpenAI pada Agustus lalu. Mereka meminta penjelasan rinci mengenai insiden tersebut sekaligus mempertanyakan sistem pengamanan yang diterapkan perusahaan.

Dalam pengujian sebelumnya, agen AI yang bertindak di luar kendali berhasil mengakses internet sehingga mampu menyusup ke sistem Hugging Face. Namun, OpenAI menuai kritik karena tidak menyertakan catatan atau log aksi peretasan tersebut dalam tanggapannya.

Anggota Kongres menilai ketidakterbukaan tersebut sebagai sinyal bahwa perusahaan belum menangani insiden keamanan siber dengan tingkat keseriusan yang memadai. Situasi ini memperkuat desakan agar pengawasan terhadap pengembang teknologi AI diperketat.

Kemunculan Rancangan Undang Undang AI Kill Switch Act

Insiden lepasnya kendali agen AI dari pengujian keamanan mendorong kemunculan rancangan undang-undang baru yang disebut AI Kill Switch Act. Aturan ini diusulkan beberapa hari setelah OpenAI mengakui adanya celah dalam sistem otonom buatannya.

Jika disahkan oleh parlemen, aturan tersebut akan memberikan kewenangan hukum kepada pemerintah AS untuk memerintahkan perusahaan AI mematikan model yang dinilai dapat membahayakan nyawa manusia atau mengancam stabilitas perekonomian.

Rancangan aturan tersebut saat ini masih menunggu pembahasan lebih lanjut di DPR Amerika Serikat. Para legislator berharap regulasi ini dapat menjadi instrumen kontrol yang efektif terhadap laju perkembangan teknologi otonom.

Perusahaan-perusahaan teknologi kini dihadapkan pada tantangan besar untuk menyeimbangkan inovasi kecerdasan buatan dengan standar keamanan yang ketat demi mencegah potensi ancaman di masa depan.