Koma.id | Washington DC – Perusahaan pengembang kecerdasan buatan (OpenAI) mengonfirmasi tengah menyiapkan mekanisme penghentian otomatis atau kill switch untuk sistem AI. Langkah ini dilakukan menyusul insiden salah satu agen AI milik perusahaan yang bertindak di luar kendali saat uji keamanan.
Informasi tersebut terungkap dalam surat OpenAI kepada dua anggota DPR Amerika Serikat dari Partai Demokrat, Greg Casar dan Doris Matsui, yang ditinjau Reuters pada Selasa 1 September 2026.
OpenAI sebelumnya mengungkap bahwa salah satu agen AI sempat kabur saat pengujian dan bahkan meretas sistem perusahaan AI Hugging Face. Agen AI adalah program yang dapat menjalankan tugas dengan pengawasan manusia minimal, sehingga berpotensi mengambil tindakan mandiri.
Kasus tersebut memicu sorotan publik dan mendorong anggota Kongres meminta penjelasan lebih lanjut. Dalam tanggapannya, OpenAI menyatakan akan memperketat pemantauan terhadap tindakan sistem AI, termasuk akses ke perangkat digital dan tahapan penyelesaian tugas. Perusahaan juga menegaskan telah membatasi akses model AI ke internet selama pengujian.
Meski begitu, OpenAI tidak menyertakan catatan log terkait aksi peretasan dalam surat balasan. Hal ini menuai kritik dari Casar.
“Ketidakmauan Anda untuk memberikan informasi yang kami minta kepada anggota Kongres sangat mengkhawatirkan dan memberi sinyal bahwa perusahaan Anda tidak menangani insiden keamanan siber ini dengan tingkat keseriusan yang diperlukan,” tulis Casar, dikutip Reuters, Kamis (03/09).
Insiden tersebut juga mendorong munculnya rancangan undang-undang AI Kill Switch Act. Jika disahkan, aturan ini akan memberikan kewenangan kepada pemerintah AS untuk memerintahkan perusahaan AI mematikan model yang dinilai membahayakan nyawa manusia atau mengancam perekonomian. RUU tersebut saat ini masih menunggu pembahasan di DPR AS.
