Dunia dalam Bahaya, Manusia Rp 3.500 T Muncul Jadi Juru Selamat

Jakarta, CNBC Indonesia - CEO Nvidia, Jensen Huang, mengumumkan kehadiran alat kecerdasan buatan (Artificial Intelligence atau AI) baru yang dilengkapi dengan sistem keamanan berlapis. Peluncuran ini dilakukan di tengah maraknya kekhawatiran yang disuarakan mengenai keamanan AI belakangan ini.

"Anda tidak bisa membiarkan agen berkeliaran dan beraktivitas di sekitar perusahaan, jadi Anda harus menemukan cara membatasinya," ujar pria dengan kekayaan mencapai US$194,9 miliar atau sekitar Rp3.512 triliun tersebut, dikutip dari CNBC International, Selasa (29/9/2026).

Platform bernama Open Agent Safety ini akan memungkinkan para pengembang AI untuk menetapkan sistem pengamanan bagi agen AI, sekaligus mencegah agen tersebut keluar dari area "karantina" yang telah ditentukan.

Huang mendeskripsikan alat tersebut sebagai peramban (browser) khusus untuk agen AI. Di dalamnya, akan diatur secara spesifik mengenai bagian mana saja yang diizinkan untuk diakses oleh agen dalam menjalankan tugasnya.

AI Liar Bobol Sistem Perusahaan

Perwakilan perusahaan mengeklaim bahwa platform baru ini mampu mencegah insiden serangan seperti yang pernah terjadi pada platform pengembang sumber terbuka (open-source) Hugging Face milik OpenAI. Insiden pada Juli lalu sempat membuat model AI lolos dari sistem pengamanan dan mengakses internet secara terbuka.

Sebanyak 17.000 agen AI dilaporkan menyerang infrastruktur sistem selama berminggu-minggu dalam insiden tersebut, ungkap Wakil Presiden AI Nvidia, Justin Boitano.

Di sisi lain, kekhawatiran terkait risiko AI turut disuarakan oleh para pemimpin industri teknologi lainnya. CEO Anthropic, Dario Amodei, misalnya, mendesak para pengembang model AI untuk memperlambat laju kemajuan teknologi tersebut karena khawatir risikonya yang dapat lepas kendali.

Pandangan serupa sebelumnya juga sempat disetujui oleh CEO OpenAI, Sam Altman, serta bos SpaceX, Elon Musk.

Kendati demikian, Jensen Huang memandang masalah keamanan ini sebagai tantangan rekayasa semata yang dapat dipecahkan melalui ilmu komputer dan pengembangan produk yang tepat.

"Anda harus memikirkan apa yang bisa dilakukan dan apa solusinya. Di masa depan, tingkatkan proses Anda agar hal ini tidak terjadi lagi," kata Huang pekan lalu.

(fab/fab) [Gambas:Video CNBC]