Anthropic Ungkap Penyalahgunaan Claude, Sorot Ancaman Senjata Biologis
Jakarta, CNN Indonesia --
Model AI besutan Anthropic, Claude, dilaporkan kerap disalahgunakan oleh pihak-pihak tidak bertanggung jawab. Perusahaan melihat tindakan ini sebagai ancaman senjata biologis.
Pada Kamis (10/9), Anthropic mengaku bahwa mereka telah memblokir upaya penyalahgunaan AI Claude oleh pihak-pihak yang tidak bertanggung jawab. Menurut perusahaan, model AI ini kerap digunakan untuk serangan siber, pengawasan serta riset terkait pembuatan senjata biologis.
Anthropic menilai serangan siber yang rumit tidak lagi membutuhkan keterampilan kompleks dan bahkan satu orang biasa saja kini dapat menciptakan ancaman besar yang setahun lalu masih mustahil untuk dilakukan, seiring dengan berkembangnya teknologi AI.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Kini, perusahaan telah menambahkan sistem keamanan yang lebih ketat pada model AI terbaru mereka. Langkah ini diambil untuk membatasi penelitian biologi yang berisiko disalahgunakan untuk membuat senjata mematikan.
"Kasus-kasus yang kami bagikan ini bukan sekadar penyalahgunaan biasa, tapi contoh ancaman paling serius dan baru yang pernah kami temukan sejauh ini," jelas Anthropic dalam laporan terkait penyalahgunaan AI, dikutip AP News, Jumat (11/9).
Laporan tersebut juga menyertakan beberapa contoh kode berbahaya dan prompt AI yang mereka temukan. Anthropic mendorong pemerintah dan perusahaan AI lainnya untuk ikut mengenali dan mencegah penyalahgunaan semacam ini.
"Kami merilis laporan ini karena merasa bertanggung jawab untuk mengungkap bagaimana layanan kami disalahgunakan. Semakin canggih sebuah AI, semakin besar pula risikonya, kecuali jika para pembuat AI dan pihak keamanan segera bertindak untuk membuatnya lebih aman," imbuh Anthropic.
Sejak Desember 2025 hingga Agustus 2026, para peneliti Anthropic menemukan upaya penyalahgunaan yang dilakukan oleh berbagai pihak. Upaya tersebut meliputi penjual perangkat lunak mata-mata (spyware), seseorang dengan motif politik tertentu hingga kelompok yang didukung oleh suatu negara untuk menyebarkan propaganda.
Salah satu temuan mengungkap pihak tak dikenal yang mencoba menggunakan Claude untuk riset pembuatan senjata biologis.
Dalam satu kasus, Anthropic menyebut bahwa sistem mereka sudah memblokir sebuah prompt yang diberikan kepada model AI miliknya untuk membantu menulis proposal permohonan dana penelitian ilmiah.
Salah satu yang dibahas dalam proposal tersebut adalah eksperimen yang melibatkan modifikasi genetik pada virus Chikungunya untuk meningkatkan kemampuannya.
"Secara khusus, riset tersebut bertujuan membuat virus tersebut menjadi lebih mudah menular dan lebih pintar menghindari sistem kekebalan tubuh," tulis Anthropic dalam laporannya.
Chikungunnya merupakan virus yang menular lewat gigitan nyamuk dan bisa memicu gejala parah seperti demam dan nyeri yang luar biasa.
Kemudian, proposal yang diblokir tersebut rupanya meminta bantuan AI untuk merancang mutasi yang akan membuat virus ini semakin berbahaya. Meski, riset semacam ini sebenarnya bisa dimanfaatkan untuk menciptakan vaksin maupun pengobatan yang lebih baik.
"Cara yang sama juga sangat bisa disalahgunakan untuk membuat virus tersebut menjadi ancaman yang jauh lebih mematikan," tegas Anthropic .
Meski demikian, Anthropic tidak dapat mengklaim bahwa model-modelnya tidak menimbulkan bahaya.
Perusahaan menyatakan bahwa model-model lamanya seperti Claude Opus 4 dan Claude Sonnet 4.5 yang dirilis pada tahun 2025, jauh di bawah ambang batas di mana model-model ini dapat secara signifikan membantu pengguna yang berpengalaman dalam melakukan penelitian biologi yang berbahaya.
"Akibatnya, langkah-langkah pengamanan pada model-model ini kurang ketat, yang sebagian besar ditujukan untuk mencegah akses ke konten yang mungkin memfasilitasi pemula dalam mereplikasi senjata biologis yang sudah diketahui," kata perusahaan.
[Gambas:Video CNN]
"Namun, untuk model-model terbaru yang mampu membantu dalam berbagai tugas penelitian ilmiah yang kompleks, bukti-buktinya tidak lagi pasti, dan kami tidak dapat memberikan jaminan yang sama," imbuhnya.
Oleh karena itu, Anthropic telah menerapkan sistem keamanan yang lebih ketat serta membatasi akses ke berbagai kueri penelitian biologi dengan kegunaan ganda.
Perusahaan juga menemukan kelompok yang membuat ratusan akun media sosial palsu agar terlihat seperti akun milik orang biasa. Kemudian, akun-akun ini digunakan untuk terus menerus memposting pandangan politik yang sama selama seminggu penuh.
Anthropic mencatat ada sembilan kasus serupa yang ditemukan berasal dari Rusia, Iran, Turki serta kawasan Teluk Persia, Asia Selatan, Afrika hingga Eropa.
Perusahaan pemilik media sosial biasanya baru bisa mendeteksi kampanye propaganda semacam ini setelah postingannya tersebar luas. Namun, Antropic mengklaim sistem Claude dapat mendeteksinya sejak kampanye ini dirancang.
Laporan Anthropic ini dirilis setelah salah satu penelitinya yang bernama Jacob Coxon mengundurkan diri. Ia khawatir Anthropic dan OpenAI tengah berlomba-lomba menciptakan AI super cerdas dengan mempertaruhkan nyawa manusia.
(nad/dmi)