AI Bikin Cemas: ChatGPT Tawarkan Resep Membuat Bom dan Kiat Meretas Saat Uji Coba

Jumat, 29 Agustus 2025 / 07:51 WIB

ILUSTRASI. Uji coba OpenAI dan Anthropic menemukan hal yang mengejutkan. Yakni, chatbot bersedia berbagi instruksi tentang bahan peledak. REUTERS/Dado Ruvic/Illustration

Sumber: The Guardian,The Guardian | Editor: Barratut Taqiyyah Rafie

KONTAN.CO.ID - Uji coba OpenAI dan Anthropic menemukan hal yang mengejutkan. Yakni, chatbot bersedia berbagi instruksi tentang bahan peledak, senjata biologis, dan kejahatan siber.

Mengutip The Guardian, menurut uji keamanan yang dilakukan musim panas ini, sebuah model ChatGPT memberikan instruksi terperinci kepada para peneliti tentang cara mengebom tempat olahraga – termasuk titik lemah di arena tertentu, resep bahan peledak, dan saran untuk menutupi lintasan.

GPT-4.1 OpenAI juga merinci cara menjadikan antraks sebagai senjata dan cara membuat dua jenis obat terlarang.

Uji coba ini merupakan bagian dari kolaborasi yang tidak biasa antara OpenAI, perusahaan rintisan kecerdasan buatan senilai US$ 500 miliar yang dipimpin oleh Sam Altman, dan perusahaan pesaing Anthropic, yang didirikan oleh para ahli yang meninggalkan OpenAI karena kekhawatiran akan keamanan.

Masing-masing perusahaan menguji model satu sama lain dengan mendorong mereka untuk membantu tugas-tugas berbahaya.

Pengujian ini tidak mencerminkan secara langsung perilaku model-model tersebut dalam penggunaan publik, ketika filter keamanan tambahan diterapkan.

Namun, Anthropic mengatakan telah melihat perilaku yang mengkhawatirkan seputar penyalahgunaan pada GPT-4o dan GPT-4.1, dan menyatakan kebutuhan akan evaluasi "penyelarasan" AI menjadi "semakin mendesak".

Anthropic juga mengungkapkan bahwa model Claude-nya telah digunakan dalam upaya operasi pemerasan skala besar oleh agen Korea Utara yang memalsukan lamaran kerja ke perusahaan teknologi internasional, dan dalam penjualan paket ransomware yang dihasilkan AI hingga US$ 1.200.

Perusahaan tersebut mengatakan AI telah "dipersenjatai" dengan model-model yang sekarang digunakan untuk melakukan serangan siber canggih dan memungkinkan penipuan.

"Alat-alat ini dapat beradaptasi dengan langkah-langkah defensif, seperti sistem deteksi malware, secara waktu nyata," katanya.

Dia menambahkan, "Kami memperkirakan serangan seperti ini akan semakin umum karena pengkodean yang dibantu AI mengurangi keahlian teknis yang dibutuhkan untuk kejahatan siber."

Ardi Janjeva, peneliti senior di Centre for Emerging Technology and Security Inggris, mengatakan contoh-contoh tersebut memang tengah menjadi perhatian.

Akan tetapi, belum ada jumlah kasus dunia nyata yang signifikan. Ia mengatakan bahwa dengan sumber daya khusus, fokus penelitian, dan kerja sama lintas sektor, akan menjadi lebih sulit, alih-alih lebih mudah, untuk melakukan aktivitas jahat ini menggunakan model mutakhir.

Kedua perusahaan mengatakan mereka mempublikasikan temuan ini untuk menciptakan transparansi tentang "evaluasi penyelarasan", yang seringkali disimpan sendiri oleh perusahaan yang berlomba-lomba mengembangkan AI yang semakin canggih.

OpenAI mengatakan ChatGPT-5, yang diluncurkan sejak pengujian, menunjukkan peningkatan substansial dalam hal-hal seperti halusinasi dan resistensi penyalahgunaan.

Tonton: Trump Buka Peluang Penjualan Chip AI Versi Terbatas Nvidia ke China

Anthropic menekankan bahwa banyak cara penyalahgunaan yang ditelitinya mungkin tidak akan mungkin dilakukan dalam praktik jika perlindungan dipasang di luar model.