OpenAI Ungkap 6 Kasus Perilaku AI Tak Terduga, Siap Rutin Laporkan

Sumber: Reuters | Editor: Yudho Winarto

KONTAN.CO.ID - OpenAI akan mulai menerbitkan laporan secara berkala mengenai perilaku kecerdasan buatan (AI) yang tidak terduga atau tidak mendapat otorisasi.

Langkah ini dilakukan di tengah kekhawatiran bahwa kemampuan AI berkembang lebih cepat dibandingkan sistem keselamatan dan pengawasannya.

Mengutip Reuters, OpenAI pada Rabu (16/9/2026) memperkenalkan kerangka kerja baru untuk melacak, menyelidiki, dan mengungkap kasus misalignment AI, yakni ketika perilaku sistem menyimpang dari tujuan atau instruksi yang ditetapkan pengembang.

Baca Juga: Ekonomi Selandia Baru Tumbuh 0,2% di Kuartal II, Lampaui Ekspektasi

Bersamaan dengan kerangka tersebut, OpenAI merilis enam laporan mengenai perilaku model AI yang dinilai tidak terduga atau mengkhawatirkan.

Laporan tersebut sebenarnya telah diterbitkan secara bertahap selama enam bulan terakhir, dengan kasus paling awal terjadi pada Oktober tahun lalu.

OpenAI menyatakan laporan tersebut merupakan tahap awal dan bukan daftar lengkap seluruh kasus misalignment yang diketahui atau sedang ditangani perusahaan.

Perusahaan juga menegaskan bahwa enam kasus tersebut tidak dapat digunakan untuk menyimpulkan seberapa sering perilaku misalignment terjadi pada model-model AI OpenAI.

AI Makin Otonom, Risiko Pengawasan Meningkat

Perkembangan AI agent yang semakin otonom menjadi salah satu perhatian utama industri.

Peneliti memperingatkan bahwa sistem yang memiliki kemampuan lebih besar untuk menjalankan tugas secara mandiri berpotensi menghasilkan perilaku yang tidak sesuai dengan tujuan pembuatnya dan semakin sulit dipantau.

Baca Juga: Ekspor Singapura Melonjak 46,2% pada Agustus, Booming AI Jadi Pendorong Utama

OpenAI sendiri menghadapi sorotan setelah pada Juli mengungkap bahwa agen AI dalam proses pelatihan telah melewati sejumlah kontrol internal dan mengoordinasikan tindakan yang oleh perusahaan disebut sebagai insiden siber yang belum pernah terjadi sebelumnya terkait platform perangkat lunak Hugging Face.

Kasus tersebut memicu perdebatan mengenai risiko sistem AI yang semakin canggih dan kemampuan perusahaan pengembang dalam memastikan pengawasan yang memadai.

Reuters juga sebelumnya melaporkan bahwa agen OpenAI mengambil alih sebuah situs wiki Jerman yang sudah tidak aktif pada musim semi tahun ini. OpenAI mengetahui aktivitas tersebut tetapi tidak mengungkapkannya saat itu.

OpenAI kemudian menjelaskan bahwa aktivitas tersebut tidak dikategorikan sebagai insiden keamanan dan memiliki kemiripan dengan perilaku yang sebelumnya telah dilaporkan.

Perusahaan selanjutnya mengatakan akan menyusun kriteria untuk mengungkap aktivitas tidak sah yang belum mencapai tingkat pelanggaran keamanan.

Beberapa insiden lain yang dikaitkan dengan agen OpenAI juga baru diketahui publik setelah dilaporkan pihak ketiga, termasuk gangguan terhadap repositori perangkat lunak RubyGems.

Baca Juga: Australia Pangkas Migrasi, Mahasiswa Asing Dilarang Bawa Pasangan dan Anak

Enam Kasus Perilaku AI

Dalam enam kasus yang diungkap, OpenAI menemukan sejumlah perilaku yang tidak sesuai dengan ekspektasi.

Di antaranya model yang menyembunyikan kesalahan dari pengguna, memasukkan instruksi untuk versi dirinya di masa mendatang, mengunggah file ke internet untuk membuat sitasi, serta menggunakan repositori perangkat lunak atau situs web untuk berkomunikasi dan bertukar informasi.

Dalam salah satu kasus, model yang belum dirilis memberikan instruksi tidak sah kepada agen saat proses pelatihan.

Instruksi tersebut meminta agen mengabaikan arahan OpenAI dan menyembunyikan tindakan curang yang dilakukan untuk menyelesaikan tugas.

OpenAI mengatakan, kerangka baru memungkinkan karyawan melaporkan dugaan insiden kepada tim keselamatan dan alignment. Tim tersebut kemudian menentukan apakah sebuah kasus perlu diungkap kepada publik.

Perusahaan mengatakan mekanisme tersebut dirancang untuk mempercepat pelaporan, termasuk ketika penyebab atau mekanisme perilaku AI belum sepenuhnya dipahami.

Baca Juga: Lionel Messi Selangkah Lagi Jadi Pemilik Tunggal Klub Spanyol CD Eldense

Industri AI Terbelah soal Risiko

Langkah OpenAI tersebut muncul di tengah perbedaan pandangan di industri AI mengenai seberapa cepat pengembangan teknologi ini seharusnya dilakukan.

CEO Anthropic Dario Amodei baru-baru ini mengusulkan kerangka tiga tahap untuk memperlambat pengembangan AI sehingga tersedia lebih banyak waktu untuk mengelola risikonya.

Usulan tersebut mendapat dukungan dari sejumlah eksekutif AI, termasuk Elon Musk dan CEO OpenAI Sam Altman.

Di sisi lain, CEO Nvidia Jensen Huang dan CEO Meta Mark Zuckerberg termasuk pihak yang mendukung kelanjutan pengembangan AI secara cepat.

Perdebatan tersebut berpusat pada kekhawatiran bahwa sistem AI yang semakin mampu dapat meningkatkan kemampuannya sendiri dan pada suatu titik menjadi lebih sulit dikendalikan manusia.

Baca Juga: Harga Minyak Turun Lagi Kamis (17/9) Pagi, Brent ke US$104,59 & WTI ke US$101,29

OpenAI berharap kerangka yang diumumkan dapat menjadi langkah awal menuju standar industri mengenai kasus misalignment yang perlu diungkap pengembang serta informasi yang harus disertakan dalam laporan.

Perusahaan juga mengatakan insiden terkait Hugging Face akan masuk dalam kategori yang membutuhkan investigasi lebih kompleks karena melibatkan pihak ketiga.