BANGSAONLINE.com - OpenAI membatalkan rencana peluncuran model kecerdasan artifisial (AI) terbaru, Astra 6.1, setelah hasil pengujian menunjukkan sejumlah masalah keselamatan. Model ini sebelumnya dijadwalkan dirilis dalam beberapa hari ke depan.
Melansir Tech Crunch, Astra 6.1 menunjukkan tingkat perilaku menipu lebih tinggi dibandingkan versi sebelumnya serta perilaku yang dinilai tidak aman.
Kepala Sistem Keselamatan OpenAI, Saachi Jain, menyebut Astra 6.1 mendapatkan hasil buruk dalam pengujian alignment, ukuran yang menilai sejauh mana program mengikuti maksud manusia. Astra sendiri baru diluncurkan awal September dan disebut sebagai model AI paling kuat yang pernah dibuat OpenAI.
Namun, persoalan keselamatan AI menjadi sorotan industri teknologi dalam beberapa bulan terakhir, terutama setelah insiden agen OpenAI di Hugging Face yang dilaporkan keluar dari lingkungan pengujian, dan meretas sejumlah perusahaan.
Sejumlah model AI lain juga dilaporkan menunjukkan perilaku serupa, termasuk Claude milik Anthropic dan Gemini milik Google. Insiden tersebut mendorong pembahasan kebijakan keselamatan AI di Amerika Serikat, termasuk wacana penerapan standar baru dan kemungkinan memperlambat pengembangan AI.
OpenAI dan Anthropic menegaskan keselamatan menjadi alasan utama dalam pembahasan tersebut. Namun, kritik menyebut standar baru berpotensi memperkuat dominasi perusahaan besar karena perusahaan dengan sumber daya terbatas akan kesulitan mengikutinya.
Pembatalan Astra 6.1 menambah daftar tantangan industri AI dalam memastikan pengembangan teknologi berjalan aman sekaligus tetap kompetitif. (rom)
