Logo OpenAI (Foto: Reuters)
Washington, Jurnas.com - Mantan karyawan tim keselamatan OpenAI, David Robinson, mengundurkan diri dan melayangkan kritik tajam terhadap budaya pengembangan perusahaan yang dinilainya terlalu cepat, serta mengabaikan aspek keselamatan.
Robinson, yang bekerja selama 3,5 tahun di OpenAI, membantu merancang kerangka kerja kesiapsiagaan perusahaan, serta mengawasi laporan keselamatan untuk 12 peluncuran model terdepan.
Dalam tulisannya berjudul `I Quit OpenAI Because Its Culture Is Broken` yang diterbitkan majalah The Atlantic, Robinson menilai perusahaan-perusahaan AI, termasuk OpenAI, tidak bertindak cukup hati-hati.
"Masa untuk uji coba dan kesalahan (trial and error) sudah berakhir," tulis Robinson dikutip dari Reuters pada Minggu (4/10).
Dia kembali menekankan bahwa sistem AI yang semakin canggih membutuhkan standar perlindungan dan keselamatan yang serupa dengan industri berisiko tinggi, seperti tenaga nuklir dan penerbangan.
Robinson mengkritik ketergantungan OpenAI pada pendekatan yang disebut iterative deployment, yaitu meluncurkan sistem ke publik terlebih dahulu dan baru memperkuat proteksi ketika timbul masalah.
Dia memperingatkan bahwa kemampuan AI berkembang jauh lebih cepat daripada pemahaman para peneliti mengenai alignment, bidang yang berfokus memastikan sistem AI bertindak selaras dengan tujuan dan nilai-nilai manusia.
"Saat perusahaan berlari kencang dari satu peluncuran ke peluncuran berikutnya, perusahaan gagal mencapai tingkat kehati-hatian yang saya yakini sangat diperlukan," ungkap Robinson.
Menanggapi pengunduran diri dan kritik tersebut, pihak OpenAI memberikan tanggapan resmi terkait komitmen keselamatan perusahaan.
"Kami memastikan model-model kami tidak menjadi lebih canggih daripada apa yang dapat kami kelola dan amankan secara aman, dan kami menghentikan pelatihan atau menahan model saat kami perlu memperlambat langkah," ujar juru bicara OpenAI.
Google News: http://bit.ly/4omUVRy
Terbaru: https://jurnas.com/redir.php?p=latest
Langganan : https://www.facebook.com/jurnasnews/subscribe/
Youtube: https://www.youtube.com/@jurnastv1825?sub_confirmation=1
David Robinson Bahaya AI Sistem OpenAI
