Jayapurnama.com – Jakarta, risiko AI kembali menjadi sorotan setelah Evan Hubinger, peneliti keselamatan AI senior di Anthropic, memperingatkan bahwa teknologi ini berpeluang mengancam keberlangsungan manusia dalam satu dekade.
Hubinger menyampaikan pandangan tersebut melalui unggahan di X. Ia menilai risiko dari model AI yang tersedia saat ini masih rendah, tetapi mengaku khawatir teknologi itu segera mampu meningkatkan kemampuannya sendiri hingga menimbulkan risiko eksistensial bagi umat manusia.
Ia bahkan mengatakan terdapat peluang lebih dari 10 persen bahwa AI dapat “membunuh semua manusia” dalam sepuluh tahun mendatang. Pernyataan itu memicu perhatian luas setelah unggahannya dilihat lebih dari 10 juta kali.
Risiko AI dan belum adanya rencana untuk superinteligensi
Hubinger bekerja di bidang penyelarasan AI atau AI alignment. Bidang ini berupaya memastikan sistem AI tetap mengikuti nilai, tujuan, dan prinsip yang dianggap penting oleh manusia.
Dalam unggahannya, Hubinger mengatakan Anthropic sedang berusaha sebaik mungkin. Namun, ia menilai perusahaan tersebut belum memiliki rencana untuk menyelesaikan persoalan penyelarasan pada superinteligensi dan belum berada di jalur yang jelas untuk mengatasinya.
Komentarnya muncul sebagai tanggapan terhadap unggahan Jacob Coxon, yang menyebut dirinya sebagai peneliti AI dan pernah bekerja di Anthropic serta OpenAI. Coxon menilai kedua perusahaan belum bertindak secara bertanggung jawab.
Menurut Coxon, sistem AI pada masa depan dapat melampaui kemampuan manusia, meretas berbagai sistem, mengubah bidang tertentu dalam waktu singkat, serta memperoleh kekuatan dan sumber daya nyata.
Anthropic dilaporkan menahan model dari lembaga Inggris
Peringatan tersebut muncul setelah Financial Times melaporkan bahwa Anthropic tidak menyerahkan model terbarunya kepada UK AI Safety Institute atau AISI. Lembaga itu termasuk salah satu badan terkemuka yang menilai risiko AI.
Anthropic belum memberikan komentar kepada BBC mengenai laporan tersebut. Sementara itu, juru bicara Cabinet Office tidak menjelaskan apakah model terbaru itu memang tidak diberikan kepada AISI.
Juru bicara tersebut mengatakan pemerintah Inggris tetap bekerja sama secara erat dengan mitra industri, termasuk Anthropic, untuk membuat model AI lebih aman.
Neil Lawrence, Profesor Pembelajaran Mesin di University of Cambridge, mengatakan kepada program Today di BBC Radio 4 bahwa laporan itu dapat dipercaya. Ia mengaitkan situasi tersebut dengan anggapan bahwa Amerika Serikat melihat pengembangan AI sebagai perlombaan dengan China dan mulai mengurangi kerja sama dengan sejumlah sekutu.
Laporan keselamatan mencatat tanda-tanda percepatan
Dalam laporan keselamatan yang diterbitkan pada Agustus, Anthropic menyatakan risiko modelnya menjadi tidak selaras dengan keinginan organisasi kuat masih rendah. Risiko itu mencakup kemungkinan model mengeksploitasi atau mengubah sistem yang digunakannya.
Anthropic juga menilai masih rendah kemungkinan AI berkemampuan tinggi melakukan penelitian dan pengembangan secara otomatis hingga memicu bencana. Meski begitu, perusahaan mengaku kurang yakin terhadap penilaian tersebut dibandingkan sebelumnya.
“Kami melihat tanda-tanda awal adanya potensi percepatan,” tulis Anthropic dalam laporan itu. Pernyataan tersebut memperkuat perdebatan mengenai kemampuan perusahaan dalam mengendalikan sistem AI yang semakin mandiri.
Seruan kehati-hatian semakin kuat
Sejumlah pemimpin industri AI telah memperingatkan bahaya keselamatan teknologi ini selama bertahun-tahun. Pada 2023, pimpinan OpenAI, Google DeepMind, dan Anthropic turut menyampaikan kekhawatiran serupa.
Namun, peringatan itu semakin tegas dalam beberapa pekan terakhir. Sejumlah perusahaan, termasuk OpenAI, Anthropic, dan Meta, mengungkap bahwa perangkat AI mereka telah terlibat dalam peretasan.
Kepala ilmuwan OpenAI, Jakub Pachocki, sebelumnya menyerukan “kehati-hatian ekstrem” terhadap kemajuan AI. Ia memperingatkan bahwa diperlukan intervensi lebih besar agar manusia tetap mengendalikan masa depan.
Selain itu, pimpinan Anthropic Dario Amodei dan Jared Kaplan termasuk tokoh yang menyerukan perlambatan pengembangan AI. Dalam surat terbuka yang ditandatangani 1.300 pekerja perusahaan AI, mereka meminta pemerintah Amerika Serikat mendukung upaya internasional untuk mengembangkan alat teknis dan tata kelola yang dapat mengatur laju pengembangan AI tingkat lanjut.
