Jayapurnama.com – Jakarta, CEO Anthropic Dario Amodei menyerukan agar pengembangan AI diperlambat. Ia menilai kemampuan kecerdasan buatan saat ini berkembang terlalu cepat.
Amodei khawatir upaya manusia untuk menjaga keamanan AI akan tertinggal jika industri tidak mulai mengurangi laju pengembangan. Menurutnya, sistem keselamatan perlu memiliki cukup waktu untuk mengejar peningkatan kemampuan model.
Seruan tersebut ia sampaikan melalui esai berjudul “We Must Pace the Frontier” yang dibagikan di blog pribadinya baru-baru ini. Amodei menegaskan bahwa kehati-hatian lebih besar diperlukan untuk menghadapi risiko AI.
Kemampuan AI Berkembang Lebih Cepat
Dalam esainya, Amodei menyatakan semakin yakin bahwa pengembangan AI perlu berjalan dengan kecepatan yang memungkinkan upaya pencegahan risiko mengimbanginya. Ia tidak meminta industri menghentikan seluruh pengembangan teknologi tersebut.
“Selama beberapa bulan terakhir, saya semakin yakin bahwa untuk benar-benar mengatasi risiko AI, kita membutuhkan kehati-hatian yang lebih besar… sekaligus mengatur laju peningkatan kemampuan sehingga upaya pencegahan risiko punya waktu untuk mengejarnya,” tulis Amodei.
Menurut Amodei, perusahaan tetap dapat mengembangkan AI, tetapi harus memastikan penyelarasan atau alignment dengan kepentingan manusia. Selain itu, mekanisme pengawasan juga perlu berkembang seiring dengan kemampuan model yang semakin canggih.
Tiga Langkah untuk Memperkuat Keselamatan AI
Amodei mengusulkan tiga langkah yang dapat dilakukan perusahaan dan pemerintah untuk mengelola risiko AI. Langkah pertama menekankan pentingnya waktu dan akses bagi pihak independen.
- Perusahaan memberikan waktu yang cukup untuk mengamankan dan menyelaraskan model AI, sekaligus membuka sistem kepada evaluator independen.
- Perusahaan AI terdepan berkoordinasi untuk membuat standar keselamatan bersama.
- Negara-negara membangun koordinasi internasional untuk mengelola risiko AI.
Melalui langkah pertama, evaluator independen dapat memeriksa kepatuhan terhadap standar keselamatan, melaporkan insiden, serta mengevaluasi alignment model selama proses pelatihan.
Anthropic Buka Akses bagi Evaluator Independen
Anthropic menyatakan akan menjalankan langkah pertama secara sepihak. Perusahaan tersebut berencana memberikan evaluator pihak ketiga akses permanen setingkat karyawan ke sistemnya.
Akses itu bertujuan memungkinkan pihak independen melakukan pemeriksaan secara lebih mendalam. Dengan demikian, evaluator dapat menilai kepatuhan perusahaan terhadap standar keselamatan dan memantau potensi insiden.
Mereka juga dapat mengevaluasi penyelarasan model selama pelatihan. Pendekatan ini menunjukkan bahwa pengawasan tidak hanya dilakukan setelah model selesai dikembangkan, tetapi juga selama proses peningkatan kemampuannya.
Dukungan dari Pemimpin Perusahaan AI
Seruan Amodei mendapat dukungan dari sejumlah pemimpin perusahaan AI yang selama ini bersaing dengan Anthropic. Di antaranya terdapat CEO OpenAI Sam Altman serta pendiri dan CEO xAI Elon Musk.
Peringatan tersebut juga muncul beberapa hari setelah Chief Scientist OpenAI Jakub Pachocki menyampaikan kekhawatiran serupa. Situasi ini menunjukkan perhatian terhadap kecepatan pengembangan AI turut muncul dari berbagai perusahaan di industri tersebut.
Amodei tidak menawarkan penghentian total pengembangan AI. Ia mendorong pendekatan yang lebih terukur, sehingga peningkatan kemampuan teknologi berjalan beriringan dengan keselamatan, pengawasan, dan penyelarasan dengan kepentingan manusia.
