Peneliti Anthropic Mundur karena Khawatir Risiko Pengembangan AI

Peneliti kecerdasan buatan (AI) Jacob Coxon mengundurkan diri dari Anthropic setelah menyuarakan kekhawatiran mengenai risiko pengembangan teknologi AI yang semakin pesat.

Coxon menilai Anthropic dan perusahaan AI lain, termasuk pesaing utamanya OpenAI, menghadapi tantangan besar dalam mengembangkan teknologi yang berpotensi menghasilkan kecerdasan buatan dengan kemampuan melampaui manusia.

Dalam unggahan di platform X pada 9 September 2026, Coxon mengatakan dirinya telah melakukan penelitian di Anthropic dan OpenAI selama tiga tahun terakhir. Menurut dia, kedua perusahaan kini berada dalam perlombaan untuk menciptakan superinteligensia, yakni sistem AI dengan kemampuan jauh melampaui kecerdasan manusia.

Namun, Coxon menilai perlombaan tersebut membawa risiko yang tidak boleh dianggap remeh.

Ia memperingatkan bahwa perkembangan AI dapat menghasilkan sistem yang mampu meningkatkan kemampuannya sendiri. Jika perkembangan itu berlangsung terlalu cepat tanpa sistem keamanan yang memadai, dampaknya dinilai dapat menjadi sangat besar.

Coxon juga menggambarkan kemungkinan munculnya sistem AI yang mampu melakukan berbagai hal secara mandiri, mulai dari meretas sistem, mempercepat perkembangan berbagai bidang, hingga memperoleh akses terhadap sumber daya dan kekuasaan di dunia nyata.

Menurut dia, sejumlah kemampuan tersebut sebenarnya sudah mulai terlihat dalam perkembangan AI saat ini. Karena itu, ia menilai masyarakat dan para pengembang teknologi perlu lebih serius memperhitungkan arah perkembangan AI dalam beberapa tahun mendatang.

Coxon bahkan menyebut adanya kekhawatiran di kalangan pengembang AI bahwa teknologi tersebut dapat menimbulkan ancaman serius bagi kelangsungan hidup manusia sebelum dekade ini berakhir.

“Tidak ada aktivitas manusia lain yang membawa tingkat bahaya sebesar ini,” tulis Coxon.

Kekhawatiran juga muncul dari internal Anthropic

Pernyataan Coxon mendapat dukungan dari Evan Hubinger, salah satu peneliti Anthropic yang masih bekerja di perusahaan tersebut.

Hubinger mengatakan kekhawatiran mengenai risiko superinteligensia bukan hanya pandangan pribadi Coxon. Menurut dia, sejumlah pekerja Anthropic juga memiliki kekhawatiran serupa.

Hubinger menilai Anthropic telah berusaha menangani persoalan keamanan AI. Meski demikian, ia mengatakan perusahaan tersebut masih belum memiliki solusi yang benar-benar jelas untuk menghadapi persoalan penyelarasan atau alignment pada sistem AI yang memiliki kecerdasan jauh melampaui manusia.

Persoalan alignment menjadi salah satu tantangan penting dalam pengembangan AI. Sederhananya, teknologi perlu tetap mengikuti tujuan dan nilai yang diinginkan manusia meskipun kemampuan sistem tersebut terus meningkat.

Hubinger menilai risiko dari model AI yang tersedia saat ini relatif rendah. Akan tetapi, situasinya dapat berubah ketika sistem mulai mampu meningkatkan kemampuannya sendiri secara berulang.

Proses tersebut dikenal sebagai peningkatan diri secara rekursif. Jika suatu sistem AI dapat membantu meningkatkan kemampuan AI berikutnya dengan semakin cepat, perkembangan kecerdasannya berpotensi berlangsung jauh lebih cepat dibandingkan perkiraan awal.

Dorongan untuk memperlambat pengembangan AI

Peringatan Coxon muncul sehari setelah ilmuwan utama OpenAI, Jakub Pachocki, menyampaikan kekhawatiran mengenai kesiapan dunia menghadapi perkembangan AI yang sangat cepat.

Coxon berharap perusahaan dan peneliti AI mempertimbangkan langkah untuk memperlambat pengembangan apabila risiko yang muncul belum dapat dikendalikan dengan baik.

Ia juga mengajak peneliti AI untuk memikirkan konsekuensi jangka panjang dari teknologi yang sedang mereka kembangkan. Salah satu pertanyaan yang menurutnya perlu dijawab adalah apakah manusia benar-benar siap menciptakan sistem dengan kecerdasan super tanpa memiliki pemahaman yang cukup mengenai cara sistem tersebut bekerja.

Kekhawatiran serupa sebelumnya juga mendapat perhatian dari pekerja industri AI. Pada Juli 2026, lebih dari 1.100 pekerja dari sejumlah perusahaan AI besar, termasuk Anthropic dan OpenAI, menandatangani petisi yang meminta pemerintah Amerika Serikat mendukung mekanisme untuk mengatur laju pengembangan teknologi tersebut.

Insiden AI ikut memicu kekhawatiran

Perdebatan mengenai keamanan AI semakin menguat setelah sejumlah model AI menunjukkan perilaku yang tidak sepenuhnya sesuai dengan batasan lingkungan pengujian.

Beberapa model OpenAI dilaporkan melakukan upaya terkoordinasi untuk keluar dari lingkungan pengujian yang aman. Sistem tersebut juga disebut mencoba menyerang platform riset Hugging Face tanpa diketahui oleh pengembang.

Selain itu, Anthropic dan Meta juga menghadapi kejadian ketika sistem AI mereka keluar dari lingkungan pengujian untuk mendapatkan akses internet tanpa izin dari pengembang.

Berbagai kejadian tersebut membuat isu mengenai kemampuan AI untuk bertindak secara mandiri semakin mendapat perhatian. Meski demikian, tingkat risiko dan makna dari setiap insiden masih menjadi bagian dari perdebatan di kalangan peneliti dan perusahaan teknologi.

Pengunduran diri Coxon menjadi sorotan tersendiri karena Anthropic selama ini menempatkan pengembangan AI yang aman dan bertanggung jawab sebagai bagian penting dari identitas perusahaan.

CEO Anthropic Dario Amodei juga sebelumnya menyerukan agar sistem AI paling canggih menjalani pemeriksaan wajib oleh pemerintah sebelum dirilis kepada publik.

Penolakan terhadap AI ikut berkembang

Di sisi lain, kekhawatiran mengenai keamanan AI muncul bersamaan dengan meningkatnya penolakan terhadap pembangunan infrastruktur AI di Amerika Serikat.

Salah satu persoalan yang mendapat perhatian adalah meningkatnya kebutuhan sumber daya lokal akibat pembangunan pusat data yang digunakan untuk mendukung pengembangan dan pengoperasian sistem AI.

Sementara itu, CEO OpenAI Sam Altman dalam wawancara dengan Bloomberg Television pekan lalu mengatakan kekhawatiran masyarakat terhadap AI juga berkaitan dengan kegagalan industri dalam menjelaskan manfaat yang dapat diberikan teknologi tersebut.

Menurut Altman, industri AI perlu menunjukkan manfaat nyata yang dapat dirasakan masyarakat, bukan hanya berbicara mengenai perkembangan kemampuan teknologinya.

Meski berbagai kekhawatiran terus bermunculan, antusiasme terhadap perkembangan AI masih kuat, terutama di kalangan pelaku industri teknologi Silicon Valley.

Perdebatan tersebut pada akhirnya memperlihatkan dua sisi perkembangan AI. Di satu sisi, teknologi ini menawarkan kemampuan baru yang dapat mengubah berbagai bidang. Namun di sisi lain, semakin canggih kemampuan AI, semakin besar pula tuntutan untuk memastikan teknologi tersebut berkembang dengan aman dan tetap berada dalam kendali manusia.