Dunia di Ambang Kehancuran, Pemasok Senjata AS Ungkap Fakta Ngeri
Dailynesia.com – Jakarta – Baru-baru ini, Anthropic sering menjadi sorotan media. Perusahaan yang menyuplai teknologi AI canggih kepada Angkatan Bersenjata AS mendadak menjadi pusat perhatian setelah memutuskan menentang kebijakan pemerintah AS. Akibatnya, Anthropic dimasukkan ke dalam daftar risiko rantai pasokan. Tidak hanya itu, mereka kembali memicu perdebatan setelah meluncurkan model terbaru bernama Mythos.
Model Mythos ini menimbulkan kekhawatiran di berbagai negara karena dianggap mampu mengidentifikasi kelemahan sistem secara cepat. Hal ini memungkinkan pelaku kejahatan siber mengeksploitasi celah tersebut. Dalam unggahan blog, Anthropic mengingatkan bahwa teknologi AI sedang berkembang dengan sangat pesat. Jika tidak dikendalikan, risiko yang ditimbulkan bisa melebihi kemampuan masyarakat untuk menghadapinya.
“Ketika sistem [AI] sudah mampu membangun penerusnya secara penuh, cara kita mengamankan mereka, mengawasi mereka, dan membentuk perilaku mereka jadi jauh lebih penting,” tulis Anthropic.
Dalam pernyataannya, pendiri Anthropic, Jack Clark, serta pimpinan Anthropic Institute, Marina Favaro, mengatakan bahwa penundaan pengembangan AI bisa membantu masyarakat lebih siap menghadapi dampak di masa depan. Mereka menekankan bahwa kemajuan diri rekursif AI bukanlah hal yang mustahil, meski saat ini masih tergantung pada prediksi institusi.
Kemajuan Teknologi
Menurut Anthropic, kemampuan AI untuk menyelesaikan tugas secara mandiri telah meningkat secara signifikan setiap empat bulan. Ini mengarah pada “peningkatan diri rekursif,” di mana teknologi dapat berkembang tanpa intervensi manusia. Kecepatan ini memperbesar risiko penggunaan AI yang tidak terkendali.
Di awal tahun ini, Mythos telah mengguncang industri perbankan dan software dengan kemampuan menemukan kerentanan dalam kode. Meski demikian, regulasi di AS, sebagai pusat pengembangan AI terkemuka, masih dianggap lambat. Perintah eksekutif dari pemerintahan Trump baru-baru ini meminta perusahaan untuk menyerahkan model terbaik mereka ke pemerintah sebagai uji keamanan siber.
Selain itu, Anthropic telah lama dikenal sebagai laboratorium AI yang menekankan keamanan. Awal tahun ini, mereka menolak izin penggunaan modelnya untuk pengawasan domestik dan senjata otonom. Tindakan ini memicu reaksi keras dari pemerintah AS, yang memasukkan perusahaan ke dalam daftar hitam keamanan nasional, berlaku akhir 2026.
Baru-baru ini, Anthropic mendapat pendanaan besar sebesar US$965 miliar dan secara rahasia mengajukan IPO di AS. Ini menempatkan mereka di depan OpenAI, baik dalam nilai perusahaan maupun kompetisi pengembangan teknologi. Namun, perusahaan ini juga mengakui bahwa mereka tidak lagi menahan AI berpotensi berbahaya jika para pesaing mencapai tingkat kemampuan yang setara.
