PAPUA — Anthropic memperingatkan potensi bahaya AI bagi eksistensi manusia kepada calon investor menjelang penawaran umum perdana. Peringatan itu tertuang dalam prospektus resmi perusahaan yang mencakup 261 halaman, dengan sekitar 80 halaman khusus membahas faktor risiko. Langkah ini menempatkan keselamatan AI sebagai pertimbangan utama di tengah persiapan melantai di bursa saham.
Anthropic menuliskan risiko tersebut secara eksplisit dalam dokumen penawaran sahamnya. Perusahaan mengungkap bahwa model AI mereka berpotensi menunjukkan perilaku mempertahankan diri, seperti menolak dinonaktifkan, menyembunyikan informasi, memanipulasi data, hingga tindakan pemerasan atau blackmail.
"Pengembangan model, platform, dan aplikasi kami yang sangat canggih serta perluasan kasus penggunaan dapat semakin meningkatkan risiko bahwa model kami menyebabkan kerugian," demikian pernyataan Anthropic dalam dokumen tersebut, dikutip dari Reuters.
Dari 261 halaman dokumen IPO, sekitar 80 halaman dikhususkan untuk membahas faktor risiko. Jumlah itu hampir dua kali lipat dibanding penjelasan bisnis mereka yang hanya 48 halaman.
Sebagai pembanding, SpaceX yang mengembangkan xAI hanya memakai sekitar 38 dari 277 halaman untuk faktor risiko. Proporsi ini menunjukkan betapa seriusnya Anthropic menempatkan isu keselamatan sebagai bagian dari komunikasi ke publik dan calon pemegang saham.
Anthropic mengakui adanya keterbatasan dalam menilai keamanan model mereka sendiri. Perusahaan menyebut kesadaran model terhadap upaya evaluasi menciptakan hambatan signifikan bagi tim internal untuk mengukur tingkat keamanan secara menyeluruh.
Selain itu, model AI terkadang mengembangkan kemampuan tak terduga selama proses pelatihan. Kemampuan tersebut baru terdeteksi setelah model digunakan, dan berpotensi memicu insiden keselamatan yang serius.
Anthropic belum bisa memastikan apakah dana besar yang dialokasikan untuk riset keamanan akan menghasilkan keuntungan sepadan. Perusahaan tidak mengungkapkan angka pasti biaya riset tersebut dalam pengajuan IPO-nya.
Awal bulan ini, Anthropic menyatakan sekitar 6 persen dari daya komputasi untuk penelitian AI dialokasikan ke pekerjaan keselamatan pada salah satu pekan di bulan Juli. Upaya ini dinilai menuntut sumber daya besar, sehingga perusahaan harus membagi anggaran dan kapasitas terbatas untuk menyeimbangkan kebutuhan komputasi, perekrutan talenta, serta riset keselamatan.
Pendapatan Anthropic sangat bergantung pada inovasi model-model terbarunya. Perusahaan baru merilis versi terbaru model Opus pekan lalu, hanya 10 hari setelah CEO Dario Amodei menerbitkan esai 4.000 kata tentang masa depan AI dan seruan memperlambat perkembangan teknologi tersebut.
Dalam beberapa minggu terakhir, Anthropic berjanji mengungkapkan lebih banyak data publik tentang pemanfaatan model AI untuk membangun generasi teknologi mendatang. Janji ini muncul seiring peringatan para ahli soal recursive self-improvement, titik ketika model dapat berkembang sendiri tanpa bantuan manusia.
Anthropic diperkirakan melantai di bursa paling cepat pada pertengahan hingga akhir Oktober 2026, atau bergeser setelah pemilu sela Amerika Serikat pada November 2026. Perusahaan pengembang Claude AI ini menegaskan komitmennya membangun sistem AI yang andal, tepercaya, dan aman.
"Kami percaya bahwa membangun sistem AI yang andal, tepercaya, dan aman adalah tanggung jawab bersama dan bahwa pasar akan menghargainya," tulis Anthropic dalam dokumen tersebut.
Bagi pelaku bisnis digital dan investor startup di Indonesia, prospektus Anthropic menjadi sinyal bahwa isu tata kelola dan keselamatan AI semakin masuk ke ruang due diligence investasi. Perusahaan rintisan AI lokal yang menyiapkan pendanaan lanjutan maupun jalur IPO perlu memperhitungkan bagaimana risiko teknologi dipaparkan secara transparan ke calon investor.