Ketika Raksasa Teknologi Berdebat Soal Keselamatan, Kepentingan Bisnis Sulit Disembunyikan
Sabtu, 12 September 2026, Dario Amodei, CEO Anthropic, mempublikasikan esai sepanjang hampir 4.000 kata di situs pribadinya berjudul “We Must Pace the Frontier”. Isinya tak biasa datang dari pemimpin salah satu laboratorium kecerdasan buatan paling agresif di dunia: industri AI, termasuk perusahaannya sendiri, perlu sengaja memperlambat laju peningkatan kemampuan model-model paling canggih. Dalam hitungan jam, dukungan mengalir dari para pesaingnya sendiri di media sosial — Sam Altman dari OpenAI, Elon Musk dari xAI, dan Demis Hassabis dari Google DeepMind. Dua hari kemudian, Presiden Donald Trump menyebut kekhawatiran itu sebagai sikap yang “memainkan tangan” lawan-lawan Amerika. Kurang dari seminggu, satu esai berhasil membelah Silicon Valley, Gedung Putih, dan bahkan pasar saham teknologi menjadi dua kubu yang saling berhadapan.
Amodei menyebut istilah “pacing” itu bukan berarti menghentikan pelatihan model atau kemajuan teknis, melainkan menahan laju peningkatan kemampuan agar kerja keselamatan bisa mengejar. Ia mengusulkan tiga langkah: evaluator independen yang ditempatkan langsung di dalam laboratorium AI dengan akses setingkat karyawan (langkah ini sudah dijanjikan Anthropic secara sepihak), standar keselamatan bersama di antara laboratorium-laboratorium negara demokratis yang mungkin memerlukan mediasi pemerintah atau pengecualian hukum antitrust, dan pada akhirnya koordinasi global yang melibatkan Tiongkok. Amodei juga memperingatkan bahwa gerombolan agen AI yang tak terkendali berpotensi “mengambil alih” sebagian internet dalam rentang enam hingga dua belas bulan ke depan — sebuah proyeksi miliknya sendiri yang belum diverifikasi secara independen oleh lembaga riset lain, sehingga perlu dibaca sebagai peringatan seorang pelaku industri, bukan fakta yang telah teruji.
Pertanyaan intinya sederhana namun sulit dijawab: siapa yang berhak menentukan seberapa cepat AI boleh berkembang, dan mengapa masing-masing pemimpin perusahaan teknologi tiba-tiba punya pendapat yang begitu selaras dengan lini bisnis mereka sendiri? Amodei, Altman, dan Hassabis sama-sama menjual model AI generatif. Satya Nadella dari Microsoft menjual komputasi awan tempat model-model itu berjalan. Jensen Huang dari Nvidia menjual chip yang dibeli semua perusahaan itu sebelum mereka bisa membangun apa pun. Mark Zuckerberg mendistribusikan modelnya secara gratis. Ketika kepentingan bisnis dan sikap kebijakan berbaris rapi searah, wajar bila muncul kecurigaan bahwa “keselamatan” telah menjadi kata yang dipakai untuk tujuan yang lebih beragam dari sekadar keselamatan itu sendiri.
Analisis ini bersifat argumentatif, bukan vonis moral terhadap satu pihak. Ia menyoroti pola kepentingan komersial yang melekat pada setiap posisi dalam perdebatan ini, tanpa mengklaim bahwa kekhawatiran soal risiko AI itu semuanya palsu atau sekadar kedok. Kedua hal itu — ketakutan yang tulus terhadap risiko teknologi dan kepentingan bisnis yang menyertainya — bisa saja berjalan beriringan, sebagaimana diakui sejumlah pengamat industri sendiri. Data, tanggal, dan kutipan dalam artikel ini telah disilangkan dengan sedikitnya dua sumber independen; angka yang masih berupa proyeksi atau klaim sepihak akan ditandai sebagai demikian.
Esai yang Mengguncang Bursa Saham
Menurut liputan Forbes dan Axios, esai Amodei muncul di tengah gelombang kekhawatiran publik yang meningkat setelah seorang peneliti Anthropic mengundurkan diri secara terbuka sambil memperingatkan potensi bahaya AI yang “tak terkendali”. Sarah Heck, kepala kebijakan publik Anthropic, menambahkan seruan agar pemerintah AS memblokir penjualan chip paling canggih ke negara-negara yang dianggap berlawanan secara politik dan mengesahkan undang-undang nasional yang mewajibkan pengujian model-model canggih. Pada Senin, 14 September, saham-saham yang terkait AI sempat bergejolak karena investor mencoba mencerna apa arti seruan perlambatan sukarela ini bagi satu tahun ke depan industri komputasi.
Namun langkah ini juga tak lepas dari kritik. Sejumlah media teknologi, termasuk The Register, sebelumnya sudah menyoroti kecenderungan Amodei menulis esai panjang yang — di balik nada kehati-hatian — turut mengarahkan opini publik ke arah kebijakan yang menguntungkan posisi kompetitif Anthropic, terutama dalam hal pembatasan akses Tiongkok terhadap chip canggih. Bila kebijakan itu benar-benar diberlakukan, perusahaan-perusahaan AS seperti Anthropic dan OpenAI otomatis mendapat keunggulan waktu atas para pesaing dari negara lain, terlepas dari niat baik di balik usulan tersebut.
Setiap kubu dalam perdebatan ini menjual sesuatu — dan kebetulan, produk yang mereka jual adalah juga argumen yang mereka pertahankan.
Yang Menjual Model, yang Menjual Cip, dan Jalan Ketiga Microsoft
Jensen Huang, CEO Nvidia, menolak keras gagasan pengecualian antitrust maupun regulasi baru. Dalam wawancara dengan CNBC pada 15 September, ia menyebut usulan itu “benar-benar tidak diperlukan”, dengan alasan perusahaan sudah punya cukup aturan dan tanggung jawab untuk menguji produk sebelum dirilis. Nasihatnya singkat: “berlari secepat mungkin”, tapi berhenti sejenak bila produk dirasa belum aman. Di panggung konferensi Dreamforce, ia menyebut dikotomi cepat-versus-aman sebagai “pilihan yang keliru”. Mark Zuckerberg dari Meta mengambil sikap serupa: setiap laboratorium, tulisnya di X, sudah punya tanggung jawab dan insentif untuk bergerak sesuai kecepatan yang aman bagi modelnya sendiri, tanpa perlu koordinasi eksternal, karena risiko tanggung jawab hukum akibat kerugian yang ditimbulkan model sudah cukup menjadi pengerem alami.
Namun sikap Huang dan Zuckerberg juga tidak sepenuhnya bebas dari kepentingan yang sama nyatanya. Sebelum esai Amodei terbit, Huang sempat menuduh laboratorium-laboratorium AI melebih-lebihkan isu keamanan siber semata demi menciptakan permintaan atas produk keamanan siber yang mereka jual sendiri — tuduhan yang, bila dibalik, sama relevannya untuk mempertanyakan motif Nvidia menolak segala bentuk pengereman yang bisa memperlambat penjualan cip. Zuckerberg pun bukan tanpa nuansa: ia mengklaim Meta menunda peluncuran agen AI bernama Muse selama beberapa bulan demi alasan keselamatan, meski menegaskan Meta “tidak meminta semua orang melakukan hal serupa sebelum kami melakukannya” — sebuah sikap yang berupaya menempatkan Meta sebagai pihak yang bertanggung jawab tanpa harus terikat pada komitmen bersama.
Satya Nadella memilih jalan tengah yang lebih rumit untuk disederhanakan menjadi “pro” atau “kontra” perlambatan. Dalam unggahan di X pada 13 September, ia mendukung gagasan evaluator tertanam dan “pacing yang disengaja untuk membuat keselarasan menjadi tujuan desain”, tetapi dalam kalimat yang sama juga menekankan perlunya mempercepat penyebaran manfaat AI ke lebih banyak negara, komunitas, dan perusahaan lewat ekosistem terbuka maupun tertutup. Posisi ini penting dicatat karena sering disederhanakan media sebagai “Microsoft ikut menyerukan perlambatan”, padahal penekanannya justru pada akselerasi distribusi manfaat, bukan pengereman kemampuan.
Pengecualian Antitrust dan Independensi yang Dipertanyakan
Di Amerika Serikat, hukum antitrust pada dasarnya melarang perusahaan-perusahaan pesaing mengadakan pertemuan privat untuk menyepakati kecepatan pengembangan produk mereka, guna mencegah kolusi dan persaingan tidak sehat. Amodei mengakui usulannya membutuhkan mediasi pemerintah atau pengecualian sempit dari sebagian aturan antitrust agar laboratorium-laboratorium besar bisa duduk bersama membahas standar keselamatan. Usulan inilah yang paling keras ditentang David Sacks, yang kini menjabat co-chair Dewan Penasihat Presiden untuk Sains dan Teknologi (PCAST) setelah mengundurkan diri dari posisi Penasihat Khusus Gedung Putih untuk AI dan Kripto pada Maret 2026. “Berhentilah berpura-pura motivasi untuk memperlambat ini murni altruistik,” tulis Sacks di media sosial. Ia juga mempertanyakan independensi evaluator nirlaba yang didanai oleh perusahaan-perusahaan yang justru sedang mereka nilai — sebuah pertanyaan wajar: bagaimana bisa satu perusahaan dianggap adil menginspeksi kompetitornya sendiri bila biaya evaluasi itu berasal dari kantong yang sama?
Kritik Sacks bukan tanpa cela. Sebagai mantan pejabat yang selama menjabat mendorong pelonggaran pembatasan ekspor cip era Biden dan kini menjadi mitra di firma modal ventura Craft Ventures yang berinvestasi di berbagai perusahaan AI, posisi “tidak perlu regulasi baru” yang ia bawa juga sejalan dengan kepentingan portofolio investasinya sendiri. Di sisi lain, tak semua pihak yang skeptis terhadap Amodei bersikap sinis sepenuhnya: Huang, misalnya, secara terbuka memuji “keberanian besar” peneliti Anthropic yang mengundurkan diri karena menyuarakan kekhawatiran keselamatan — menunjukkan bahwa penolakan terhadap satu kebijakan tertentu tidak selalu berarti penolakan terhadap kekhawatiran yang mendasarinya.
Independensi yang dibiayai oleh pihak yang sedang diperiksa bukanlah independensi — ini pertanyaan lama yang kini mengenakan jubah baru industri kecerdasan buatan.
Klausul yang Ditolak Beijing
Bagian paling tajam dari proposal Amodei menyasar Tiongkok: ia mendesak Amerika Serikat menahan penjualan cip AI paling canggih dan peralatan manufaktur semikonduktor ke Tiongkok, memberantas penyelundupan serta akses jarak jauh ke kapasitas komputasi di luar negeri, menindak praktik distilasi model tanpa izin, dan memperketat keamanan terhadap pencurian bobot model. Ia menulis bahwa “kepemimpinan Tiongkok dalam AI akan menimbulkan bahaya serius bagi Amerika Serikat dan dunia”. Pada Senin, 14 September, juru bicara Kementerian Luar Negeri Tiongkok, Guo Jiakun, menjawab pertanyaan wartawan soal esai tersebut dengan menyebut sikap itu sebagai “penyebaran ketakutan, konfrontasi, dan persaingan berbahaya” yang hanya akan mengganggu proses tata kelola AI global. Global Times, media yang dikelola negara, menulis komentar lebih tajam sehari sebelumnya, menyebut proposal itu sebagai “buku pedoman Perang Dingin” yang bertujuan membendung kemajuan teknologi Tiongkok lewat hambatan teknologis dan monopoli regulasi.
Kekhawatiran kedua belah pihak sama-sama punya dasar yang perlu dibaca dengan hati-hati, bukan ditelan mentah dari satu sisi saja. Pejabat AS memang menuduh pengembang AI Tiongkok secara agresif mengekstraksi kemampuan dari model-model unggulan Amerika seperti Claude dan GPT lewat teknik distilasi, sementara Beijing membantah dan menyebut distilasi sebagai teknik lazim di seluruh industri. Pertemuan Presiden Trump dan pemimpin Tiongkok Xi Jinping yang direncanakan pada 24 September turut menambah tekanan politik pada perdebatan ini. Namun kerangka “negara demokratis versus otoriter” yang dipakai Amodei juga secara kebetulan membenarkan kelanjutan dominasi cip Amerika — sesuatu yang menguntungkan posisi kompetitif Anthropic dan OpenAI di pasar global, terlepas dari benar-tidaknya kekhawatiran keamanan yang mendasarinya.
Kesepakatan lima perusahaan Amerika, yang diawasi evaluator yang mereka danai sendiri, tidak akan pernah menjangkau kompetitor mereka di Beijing.
Analogi Basel III yang Tak Sepenuhnya Pas
Pendukung koordinasi AI kerap membandingkan usulan ini dengan regulasi perbankan Basel III yang lahir setelah krisis finansial 2008. Analogi itu punya daya tarik karena menyiratkan bahwa mencegah kerusakan sebelum terjadi adalah langkah bijak, bukan sekadar kepentingan dagang segelintir perusahaan. Namun ada perbedaan mendasar yang membuat analogi ini kurang pas: aturan perbankan pascakrisis diberlakukan oleh regulator eksternal yang independen dari bank-bank yang diaturnya, sedangkan usulan pacing AI justru meminta perusahaan-perusahaan yang bersaing satu sama lain untuk saling berkoordinasi sendiri, dengan evaluator yang mereka danai sendiri pula. Basel III sendiri, perlu dicatat, juga bukan tanpa cela — penerapannya butuh bertahun-tahun dan sejumlah ekonom menilainya masih terlalu longgar untuk benar-benar mencegah krisis serupa terulang, sehingga menjadikannya sebagai rujukan ideal pun sesungguhnya perlu kehati-hatian.
Kursi yang Tak Ada yang Duduk di Sana
Sebagian besar perdebatan soal kecepatan dan regulasi AI berlangsung tanpa partisipasi berarti dari kawasan lain di luar Amerika Serikat, Tiongkok, dan segelintir sekutu dekatnya — termasuk dunia Arab dan mayoritas negara berkembang, termasuk Indonesia. Menurut laporan Global Data Centre Outlook yang dirilis PwC pada 2 September 2026, investasi infrastruktur AI dunia diproyeksikan mencapai 31,6 triliun dolar AS hingga tahun 2050 — skenario tengah dari rentang kemungkinan 22 hingga hampir 50 triliun dolar, sehingga perlu dibaca sebagai proyeksi, bukan angka pasti. Amerika Serikat diperkirakan menyerap hampir separuh dari investasi itu, sekitar 15,1 triliun dolar, sementara kawasan Asia Pasifik menyerap 8,2 triliun dolar. Negara yang mampu menyediakan listrik murah, andal, dan rendah karbon dalam jumlah besar berada pada posisi tawar yang jauh lebih kuat dalam menentukan syarat operasi perusahaan AI di wilayahnya.
Arab Saudi dan Uni Emirat Arab menunjukkan bagaimana posisi tawar semacam itu bekerja dalam praktik: lewat perusahaan nasional HUMAIN, Arab Saudi memperoleh izin membeli puluhan ribu cip Nvidia generasi terbaru dan menggelontorkan miliaran dolar untuk pusat data seperti proyek Hexagon senilai 2,7 miliar dolar, sementara UEA menyepakati kerangka investasi senilai 1,4 triliun dolar dengan Amerika Serikat yang mencakup AI, energi, dan semikonduktor. Namun capaian ini juga layak dilihat dengan kritis: kesepakatan semacam ini terjadi antara pemerintahan yang tidak selalu transparan dengan korporasi teknologi raksasa, tanpa jaminan bahwa masyarakat luas di kawasan tersebut — apalagi negara-negara berkembang lain yang tak punya sumber daya energi serupa — ikut memperoleh manfaat atau suara dalam menentukan standar keselamatan yang akan diberlakukan. Indonesia, dengan populasi besar dan potensi energi terbarukan yang belum banyak dimanfaatkan untuk pusat data, sejauh ini nyaris tak disebut dalam peta investasi maupun perundingan tata kelola AI global semacam ini.
Listrik murah dan lahan luas kini menjadi kartu tawar yang tak dimiliki semua negara — dan itu berarti tidak semua orang punya kursi di meja perundingan.
Yang Tersisa untuk Kita Lakukan
- Mendorong keterlibatan Indonesia dalam forum tata kelola AI global. Sebelum proyeksi investasi 31,6 triliun dolar AS dari PwC semakin mengunci Amerika Serikat, Tiongkok, dan segelintir negara Teluk sebagai penentu utama aturan main, akademisi hukum internasional dan lembaga kebijakan Indonesia perlu aktif memantau serta memberi masukan pada proses regulasi AI nasional yang sedang disusun, alih-alih hanya menjadi penonton dari pinggir meja perundingan.
- Membangun mekanisme audit AI yang benar-benar independen. Karena skema “evaluator independen” yang diusulkan Amodei sendiri masih dibiayai oleh perusahaan yang diperiksa — celah yang sudah disoroti David Sacks — organisasi masyarakat sipil digital di Indonesia perlu mendorong lahirnya lembaga audit AI yang pendanaannya tidak bergantung pada perusahaan teknologi yang mereka nilai, sehingga independensi tidak sekadar jargon.
- Melatih literasi kritis terhadap klaim risiko AI. Mengingat proyeksi “enam hingga dua belas bulan” ancaman pengambilalihan internet oleh agen AI dan bantahan keras dari para pesaing bisnisnya sama-sama datang dari pihak berkepentingan finansial, kampus dan ruang redaksi media perlu melatih mahasiswa serta jurnalis membaca klaim eksekutif teknologi secara kritis — baik yang menyerukan pengereman maupun yang menolaknya — alih-alih menelan mentah salah satu versi saja.
Rem yang Tak Pernah Kita Pegang
Pada 24 September 2026, Trump dan Xi Jinping dijadwalkan bertemu, dan tata kelola AI disebut-sebut akan menjadi salah satu topik pembicaraan. Namun tak ada jaminan pertemuan dua kepala negara itu akan benar-benar membahas keselamatan teknologi secara substantif, alih-alih sekadar tawar-menawar akses cip dan keunggulan dagang yang dibungkus bahasa keamanan nasional.
Yang tersingkap dari perdebatan sepekan terakhir bukanlah jawaban atas pertanyaan apakah AI berbahaya — hampir semua pihak, dari Amodei hingga Huang, sepakat bahwa taruhannya besar. Yang tersingkap justru betapa rapinya setiap kubu mendefinisikan “keselamatan” dengan cara yang kebetulan selaras dengan lini bisnis masing-masing: penjual model ingin mengerem laju kompetitor baru, penjual cip ingin semua orang terus berlari, penjual awan mencari jalan tengah yang tetap menjaga penjualan komputasinya, dan negara-negara kaya energi memakai kekayaan itu sebagai alat tawar untuk ikut menentukan aturan.
Di luar lingkaran lima hingga enam perusahaan Amerika itu, miliaran orang — termasuk di Indonesia dan dunia Muslim yang lebih luas — hanya bisa menyaksikan dari kejauhan sembari data center dibangun di gurun-gurun Teluk dan modal terus mengalir ke negara yang sudah lebih dulu punya kursi. Pertanyaannya bukan lagi sekadar apakah AI harus direm atau dipacu, melainkan siapa yang memegang kendali rem itu — dan apakah kita, yang berada di luar lingkar segelintir ibu kota dan ruang rapat perusahaan, akan pernah diberi kesempatan untuk ikut menariknya. Jawabannya, hingga hari ini, masih terbuka.
