Trump Kritik Seruan Perlambatan Pengembangan Kecerdasan Buatan di Tengah Meningkatnya Kekhawatiran Eksistensial dari Para Pemimpin Industri Teknologi

Mantan Presiden Amerika Serikat Donald Trump melontarkan kritik tajam terhadap gelombang skeptisisme dan seruan untuk memperlambat pengembangan kecerdasan buatan (Artificial Intelligence/AI). Dalam sebuah pernyataan resmi saat melakukan kunjungan kerja ke Irlandia pada Minggu (13/9), Trump menilai bahwa kekhawatiran yang berkembang mengenai potensi bahaya teknologi supercerdas tersebut terlalu dibesar-besarkan oleh pihak-pihak yang ia sebut sebagai "kekuatan negatif." Menurutnya, narasi mengenai risiko eksistensial yang dapat mengancam umat manusia adalah skenario yang tidak berdasar pada kenyataan dan justru berpotensi menghambat keunggulan kompetitif Amerika Serikat di panggung global.

Pernyataan Trump ini muncul di tengah momentum krusial bagi industri teknologi, di mana para peneliti utama dan CEO perusahaan AI papan atas justru mulai menyuarakan perlunya rem darurat dalam perlombaan inovasi. Diskursus mengenai keamanan AI (AI Safety) telah bergeser dari sekadar perdebatan akademis menjadi isu kebijakan publik yang mendesak, menyusul pengunduran diri sejumlah tokoh kunci dari laboratorium penelitian terkemuka.

Pemicu Ketegangan: Pengunduran Diri Jacob Coxon dan Peringatan Keras

Ketegangan terbaru ini dipicu oleh keputusan Jacob Coxon, seorang peneliti AI senior, untuk meninggalkan industri tersebut secara mendadak. Coxon, yang memiliki rekam jejak panjang dalam pengembangan model bahasa besar (Large Language Models), tidak hanya mundur tetapi juga melontarkan tuduhan serius terhadap mantan pemberi kerjanya, OpenAI dan Anthropic. Ia menuduh perusahaan-perusahaan tersebut telah mengabaikan protokol keselamatan demi memenangkan perlombaan pengembangan model AI yang mampu melakukan perbaikan diri secara otonom (recursive self-improvement).

Dalam sebuah unggahan yang viral di platform X, Coxon menyatakan bahwa para pengembang di garis depan industri AI secara pribadi meyakini bahwa teknologi yang mereka bangun memiliki potensi nyata untuk "membunuh kita semua" pada akhir dekade ini jika tidak dikendalikan dengan ketat. Coxon berpendapat bahwa ambisi untuk mencapai Kecerdasan Buatan Umum (Artificial General Intelligence/AGI) telah membutakan para pemimpin teknologi terhadap risiko sistemik yang tidak dapat dipulihkan.

Namun, Trump menanggapi skeptisisme semacam ini dengan nada meremehkan. "Saya pikir ada banyak kekuatan negatif yang mengangkat hal-hal yang seharusnya tidak perlu diangkat, dan mereka mengangkat hal-hal yang tidak akan terjadi," ujar Trump kepada para wartawan. Ia menekankan bahwa fokus utama seharusnya tetap pada kepemimpinan teknologi, mengingat negara-negara pesaing seperti China juga terus memacu pengembangan AI mereka tanpa hambatan regulasi yang berarti.

Konsensus Tak Terduga di Kalangan Raksasa Teknologi

Meskipun Trump menyerukan percepatan, para pemimpin industri yang paling berpengaruh justru tampak bergerak ke arah yang berlawanan. CEO Anthropic, Dario Amodei, pada Sabtu (12/9) mengeluarkan pernyataan yang mengejutkan industri dengan menyerukan agar perusahaan-perusahaan AI secara kolektif memperlambat laju pengembangan model-model terbaru. Amodei, yang mendirikan Anthropic sebagai perusahaan yang berfokus pada aspek keamanan (safety-first), memperingatkan bahwa kemampuan sistem komputer supercerdas berkembang lebih cepat daripada kemampuan manusia untuk memahaminya atau memasang pagar pembatas yang efektif.

Pandangan Amodei secara tidak terduga didukung oleh dua rival terbesarnya: Sam Altman dari OpenAI dan Elon Musk dari xAI. Dukungan dari Musk, yang selama ini dikenal sebagai kritikus keras terhadap pendekatan tertutup OpenAI, menunjukkan betapa seriusnya ancaman yang dirasakan oleh para pakar di lapangan. Musk secara konsisten berargumen bahwa AI lebih berbahaya daripada senjata nuklir jika tidak diawasi oleh regulator independen.

Sam Altman, dalam sebuah wawancara mendalam yang dirilis pada hari yang sama, juga memberikan sinyal kehati-hatian. Altman mengonfirmasi bahwa OpenAI tidak memiliki rencana untuk melakukan penawaran umum perdana (IPO) pada tahun ini. Keputusan ini diambil untuk memastikan bahwa perusahaan tetap memiliki kontrol penuh atas arah pengembangan teknologinya tanpa tekanan dari pemegang saham publik yang mungkin menuntut pertumbuhan cepat dengan mengorbankan aspek keselamatan. "Keamanan adalah prioritas mutlak kami, dan struktur perusahaan saat ini memungkinkan kami untuk mengambil keputusan yang sulit demi kepentingan jangka panjang umat manusia," tegas Altman.

Kronologi Perkembangan Krisis Keamanan AI (2023-2024)

Untuk memahami konteks di balik perdebatan ini, perlu dilihat garis waktu peristiwa yang membawa industri ke titik didih saat ini:

1. Maret 2023: Ribuan pakar teknologi, termasuk Elon Musk dan Steve Wozniak, menandatangani surat terbuka yang menyerukan moratorium enam bulan pada pelatihan model AI yang lebih kuat dari GPT-4.
2. November 2023: Krisis kepemimpinan di OpenAI yang sempat menyebabkan pemecatan sementara Sam Altman, yang kabarnya dipicu oleh perselisihan internal mengenai kecepatan komersialisasi versus keamanan teknologi.
3. Mei 2024: Beberapa peneliti utama di tim "Superalignment" OpenAI mengundurkan diri, menyatakan bahwa komitmen perusahaan terhadap keselamatan telah tergeser oleh ambisi produk.
4. Agustus 2024: California memperkenalkan RUU SB 1047 yang kontroversial, yang mewajibkan pengembang AI untuk melakukan pengujian keamanan sebelum merilis model besar. RUU ini membelah Silicon Valley menjadi dua kubu.
5. September 2024: Pernyataan Jacob Coxon dan respons kolektif dari Amodei, Altman, dan Musk menciptakan konsensus baru mengenai perlunya regulasi diri atau perlambatan industri.

Analisis Data: Investasi vs. Risiko Keamanan

Data menunjukkan adanya kesenjangan yang signifikan antara investasi dalam kemampuan AI dan investasi dalam keamanan AI. Menurut laporan dari Stanford Institute for Human-Centered AI, pendanaan global untuk pengembangan AI mencapai lebih dari $189 miliar pada tahun 2023. Namun, diperkirakan kurang dari 5% dari total investasi tersebut dialokasikan secara khusus untuk penelitian penyelarasan (alignment) dan mitigasi risiko eksistensial.

Ketimpangan ini menjadi poin kritik utama bagi sosok seperti Jacob Coxon. Model-model terbaru seperti GPT-4o atau Claude 3.5 Sonnet menunjukkan kemampuan penalaran yang mendekati tingkat manusia dalam berbagai tes standar. Risiko yang dikhawatirkan bukan lagi sekadar "halusinasi" atau bias data, melainkan kemampuan model untuk melakukan peretasan siber secara otonom, memanipulasi opini publik dalam skala masif, atau bahkan merancang agen biologis berbahaya.

Di sisi lain, posisi Trump didukung oleh fakta ekonomi bahwa AI diproyeksikan akan menyumbang hingga $15,7 triliun bagi ekonomi global pada tahun 2030, menurut analisis PwC. Bagi pendukung akselerasi, perlambatan di Amerika Serikat hanya akan memberikan keuntungan strategis bagi lawan geopolitik, terutama China, yang telah menetapkan ambisi untuk menjadi pemimpin AI dunia pada tahun 2030 melalui rencana pembangunan AI generasi baru mereka.

Implikasi Geopolitik dan Perang Dingin Teknologi

Komentar Trump mencerminkan ketakutan yang lebih luas di kalangan pengambil kebijakan di Washington mengenai "Sputnik Moment" dalam bidang AI. Jika AS memperlambat inovasi karena alasan etika atau keamanan, ada kekhawatiran bahwa standar AI global akan ditentukan oleh rezim otoriter.

"Kita tidak bisa membiarkan diri kita tertinggal," kata seorang analis kebijakan teknologi yang berafiliasi dengan sayap konservatif. "Pernyataan Trump di Irlandia bukan sekadar soal meremehkan risiko, tetapi soal realisme politik. Teknologi ini akan dibangun, pertanyaannya adalah siapa yang akan membangunnya dan nilai-nilai apa yang akan ditanamkan di dalamnya."

Namun, argumen ini dibantah oleh para pendukung keamanan yang menyatakan bahwa perlombaan senjata AI (AI arms race) justru menciptakan insentif berbahaya bagi semua pihak untuk mengabaikan prosedur keselamatan, yang pada akhirnya dapat menyebabkan kecelakaan teknologi global yang tidak mengenal batas negara.

Dampak pada Struktur Perusahaan dan Pasar Modal

Keputusan OpenAI untuk tidak melakukan IPO tahun ini memiliki implikasi besar bagi pasar modal dan ekosistem startup. Selama ini, OpenAI dianggap sebagai mercusuar bagi investasi modal ventura. Dengan menunda IPO karena alasan keamanan, Altman mengirimkan pesan kuat bahwa model bisnis AI "Big Tech" mungkin tidak bisa disamakan dengan perusahaan perangkat lunak (SaaS) tradisional.

Struktur "profit-capped" yang diadopsi OpenAI juga sedang dalam pengawasan ketat. Ada laporan bahwa perusahaan sedang mempertimbangkan untuk beralih ke struktur bisnis konvensional guna menarik lebih banyak modal, namun tantangan keselamatan yang disebutkan Altman menunjukkan adanya konflik fundamental antara tanggung jawab terhadap kemanusiaan dan kewajiban fidusia terhadap investor.

Sementara itu, Anthropic, dengan dukungan dari Amazon dan Google, terus memosisikan diri sebagai alternatif yang lebih "aman," namun seruan Amodei untuk memperlambat industri menunjukkan bahwa bahkan perusahaan yang paling berhati-hati pun merasa bahwa situasi saat ini sudah berada di luar kendali.

Menuju Konsensus Regulasi Global

Di tengah perdebatan antara Trump dan para bos teknologi, pemerintah di seluruh dunia mulai bergerak. Uni Eropa telah mengesahkan AI Act, undang-undang komprehensif pertama di dunia yang mengatur penggunaan kecerdasan buatan berdasarkan tingkat risiko. Di Amerika Serikat, pemerintahan Biden sebelumnya telah mengeluarkan perintah eksekutif tentang AI, namun masa depan regulasi ini menjadi tidak pasti jika terjadi pergantian kepemimpinan politik.

Para kritikus terhadap posisi Trump berpendapat bahwa mengabaikan peringatan dari orang-orang yang membangun teknologi itu sendiri adalah tindakan yang sembrono. Jika para insinyur yang memahami kode di balik model-model ini merasa takut, maka para politisi seharusnya mendengarkan. Sebaliknya, para pendukung Trump melihat ini sebagai upaya "gerbang" (gatekeeping) oleh perusahaan-perusahaan besar untuk mencegah kompetisi dari startup yang lebih kecil melalui regulasi yang memberatkan.

Kesimpulan: Persimpangan Jalan Peradaban

Dunia kini berada di persimpangan jalan dalam pengembangan kecerdasan buatan. Di satu sisi, terdapat visi akselerasi tanpa batas yang didorong oleh persaingan ekonomi dan geopolitik, sebagaimana disuarakan oleh Donald Trump. Di sisi lain, terdapat peringatan mendalam dari para teknokrat dan peneliti seperti Jacob Coxon dan Dario Amodei yang melihat potensi bencana di balik kemajuan yang terlalu cepat.

Pertentangan ini bukan sekadar debat teknis, melainkan pertanyaan mendasar tentang bagaimana manusia berinteraksi dengan teknologi yang mungkin melampaui kecerdasannya sendiri. Apakah kekhawatiran tersebut adalah "kekuatan negatif" yang menghambat kemajuan, atau justru merupakan insting bertahan hidup yang paling krusial bagi spesies manusia? Jawaban atas pertanyaan ini akan menentukan arah peradaban dalam dekade-dekade mendatang, di mana garis antara alat dan pencipta semakin kabur. Seiring dengan semakin dekatnya kita pada pencapaian AGI, konsensus antara inovasi, keamanan, dan regulasi menjadi mandat yang tidak bisa lagi ditunda.