The Coming Wave: Technology, Power, and the Twenty-first Century's Greatest Dilemma

2016. AlphaGo baru saja mengalahkan Lee Sedol, juara dunia Go selama bertahun-tahun.

Mustafa Suleyman berdiri di ruangan itu. Dia salah satu pendiri DeepMind, perusahaan di balik kemenangan itu.

Dia seharusnya merasa menang.

Yang dia rasakan justru sebaliknya: cemas.

Karena dia tahu, apa yang baru saja terjadi bukan cuma soal permainan papan kuno asal Tiongkok. Itu sinyal bahwa sesuatu yang jauh lebih besar sedang bergerak, dan bergerak jauh lebih cepat dari yang bisa diantisipasi siapa pun, termasuk orang-orang yang menciptakannya sendiri.

Bertahun-tahun kemudian, Suleyman menulis buku ini bersama Michael Bhaskar untuk menjelaskan kecemasan itu ke seluruh dunia.

Premisnya sederhana, tapi menakutkan kalau dipikirkan sampai tuntas: setiap teknologi besar dalam sejarah manusia, dari api sampai internet, pada akhirnya menyebar ke mana-mana, jadi makin murah, dan mengubah masyarakat dengan cara yang tidak pernah diniatkan penciptanya.

Tidak ada satu pun yang berhasil benar-benar dihentikan begitu sudah cukup berguna dan cukup murah.

Sekarang, dua gelombang raksasa sedang datang bersamaan: kecerdasan buatan dan biologi sintetik. Dan menurut Suleyman, gelombang ini akan datang lebih cepat, lebih luas, dan lebih sulit dikendalikan dibanding semua gelombang sebelumnya digabung jadi satu.

Bagian 1: Api, Mesin Cetak, dan Pola yang Selalu Berulang

Kenapa Anda perlu peduli soal sejarah teknologi kuno untuk memahami AI hari ini?

Karena menurut Suleyman, hanya ada sekitar dua puluh empat teknologi sepanjang sejarah manusia yang layak disebut "general-purpose technology", teknologi yang cukup mendasar sampai mengubah hampir semua aspek kehidupan begitu diadopsi.

Api salah satunya. Begitu manusia purba menguasainya, semuanya berubah, dari cara makan sampai cara bertahan dari predator.

Pola yang Tidak Pernah Gagal

Setiap kali teknologi semacam ini muncul, polanya selalu sama. Awalnya mahal dan terbatas. Lalu biayanya turun. Lalu makin banyak orang memakainya. Lalu masyarakat berubah bentuk mengikuti teknologi itu, bukan sebaliknya.

Mesin cetak Gutenberg butuh puluhan tahun untuk menyebar ke seluruh Eropa. Komputer pribadi butuh belasan tahun. Internet butuh hitungan tahun.

Sekarang, model AI baru bisa menyebar ke jutaan orang dalam hitungan minggu.

Kecepatan inilah yang membuat gelombang kali ini berbeda. Bukan soal jenis teknologinya, tapi soal seberapa cepat jarak antara penemuan dan penyebaran massal mengecil.

Bagian 2: Dua Fondasi Gelombang, Kecerdasan Buatan dan Biologi Sintetik

Kebanyakan orang menganggap gelombang ini cuma soal AI. Suleyman ingin Anda tahu, itu baru setengah cerita.

AI: Dari yang Tidak Serius Dibahas, Jadi yang Mengubah Segalanya

Tahun 2010, hampir tidak ada yang membicarakan AI secara serius di luar lingkaran riset. Suleyman menyaksikan sendiri bagaimana bidang yang dulu dianggap terlalu ambisius ini tiba-tiba melompat maju, dari kalah lawan manusia di Go menjadi bisa menulis, menggambar, dan bernalar dengan cara yang mengejutkan bahkan para penelitinya sendiri.

Biologi Sintetik: Gelombang yang Kurang Diperhatikan, Tapi Sama Berbahayanya

Sementara semua mata tertuju ke AI, Suleyman mengingatkan bahwa biologi sintetik bergerak dengan kecepatan serupa. Kemampuan untuk membaca, menulis, dan mengedit kode genetik semakin murah dan semakin mudah diakses, sampai titik di mana individu atau kelompok kecil bisa melakukan hal yang dulu cuma bisa dilakukan laboratorium negara.

Kedua gelombang ini saling memperkuat. AI mempercepat riset biologi. Biologi sintetik memberi AI data dan aplikasi baru. Dan keduanya sama-sama punya sifat yang menurut Suleyman paling berbahaya dari semua teknologi sepanjang sejarah: mudah diakses, sulit dikendalikan.

Bagian 3: Proliferasi, Kenapa Kekuatan Besar Bisa Jatuh ke Tangan yang Kecil

Bayangkan satu orang, dengan laptop dan koneksi internet, punya kapasitas yang dulu hanya dimiliki negara adikuasa.

Kedengarannya berlebihan? Suleyman berargumen, itulah arah yang sedang kita tuju.

Insentif yang Tidak Bisa Dihentikan

Teknologi menyebar bukan karena orang jahat menyebarkannya. Teknologi menyebar karena selalu ada insentif kuat untuk memakainya, entah insentif ekonomi, militer, atau sekadar rasa penasaran manusia. Begitu sebuah kemampuan terbukti berguna, versi yang lebih murah pasti muncul, lalu makin banyak pihak mengadopsinya, dan kontrol jadi makin sulit.

Ini yang Suleyman sebut sebagai masalah kekuatan asimetris. Kelompok kecil, bahkan individu, bisa memperoleh kapasitas yang jauh melampaui ukuran mereka, terutama di ranah siber, senjata otonom, drone, dan rekayasa biologi.

Sepanjang sejarah, hanya negara dengan sumber daya besar yang bisa membangun senjata mematikan skala besar. Gelombang ini mengancam mengubah itu selamanya.

Bagian 4: Pesimisme yang Dihindari, dan Kenapa Itu Berbahaya

Ada satu kecenderungan manusia yang menurut Suleyman justru membuat kita makin rentan: pessimism-aversion, dorongan untuk memalingkan muka dari skenario buruk karena terlalu tidak nyaman untuk dipikirkan.

Anda mungkin pernah mengalami ini sendiri. Berita soal risiko AI terasa terlalu jauh, terlalu spekulatif, atau terlalu menakutkan untuk benar-benar dipikirkan serius. Jadi kita memilih untuk fokus ke manfaatnya saja.

Masalahnya, Manfaat dan Risiko Ini Datang dalam Satu Paket

Suleyman tidak menampik manfaat besar dari gelombang ini. AI berpotensi mempercepat riset medis, memperluas akses pendidikan, dan meningkatkan produktivitas di hampir semua sektor. Biologi sintetik bisa menyembuhkan penyakit yang selama ini dianggap tidak bisa disembuhkan.

Tapi manfaat dan bahaya ini datang dari sumber yang sama, dan tidak bisa dipisahkan begitu saja. Menolak memikirkan skenario buruk sama saja membiarkan masyarakat tidak siap ketika skenario itu benar-benar terjadi.

Sikap yang Suleyman dorong bukan pesimisme total, juga bukan optimisme buta, melainkan keberanian menatap risiko secara langsung tanpa berhenti membangun.

Bagian 5: Kenapa Setiap Usaha Pengendalian Teknologi di Masa Lalu Akhirnya Gagal

Senjata nuklir adalah contoh paling dekat dengan keberhasilan pengendalian teknologi berbahaya. Perjanjian internasional, pengawasan ketat, ancaman saling hancur.

Tapi bahkan dengan semua itu, Amerika Serikat sendiri pernah kehilangan jejak beberapa hulu ledak nuklirnya.

Kalau pengendalian sekelas nuklir saja tidak pernah sepenuhnya sempurna, apa artinya untuk AI, sesuatu yang jauh lebih mudah disalin, disebarkan, dan disembunyikan dibanding bom fisik?

Kontrol Sebagian Bukan Berarti Aman

Suleyman menegaskan poin yang mengerikan di sini. Dengan senjata nuklir, kontrol sebagian masih cukup mencegah bencana besar karena hambatan fisik dan biayanya sangat tinggi. Dengan AI, kontrol sebagian bisa berarti kegagalan total, karena satu salinan model yang bocor bisa disebarkan tanpa batas dalam hitungan jam.

“Containment is not, on its own, the answer. But it is the essential first step.”

Inilah kenapa Suleyman berargumen containment, bukan cuma regulasi biasa, harus jadi prioritas utama abad ini.

Bagian 6: Sepuluh Lapis Pertahanan, Jalan Sempit Menuju Pengendalian

Kalau tidak ada satu solusi tunggal yang cukup, apa yang bisa dilakukan?

Suleyman mengusulkan containment sebagai pendekatan berlapis, bukan satu tindakan tunggal. Ia menggambarkannya seperti lingkaran konsentris, dimulai dari yang paling dekat dengan teknologinya sendiri, lalu meluas keluar ke institusi dan tata kelola global.

Dari Keamanan Teknis Sampai Kerja Sama Internasional

Lapisan pertama dimulai dari keamanan teknis di level pengembangan, memastikan sistem AI punya batasan bawaan sejak dirancang. Lapisan berikutnya mencakup audit independen, lisensi untuk kapabilitas berisiko tinggi, dan norma industri yang disepakati bersama.

Lapisan yang lebih luas lagi menyentuh reformasi korporat, penguatan kapasitas pemerintah untuk mengawasi teknologi yang bergerak lebih cepat dari kemampuan regulasi mereka, sampai akhirnya kerja sama internasional yang menyerupai perjanjian pengendalian senjata di masa lalu.

Tidak ada satu lapisan pun yang cukup sendirian. Semuanya harus bekerja bersamaan, terus-menerus diperbarui, karena menurut Suleyman, satu kesalahan saja di sepanjang jalan bisa membuat seluruh sistem containment ambruk.

Inilah yang dia sebut sebagai jalan sempit, bukan menolak kemajuan teknologi, juga bukan membiarkannya berkembang tanpa kendali, melainkan berjalan hati-hati di antara keduanya sambil tahu bahwa kesalahan kecil bisa berakibat besar.

Pelajaran untuk Hari Ini

1. Jangan Tunggu Sampai Teknologi "Terbukti Berbahaya" untuk Mulai Peduli Begitu sebuah kemampuan sudah menyebar luas dan murah, sudah terlambat untuk membendungnya. Perhatikan tren sejak dini, bukan setelah dampaknya nyata.

2. Waspadai Kecenderungan Anda Sendiri untuk Menghindari Skenario Buruk Pessimism-aversion membuat kita tidak siap. Latih diri untuk memikirkan risiko terburuk tanpa berhenti bekerja membangun solusinya.

3. Pahami Bahwa Kontrol Sebagian Tidak Sama dengan Aman Untuk teknologi yang mudah disalin seperti AI, kebocoran kecil bisa berakibat besar. Jangan puas dengan langkah keamanan setengah-setengah.

4. Dukung Pendekatan Berlapis, Bukan Solusi Instan Baik di level pribadi, perusahaan, maupun kebijakan publik, containment yang efektif butuh banyak lapisan yang saling memperkuat, bukan satu aturan ajaib.

Penutup

The Coming Wave bukan buku yang menenangkan Anda. Justru sebaliknya, buku ini ditulis untuk membuat Anda cukup gelisah agar mulai bertindak, bukan cuma mengagumi kecanggihan AI dari kejauhan.

Yang membuat buku ini berbeda dari kebanyakan tulisan soal AI, Suleyman bukan pengamat dari luar. Dia salah satu orang yang ikut membangun teknologi ini dari dalam, dan justru karena itu, peringatannya terasa lebih berat untuk diabaikan.

Di tengah perlombaan model AI baru yang muncul hampir setiap bulan, dan diskusi tentang regulasi yang masih tertatih-tatih mengejar kecepatan teknologinya, pertanyaan yang diajukan buku ini terasa semakin mendesak setiap hari.

Kalau setiap gelombang teknologi besar dalam sejarah manusia akhirnya menyebar tanpa bisa dihentikan sepenuhnya, apakah yang bisa kita lakukan sekarang bukan mencegah gelombang ini datang, melainkan memastikan kita cukup siap saat gelombang itu tiba?

Tentang Buku Asli