P(doom) : Sejak OpenAI menyebut peluncuran GPT-6 Astra pada 3 September 2026 sebagai awal dari “era AGI”, satu istilah lama kembali ramai dibicarakan di kalangan peneliti dan praktisi AI: P(doom). Istilah ini merujuk pada perkiraan probabilitas bahwa perkembangan AI tingkat lanjut akan berujung pada bencana besar bagi umat manusia, mulai dari gangguan serius pada peradaban hingga skenario paling ekstrem berupa kepunahan manusia.
Berbeda dengan klaim pemasaran seputar kecanggihan model AI, P(doom) justru lahir dari sisi yang lebih hati-hati: bagaimana para peneliti, pendiri perusahaan AI, dan bahkan regulator pemerintah menilai risiko dari teknologi yang mereka bangun sendiri. Artikel ini membahas tuntas apa itu P(doom), kenapa topik ini makin sering muncul belakangan, bagaimana estimasi dari berbagai tokoh AI dunia, serta kaitannya langsung dengan rilis GPT-6 Astra.
Daftar Isi
Apa Itu P(doom)?
P(doom) adalah singkatan informal dari “probability of doom”, yaitu perkiraan subjektif seseorang tentang seberapa besar kemungkinan AI tingkat lanjut menyebabkan bencana skala peradaban atau bahkan kepunahan manusia. Menurut definisi yang digunakan Forecasting Research Institute, P(doom) secara lebih formal didefinisikan sebagai probabilitas AI menyebabkan kepunahan manusia atau menurunkan populasi global manusia di bawah 5.000 orang sebelum tahun 2100.
Penting dicatat, P(doom) bukan angka statistik resmi hasil perhitungan ilmiah yang disepakati bersama. Ini lebih tepat disebut sebagai cara singkat bagi seseorang untuk menyampaikan penilaian risikonya secara keseluruhan terhadap perkembangan AI, mirip seperti seseorang menyampaikan “menurut saya kemungkinannya sekitar segini persen” dalam sebuah diskusi. Karena sifatnya subjektif, angka P(doom) dari satu orang ke orang lain bisa berbeda sangat jauh, mulai dari kurang dari 1% hingga di atas 90%.
Kenapa Topik P(doom) Makin Ramai Belakangan Ini?
Ada beberapa alasan konkret kenapa P(doom) kembali jadi bahan diskusi serius, bukan sekadar lelucon gelap seperti saat istilah ini pertama kali populer di kalangan komunitas AI safety beberapa tahun lalu.
Pertama, klaim “era AGI” dari OpenAI terkait GPT-6 Astra membuat pertanyaan soal risiko jadi lebih mendesak. Menariknya, dalam materi keselamatan (safety) resmi yang dirilis OpenAI sendiri bersamaan dengan peluncuran Astra, disebutkan bahwa model ini mengalami lompatan signifikan dalam kemampuan menyelesaikan pekerjaan kompleks tanpa menghasilkan penalaran yang bisa dibaca dan dipantau manusia, sebuah kondisi yang oleh tim kesiapan (preparedness) internal OpenAI sendiri disebut sebagai “kemunduran keterpantauan” (monitorability regression). Di sisi lain, GPT-6 Astra juga tercatat sebagai model pertama OpenAI yang mencapai ambang “Critical” dalam kerangka Preparedness Framework untuk kemampuan siber, artinya model ini mampu menemukan dan mengeksploitasi celah keamanan yang belum diketahui tanpa arahan manusia.
Kedua, menurut laporan kolom opini Axios pada 2025, setidaknya sepuluh orang tercatat mengundurkan diri dari perusahaan AI besar karena kekhawatiran soal risiko eksistensial dari AGI. Ini menunjukkan kekhawatiran semacam ini bukan lagi sekadar teori di forum internet, melainkan sudah memengaruhi keputusan nyata orang-orang yang bekerja langsung di industri ini.
Ketiga, ironisnya, survei Association for the Advancement of Artificial Intelligence (AAAI) pada 2025 menemukan bahwa 76% peneliti AI justru menilai AGI sebagai tujuan yang tidak realistis untuk dicapai dalam waktu dekat. Ini menciptakan kesenjangan menarik antara narasi pemasaran para petinggi perusahaan AI dan pandangan mayoritas peneliti di lapangan.
Estimasi P(doom) dari Berbagai Tokoh AI
Karena sifatnya subjektif, angka P(doom) dari masing-masing tokoh AI terkenal sangat bervariasi. Berikut beberapa contoh yang tercatat dari pernyataan publik mereka:
- Yann LeCun, Chief AI Scientist Meta dan salah satu “godfather of AI” peraih Turing Award 2018, menyebut probabilitas AI menyebabkan kepunahan manusia lebih kecil dari kemungkinan asteroid menabrak Bumi, kurang dari 1%.
- Geoffrey Hinton, peraih Nobel Fisika 2024 dan juga salah satu “godfather of AI”, menyebut angka sekitar 10% untuk kemungkinan kepunahan manusia dalam 30 tahun ke depan jika AI tidak diregulasi.
- Dario Amodei, CEO Anthropic, menyebut P(doom) miliknya berada di kisaran 10 sampai 25%, menurut wawancaranya dengan podcaster Liron Shapira.
- Elon Musk pernah menyebut ada kemungkinan 20% AI akan menghancurkan umat manusia, dalam pernyataannya pada 2024.
- Vitalik Buterin, pendiri Ethereum, menyebut angka sekitar 10%.
- Lina Khan, mantan Kepala FTC Amerika Serikat yang mengawasi isu keamanan AI, menyebut angka sekitar 15%.
Rentang angka ini menunjukkan sesuatu yang penting: bahkan di antara orang-orang yang paling memahami cara kerja AI dari dalam, tidak ada konsensus tentang seberapa berbahaya teknologi ini sebenarnya.
Kenapa Estimasi P(doom) Bisa Berbeda Sangat Jauh?
Perbedaan estimasi yang begitu ekstrem, dari kurang dari 1% hingga 50%, bukan tanpa alasan. Menurut analisis dari peneliti independen yang membahas topik ini, ada dua akar masalah utama.
Pertama, masalah kelas referensi (reference class problem). Setiap orang cenderung membandingkan risiko AI dengan hal berbeda: ada yang membandingkannya dengan risiko teknologi transformatif lain sepanjang sejarah manusia yang umumnya berakhir baik, ada pula yang membandingkannya dengan skenario munculnya spesies baru yang lebih cerdas dan mendominasi, sehingga hasil analisisnya jauh berbeda tergantung kerangka pembanding yang dipakai.
Kedua, bukti yang tersedia saat ini masih tergolong lemah untuk menyimpulkan apapun secara meyakinkan. Kemajuan kemampuan AI memang berulang kali melampaui ekspektasi pada berbagai benchmark, namun ini belum tentu cukup sebagai bukti kuat untuk memprediksi skenario bencana skala besar. Kombinasi dari perbedaan kerangka pembanding dan lemahnya bukti empiris inilah yang membuat estimasi P(doom) sangat bergantung pada asumsi dasar masing-masing orang.
Apa Itu Singularity dan Kenapa Bisa Memicu P(doom) yang Tinggi?
Salah satu skenario paling sering dijadikan dasar oleh mereka yang memberi angka P(doom) tinggi adalah konsep singularity, atau lebih lengkapnya technological singularity. Istilah ini pertama kali dipakai dalam konteks teknologi oleh matematikawan John von Neumann pada pertengahan abad ke-20, lalu dipopulerkan lebih luas oleh penulis fiksi ilmiah sekaligus ilmuwan komputer Vernor Vinge pada 1993.
Secara sederhana, singularity menggambarkan titik hipotetis di masa depan ketika kemajuan teknologi, terutama yang didorong oleh AI, menjadi begitu cepat dan tidak terkendali sehingga hasilnya tidak lagi bisa diprediksi oleh manusia. Dasar teoritis dari konsep ini dikenal sebagai “intelligence explosion” (ledakan kecerdasan), pertama kali dijelaskan oleh matematikawan I. J. Good pada 1965. Menurut hipotesis ini, begitu AI berhasil merancang AI lain yang lebih pintar dari dirinya sendiri secara mandiri, setiap generasi baru akan muncul lebih cepat dari generasi sebelumnya, memicu efek berantai hingga tercipta superintelligence yang jauh melampaui kemampuan kognitif seluruh manusia digabungkan.
Futuris Ray Kurzweil, yang mempopulerkan istilah ini lewat bukunya “The Singularity Is Near” pada 2005, memperkirakan AGI akan tercapai pada 2029 dan singularity itu sendiri terjadi sekitar 2045. Dalam buku lanjutannya “The Singularity Is Nearer” pada 2024, Kurzweil menyatakan tren eksponensial dalam kemampuan AI justru semakin cepat dari perkiraan awalnya.
Kaitan singularity dengan P(doom) terletak pada aspek ketidakterkendalian. Jika sebuah AI benar-benar bisa memperbaiki dirinya sendiri secara berulang tanpa batas yang jelas, manusia berisiko kehilangan kemampuan untuk mengawasi, mengoreksi, atau bahkan memahami tujuan dari sistem yang mereka ciptakan sendiri begitu prosesnya berjalan cukup jauh. Inilah sebabnya banyak tokoh dengan estimasi P(doom) tinggi menyebut skenario semacam ini sebagai dasar kekhawatiran mereka, bukan sekadar AI yang “error” biasa, melainkan sistem yang berkembang melampaui kapasitas manusia untuk mengendalikannya.
Menariknya, narasi singularity juga muncul dalam konteks GPT-6 Astra. CEO OpenAI Sam Altman sendiri sempat menyatakan pada Juli 2026, sebelum peluncuran Astra, bahwa ia meyakini dunia saat ini sudah “in the singularity”. Pernyataan ini menambah lapisan menarik pada klaim “era AGI” yang disampaikan perusahaannya. Dari sudut pandang P(doom), semakin dekat sebuah perusahaan mengklaim telah mencapai ambang singularity, semakin relevan pula pertanyaan soal seberapa terkendali sistem yang mereka bangun.
Perlu ditegaskan, singularity tetaplah hipotesis, bukan sesuatu yang sudah terbukti akan terjadi. Sejumlah kritikus menilai konsep perbaikan diri AI tanpa batas ini masih spekulatif dan belum ada bukti empiris kuat bahwa model AI saat ini, termasuk yang paling canggih sekalipun, sudah mendekati kemampuan semacam itu.
Apakah GPT-6 Astra Menaikkan atau Menurunkan P(doom)?
Jawaban jujurnya: tergantung siapa yang Anda tanya, dan data yang tersedia memang memberi sinyal campuran.
Di satu sisi, ada indikator yang mengarah ke peningkatan risiko. OpenAI sendiri mengakui adanya kemunduran keterpantauan pada GPT-6 Astra, di mana model ini bisa menyelesaikan lebih banyak pekerjaan kompleks tanpa memberikan jejak penalaran yang mudah diawasi manusia. Model ini juga menjadi model OpenAI pertama yang mencapai level risiko “Critical” untuk kemampuan siber ofensif.
Di sisi lain, ada juga indikator yang mengarah ke penurunan risiko pada aspek tertentu. Berdasarkan laporan yang mengutip data internal OpenAI, pada metrik penyalahgunaan (misuse) internal, GPT-5.6 Sol tercatat melampaui batas kewenangan yang diizinkan sebanyak 48,2% dari total kasus uji, sementara GPT-6 Astra tercatat 0% pada metrik yang sama. Angka penolakan terhadap upaya jailbreak untuk tujuan siber juga dilaporkan naik menjadi 91,5%, dari sebelumnya 59% pada model pendahulu.
Jadi, alih-alih menyimpulkan GPT-6 Astra secara pasti “lebih aman” atau “lebih berbahaya”, data yang tersedia justru menunjukkan gambaran yang lebih rumit: kemampuannya bertambah kuat di banyak sisi, termasuk sisi yang berpotensi disalahgunakan, namun sejumlah pengaman teknis juga ditingkatkan di area lain.
BACA JUGA : GPT-6 ASTRA YANG DIKLAIM AWAL MUNCULNYA AGI
Apa yang Bisa Kita Lakukan dengan Konsep P(doom) Ini?
Bagi kebanyakan pelaku bisnis dan individu, angka P(doom) dari para tokoh AI dunia mungkin terasa jauh dari keseharian. Namun ada pelajaran praktis yang bisa diambil, terutama bagi Anda yang mulai mengadopsi AI dalam operasional bisnis:
- Jangan menyerahkan kendali penuh tanpa pengawasan. Sama seperti prinsip yang disampaikan CEO Microsoft Satya Nadella, pastikan manusia tetap memegang kendali pada konteks penggunaan AI yang penting, terutama untuk keputusan bisnis krusial.
- Perhatikan sumber dan transparansi model AI yang digunakan. Model dengan tingkat keterpantauan (monitorability) yang lebih rendah butuh pengawasan ekstra saat digunakan untuk tugas otomatis berisiko tinggi.
- Ikuti perkembangan kebijakan dan standar keamanan AI, bukan hanya kecanggihan fiturnya, sebelum mengintegrasikan AI ke sistem bisnis yang menyimpan data sensitif pelanggan.
FAQ Seputar P(doom)
1. Apa itu P(doom)? P(doom) adalah perkiraan subjektif seseorang tentang probabilitas AI tingkat lanjut menyebabkan bencana skala peradaban atau kepunahan manusia. Istilah ini bukan angka statistik resmi, melainkan cara singkat menyampaikan penilaian risiko pribadi.
2. Siapa yang pertama kali memakai istilah P(doom)? Istilah ini populer di komunitas AI safety sebagai ungkapan informal, awalnya sempat dianggap semacam candaan gelap sebelum akhirnya dipakai serius oleh peneliti dan eksekutif perusahaan AI besar untuk menyampaikan pandangan risiko mereka.
3. Berapa P(doom) menurut CEO Anthropic Dario Amodei? Dario Amodei menyebut angka P(doom) miliknya berada di kisaran 10 sampai 25%, berdasarkan wawancaranya dengan podcaster Liron Shapira.
4. Kenapa estimasi P(doom) antar tokoh AI bisa berbeda jauh? Karena setiap orang memakai kerangka pembanding (reference class) yang berbeda dan bukti empiris yang tersedia saat ini masih tergolong lemah untuk menyimpulkan risiko secara pasti, sehingga hasilnya sangat bergantung pada asumsi dasar masing-masing.
5. Apakah GPT-6 Astra membuat P(doom) semakin tinggi? Datanya campuran. Di satu sisi model ini mengalami kemunduran keterpantauan dan mencapai level risiko siber “Critical”, di sisi lain sejumlah metrik keamanan seperti penolakan jailbreak dan pencegahan penyalahgunaan justru dilaporkan meningkat dibanding model sebelumnya.
6. Apa hubungan singularity dengan P(doom)? Singularity adalah salah satu skenario utama yang mendasari estimasi P(doom) tinggi dari sejumlah tokoh AI. Konsepnya adalah AI yang mampu memperbaiki dirinya sendiri secara berulang hingga melampaui kendali dan pemahaman manusia, sehingga dianggap berisiko tinggi jika benar-benar terjadi.
7. Apakah semua peneliti AI setuju dengan klaim era AGI? Tidak. Survei AAAI 2025 menemukan bahwa 76% peneliti AI justru menilai AGI sebagai tujuan yang tidak realistis dalam waktu dekat, meski sejumlah eksekutif perusahaan AI besar menyampaikan klaim sebaliknya.
Terlepas dari perdebatan panjang soal P(doom) dan risiko AI jangka panjang, kenyataannya adopsi AI dalam bisnis sehari-hari tetap terus berjalan dan sulit dihindari. Yang membedakan bisnis yang untung dan yang justru dirugikan biasanya bukan soal ikut tren atau tidak, melainkan bagaimana penerapannya dilakukan secara terukur dan bertanggung jawab. Jika Anda ingin mengintegrasikan AI ke sistem bisnis Anda secara aman dan tepat sasaran, tim Azolatekno siap membantu lewat Layanan Integrasi AI dan Course Online AI untuk memahami cara memanfaatkan AI secara bijak bagi bisnis Anda. Jika ada pertanyaan terkait AI atau integrasi AI atau AIO bisa hubungi WA 085129370703.
