PBB Peringatkan Risiko AI Tak Terkendali, Bisa Mengancam Masa Depan Umat Manusia

Jakarta, 8 September 2026 – Perserikatan Bangsa-Bangsa (PBB) kembali menyuarakan kekhawatiran serius terhadap perkembangan kecerdasan buatan atau artificial intelligence (AI) yang berlangsung sangat cepat tanpa diimbangi sistem pengamanan dan tata kelola yang memadai. Komisaris Tinggi PBB untuk Hak Asasi Manusia Volker Türk memperingatkan AI tingkat lanjut berpotensi menimbulkan risiko eksistensial bagi umat manusia apabila kemampuan teknologi tersebut berkembang melampaui mekanisme pengendalian yang tersedia. Pernyataan itu disampaikan Türk dalam pidatonya di Dewan Hak Asasi Manusia PBB di Jenewa pada Senin, 7 September 2026. Ia menyerukan upaya internasional secara besar-besaran untuk membangun jaminan kuat mengenai keselamatan dan keamanan AI sebelum perkembangan teknologi mencapai titik yang semakin sulit dikendalikan. PBB menilai kemajuan AI membawa manfaat besar, tetapi risiko yang menyertainya tidak dapat diabaikan hanya karena teknologi tersebut menawarkan peningkatan produktivitas dan inovasi.

Türk menyatakan dirinya memiliki kekhawatiran yang sama dengan sejumlah pelaku industri mengenai kemungkinan AI canggih menjadi ancaman eksistensial bagi manusia. Menurut dia, tata kelola AI sebenarnya telah menjadi pembicaraan luas di berbagai negara, tetapi penerapan aturan konkret dinilai belum bergerak secepat perkembangan teknologinya. Kondisi tersebut menjadi semakin penting karena model AI terbaru memiliki kemampuan yang jauh lebih kompleks dibandingkan generasi sebelumnya dan mulai digunakan dalam berbagai sistem penting. PBB ingin keselamatan ditempatkan sebagai bagian mendasar dalam proses pengembangan AI, bukan baru dipertimbangkan setelah muncul insiden atau kerugian besar. Türk juga berencana menyurati perusahaan-perusahaan AI terkemuka untuk mendorong langkah segera dalam mengurangi risiko yang masih berada dalam kendali mereka.

Salah satu kekhawatiran yang disoroti berkaitan dengan kemungkinan sistem AI bertindak di luar batas yang telah dirancang pengembangnya. Türk menyinggung risiko ketika sebuah sistem mampu keluar dari lingkungan pengujian atau melakukan tindakan yang bertujuan mencegah dirinya dimatikan. Perkembangan agen AI yang semakin mandiri membuat persoalan tersebut memperoleh perhatian lebih besar karena sistem tidak lagi sekadar menghasilkan teks, gambar atau informasi, tetapi mulai mampu menjalankan rangkaian tindakan secara otomatis. Kegagalan pada sistem yang sangat kuat berpotensi menimbulkan gangguan terhadap layanan penting, komunikasi, infrastruktur maupun institusi demokrasi. Karena itu, PBB menilai kemampuan teknologi harus berkembang bersamaan dengan mekanisme pengujian, pengawasan dan pengendalian yang dapat memastikan manusia tetap memiliki kendali akhir.

PBB turut menyoroti konsentrasi kekuatan teknologi AI pada sejumlah kecil perusahaan dan individu. Türk memperingatkan bahwa hanya segelintir pihak saat ini memiliki pengaruh sangat besar terhadap arah pengembangan teknologi dengan kemampuan komputasi yang terus meningkat. Situasi tersebut menimbulkan pertanyaan mengenai siapa yang menetapkan batas penggunaan AI, bagaimana data masyarakat dimanfaatkan, serta siapa yang bertanggung jawab apabila sistem menyebabkan kerugian. Ia mendorong negara-negara yang menjadi pusat pengembangan AI dan negara yang terlibat dalam rantai pasok teknologinya untuk menyepakati batas-batas yang tidak boleh dilanggar. Kesepakatan internasional dianggap penting karena teknologi AI beroperasi melintasi batas negara, sementara regulasi yang diterapkan masing-masing pemerintah masih berbeda.

Kekhawatiran mengenai AI sebenarnya telah menjadi agenda penting PBB selama beberapa tahun terakhir. Sekretaris Jenderal PBB António Guterres sebelumnya juga menempatkan AI yang tidak terkendali bersama perubahan iklim dan senjata nuklir sebagai persoalan yang dapat menimbulkan risiko sangat besar bagi manusia. PBB kemudian mengembangkan sejumlah mekanisme internasional untuk memperkuat tata kelola teknologi, termasuk Global Digital Compact dan pembentukan panel ilmiah independen mengenai AI. Laporan awal Independent International Scientific Panel on AI pada 2026 memperingatkan bahwa sistem pengamanan yang tersedia saat ini belum mampu mengikuti kecepatan pertumbuhan kemampuan AI. Panel tersebut menilai pemerintah membutuhkan dasar ilmiah yang lebih kuat untuk mengambil keputusan karena menunggu sampai seluruh risiko terbukti secara pasti dapat membuat tindakan pencegahan datang terlambat.

Risiko yang menjadi perhatian tidak terbatas pada skenario AI kehilangan kendali, tetapi juga berbagai dampak yang sudah dapat muncul dalam kehidupan masyarakat. AI dapat digunakan untuk menghasilkan dan menyebarkan disinformasi dalam jumlah besar, memanipulasi opini publik, memperkuat ujaran kebencian serta mengganggu proses demokrasi. Sistem yang tidak transparan juga dapat menghasilkan keputusan bias dalam bidang pekerjaan, keuangan, pelayanan publik maupun berbagai sektor lain yang bersentuhan langsung dengan hak masyarakat. Pada saat bersamaan, ketimpangan akses terhadap teknologi berpotensi memperbesar jarak antara negara maju dan berkembang karena kemampuan komputasi, data, modal dan talenta AI masih terkonsentrasi pada sejumlah negara dan perusahaan. PBB karena itu mendorong tata kelola yang tidak hanya berfokus pada keselamatan teknis, tetapi juga perlindungan hak asasi manusia dan pemerataan manfaat teknologi.

Penggunaan AI dalam bidang militer menjadi bagian lain yang memperoleh perhatian serius. Türk menyampaikan kekhawatiran terhadap laporan mengenai penggunaan drone yang sepenuhnya otonom dalam perang Ukraina dan mendukung seruan agar senjata yang dapat mengambil nyawa tanpa keterlibatan manusia segera dilarang. Persoalan senjata otonom dianggap memiliki konsekuensi berbeda dibandingkan penggunaan AI untuk kebutuhan komersial karena keputusan sistem dapat secara langsung menentukan hidup dan mati manusia. Kekhawatiran serupa sebelumnya disampaikan pejabat Program Pembangunan PBB yang memperingatkan pemanfaatan AI untuk kepentingan militer dapat menghasilkan risiko besar apabila tidak dikendalikan secara bertanggung jawab. PBB menekankan keputusan penggunaan kekuatan mematikan harus tetap berada di bawah kendali manusia dan tunduk pada hukum internasional.

Meski menyampaikan peringatan keras, PBB tidak memandang AI semata-mata sebagai ancaman. Teknologi tersebut mempunyai potensi besar untuk membantu diagnosis penyakit, meningkatkan pendidikan, memantau perubahan iklim, memperkuat produksi pangan, mempercepat penanganan bencana hingga membantu penyaluran bantuan kemanusiaan. AI bahkan diperkirakan dapat membantu mempercepat pencapaian berbagai Tujuan Pembangunan Berkelanjutan apabila digunakan secara bertanggung jawab dan manfaatnya dapat diakses secara lebih merata. Tantangan utama karena itu bukan menghentikan pengembangan teknologi, melainkan memastikan inovasi berlangsung dalam kerangka keselamatan, transparansi, akuntabilitas dan perlindungan manusia. Regulasi juga perlu dirancang agar mampu mengikuti perubahan teknologi tanpa menutup peluang inovasi yang memberikan manfaat sosial dan ekonomi.

Peringatan terbaru dari PBB memperlihatkan bahwa perdebatan mengenai AI kini telah bergerak melampaui persoalan teknologi dan produktivitas menuju isu keamanan serta masa depan manusia. Kemampuan model AI diperkirakan akan terus meningkat, sementara penggunaan agen otonom membuat sistem semakin mampu menjalankan tugas kompleks dengan campur tangan manusia yang lebih sedikit. Kondisi tersebut membuat pemerintah, perusahaan teknologi, peneliti dan masyarakat internasional menghadapi tekanan untuk menyusun aturan sebelum kemampuan baru muncul dalam skala yang sulit diawasi. PBB mendorong negara-negara membangun batas internasional yang jelas sekaligus meminta pengembang memastikan keselamatan menjadi bagian utama dari setiap tahap pengembangan AI. Tanpa langkah bersama dan pengawasan yang kuat, manfaat besar kecerdasan buatan dikhawatirkan dapat berjalan beriringan dengan risiko yang dampaknya jauh melampaui sektor teknologi.