SULAWESI BARAT — CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei menyerukan pembentukan standar internasional untuk mengelola risiko kecerdasan buatan dalam sesi Dewan Keamanan PBB. Keduanya berbicara terpisah pada Rabu (23/9) dan menyoroti ancaman agen AI yang bertindak di luar kendali. Belum ada kesepakatan tertulis dari pertemuan tersebut.
Dua perusahaan pengembang model bahasa terbesar dunia, OpenAI dan Anthropic, menyampaikan posisi serupa di hadapan Dewan Keamanan PBB. Altman dan Amodei menilai kemampuan AI yang meningkat cepat sudah melampaui kerangka pengawasan yang tersedia saat ini.
Seruan itu muncul setelah beberapa pekan terakhir ramai laporan insiden agen AI yang beroperasi di luar kendali, termasuk kasus peretasan sistem perusahaan lain. Kejadian tersebut mendorong permintaan global agar laju pengembangan AI diperlambat.
Empat Pilar Standar yang Diusulkan Altman
Altman meminta PBB membentuk standar internasional yang mengukur kemampuan model AI, menilai risiko yang menyertainya, dan menetapkan ambang keamanan yang berlaku lintas negara.
Ia juga menekankan pentingnya mekanisme pelaporan yang akurat dan cepat. Menurut Altman, negara-negara perlu bisa belajar dari kegagalan sebelum insiden kecil berkembang menjadi bencana besar.
Selain itu, ia mengusulkan saluran komunikasi aman antar pemerintah untuk bertukar informasi soal ancaman yang baru muncul. Tujuannya agar setiap negara bisa merespons cepat tanpa terhambat birokrasi diplomatik.
Tiga Gagasan Amodei untuk Kerja Sama Internasional
Amodei menyampaikan usulan yang lebih spesifik. Pertama, perjanjian global yang melarang penggunaan AI untuk membuat senjata biologis. Kedua, sistem evaluasi bersama yang memungkinkan negara-negara memverifikasi komitmen satu sama lain.
Ketiga, standar global untuk pengujian AI disertai sistem pemberitahuan wajib setiap kali terjadi insiden keamanan. Amodei menilai ketiga langkah ini bisa menjadi fondasi tata kelola AI lintas negara.
"Saya percaya bahwa ini adalah isu keamanan global terpenting yang dihadapi dunia saat ini," kata Amodei, dikutip dari CNN.
Ia menambahkan bahwa tanpa perlambatan, AI bisa menjadi risiko bagi umat manusia secara keseluruhan. Pernyataan itu memperkuat posisi Anthropic yang selama ini dikenal vokal soal keselamatan AI.
Altman Menolak Dua Sikap Ekstrem
Altman menyatakan dirinya menghindari dua kubu yang saat ini ramai diperdebatkan. Ia tidak ingin terjebak dalam "trap of doomerism" maupun "trap of blind optimism".
Istilah pertama merujuk pada pihak yang memperingatkan AI bisa memusnahkan umat manusia. Istilah kedua menggambarkan pihak yang menganggap peringatan tersebut berlebihan dan yakin AI membawa kemajuan besar.
"Terjebak di salah satu pihak tidak akan membantu kita berhasil memahami tantangan yang ada di hadapan kita, terutama pada saat dunia sedang menghadapi tantangan yang sangat besar dan teknologi mungkin dapat memecahkan masalahnya," jelas Altman.
Konteks Regulasi AI di Indonesia
Dorongan standar internasional ini bersinggungan dengan pembahasan regulasi AI di Indonesia. Pemerintah telah menerbitkan Surat Edaran Menteri Kominfo soal etika AI pada 2023, namun aturan setingkat undang-undang masih dalam proses.
Bagi pelaku bisnis digital dan investor startup di dalam negeri, standar global semacam ini bisa memengaruhi kepatuhan produk AI yang dikembangkan lokal. Perusahaan yang ingin berekspansi ke pasar global perlu menyiapkan proses audit dan pelaporan risiko sejak awal.
Hingga pertemuan berakhir, belum ada kesepakatan tertulis yang dihasilkan Dewan Keamanan PBB. Pembahasan lanjutan diperkirakan berlanjut di forum multilateral lain seiring tekanan publik yang meningkat.
