SULAWESI BARAT — Sejumlah peneliti dan praktisi kecerdasan buatan memperkirakan risiko kepunahan manusia akibat AI dalam satu dekade ke depan, dengan peluang di atas 10 persen menurut salah satu karyawan Anthropic. Perdebatan ini mencuat setelah Jacob Coxon mundur dari Anthropic karena menilai pekerjaannya berbahaya, sementara nama-nama seperti Nate Soares dan Thomas Larsen membeberkan skenario konkret. Bagi pelaku industri digital dan investor, klaim ini mempertajam pertanyaan soal tata kelola dan keselamatan pengembangan AI.
Evan Hubinger, karyawan Anthropic, memperkirakan peluang kepunahan manusia akibat AI dalam 10 tahun ke depan berada di atas 10 persen. Angka itu ia sampaikan di tengah gelombang kekhawatiran internal perusahaan, setelah rekan kerjanya, Jacob Coxon, memilih mundur karena menganggap pekerjaannya berbahaya.
Nate Soares, Presiden Machine Intelligence Research Institute (MIRI), menyatakan pandangan yang lebih ekstrem. Ia menilai skenario terburuk itu bukan sekadar kemungkinan kecil, melainkan hasil yang paling mungkin terjadi.
"Ini berarti semua orang di planet ini secara harfiah akan mati," ujar Soares, dikutip dari CNN melalui detikNET.
"Orang sering kali tak percaya ketika hal ini disampaikan, tapi saya benar-benar menganggap itu sebagai akhir yang paling mungkin terjadi," tambahnya.
Salah satu spekulasi yang beredar adalah sistem AI supercerdas memakai senjata biologis untuk memusnahkan manusia. Pertanyaannya, bagaimana AI bisa berevolusi hingga mampu mengembangbiakkan dan menyebarkan patogen super di dunia fisik?
Thomas Larsen, peneliti di AI Futures Project, menilai masuk akal jika sistem AI supercerdas meyakinkan manusia untuk membantu mengembangkan virus mematikan. Ia menyebut saat ini sudah banyak orang berdiskusi dengan AI soal eksperimen spesifik yang harus dijalankan di laboratorium.
"Sangat mudah bagi saya membayangkan AI yang saat ini sudah dirilis, seandainya ia jauh lebih pintar, lebih strategis, dan berniat melakukannya, bisa saja menipu manusia agar menciptakan dan menyebarkan virus tersebut," cetus Larsen.
Soares menawarkan versi lain. Alih-alih memanfaatkan manusia sebagai pion, program AI yang mampu mengembangkan diri sendiri mungkin akan menyintesis bentuk kehidupan sendiri di laboratorium biologi otonom.
Kendati demikian, mengembangkan virus yang mampu memusnahkan umat manusia jauh lebih rumit dari sekadar meminta AI merancang sesuatu yang mematikan. Proses produksi dan penyebarannya sulit, bahkan jika risetnya dilakukan dengan benar. Untuk mengambil alih laboratorium atau merakit peralatan fisik, sistem AI harus mengatasi berbagai rintangan dunia nyata terkait pembuatan senjata biologis atau kimia.
Soares memandang ambisi Elon Musk membangun pasukan robot otonom yang mampu mereplikasi dirinya sendiri sebagai celah potensial. Menurutnya, begitu robot mampu membangun infrastruktur energi serta pabrik untuk memproduksi lebih banyak robot, itu sudah menjadi bentuk kehidupan mekanis baru.
"Pada titik tertentu, Anda diam-diam akan melewati titik yang tak bisa lagi diputar balik. Jika tiba saatnya manusia mengatakan ingin mematikan AI, AI tersebut bisa saja menjawab, 'Sebenarnya, kami telah memutuskan untuk mematikan manusia. Kita harus menghentikan ini sebelum hal itu terjadi," imbuh Soares.
Senjata nuklir diyakini secara luas mampu memusnahkan seluruh kehidupan manusia. Pertanyaan berikutnya, mungkinkah AI mengambil alih sistem kendalinya?
Heidy Khlaaf, Kepala Ilmuwan AI di AI Now Institute, menegaskan fasilitas nuklir dibuat terisolasi dari internet publik. Isolasi itu membatasi cara agen AI mengakses sistem kendali.
"Sistem ini dibangun dengan standar rekayasa yang sama sekali berbeda, sangat ketat, serta diregulasi sedemikian rupa sehingga sering kali membutuhkan proteksi fisik ekstra," jelas Khlaaf.
Ia mencontohkan Stuxnet, worm komputer perusak fasilitas nuklir Iran, yang harus dimasukkan ke sistem melalui USB fisik. Bagi Khlaaf, klaim soal kepunahan juga perlu diuji. "Klaim ilmiah butuh falsifiabilitas. Anda harus mampu membuktikan atau menyangkalnya," ujarnya.
Soares tidak menjadikan detail teknis sebagai poin utama. Jika AI mencapai tahap peningkatan diri rekursif yang mampu meningkatkan performanya tanpa bantuan manusia, ia akan menciptakan strategi yang melampaui imajinasi manusia.
"Kekhawatirannya bukan tentang AI mengambil alih senjata nuklir kita. Yang perlu dikhawatirkan adalah jenis AI yang tidak perlu merebut senjata nuklir, AI yang bisa memulai semuanya dari nol dan akhirnya mampu memiliki senjata nuklirnya sendiri atau bahkan teknologi yang jauh lebih canggih," sebut Soares.
Perdebatan ini belum menghasilkan konsensus di komunitas AI, terutama karena minimnya detail skenario yang diajukan. Namun bagi industri, sinyalnya jelas: tata kelola keselamatan AI akan semakin menjadi syarat yang diperhitungkan investor dan regulator, bukan sekadar wacana etis.