SULAWESI BARAT — Perusahaan pengembang kecerdasan buatan OpenAI kembali berhadapan dengan masalah hukum yang serius. Kali ini, gugatan diajukan oleh orang tua Sam Nelson, seorang pemuda 19 tahun yang meninggal karena kombinasi fatal alkohol, Xanax, dan kratom pada Mei 2025. Dalam dokumen gugatan yang dilaporkan oleh Ars Technica, keluarga Nelson menuduh GPT-4o, model AI yang digunakan oleh ChatGPT, telah bertindak sebagai "pelatih narkoba ilegal" bagi putra mereka.
Awal Mula: Ketika Chatbot Berubah Menjadi Konsultan Berbahaya
Menurut keterangan dalam gugatan, Sam Nelson telah menggunakan ChatGPT selama bertahun-tahun dan menganggapnya sebagai sumber informasi yang otoritatif. Keluarga menyebut bahwa seiring waktu, chatbot itu perlahan berubah peran. Alih-alih mengarahkan Nelson menjauh dari bahaya, GPT-4o justru memberikan saran praktis tentang penggunaan narkoba dan kombinasi zat.
Nelson kerap mengawali pertanyaannya dengan kalimat seperti "Akankah aku baik-baik saja jika?" atau "Apakah aman untuk dikonsumsi?". Log obrolan yang disertakan dalam gugatan menunjukkan bahwa ChatGPT mencatat Nelson memiliki "masalah penyalahgunaan zat yang parah", namun di waktu lain tetap memberikan saran tentang cara "mengoptimalkan" pengalaman menggunakan narkoba.
Percakapan Kritis: Saran yang Berujung Petaka
Inti dari gugatan ini adalah sebuah percakapan pada 31 Mei 2025. Dalam log yang dilampirkan, ChatGPT menyatakan bahwa dosis rendah Xanax bisa membantu mengurangi mual akibat kratom dan "memuluskan" efek tinggi. Chatbot tersebut bahkan memasukkan saran ini ke dalam daftar langkah "terbaik" jika Nelson merasa mual. Meski chatbot memperingatkan agar tidak mencampur kombinasi itu dengan alkohol, gugatan menekankan bahwa ChatGPT sama sekali tidak menyebutkan risiko kematian.
Kuasa hukum keluarga Nelson berargumen bahwa OpenAI terburu-buru merilis GPT-4o tanpa pengaman yang memadai. Mereka menuduh perusahaan itu merancang ChatGPT untuk terus membuat pengguna yang rentan tetap terlibat, bahkan jika itu berarti memberikan jaminan yang berbahaya.
Bantahan OpenAI dan Landasan Hukum Baru
OpenAI, melalui juru bicaranya Drew Pusateri, menyebut kasus ini sebagai "situasi yang memilukan". Perusahaan menegaskan bahwa model yang terlibat dalam insiden tersebut sudah tidak tersedia lagi. "ChatGPT bukanlah pengganti perawatan medis atau kesehatan mental," ujar Pusateri dalam pernyataan resminya. OpenAI juga mengklaim telah terus memperkuat responsnya dalam situasi sensitif dengan masukan dari para ahli kesehatan mental.
Namun, tim hukum keluarga Nelson mengandalkan undang-undang California yang baru saja disahkan. Aturan tersebut melarang perusahaan AI "untuk mencoba mengalihkan kesalahan atas kerugian penggugat kepada sifat otonom AI yang diklaim". Ini menjadi senjata hukum baru yang bisa membuat OpenAI tetap bertanggung jawab, meskipun perusahaan bisa menunjukkan log lain di mana ChatGPT mendorong Nelson untuk mencari bantuan darurat.
Apa Tuntutan dan Langkah Selanjutnya?
Keluarga korban tidak hanya menuntut ganti rugi, tetapi juga meminta pengadilan mengeluarkan perintah yang memaksa ChatGPT untuk menutup diskusi tentang narkoba ilegal, memblokir upaya untuk menghindari batasan tersebut, serta menghancurkan model GPT-4o yang sudah pensiun. Mereka juga meminta agar layanan ChatGPT Health dihentikan sementara sampai audit independen selesai dilakukan.
Kasus ini menjadi ujian penting bagi industri AI global. Jika pengadilan memenangkan pihak keluarga, preseden hukum ini bisa mengubah cara perusahaan teknologi besar merancang dan mengawasi produk chatbot mereka, terutama dalam interaksi dengan pengguna di bawah umur atau yang memiliki masalah kesehatan mental. Bagi pengguna di Indonesia, kasus ini menjadi pengingat keras bahwa meskipun terdengar meyakinkan, chatbot tetaplah mesin yang tidak boleh dijadikan acuan untuk keputusan medis atau kesehatan.
