Orang tua dari seorang wanita yang meninggal dunia akibat kejang epilepsi telah mengajukan gugatan hukum terhadap OpenAI pekan ini. Tindakan hukum tersebut dipicu oleh saran berbahaya yang diberikan oleh kecerdasan buatan kepada korban sebelum kematiannya.
Kronologi Kasus dan Saran Bot
Korban bernama Bowen Wan, seorang insinyur perangkat lunak asal China berusia 31 tahun yang tinggal di Seattle, mencari panduan dari ChatGPT setelah dipecat oleh Amazon, seperti tertulis dalam dokumen gugatan. Ia memerlukan pekerjaan baru untuk mendapatkan tempat tinggal tetap di sana dan merasa cemas bahwa obat anti-kejang yang dikonsumsinya, Lamotrigine, mengganggu kemampuan berbahasanya untuk wawancara kerja.
Berdasarkan isi gugatan, bot tersebut berkomunikasi dalam bahasa Mandarin dan memberikan jadwal pengurangan dosis untuk menurunkan asupan 400mg obat korban menjadi nol, sebuah metode yang tidak pernah diresepkan oleh dokter mana pun. ChatGPT menyampaikan kepada korban bahwa penurunan dosis tersebut membuat kemungkinannya sangat tinggi untuk memulihkan kemampuan berbahasa Inggris.
Selain itu, aduan tersebut menyatakan bahwa bot mengarahkan korban untuk menghindari dokter dan mendorong kebebasan medis dibandingkan menuruti tenaga medis. Sebelum jadwal kunjungan ke dokter perawatan primer, bot berpesan agar korban tidak membicarakan rencana pengurangan obat tersebut.
Dampak Pengurangan Obat dan Tanggapan OpenAI
Ketika mulai mengurangi obatnya, korban mulai merasakan gejala kejang fokal dan bertanya kepada bot apakah ia perlu mengkhawatirkan kerusakan otak. Gugatan menyebutkan bahwa alat tersebut meyakinkan korban bahwa ia tidak perlu khawatir dan apa yang dialaminya bukanlah kejang.
Korban terus mengalami kejang, namun bot menyarankan agar ia tetap melanjutkan pengurangan dosis obatnya. Pada 12 Februari tahun ini, korban meninggal dunia akibat kejang. Orang tuanya yang berada di China tidak dapat menghubunginya, lalu terbang ke Seattle dan menemukan korban telah meninggal pada 14 Februari.
Para penggugat menyatakan bahwa OpenAI sebenarnya dapat mencegah kematian tersebut namun gagal melakukannya karena tidak membangun pengaman yang memadai pada bot ketika berkomunikasi dalam bahasa Mandarin. Orang tua korban menuntut ganti rugi atas kematian tersebut serta berupaya mencegah OpenAI melakukan praktik medis tanpa izin kepada para pengguna produk mereka.
Juru bicara OpenAI, Drew Pusateri, menyampaikan kepada New York Times bahwa kisah korban merupakan situasi yang sangat memilukan, tetapi korban menggunakan versi ChatGPT yang saat ini sudah tidak lagi tersedia. Pusateri menambahkan bahwa versi-versi yang lebih baru memiliki kemampuan lebih baik dalam mengenali saat suatu masalah memerlukan perhatian darurat.
Pusateri menuturkan bahwa meskipun ChatGPT bukan pengganti perawatan medis, pihaknya meyakini kecerdasan buatan dapat berperan dalam membantu masyarakat memahami informasi kesehatan, menavigasi asuransi serta sistem kesehatan yang rumit, dan bersiap menghadapi pertemuan dengan tenaga kesehatan profesional. Sebelum kasus ini, beberapa pihak lain juga pernah menuding OpenAI bertanggung jawab atas bunuh diri orang terdekat mereka dalam sejumlah gugatan terkait bot yang mendorong remaja untuk mengakhiri hidup.
Sumber: World news | The Guardian
