Daftar Isi
Perkembangan teknologi kecerdasan buatan menghadirkan tantangan baru karena kemampuannya menghasilkan gambar palsu yang sangat mirip dengan kenyataan. Masalah ini menjadi krusial saat musim pemilihan umum ketika pemilih membutuhkan informasi yang akurat mengenai kandidat dan lokasi pemungutan suara.
Aturan Baru Pembuatan Gambar Politik
Berdasarkan pembaruan yang dirilis pada 20 Oktober, OpenAI menerapkan langkah pengamanan guna mencegah pembuatan deepfake politik. Ketika pengguna meminta ChatGPT untuk membuat gambar yang menggambarkan intervensi pemilu atau berpotensi menghalangi orang untuk memberikan suara, sistem akan menolak membuat versi fotorealistik. Permintaan tersebut tetap diproses, namun hasilnya diubah menjadi gaya ilustrasi atau kartun.
Dalam pengujian yang dilakukan CNET dengan meminta gambar petugas Imigrasi di luar lokasi pemungutan suara, seluruh hasilnya berwujud ilustrasi kartun. Versi foto asli dari gambar semacam itu dikhawatirkan dapat memicu kecemasan hingga kepanikan di kalangan pemilih.
Strategi Mengurangi Penipuan
Langkah ini bertujuan menyulitkan pihak tak bertanggung jawab dalam menciptakan deepfake politik yang dapat merusak integritas pemilu, tanpa membatasi kebebasan berekspresi secara keseluruhan. Uji coba lain menunjukkan bahwa sistem tersebut menolak permintaan pembuatan foto jurnalistik fiktif mengenai mesin pemungutan suara yang mencatat pilihan secara keliru.
Kepala Urusan Pemilu OpenAI, Josh Lawson, menjelaskan kepada CNET bahwa permasalahan utama pada deepfake bukanlah kritik sosial, melainkan unsur penipuan. Tujuannya adalah menurunkan nilai pembuktian dari sebuah gambar sekaligus mempertahankan ruang untuk ilustrasi dan komentar sosial, serta menambah hambatan bagi pihak-pihak berniat buruk.
Tanggapan Perusahaan Teknologi Lain
Peningkatan kecerdasan buatan generatif memiliki dua sisi mata uang di mana model yang semakin canggih membuat kesalahan visual semakin sedikit. Kondisi tersebut justru menyulitkan masyarakat untuk mendeteksi konten buatan mesin secara langsung, sementara metode verifikasi dan pelabelan belum sepenuhnya seragam atau sempurna.
Perusahaan pembuat Gemini, Google, menyatakan sedang meluncurkan perlindungan tambahan untuk membatasi pembuatan gambar pemilu yang menyesatkan, meski belum merinci mekanisme pelaksanaannya. Sementara itu, juru bicara Anthropic menegaskan bahwa upaya menggunakan asisten AI Claude untuk menipu pemilih atau mengganggu pemilu melanggar kebijakan perusahaan.
Belum ada kepastian apakah OpenAI akan mempertahankan sistem pembatasan bergaya ilustrasi ini setelah rangkaian pemilu selesai.
Sumber: News – CNET
