Ini telah menjadi tarif umum dalam kampanye politik di Amerika Serikat: iklan yang membuat klaim distopia jika kandidat lawan menang. Gambar yang dimanipulasi, kurang terang, dan tajuk ceri bergabung untuk membangun puncak kehancuran.

Tetapi setelah pengumuman hari Selasa bahwa Presiden Demokrat Joe Biden akan mencalonkan diri untuk pemilihan kembali, sebuah video resmi Partai Republik menonjol karena satu alasan khusus: Itu dibuat seluruhnya menggunakan citra kecerdasan buatan (AI).

Penerimaan Komite Nasional Republik terhadap “teknologi transformatif di zaman kita” tidak mengherankan mengingat kemajuan pesat dan ketersediaan produk AI, kata Darrell West, seorang peneliti senior di Pusat Inovasi Teknologi di Brookings Institution.

Penggunaan AI oleh Partai Republik adalah tanda awal dari apa yang mungkin terjadi, katanya kepada Al Jazeera.

“Tiga tahun lalu, AI tidak terlalu digunakan dalam kampanye pemilu. Namun teknologi berkembang dengan sangat cepat. Dan sekarang teknologinya sudah tersedia,” katanya. “Anda tidak perlu menjadi perancang perangkat lunak atau ahli pengeditan video untuk membuat video yang terlihat sangat realistis.”

“Ini adalah wilayah yang belum dipetakan,” tambahnya. “Kami telah melampaui Photoshopping bagian kecil dari sebuah gambar untuk pada dasarnya menghasilkan gambar yang sama sekali baru dari udara tipis. Ini akan membebaskan orang untuk membuat semua jenis video dan memproyeksikan realitas baru yang mungkin sebenarnya tidak ada.

Dan begitulah dimulai – #generasigelombang digunakan untuk membuat disinformasi dan video kampanye pemilu palsu.

Komite Nasional Republik baru saja merilis iklan melawan Biden menggunakan citra buatan AI. Sebelum pandemi, saya berpidato tentang bahaya deep fake… pic.twitter.com/7bw2yCn24Z

— Theo (@tprstly) 26 April 2023

“Penampilan yang Dihasilkan AI”

Untuk bagiannya, Komite Nasional Republik telah transparan tentang penggunaan AI, istilah umum untuk sistem yang berusaha meniru — dan melampaui — keterampilan kognitif manusia seperti pembelajaran, penalaran, dan kreativitas.

Dalam deskripsi YouTube-nya, kelompok politik tersebut menyebut video tersebut sebagai “tampilan yang dihasilkan AI tentang kemungkinan masa depan negara jika Joe Biden terpilih kembali pada tahun 2024”.

Video itu sendiri juga menyertakan teks yang mengatakan “dibuat sepenuhnya dengan citra AI”. Gambar realistis diputar saat pembaca berita palsu mengumumkan kemenangan Biden pada 2024, diikuti oleh serangkaian bencana hipotetis: China menyerang Taiwan, pasar keuangan ambruk, perbatasan selatan diserbu, dan pejabat menutup San Francisco,” mengutip meningkatnya kejahatan dan krisis fentanyl ” .

Dalam banyak hal, video tersebut tidak menunjukkan banyak penyimpangan dari citra dan retorika yang umum dalam kampanye Amerika.

Seperti yang dicatat Washington Post pada tahun 2020, “berbagi gambar yang direkayasa dari saingan pemilu adalah strategi politik modern yang sudah berlangsung lama”. Surat kabar itu melaporkan “percepatan cepat” dalam gambar palsu selama masa jabatan mantan Presiden Donald Trump, “mungkin karena Trump telah terbukti menjadi salah satu distributor paling populer mereka”.

Sementara itu, pengadilan AS telah berulang kali menegakkan interpretasi yang luas tentang hak untuk membuat pernyataan kampanye yang salah atau menyesatkan. Baru-baru ini, pengadilan banding memutuskan pada bulan Februari bahwa undang-undang Carolina Utara yang melarang pemalsuan kampanye “mungkin tidak konstitusional”.

West, rekan inovasi teknologi di Brookings Institution, mengatakan: “Pengadilan sering memutuskan bahwa pidato kampanye adalah pidato yang dilindungi. Faktanya, kandidat dapat dengan sengaja mengatakan hal-hal yang salah dan masih diizinkan untuk mengatakannya.”

Tom Wheeler, ketua Komisi Komunikasi Federal di bawah mantan Presiden Barack Obama, mengatakannya secara berbeda dalam sebuah wawancara dengan NPR tahun lalu: “Sayangnya, Anda boleh berbohong.”

Kecepatan dan kecanggihan

Namun, AI memiliki potensi untuk memperkuat praktik kampanye yang sudah ada sebelumnya, kata West, menambahkan “hampir tidak ada kontrol atas penggunaan teknologi ini dalam pengaturan kampanye”.

“Tidak ada persyaratan hukum untuk mengakui bahwa Anda menggunakan gambar buatan AI,” katanya. “Dalam hal ini, RNC secara sukarela mengungkapkannya… tetapi di masa mendatang, akan ada banyak organisasi yang akan menggunakannya tanpa memberi tahu pemilih.”

Apa yang disebut deepfake – video atau audio yang secara salah menggambarkan seseorang mengatakan atau melakukan sesuatu – telah menyebabkan kekhawatiran tertentu, bahkan jika mereka tetap berada di sela-sela politik sejauh ini.

California dan Texas mengeluarkan undang-undang menjelang pemilihan umum 2020, dengan yang pertama mengizinkan kandidat yang salah merepresentasikan untuk menuntut pemalsuan, dan yang terakhir menjatuhkan hukuman pidana untuk pemalsuan.

Namun, upaya federal untuk mengatur masalah ini telah sedikit kemajuan terlihatdengan pertanyaan tentang penegakan dan penolakan dari kelompok hak digital, yang berpendapat bahwa platform teknologi utama harus memberikan pengawasan.

Momen ‘Wild West’

Sementara itu, mereka yang ingin mempengaruhi kampanye dapat “bereaksi segera” terhadap peristiwa terbaru, kata West.

“Pada dasarnya, Anda meminta AI untuk menghasilkan gambar. Anda memilikinya dalam hitungan detik. Jadi, kami akan membuat iklan tanggapan cepat: Sesuatu akan terjadi dan mungkin ada iklan lima menit kemudian.”

“Ini akan menjadi kampanye yang sangat cepat dengan banyak klaim dan kontra-klaim yang terjadi dari menit ke menit,” katanya.

Demokrat juga dilaporkan merangkul aspek AI dalam kampanye, menguji teknologi untuk menulis draf pertama dari beberapa pesan penggalangan dana, New York Times dilaporkan di bulan Maret.

Mengutip tiga orang yang mengetahui upaya tersebut, surat kabar tersebut melaporkan bahwa pesan yang dibuat oleh AI dan diedit oleh manusia di Komite Nasional Demokrat “berkinerja sebaik atau lebih baik daripada salinan yang disusun seluruhnya oleh manusia, dalam hal menghasilkan keterlibatan dan donasi”.

Kemampuan untuk dengan cepat menjangkau—dan berpotensi memberikan informasi yang salah—segmen pemilih tertentu sangat penting dalam pemilihan presiden 2024, yang menurut West kemungkinan akan turun menjadi “satu atau dua persen pemilih.”

“Ini adalah momen Wild West di mana pemilih tidak mungkin membedakan yang asli dari yang palsu,” katanya.

“Hal-hal akan mendatangi mereka dari segala arah, dan ada risiko kebingungan yang meluas,” katanya. “Dan itu bisa mengarah pada keputusan yang buruk.”