Seoul, Korea Selatan – Itu berita bahwa Saint Von Colucci, seorang aktor Kanada-Portugis berusia 22 tahun, penyanyi dan penulis lagu dengan daya tarik di kancah hiburan Korea Selatan, telah meninggal setelah menjalani operasi agar terlihat seperti bintang K-pop, media heboh.

Von Colucci dilaporkan menjalani 12 operasi plastik, menelan biaya lebih dari $200.000, agar terlihat seperti anggota BTS Jimin dan mengatasi diskriminasi “terhadap fitur Baratnya”. Dia dikatakan baru-baru ini mendapatkan peran dalam drama Korea yang akan datang.

Satu-satunya masalah adalah Von Colucci mungkin tidak pernah ada.

Sejumlah bukti menunjukkan bahwa dia adalah produk dari tipuan yang rumit menggunakan kecerdasan buatan yang telah membodohi puluhan media, mulai dari Amerika Serikat dan Kanada hingga Inggris, Korea Selatan, India, Malaysia, dan Filipina.

Bencana itu tampaknya menjadi kasus pertama AI yang diketahui digunakan untuk mengelabui media secara besar-besaran agar menyebarkan informasi yang salah, menandai awal era baru berita palsu yang dihasilkan komputer.

“Pemalsuan dan disinformasi yang dihasilkan dengan bantuan alat AI tentu memprihatinkan, karena akan mempersulit kehidupan pemeriksa fakta dan jurnalis,” kata Felix M Simon, seorang jurnalis dan mahasiswa doktoral di Oxford Internet Institute. Al Jazeera.

Kisah itu dimulai awal pekan ini ketika jurnalis di seluruh dunia menerima siaran pers yang mengumumkan bahwa Von Colucci telah meninggal dunia pada 23 April di sebuah rumah sakit di Seoul.

Siaran pers, yang ditulis dalam bahasa Inggris dengan kata-kata yang kikuk, konon berasal dari agen hubungan masyarakat bernama HYPE Public Relations.

Namun, siaran pers tersebut mengandung banyak bendera merah.

Banyak tautan web dalam dokumen tidak dapat dimuat, termasuk tautan ke akun Instagram Von Colucci, dan rumah sakit yang disebutkan dalam siaran pers tidak ada.

Situs web HYPE, yang mencantumkan kantor WeWork di London dan Toronto sebagai kantor pusatnya, tampaknya belum selesai dan baru didaftarkan beberapa minggu sebelum laporan kematian Von Colucci.

Saat Al Jazeera mencoba menghubungi HYPE melalui nomor yang tertera, tidak ada yang menjawab. Al Jazeera kemudian mengirim pesan teks dari nomor yang mengatakan: “Apa yang kamu mau.”

Selain siaran pers, hanya ada sedikit bukti bahwa Von Colucci adalah orang yang nyata.

Meskipun digambarkan sebagai penulis lagu untuk sejumlah bintang K-pop, Von Colucci tidak memiliki kehadiran online yang signifikan dan tidak ada yang tampil untuk meratapi kematiannya di depan umum.

Jejak online yang ada menimbulkan lebih banyak pertanyaan.

Foto-foto Von Colucci online buram dan berisi fitur-fitur aneh, termasuk tangan cacat setidaknya dalam satu kasus – tanda jelas penggunaan AI.

Perangkat lunak pendeteksi gambar yang dihasilkan AI, meskipun memiliki keterbatasan, menunjukkan bahwa beberapa foto memiliki kemungkinan besar untuk diproduksi atau diedit dengan perangkat lunak AI. Al Jazeera tidak dapat memverifikasi keaslian gambar secara independen.

Repertoar musik Von Colucci, termasuk album “T1K T0K H1GH SCH00L”, tidak tersedia di layanan streaming musik arus utama mana pun.

Dalam siaran pers yang diedarkan tahun lalu, Von Colucci digambarkan sebagai “putra kedua Geovani Lamas, CEO IBG Capital, perusahaan hedge fund top Eropa”.

Geovani Lamas tidak memiliki kehadiran resmi online, sedangkan hasil pencarian teratas untuk IBG Capital adalah perusahaan investasi di negara bagian Arizona, AS.

Selanjutnya, halaman Instagram bintang K-pop wannabe itu diaktifkan kembali minggu ini, dengan satu komentar diedit dua hari setelah kematiannya yang dilaporkan. Komentar tersebut telah dihapus.

Litani bendera merah tidak menghalangi media untuk bergegas meliput kematian aneh Von Colucci, termasuk foto-foto sensasional sebelum dan sesudah operasi yang tampaknya menunjukkan transformasinya dari seorang pria kulit putih menjadi seseorang dengan fitur wajah Asia Timur.

Setelah Daily Mail Online melaporkan ceritanya, dengan cepat diambil oleh media di seluruh dunia.

Daily Mail Online diam-diam menurunkan artikelnya pada hari Rabu tanpa penjelasan atau pemberitahuan pencabutan.

Ceritanya tetap ada di situs puluhan outlet lain, termasuk The Independent di Inggris, Hindustan Times di India, Malay Mail di Malaysia, dan Newsis di Korea Selatan.

Kedutaan Besar Kanada di Seoul menolak berkomentar ketika dihubungi oleh Al Jazeera.

Media Korea Selatan melaporkan bahwa polisi belum menerima laporan kasus yang melibatkan aktor Kanada yang meninggal akibat komplikasi operasi plastik.

Kebohongan yang tampak adalah pengingat yang jelas akan potensi AI, yang masih dalam masa pertumbuhan, untuk mengaburkan kebenaran dan fiksi, terutama karena penurunan pendapatan media dan jumlah karyawan menimbulkan pertanyaan eksistensial tentang masa depan jurnalis dan berita profesional.

Platform seperti ChatGPT, yang dapat menulis seluruh artikel dengan suara seperti manusia, telah memungkinkan siapa saja membuat berita menarik yang berpotensi digunakan untuk manipulasi politik dan penyebaran teori konspirasi hanya dengan beberapa klik.

AI juga sudah dapat digunakan untuk “palsu mendalam” yang memanipulasi video dan gambar orang sungguhan, menciptakan peluang bagi aktor jahat untuk mengganggu pemilu, merusak reputasi, membuat pornografi balas dendam, dan bahkan menghasut kekerasan.

Konten yang dihasilkan AI sebelumnya telah disalahkan karena menyesatkan orang dalam jumlah besar.

Foto manipulasi Paus Francis mengenakan jaket puffer putih dan mantan Presiden AS Donald Trump yang ditangkap baru-baru ini menjadi viral di media sosial.

Namun kasus Von Colucci tampaknya menjadi contoh pertama jurnalis disesatkan dalam skala besar, mengungkap kekurangan dalam standar editorial dan pemeriksaan fakta dasar.

Meski begitu, Simon, dari Oxford Internet Institute, menyatakan optimismenya bahwa berita palsu yang dihasilkan AI tidak akan berdampak bencana pada wacana publik.

“Masalah utama dengan misinformasi dan disinformasi adalah permintaannya – yang terbatas – dan kemampuan untuk menjangkau orang dengan memasukkannya ke arus utama – yang sulit. Kemampuan untuk menghasilkan lebih banyak dan/atau kualitas yang lebih baik misinformasi dan disinformasi tidak mungkin mengubah itu, ”katanya.

“Selain itu, kami memiliki mekanisme kewaspadaan epistemik yang cukup baik – mis. menilai konteks, sumber, memeriksa informasi dengan informasi sebelumnya – yang kemungkinan akan menyesuaikan dan melawan bentuk baru atau upaya untuk menipu kita.”