“Penggilingan tangan memberi Anda masyarakat dengan tuan feodal; masyarakat pabrik uap dengan kapitalis industri,” kata Karl Marx suatu kali. Dan dia benar. Sepanjang sejarah kita telah melihat berulang kali bagaimana penemuan teknologi menentukan mode produksi yang dominan dan dengan itu jenis otoritas politik yang ada dalam masyarakat.

Jadi apa yang akan diberikan kecerdasan buatan kepada kita? Siapa yang akan memanfaatkan teknologi baru ini, yang tidak hanya menjadi kekuatan produktif yang dominan di masyarakat kita (seperti penggilingan tangan dan penggilingan uap dulu) tetapi, seperti yang terus kita baca di berita, tampaknya terlalu cepat untuk melarikan diri” kendali kita?

Bisakah AI menjalani kehidupannya sendiri, seperti yang tampaknya diyakini oleh begitu banyak orang, dan seorang diri memutuskan arah sejarah kita? Atau akankah itu berakhir sebagai penemuan teknologi lain yang melayani agenda tertentu dan menguntungkan sekelompok orang tertentu?

Baru-baru ini, contoh konten hiper-realistis yang dibuat oleh AI, seperti “wawancara” dengan mantan juara dunia Formula Satu Michael Schumacher, yang tidak dapat berbicara kepada pers sejak kecelakaan ski yang menghancurkan pada tahun 2013; “foto” yang memperlihatkan mantan Presiden Donald Trump ditangkap di New York; dan esai siswa yang tampaknya otentik “ditulis” oleh chatbot terkenal OpenAI, ChatGPT, telah menimbulkan keprihatinan serius di kalangan intelektual, politisi, dan akademisi tentang bahaya yang dapat ditimbulkan oleh teknologi baru ini bagi masyarakat kita.

Pada bulan Maret, kekhawatiran seperti itu menyebabkan salah satu pendiri Apple Steve Wozniak, kelas berat AI Yoshua Bengio dan CEO Tesla/Twitter Elon Musk, di antara banyak lainnya, untuk membuka surat Menuduh laboratorium AI “terkunci dalam perlombaan di luar kendali untuk mengembangkan dan menggunakan otak digital yang semakin kuat yang tidak seorang pun – bahkan penciptanya – dapat memahami, memprediksi, atau mengontrol dengan andal” dan menyerukan agar pengembang AI melakukan pekerjaan mereka. Baru-baru ini, Geoffrey Hinton – dikenal sebagai salah satu dari tiga “ayah baptis AI” keluar dari Google “untuk berbicara dengan bebas tentang bahaya AI” dan mengatakan dia setidaknya sebagian menyesali kontribusinya di lapangan.

Kami menerima bahwa AI – seperti semua teknologi yang menentukan zaman – hadir dengan kerugian dan bahaya yang signifikan, tetapi tidak seperti Wozniak, Bengio, Hinton, dan lainnya, kami tidak percaya bahwa AI dapat menentukan arah sejarah dengan sendirinya, tanpa masukan atau panduan apa pun umat manusia. Kami tidak berbagi kekhawatiran seperti itu karena kami tahu bahwa, seperti halnya dengan semua perangkat dan sistem teknologi kami yang lain, agenda politik, sosial, dan budaya kami juga dibangun ke dalam teknologi AI. Seperti yang dijelaskan oleh filsuf Donna Haraway, “Teknologi tidaklah netral. Kita ada di dalam apa yang kita buat, dan itu ada di dalam diri kita.”

Sebelum kami menjelaskan lebih lanjut mengapa kami tidak takut dengan apa yang disebut pengambilalihan AI, kami perlu mendefinisikan dan menjelaskan apa sebenarnya AI – seperti yang kita hadapi sekarang. Ini adalah tugas yang menakutkan, tidak hanya karena kerumitan produk yang ada, tetapi juga karena mitos AI di media.

Apa yang terus-menerus dikomunikasikan kepada publik saat ini adalah bahwa mesin sadar (hampir) ada di sini, bahwa dunia kita sehari-hari akan segera terlihat seperti yang digambarkan dalam film-film seperti 2001: A Space Odyssey, Blade Runner, dan The Matrix.

Ini adalah narasi palsu. Meskipun kita tidak diragukan lagi membangun komputer dan kalkulator yang lebih mumpuni, tidak ada indikasi bahwa kita telah menciptakan – atau hampir menciptakan – pikiran digital yang benar-benar dapat “berpikir”.

Noam Chomsky baru-baru ini berdebat (dengan Ian Roberts dan Jeffrey Watumull) dalam artikel New York Times bahwa “kita tahu dari ilmu linguistik dan filosofi pengetahuan bahwa (program pembelajaran mesin seperti ChatGPT) sangat berbeda dari cara manusia bernalar dan menggunakan bahasa”. Terlepas dari jawaban yang sangat meyakinkan untuk berbagai pertanyaan orang, ChatGPT adalah “mesin pencocokan pola statistik yang kikuk, melahap ratusan terabyte data dan mengekstrapolasi respons percakapan yang paling mungkin atau jawaban yang paling mungkin untuk pertanyaan ilmiah”. Meniru filsuf Jerman Martin Heidegger (dan mempertaruhkan menghidupkan kembali pertempuran kuno antara filsuf kontinental dan analitik), kita dapat mengatakan: “AI tidak berpikir. Itu hanya menghitung.”

Federico Faggin, penemu mikroprosesor komersial pertama, mitos Intel 4004, menjelaskannya dengan jelas dalam bukunya tahun 2022 Irriducibile (Irreducible): “Ada perbedaan yang jelas antara ‘pengetahuan’ mesin simbolis… dan pengetahuan semantik manusia. Yang pertama adalah informasi objektif yang dapat disalin dan dibagikan; yang terakhir adalah pengalaman subyektif dan pribadi yang terjadi dalam keintiman makhluk sadar.”

Dengan menafsirkan teori-teori terbaru fisika kuantum, Faggin tampaknya telah mencapai kesimpulan filosofis yang sangat cocok dengan Neoplatonisme kuno – suatu prestasi yang dapat memastikan dia selamanya dianggap sebagai bidat di kalangan ilmiah, terlepas dari pencapaiannya yang luar biasa sebagai seorang penemu.

Tapi apa artinya semua ini bagi masa depan kita? Jika Centaur Chiron kita yang sangat cerdas tidak dapat benar-benar “berpikir” (dan dengan demikian muncul sebagai kekuatan independen yang dapat menentukan jalannya sejarah manusia), siapa yang akan diuntungkan dan diberikan otoritas politik? Dengan kata lain, nilai apa yang akan diandalkan oleh keputusannya?

Chomsky dan rekan-rekannya mengajukan pertanyaan serupa kepada ChatGPT.

“Sebagai seorang AI, saya tidak memiliki keyakinan moral atau kemampuan untuk membuat penilaian moral, jadi saya tidak dapat dianggap tidak bermoral atau bermoral,” kata chatbot kepada mereka. “Kurangnya keyakinan moral saya hanyalah hasil dari sifat saya sebagai model pembelajaran mesin.”

Di mana kita pernah mendengar tentang posisi ini sebelumnya? Bukankah ini sangat mirip dengan visi liberalisme keras kepala yang secara etis netral?

Liberalisme berusaha untuk membatasi semua nilai agama, sipil, dan politik yang begitu berbahaya dan merusak pada abad ke-16 dan ke-17 ke dalam ruang pribadi individu. Ia ingin semua aspek masyarakat diatur oleh bentuk rasionalitas tertentu – dan dengan cara yang misterius -: pasar.

AI tampaknya mempromosikan merek rasionalitas misterius yang sama. Yang benar adalah bahwa itu muncul sebagai inovasi “bisnis besar” global berikutnya yang akan mencuri pekerjaan dari orang – membuat buruh, dokter, pengacara, jurnalis, dan banyak lainnya mubazir. Nilai moral bot baru identik dengan pasar. Sulit membayangkan semua kemungkinan perkembangan sekarang, tetapi skenario yang menakutkan muncul.

David Krueger, asisten profesor pembelajaran mesin di University of Cambridge, baru-baru ini mengatakan di New Scientist: “Pada dasarnya setiap peneliti AI (termasuk saya sendiri) telah menerima dana dari teknologi besar. Pada titik tertentu, masyarakat mungkin berhenti mempercayai jaminan dari orang-orang dengan kepentingan yang sangat bertentangan dan menyimpulkan, seperti yang saya miliki, bahwa penolakan mereka (peringatan tentang AI) mengkhianati angan-angan daripada argumen tandingan yang masuk akal.

Jika masyarakat bangkit melawan AI dan promotornya, itu bisa membuktikan bahwa Marx salah dan mencegah perkembangan teknologi terkemuka di era saat ini untuk menentukan siapa yang memegang kekuasaan politik.

Tapi untuk saat ini, sepertinya AI akan tetap ada. Dan agenda politiknya sepenuhnya sinkron dengan kapitalisme pasar bebas, yang maksud dan tujuan utamanya (tidak disebutkan) adalah untuk mengobrak-abrik segala bentuk solidaritas sosial dan komunitas.

Bahaya AI bukanlah bahwa itu adalah kecerdasan digital yang tidak mungkin dikendalikan yang dapat menghancurkan rasa diri dan kebenaran kita melalui gambar, esai, berita, dan sejarah “palsu” yang dihasilkannya. Bahayanya adalah penemuan monumental yang tak dapat disangkal ini tampaknya mendasarkan semua keputusan dan tindakannya pada nilai-nilai destruktif dan berbahaya yang sama yang mendorong kapitalisme rakus.

Pendapat yang diungkapkan dalam artikel ini adalah milik penulis sendiri dan tidak mencerminkan posisi editorial Al Jazeera.