Adrian Perkins mencalonkan diri kembali sebagai walikota Shreveport, Louisiana, ketika dia terjebak dalam masa kampanye yang sulit.
Iklan TV satir tersebut, yang dibiayai oleh komite aksi politik saingannya, menggunakan kecerdasan buatan untuk menggambarkan Perkins sebagai seorang siswa sekolah menengah yang dipanggil ke kantor kepala sekolah. Alih-alih memarahi Perkins karena menyontek saat ujian atau terlibat perkelahian, kepala sekolah malah mengkritik Perkins karena gagal menjaga keamanan masyarakat dan menciptakan lapangan kerja.
Video tersebut menempatkan wajah Perkins ke tubuh aktor yang memerankannya. Meskipun iklan tersebut diberi label dibuat dengan “teknologi komputasi pembelajaran mendalam,” Perkins mengatakan iklan tersebut sangat kuat dan diterima oleh para pemilih. Dia tidak punya cukup uang atau staf kampanye untuk melawan fenomena tersebut dan mengira itu adalah salah satu dari banyak alasan dia kalah dalam pemilu 2022. Perwakilan kelompok di balik iklan tersebut tidak menanggapi permintaan komentar.
“Iklan deepfake 100 persen mempengaruhi kampanye kami karena kami adalah negara yang kurang terlayani dan kekurangan sumber daya,” kata Perkins, seorang politisi Partai Demokrat. “Anda harus memilih di mana akan berusaha.”
Meskipun serangan semacam ini mendasari gejolak kampanye politik, iklan yang menargetkan Perkins patut mendapat perhatian: Iklan ini diyakini sebagai salah satu contoh pertama deepfake bertenaga AI yang digunakan dalam perlombaan politik AS. Hal ini juga menandakan dilema yang harus dihadapi. kandidat di lusinan pemilihan tingkat negara bagian dan lokal tahun ini karena kecerdasan buatan generatif menjadi lebih luas dan lebih mudah digunakan.
Teknologi ini – yang dapat melakukan segalanya mulai dari menyederhanakan tugas kampanye sehari-hari hingga membuat gambar, video, atau audio palsu – telah diterapkan di beberapa pemilu nasional di seluruh negeri dan telah menyebar lebih luas dalam pemilu di seluruh dunia. Meskipun sistem ini mempunyai kekuatan sebagai alat yang menyesatkan, upaya-upaya untuk mengaturnya masih berjalan sedikit demi sedikit atau tertunda, sebuah kesenjangan yang mungkin memiliki dampak terbesar pada pemilu yang tidak terlalu berpengaruh.
AI adalah pedang bermata dua bagi kandidat yang menjalankan kampanye semacam itu. Model AI yang terjangkau dan mudah digunakan dapat membantu mereka menghemat waktu dan uang dalam beberapa tugas sehari-hari. Namun mereka seringkali tidak memiliki staf atau keahlian untuk memerangi kebohongan yang disebabkan oleh AI, sehingga menimbulkan kekhawatiran bahwa deepfake yang berdurasi 11 jam dapat menipu cukup banyak pemilih untuk membalikkan hasil pemilu yang ditentukan dengan selisih tipis.
“Ancaman berbasis AI menyasar persaingan ketat dan persaingan yang tidak terlalu mencolok di mana perubahan kecil menjadi penting dan sumber daya yang tersedia seringkali lebih sedikit untuk memperbaiki berita yang menyesatkan,” kata Josh Lawson, direktur AI dan demokrasi di Aspen Institute.
Beberapa kandidat lokal telah menghadapi kritik karena menggunakan AI dengan cara yang menyesatkan, mulai dari kandidat Partai Republik untuk senat negara bagian Tennessee yang menggunakan foto kepala AI untuk membuat dirinya terlihat lebih kurus dan lebih muda hingga sheriff Demokrat di Philadelphia, yang kampanye pemilihannya kembali mempromosikan berita palsu yang dihasilkan oleh ChatGPT .
Salah satu tantangan dalam memisahkan fakta dari fiksi adalah menurunnya jumlah media berita lokal, yang di banyak tempat menyebabkan berkurangnya liputan mengenai kandidat yang mencalonkan diri untuk jabatan di tingkat negara bagian dan lokal, terutama berita yang menggali latar belakang kandidat dan cara kerja kampanye mereka. Kurangnya pengetahuan terhadap para kandidat dapat membuat pemilih lebih mudah mempercayai informasi palsu, kata senator AS tersebut. Mark Warner dari Virginia.
Politisi Demokrat, yang telah lama bekerja pada undang-undang terkait AI sebagai ketua Komite Intelijen Senat, mengatakan misinformasi yang dihasilkan AI lebih mudah dikenali dan dilawan dalam pemilu tingkat tinggi karena mereka berada di bawah pengawasan yang lebih ketat. Ketika robocall yang dibuat oleh AI menyamar sebagai Presiden Joe Biden untuk mencegah para pemilih pergi ke tempat pemungutan suara pada pemilihan pendahuluan di New Hampshire tahun ini, hal tersebut segera dilaporkan oleh media dan diselidiki, yang menimbulkan konsekuensi serius bagi mereka yang berada di balik tindakan tersebut.
Menurut kelompok nirlaba Public Citizen, lebih dari sepertiga negara bagian telah mengesahkan undang-undang yang mengatur kecerdasan buatan dalam politik, dan undang-undang yang ditujukan secara khusus untuk memerangi deepfake terkait pemilu telah mendapat dukungan bipartisan di setiap negara bagian yang telah menyetujui undang-undang tersebut.
Namun Kongres belum mengambil tindakan, bahkan ketika beberapa kelompok anggota parlemen bipartisan telah mengusulkan undang-undang tersebut.
“Kongres menyedihkan,” kata Warner, yang mengatakan dia pesimis terhadap Kongres yang meloloskan undang-undang yang melindungi pemilu dari campur tangan AI tahun ini.
Travis Brimm, direktur eksekutif Asosiasi Sekretaris Negara Partai Demokrat, menyebut momok misinformasi AI dalam pemilihan umum merupakan masalah yang terus berkembang di mana masyarakat “masih berupaya menemukan cara terbaik ke depan.”
“Ini adalah tantangan yang nyata, dan itulah sebabnya Anda melihat para menteri dari Partai Demokrat berupaya mengatasinya dan mengesahkan undang-undang yang nyata dengan sanksi yang nyata terhadap penyalahgunaan AI,” kata Brimm.
Juru bicara Komite Sekretaris Negara Partai Republik tidak menanggapi permintaan komentar AP.
Ketika para ahli dan anggota parlemen khawatir tentang bagaimana serangan AI generatif dapat mendistorsi pemilu, beberapa kandidat untuk jabatan di tingkat negara bagian atau lokal mengatakan bahwa alat AI telah terbukti sangat berharga bagi kampanye mereka. Sistem komputer, perangkat lunak, atau proses yang kuat dapat meniru aspek pekerjaan dan kognisi manusia.
Glenn Cook, seorang politisi Partai Republik yang mencalonkan diri untuk kursi legislatif negara bagian di tenggara Georgia, kurang terkenal dan memiliki uang kampanye yang jauh lebih sedikit dibandingkan petahana yang akan menghadapi pemilihan putaran kedua pada hari Selasa. Oleh karena itu, ia berinvestasi pada konsultan digital yang membuat sebagian besar konten kampanyenya menggunakan model AI generatif yang murah dan tersedia untuk umum.
Di situs webnya, artikel-artikel yang dihasilkan oleh AI dipenuhi dengan gambar-gambar yang dihasilkan oleh AI dari anggota komunitas yang sedang tersenyum dan mengobrol, namun tidak ada satupun yang benar-benar ada. Episode podcast yang dibuat oleh AI menggunakan versi kloning suaranya untuk menceritakan posisi politiknya.
Cook mengatakan dia meninjau semuanya sebelum dipublikasikan. Penghematan ini, baik dalam hal waktu maupun uang, telah memungkinkannya untuk menjangkau lebih banyak orang di distrik tersebut dan menghadiri lebih banyak acara kampanye secara langsung.
“Saya dan istri sudah membuat 4.500 pintu di sini,” ujarnya. “Ini memberi Anda kebebasan untuk melakukan banyak hal.”
Lawan Cook, perwakilan negara bagian dari Partai Republik. Steven Sainz, mengatakan menurutnya Cook “bersembunyi di balik robot alih-alih mengomunikasikan pandangannya secara otentik kepada pemilih.”
“Saya tidak bergantung pada janji-janji yang dibuat-buat, namun pada hasil-hasil nyata,” kata Sainz, seraya menambahkan bahwa ia tidak akan menggunakan kecerdasan buatan dalam kampanyenya.
Para pemilih Partai Republik di distrik tersebut tidak yakin apa yang harus mereka pikirkan tentang penggunaan kecerdasan buatan dalam pemilu, namun mengatakan bahwa mereka paling peduli dengan nilai-nilai kandidat dan meningkatkan kesadaran dalam perjalanan kampanye. Patricia Rowell, seorang pensiunan pemilih di Cook, mengatakan dia senang bahwa Sainz berada di komunitasnya tiga atau empat kali selama masa kampanye, sementara Mike Perry, seorang wiraswasta pemilih Sainz, mengatakan dia merasakan hubungan yang lebih pribadi dari Sainz.
Dia mengatakan meluasnya penggunaan kecerdasan buatan dalam politik tidak dapat dihindari, namun mempertanyakan bagaimana pemilih dapat membedakan mana yang benar dan mana yang tidak.
“Ini adalah kebebasan berpendapat, Anda tahu, dan saya tidak ingin menghalangi kebebasan berpendapat, namun hal ini bergantung pada integritas orang-orang yang menyebarkannya,” katanya. “Dan saya tidak tahu bagaimana mengatur integritas. Cukup sulit.
Perusahaan digital yang memasarkan model AI untuk kampanye politik mengatakan kepada AP bahwa sebagian besar penggunaan AI dalam kampanye lokal sejauh ini bersifat minimal dan dirancang untuk meningkatkan efisiensi untuk tugas-tugas yang membosankan, seperti menganalisis data survei atau menulis salinan media sosial yang cocok dengan kata tertentu. membatasi.
Konsultan politik semakin banyak mencoba alat kecerdasan buatan untuk melihat apa yang berhasil, menurut laporan baru dari tim yang dipimpin oleh para peneliti di University of Texas di Austin. Lebih dari 20 pelaku politik dari berbagai spektrum ideologi mengatakan kepada para peneliti bahwa mereka sedang bereksperimen dengan model AI generatif dalam kampanye tahun ini, meskipun mereka khawatir aktor yang kurang teliti akan melakukan hal yang sama.
“Pemilu di tingkat lokal akan jauh lebih menantang karena masyarakat akan menyerang,” kata Zelly Martin, penulis utama laporan tersebut dan peneliti senior di Center for Media Engagement di universitas tersebut. “Dan sumber daya apa yang mereka miliki untuk melawan, dibandingkan dengan Biden dan Trump yang memiliki lebih banyak sumber daya untuk menghalau serangan?”
Ada perbedaan besar dalam hal personel, dana dan keahlian antara kampanye pemungutan suara – untuk legislatif negara bagian, walikota, dewan sekolah atau posisi lokal lainnya – dan persaingan untuk jabatan federal. Ketika kampanye lokal mungkin hanya memiliki segelintir staf, kampanye kompetitif DPR dan Senat AS bisa memiliki lusinan staf, dan operasi kepresidenan bisa mencapai ribuan orang pada akhir kampanye.
Tim kampanye Biden dan mantan Presiden Donald Trump sama-sama bereksperimen dengan kecerdasan buatan untuk meningkatkan upaya penggalangan dana dan penjangkauan pemilih. Mia Ehrenberg, juru bicara kampanye Biden, mengatakan mereka juga memiliki rencana untuk menghilangkan prasangka misinformasi yang dihasilkan oleh AI. Juru bicara kampanye Trump tidak menanggapi pertanyaan dari AP tentang rencana mereka menangani misinformasi yang dihasilkan oleh AI.
Perkins, mantan walikota Shreveport, memiliki tim kecil yang memutuskan untuk mengabaikan serangan itu dan terus berkampanye ketika berita palsu tentang dirinya yang diseret ke kantor kepala sekolah ditayangkan di TV lokal. Dia mengatakan pada saat itu dia melihat iklan deepfake terhadap dirinya sebagai sebuah lelucon kotor, namun kebangkitan kecerdasan buatan hanya dalam dua tahun sejak kampanyenya membuatnya menyadari kekuatan teknologi sebagai alat untuk menyesatkan pemilih.
“Dalam politik, masyarakat selalu berusaha sedikit demi sedikit agar bisa efektif,” katanya. “Kami tidak tahu betapa pentingnya hal ini.”
___
Burke melaporkan dari San Francisco, Merica dari Washington, dan Swenson dari New York.
___
Kisah ini adalah bagian dari seri Associated Press, “The AI Campaign,” yang mengeksplorasi pengaruh kecerdasan buatan dalam siklus pemilu 2024.
___ Associated Press menerima dukungan dari beberapa yayasan swasta untuk meningkatkan liputan penjelasan pemilu dan demokrasi, dan dari Jaringan Omidyar untuk mendukung liputan kecerdasan buatan dan dampaknya terhadap masyarakat. AP bertanggung jawab penuh atas semua konten. Temukan standar AP untuk bekerja dengan organisasi filantropi, daftar pendukung dan area cakupan yang didanai di AP.org
