Suara yang dihasilkan AI dalam robocall dapat menipu pemilih. FCC baru saja menjadikannya ilegal

NEW YORK (AP) — Komisi Komunikasi Federal pada hari Kamis melarang robocall yang berisi suara-suara yang dihasilkan AI, sebuah keputusan yang mengirimkan pesan jelas bahwa eksploitasi teknologi untuk menipu masyarakat dan menyesatkan pemilih tidak akan ditoleransi. .

Keputusan bulat tersebut menargetkan robocall yang dibuat dengan alat kloning suara berbasis AI berdasarkan Undang-Undang Perlindungan Konsumen Telepon, undang-undang tahun 1991 yang membatasi panggilan sampah yang menggunakan pesan suara buatan yang direkam sebelumnya.

Pengumuman ini muncul ketika otoritas New Hampshire melanjutkan penyelidikan mereka terhadap robocall yang dihasilkan oleh AI yang meniru suara Presiden Joe Biden untuk mencegah masyarakat memilih pada pemilihan pendahuluan negara bagian bulan lalu.

Peraturan ini akan segera berlaku dan memberi wewenang kepada FCC untuk mendenda perusahaan yang menggunakan suara AI dalam panggilan mereka atau memblokir penyedia layanan yang membawa suara tersebut. Hal ini juga membuka pintu bagi penerima panggilan untuk mengajukan tuntutan hukum dan memberikan mekanisme baru kepada jaksa agung negara bagian untuk menindak pelanggar, menurut FCC.

“Aktor jahat menggunakan suara yang dihasilkan AI dalam robocall yang tidak diminta untuk memeras anggota keluarga yang rentan, menyamar sebagai selebriti, dan memberikan informasi yang salah kepada pemilih,” kata presiden agensi tersebut, Jessica Rosenworcel, dalam siaran persnya. “Kami memperingatkan para penipu di balik robocall ini.”

Berdasarkan undang-undang perlindungan konsumen, telemarketer pada umumnya tidak boleh menggunakan panggilan otomatis atau pesan suara buatan atau rekaman untuk menelepon telepon seluler, dan tidak boleh melakukan panggilan tersebut ke telepon rumah tanpa izin tertulis sebelumnya dari penerima panggilan.

Keputusan baru ini mengklasifikasikan suara yang dihasilkan AI dalam robocall sebagai “buatan” dan oleh karena itu dapat ditegakkan berdasarkan standar yang sama, kata FCC.

Mereka yang melanggar hukum dapat menghadapi denda besar hingga lebih dari $23.000 per panggilan, kata FCC. Badan tersebut telah menggunakan undang-undang perlindungan konsumen untuk menindak robot-robot yang mengganggu pemilu, mengenakan denda $5 juta kepada dua penipu konservatif karena memberikan peringatan palsu kepada masyarakat di wilayah yang mayoritas penduduknya berkulit hitam bahwa memberikan suara melalui surat dapat meningkatkan risiko penangkapan, penagihan utang, dan masuk secara paksa. . vaksinasi.

Undang-undang ini juga memberikan hak kepada penerima panggilan untuk mengambil tindakan hukum dan kemungkinan mendapatkan ganti rugi hingga $1.500 untuk setiap panggilan yang tidak diinginkan.

Rosenworcel mengatakan komisi tersebut mulai berupaya untuk melarang robocall dengan suara yang dihasilkan AI karena melihat adanya peningkatan dalam jenis panggilan ini. Mereka meminta komentar publik mengenai masalah ini pada bulan November lalu, dan pada bulan Januari, kelompok bipartisan yang terdiri dari 26 jaksa agung negara bagian menulis kepada FCC untuk mendesak mereka agar mengambil keputusan.

Rekaman audio yang menggunakan kecerdasan buatan untuk meniru orang secara meyakinkan terdengar seperti “sesuatu dari masa depan yang jauh, namun ancaman ini sudah ada,” kata Rosenworcel kepada The Associated Press. “Kita semua bisa saja menjadi penerima panggilan palsu ini, itulah sebabnya kami merasa inilah saatnya untuk bertindak.”

Alat AI generatif yang canggih, mulai dari perangkat lunak kloning suara hingga generator gambar, sudah digunakan dalam pemilu di Amerika Serikat dan di seluruh dunia.

Tahun lalu, ketika pemilihan presiden AS dimulai, beberapa iklan pemilu menggunakan audio atau gambar yang dihasilkan AI, dan beberapa kandidat bereksperimen dengan menggunakan chatbot berbasis AI untuk berkomunikasi dengan pemilih.

Upaya bipartisan di Kongres berupaya mengatur kecerdasan buatan dalam kampanye politik, namun belum ada undang-undang federal yang disahkan, sembilan bulan sebelum pemilihan umum.

Robocall yang dihasilkan AI yang berupaya memengaruhi peristiwa 11 Januari di New Hampshire. Pemilu pendahuluan tanggal 23 Oktober menggunakan suara yang mirip dengan Biden, menggunakan frasa yang sering digunakannya, “Omong kosong,” dan secara keliru menyatakan bahwa pemungutan suara pada pemilu pendahuluan akan menghalangi pemilih untuk memberikan suara pada bulan November.

Jaksa Agung New Hampshire John Formella mengatakan pada hari Selasa bahwa penyelidik telah mengidentifikasi Life Corp. yang berbasis di Texas. dan pemiliknya, Walter Monk, sebagai sumber panggilan tersebut, yang ditujukan kepada ribuan penduduk negara bagian, sebagian besar terdaftar sebagai anggota Partai Demokrat. Dia mengatakan panggilan tersebut disampaikan oleh perusahaan lain yang berbasis di Texas, Lingo Telecom.

New Hampshire mengeluarkan perintah penghentian dan panggilan pengadilan kepada kedua perusahaan tersebut, sementara Komisi Komunikasi Federal mengeluarkan surat penghentian dan penghentian kepada perusahaan telekomunikasi tersebut, kata Formella. Satuan tugas jaksa agung di seluruh 50 negara bagian dan Washington, D.C., mengirimkan surat kepada Life Corp. yang memperingatkan mereka untuk segera berhenti melakukan panggilan ilegal.

Menurut FCC, Lingo Telecom dan Life Corp. telah diselidiki karena robocall ilegal di masa lalu. Pada tahun 2003, FCC mengeluarkan tuntutan kepada Life Corp. karena menyediakan iklan ilegal, yang direkam sebelumnya, dan tidak diminta ke jalur perumahan.

Baru-baru ini, satuan tugas Kejaksaan Agung menuduh Lingo menjadi pintu gerbang bagi 61 dugaan panggilan ilegal dari luar negeri. Komisi Perdagangan Federal mengeluarkan perintah penghentian terhadap nama perusahaan Lingo sebelumnya, Matrix Telecom, pada tahun 2022. Tahun berikutnya, gugus tugas tersebut menyerukan langkah-langkah yang harus diambil untuk melindungi jaringannya.

__

Associated Press menerima dukungan dari beberapa yayasan swasta untuk meningkatkan cakupan penjelasan mengenai pemilu dan demokrasi. Pelajari lebih lanjut tentang Inisiatif Demokratik AP di sini. AP sepenuhnya bertanggung jawab atas semua konten.