‘Seinfeld’ buatan AI ditangguhkan di Twitch karena lelucon transfobik buatan AI • Liputan terkenal

Setelah memesona internet (dan kami) dengan sifatnya yang absurd, tipuan “Seinfeld” yang dihasilkan AI “Nothing, Forever” ditangguhkan dari Twitch durasi 14 hari.

Sebagai bagian dari parodi “Seinfeld”, salah satu adegan berulang dalam “Nothing, Forever” menampilkan Larry Feinberg – karakter Jerry Seinfeld – melakukan rutinitas sambil berdiri. Lelucon Larry biasanya seperti, “Apa itu beruang tanpa gigi? Beruang bergetah.” Tapi, seperti yang dikatakan pencipta Nothing Forever Mismatch Media kepada Liputan terkenal, tim membikin kesalahan dengan filter konten AI yang mengakibatkan Larry memberikan rutinitas transfobia.

“Nothing, Forever”, yang telah streaming nyaris terus menerus sejak Desember, awalnya menghasilkan dialog karakter mempergunakan model Davinci GPT-3, ditambah protokol pemfilteran konten Open AI. Namun pada saat Davinci mulai mengalami permasalahan teknis, tim beralih ke model Curie yang tak terlalu rumit. Setelah melakukan perubahan model, pencipta tak menyertakan alat moderasi AI dengan benar. secepatnya, Larry mulai melontarkan lelucon transfobia dan “Nothing, Forever” dihentikan.

“Pertama, izinkan saya mengatakan bahwasannya teks yang kami hasilkan adalah sebuah kesalahan, kami sangat malu, dan bahwasannya konten yang dihasilkan sama sekali tak mencerminkan nilai ataupun pendapat staf kami,” tulis co-creator Skyler Hartle dalam email. ke Liputan terkenal. “Kami sangat menyesal bahwasannya ini terjadi dan berharap untuk secepatnya kembali mengudara, dengan semua tindakan pencegahan yang diperlukan.”

Hartle juga mengatakan bahwasannya tim sedang mencari sistem moderasi konten sekunder untuk ditambahkan sebagai redundansi, kalau-kalau filter moderasi konten mereka tak bergerak saat siaran langsung.

Twitch tak menanggapi permintaan komentar. Hartle mengatakan dia juga tak melakukan hubungan komunikasi langsung dengan Twitch. Namun pembuatnya percaya bahwasannya penangguhan tersebut adalah akibat dari komentar transfobia Larry karena waktu penangguhan tersebut.

Pedoman Komunitas Twitch melarang ujaran kebencian tentang kelompok identitas, termasuk diskriminasi ataupun pelecehan berdasarkan identitas gender. Sistem moderasi konten platform tampaknya telah menangkap retorika transfobia AI Larry dengan cukup cepat. Tapi sementara sistem Twitch dengan cepat menghapus platform AI, itu belum anti gagal dalam memberikan pengurangan pelecehan yang disengaja terhadap orang-orang transgender.

sekitar satu separuh tahun yang lalu, platform tersebut dilanda “menyerbu kebencian” jahat yang menargetkan pencipta kulit hitam dan transgender pada khususnya. Menyusul aksi kolektif yang dipimpin kreator, Twitch telah merilis fitur keamanan baru untuk memberikan bantuan memberikan perlindungan streamer dari menyerbu cyber yang kejam ini. Tahun lalu, pada saat streamer transgender Twitch Keffals menjadi terkenal karena berbicara tentang permasalahan LGBTQ+, dia menjadi sasaran pelecehan yang kejam sehingga dia menjadi sasaran di rumahnya sendiri, memaksanya untuk bersembunyi. (Sebagian besar pelecehan ini berasal dari situs website lain, tetapi mulai tahun 2021, pedoman komunitas Twitch dapat melakukan permintaan pertanggungjawaban pemakai Twitch atas pelecehan di luar platform.)

Pembuat Nothing Forever mengatakan bahwasannya mereka tak mempunyai maksud menyiarkan komentar transfobia dan tak memberikan dukungan pandangan tersebut. Tetap saja, kesulitan ini memperlihatkan seberapa cepat kesenangan AI generatif bisa pergi ke selatan jikalau dibiarkan. lagi pula, GPT-3 dilatih di internet itu sendiri, sehingga dapat mengulang beberapa retorika paling menjijikkan di website.

ada sesuatu yang sangat ironis tentang insiden ini: permasalahan pemfilteran konten menjadikan Twitch menangguhkan apa yang pada dasarnya adalah robot. sementara itu, Dave Chappelle baru saja memenangkan Grammy untuk album komedi “The Closer”, yang dikritik habis-habisan karena transfobianya. Namun bahkan di habitat semesta Nothing Forever yang dihasilkan AI, penonton yang dihasilkan AI tak menganggap lelucon Larry itu kocak.

“ada sekitar 50 orang di sini dan tak ada yang tertawa. ada yang punya saran?” AI memulai coretan komedinya sebelum melanjutkan omelan transfobia singkatnya. Larry kemudian menutup setnya, “tak ada yang tertawa, jadi saya akan berhenti. Terima kasih sudah datang malam ini. sampai Lain waktu. Ke mana semua orang pergi?”