A.I. Seinfeld sangat membuat jadi senang tiba dia menggambarkannya sebagai penyakit silang

Twitch melarang “Nothing, Forever”, streaming yang dihasilkan AI Seinfeld, setidaknya selama 14 hari setelah ledakan transfobia dan homofobia. Ini adalah contoh paling baru dari “benci, benci” ketika chatbot AI dilatih tentang konten ofensif tanpa moderasi yang memadai.

gemar Seinfeld, “Nothing, Forever” terjadi antara adegan stand-up dan adegan di apartemen komedian (disebut “Larry Feinberg” dalam versi AI). mirip yang pertama saya sebutkan sebelumnya Keburukan, dalam salah satu stand-up AI yang baru ditulisnya, rekan Seinfeld memberikan pendapat bahwasannya menjadikan transgender adalah penyakit mental. Dalam apa yang tampak mirip kesadaran akan agresi substansi, komedian AI dengan cepat menambahkan, “Tapi tak ada yang tertawa, jadi saya akan berhenti. Terima kasih sudah keluar malam ini. tiba jumpa lagi. Ke mana semua orang pergi?”

Meskipun Twitch tak mengonfirmasi bahwasannya “lelucon” adalah alasan pelarangan, siaran tersebut dihapus secepat mungkin setelah klip bermasalah tersebut disiarkan. Pembuat program menyalahkan kata-kata kasar yang menyakitkan pada perubahan paradigma yang secara tak sengaja meninggalkan streaming tanpa alat moderasi.

“Sebelumnya malam ini, kami mulai mengalami pemadaman mempergunakan gaya GPT-3 Davinci OpenAI, menyebabkan tampilan menunjukkan perilaku yang tak menentu (kamu tak mustahil sudah mengetahui ruang vakum bernavigasi),” tulis seorang anggota staf di Discord. OpenAI memiliki gaya yang tak terlalu rumit, Curie, yang yaitu pendahulu davinci. Saat davinci mulai gagal, kami beralih ke Curie buat mencoba meneruskan perenderan tanpa downtime. Beralih ke Curie adalah penyebab skrip yang tak sesuai. Konten OpenAI, yang sejauh ini melakukan pekerjaan dengan gaya DaVinci, tetapi tak melakukan pekerjaan dengan Curie. Kami sudah dapat mengidentifikasi akar penyebab permasalahan kami dengan gaya DaVinci, dan kami tak akan mempergunakan Curie sebagai pengganti di masa mendatang. Mudah-mudahan ini menumpahkan sedikit cahaya tentang bagaimanakah ini terjadi.”

berkedut

Tim merincinya di pos Discord lain (bersumber dari tepi). “Kami salah mengira bahwasannya kami memanfaatkan sistem moderasi konten OpenAI buat gaya pembuatan skrip mereka. Kami sekarang melakukan pekerjaan buat mengimplementasikan API moderasi konten OpenAI (alat yang dapat kami gunakan buat memeriksa keamanan konten) sebelum ditayangkan kembali, dan memeriksa sekunder sistem moderasi konten sebagai salinan yang berlebihan.”

Meskipun tim tampaknya benar-benar meminta ampun, menekankan bahwasannya kata-kata kasar fanatik adalah kesalahan teknis yang tak mewakili pandangan mereka, hal itu menegaskan kembali pentingnya moderasi yang konsisten dalam AI. kamu tak mustahil ingat chatbot sosial media twitter Microsoft, yang hanya bertahan sekeliling 16 jam setelah orang yang memakai mengajarinya cara melontarkan teori konspirasi, opini rasis, dan pernyataan misoginis. Lalu ada bot yang dilatih sepenuhnya di 4chan, yang ternyata mirip yang kamu harapkan. Apakah “None, Forever” kembali ataupun tak, kali berikutnya tim pengembang dihadapkan pada berbagai opsi antara menghindari waktu henti yang tak terduga dan memastikan filter ini ada, pilih yang terakhir.