«YouTube»  sevisi bolalar ongiga salbiy ta’sir ko‘rsatuvchi platforma kontentida paydo bo‘ladigan videolarni avtomatik algoritmlar va moderador insonlar yordamida nazorat qiladi. Biroq bu kabi videolarga qarshi kurash u qadar samarali emas. Bu haqda itc.ua xabar berdi.

Buning bir nechta sababi bor. Ulardan biri moderatorlarga kontentni baholash uchun kompaniya tomonidan beriladigan tavsiyalarning chalkashligi. Ekspertlarning bu harakati keyinchalik sun’iy intellekt qidiruv algoritmlarida foydalaniladi. Aniqlanishicha, xodimlarga roliklar reytingini baholashda ularning zararli bo‘lishi mumkinligidan qat’i nazar yaratilish ahamiyatiga qarab baholash topshirilgan.

Xodimlardan birining aytishicha, salbiy ta’sir ko‘rsatuvchi, shuningdek, zo‘ravonlik aks etgan sahnalar mavjud videoni moderatorlar kerakli tartibda belgilab qo‘yishlari lozim. Shu bilan birga ular rolikning sifatini ham inobatga olishlari kerak. «Yuqori sifat» belgisi esa video qanchalik salbiy ta’sirga ega bo‘lmasin, qidiruv tizimi tomonidan taqdim etiladigan ro‘yxat boshidan o‘rin oladi. Muammo shundaki, bolalar uchun xavfli bo‘lgan roliklar odatda yuqori sifatga ega bo‘ladi.

Bir necha oy oldin «YouTube»  servisi bolalar uchun xavf tug‘diruvchi videolarni tarqatishda ayblanib, katta mashmashalar domida qolgan edi. Natijada ko‘plab reklama beruvchilar «YouTube»  platformasi bilan hamkorlikdan bosh tortdi. Shundan so‘ng servis moderatorlar oldiga platformaga joylanayotgan video 9—12 yosh orasidagi bolalarga to‘g‘ri kelish yoki kelmasligini aniqlash vazifasini qo‘ydi.

Endilikda ekspertlar jinsiy zo‘ravonliklar, odobsiz so‘zlar, turli giyohvandlik moddalari aks etgan sahnalar o‘rin olgan videolarni alohida belgilab qo‘yishlari lozim. Biroq ma’muriyat odamni chalg‘ituvchi misollarni keltirdi. Masalan, platforma tavsiyasini hisobga oladigan bo‘lsak, Taylor Sviftning «Bad Blood» videoklipi bolalar uchun salbiy ta’sirga ega. Ammo hayvonlarga qarshi zo‘ravonlikning mayda sahnalarini o‘z ichiga olgan videoni — ko‘rsa bo‘ladi.

Kornell universitetining sun’iy intellekt masalalari bo‘yicha professori Bart Selman buni «qiymati jihatidan nomuvofiqlik» deb atadi. Bu orqali platforma odamlarni ko‘proq «YouTube»ga kirishga jalb qiluvchi, reklama beruvchilarni o‘ziga «tortuvchi» videolarni jamiyat manfaatlaridan ustun ko‘rmoqda.

Moderatorlarni chalkashlikka olib keluvchi qo‘llanmalar bilan bahsli vaziyatni yaratib, shuningdek, ushbu qo‘llanmalarni sun’iy intellekt algoritmiga joylashtirish orqali «YouTube» vaziyatni yanada yomonlashtiryapti. Ma’muriyat salbiy ta’sirga ega videolarning tarqalishiga qarshi kurashish uchun 10 mingga yaqin yangi moderatorlarni jalb etish niyatida. Biroq ularning ishi samara berishi uchun, avvalo, aniq tamoyillarni ishlab chiqish lozim.