YouTube pod udarom kritika zbog AI provjere dobi dok kreatori gube prihode

Tisuće YouTubera u SAD-u otvoreno se protive planu platforme da koristi umjetnu inteligenciju za prepoznavanje maloljetnih korisnika.

Zbog toga je početkom tjedna na stranici Change.org pokrenuta peticija protiv uvođenja AI provjere dobi i već kroz par sati je došla nadomak cilja od 50 tisuća potpisa. Potpisnici se nadaju da će masovni pritisak zaustaviti široku primjenu sustava koji, kako strahuju, može otežati pristup omiljenom sadržaju i narušiti anonimnost korisnika.

Što je YouTube napravio

Odluka YouTubea dolazi u trenutku kada vlade diljem svijeta pojačavaju pritisak na digitalne platforme da bolje štite maloljetnike od neprimjerenog sadržaja. U SAD-u i Europskoj uniji već se raspravlja o zakonima koji bi od društvenih mreža zahtijevali strože provjere dobi korisnika, uz visoke kazne za nepoštivanje. Čak se ne radi samo o društvenim mrežama već i o širim bespućima interneta.

A kako bi se uskladio s tim trendom i smanjio regulatorni rizik, YouTube je požurio te je uveo AI sustav koji automatski procjenjuje dob gledatelja bez njihovog izričitog pristanka, analizirajući vrste videa koje korisnik pretražuje, kategorije sadržaja koje gleda, učestalost i trajanje gledanja određenih vrsta sadržaja te starost samog korisničkog računa.

Ako algoritam procijeni da je korisnik mlađi od 18 godina, račun se ograničava, što znače da se gase personalizirani oglasi, uključuju alati za 'digitalnu dobrobit' te se ograničava pristup određenim sadržajima ili ponovljenom gledanju istih videa.

 Za uklanjanje ograničenja potrebno je dostaviti osobni dokument, podatke o kreditnoj kartici ili selfie radi potvrde dobi.

I upravo tu nastaje problem jer se sustav ne temelji na točnim podacima, nego na procjeni algoritma koji može pogriješiti i po nekoliko godina u oba smjera. Stručnjaci upozoravaju da su korisnici u dobi od 16 do 20 godina najranjiviji jer ih AI može krivo svrstati u maloljetnike.

Strah od pogrešne procjene i zloupotrebe podataka

Pokretač peticije, anonimni YouTuber 'Gerfdas Gaming' koji vodi monetizirani kanal o videoigricama, upozorava na rizike:

- Gdje se pohranjuju ti osjetljivi podaci i koliko su sigurni? Ako YouTube bude hakiran, imena, dokumenti i fotografije ljudi mogli bi završiti u pogrešnim rukama – kaže.

Posebno kritizira činjenicu da AI sustav neprestano skenira korisničke navike gledanja.

- Kao odrasla osoba, trebam imati pravo gledati što želim unutar zakona. Ako dijete gleda neprikladan sadržaj, to je odgovornost roditelja a ne korporacije – zaključuje.

Mnogi potpisnici ističu da YouTube već ima namjensku aplikaciju YouTube Kids, pa postavljaju pitanje zašto se odraslima ograničava pristup na temelju algoritamskih procjena.

Širi otpor AI provjerama dobi

Kako se slični sustavi uvode diljem interneta pod pritiskom regulatora, korisnici zabrinuti za digitalne slobode počinju se organizirati.

- Za mnoge ovo izgleda kao masovni nadzor i cenzura pod izlikom zaštite djece - kaže Gerfdas.

Posebno ranjivi mogu biti korisnici koji ovise o anonimnosti, primjerice pripadnici LGBT zajednice koji bi otkrivanjem identiteta mogli ugroziti vlastitu sigurnost. Jedna korisnica s invaliditetom napisala je kako se oslanja na “dječji” sadržaj poput otvaranja igračaka ili humorističnih animacija kako bi se nosila sa svakodnevnim izazovima, dodajući da 'nitko nije tražio da neki robot procjenjuje' njezine navike gledanja.

Autistični korisnici upozoravaju da njihovi interesi često izgledaju 'dječje' pa bi mogli biti nepravedno označeni. Roditelji se pak pitaju kako će sustav reagirati kad njihova djeca koriste zajednički račun.

YouTube nije objavio neovisna istraživanja o točnosti AI modela. Stručnjaci procjenjuju da čak i najbolji sustavi imaju odstupanje od dvije godine u oba smjera. Primjeri s drugih platformi pokazuju da tehnologija nije nepogrešiva. Discord je nedavno pogrešno označio 30-godišnjaka kao maloljetnika.

- Prvo pravilo internetske sigurnosti jest da ne dijelite osobne podatke a YouTube odjednom misli da je to dobra ideja - komentirala je jedna potpisnica.

Utjecaj na poslovanje i oglašivače

Uvođenje AI provjere dobi moglo bi imati značajan učinak na YouTubeovo poslovanje, posebno na tržište oglašavanja. Ograničavanje personaliziranih oglasa maloljetnim korisnicima znači smanjenje prihoda od ciljanog oglašavanja, a to je format ključan za YouTubeovu profitabilnost. Ako AI pogrešno označi odrasle korisnike kao maloljetnike, to bi dodatno smanjilo broj publike kojoj se mogu prikazivati oglasi s visokom stopom monetizacije.

Oglašivači bi se mogli suočiti s padom dosega i učinkovitosti kampanja, dok bi kreatori sadržaja mogli vidjeti izravne posljedice kroz smanjenje zarade. To otvara pitanje isplativosti za cijeli ekosustav platforme, u kojem su oglasi glavni izvor prihoda i za Google i za milijune autora.

Uz to, percepcija narušene privatnosti može dugoročno utjecati na lojalnost korisnika. Ako dio publike odluči napustiti platformu ili smanjiti svoje korištenje, YouTube bi mogao izgubiti i tržišni udio, pogotovo među mlađim, tehnološki osviještenim korisnicima koji su osjetljivi na pitanja nadzora i zaštite podataka.

Dio korisnika vjeruje da je pravi motiv sustava prikupljanje podataka i uklanjanje anonimnosti.

- Internet ne bi smio postati sterilni korporativni zabavni park u kojem je sve monetizirano i moralizirano - poručuje jedan od komentatora.

Za Gerfdasa, idealno rješenje bilo bi zadržati stari sustav provjere i roditeljsku kontrolu preko YouTube Kidsa. No, ako AI sustav postane obavezan, razmotrit će odlazak s platforme unatoč tome što mu donosi prihod.

- Ne smijemo dopustiti da YouTube tiho uvede AI nadzor koji narušava privatnost i autonomiju. Jednom kad se ovakvi sustavi normaliziraju, rijetko nestaju i samo se šire. Ako sada ne reagiramo, riskiramo gubitak slobode pregledavanja, stvaranja i uživanja u sadržaju - stoji u njegovoj peticiji.