Yahoo ziņu rakstos ir daudz nepatīkamu komentāru, līdzīgi kā pārējā internetā, tāpēc Yahoo komanda nolēma izmantot savu komentāru sadaļu, lai izstrādātu algoritmu, kas varētu veiksmīgi identificēt sliktākos likumpārkāpējus. Viņu jauns ļaunprātīgas izmantošanas noteikšanas algoritms strādā 90 procentus gadījumu, kas, pēc viņu domām, padara to efektīvāku nekā citu organizāciju mēģinājumi uzņemties līdzīgus varoņus, un tas tiek raksturots kā nozīmīgs solis uz priekšu šajā jomā. 90 procenti dara izklausos diezgan labi, es atzīstu.
Vadu ziņo, ka Yahoo arī izlaiž pirmo publiski pieejamo kurēto tiešsaistes naida runas datu bāzi kā daļu no sava ļaunprātīgas izmantošanas apkarošanas projekta. Tas nozīmē, ka citas vietnes varēs izmantot Yahoo komentāru datu bāzi, lai izveidotu savus algoritmus. Yahoo algoritms tika izstrādāts, pamatojoties uz mašīnmācīšanos un arī uz lietotāju ziņotajiem datiem par viņu komentāru sadaļām.
Visu komentāru moderēšanas algoritmu viltīgākā daļa ir darīšana ar viltus pozitīviem rezultātiem. Daudzi ļaunprātīgas izmantošanas noteikšanas algoritmi meklē noteiktus vārdus vai frāzes, piemēram, apmelojumus vai izplatītus apvainojumus, un automātiski atzīmē komentārus, lai tie būtu moderēti. Tomēr tas noved pie tā, ka komentāri tiek atzīmēti kā nepiemēroti, pat ja tie atsaucas uz slaidu kontekstā, sakot, ka tas, piemēram, nav piemērots, vai arī ja komentārs ir sarkastiska troļļa atdarināšana. Yahoo algoritms acīmredzot var noteikt noteiktus runas modeļus, un tas ir paredzēts, lai spētu atšķirt joku sarkasmu un faktisko ļaunprātīgu izmantošanu. (Protams, ja jūsu jautrs komentārs neatšķiras no faktiskas ļaunprātīgas izmantošanas, tad esmu diezgan pārliecināts, ka algoritms to joprojām atzīmēs, taču es nevaru droši pateikt, kā šī AI daļa darbojas.)
Yahoo piesaistīja apmācītus komentāru moderatorus, lai palīdzētu pilnveidot algoritmu, un viņi arī samaksāja dažiem neapmācītiem moderatoriem, un viņi atklāja, ka apmācītie moderatori daudz labāk izdomāja, kuri komentāri ir piemēroti (veida nav nekāda prāta, bet, hei). AI izveidošanas laikā Yahoo atklāja, ka šo apmācīto cilvēku moderatoru darbs ir būtisks, lai saglabātu algoritma efektivitāti un pilnveidotu tā noteikšanas paņēmienus.
Protams, algoritmiem joprojām ir aizspriedumi , kas prasītu (cerams, ka daudzveidīgu) cilvēku moderatoru komandu turpināt atkārtot komentāru klasificēšanai izmantotās metodikas. Izklausās pēc grūta darba, taču vismaz Yahoo tagad saprot apmācības nozīmi un novērtē gan viņu labi apmācīto cilvēku moderatoru, gan viņu jaunā AI kolēģa lomas.
kāpēc Dedpūlam patīk vienradži
(caur Nākamais tīmeklis , attēls caur Maikls Kordeda / Flickr )
