Kifani: Kudhibiti Maudhui

Hati 30K+ kwenye wavuti zimefutwa na kufafanuliwa kwa Udhibiti wa Maudhui

Content moderation - banner
Kuna ongezeko la mahitaji ya udhibiti wa maudhui unaoendeshwa na AI
ambazo hujitahidi kupata nafasi ya mtandaoni ambapo tunaunganisha na kuwasiliana.

Kadiri utumiaji wa mitandao ya kijamii unavyoendelea kukua,
tatizo la unyanyasaji mtandaoni limejitokeza kama a
kikwazo kikubwa kwa majukwaa yanayojitahidi
hakikisha nafasi salama mtandaoni. ya kushangaza
38% ya watu hukutana na hii
tabia mbaya ya kila siku,
kusisitiza mahitaji ya haraka ya uvumbuzi
mbinu za udhibiti wa maudhui.
Mashirika leo yanategemea matumizi ya
akili bandia kushughulikia kudumu
tatizo la unyanyasaji mtandaoni.

Usalama wa Mtandao:

Ripoti ya Facebook ya Utekelezaji wa Viwango vya Jamii ya Q4 imefichuliwa - hatua kuhusu vipande milioni 6.3 vya maudhui ya uonevu na unyanyasaji, na kiwango cha ugunduzi wa haraka cha 49.9%.

Elimu:

2021 utafiti uligundua kuwa 36.5%% ya wanafunzi nchini Marekani kati ya umri wa 12 & 17 kwa miaka mingi walipata unyanyasaji wa mtandao wakati mmoja au mwingine wakati wa masomo yao.

Kulingana na ripoti ya 2020, soko la suluhisho la udhibiti wa yaliyomo ulimwenguni lilithaminiwa kuwa dola bilioni 4.07 mnamo 2019 na lilitarajiwa kufikia dola bilioni 11.94 ifikapo 2027, na CAGR ya 14.7%.

Suluhisho la Ulimwenguni

Data inayosimamia mazungumzo ya kimataifa

Mteja alikuwa akitengeneza kiotomatiki thabiti
Kujifunza kwa Mashine ya kudhibiti maudhui
mfano wa sadaka yake ya Wingu, ambayo wao
walikuwa wanatafuta muuzaji mahususi wa kikoa ambaye
inaweza kuwasaidia kwa data sahihi za mafunzo.

Kwa kutumia ujuzi wetu mpana katika uchakataji wa lugha asilia (NLP), tulimsaidia mteja katika kukusanya, kuainisha, na kufafanua zaidi ya hati 30,000 katika Kiingereza na Kihispania ili kuunda Mfumo wa Kujifunza wa Kiotomatiki wa Mashine uliogawanywa katika maudhui yenye sumu, ya Watu Wazima, au Dhahiri ya Ngono. kategoria.

Real world solution

Tatizo

  • Wavuti inafuta hati 30,000 katika Kihispania na Kiingereza kutoka kwa vikoa vilivyopewa kipaumbele
  • Kuainisha maudhui yaliyokusanywa katika sehemu fupi, za kati na ndefu
  • Kuweka lebo kwenye data iliyokusanywa kama maudhui yenye sumu, ya watu wazima au ya ngono waziwazi
  • Kuhakikisha vidokezo vya ubora wa juu na usahihi wa angalau 90%.

Suluhisho

  • Wavuti Ilifuta hati 30,000 kila moja kwa Kihispania na Kiingereza kutoka kwa BFSI, Huduma ya Afya, Utengenezaji, Rejareja. Maudhui yaligawanywa tena kuwa hati fupi, za kati na ndefu 
  • Imefaulu kuweka lebo kwenye maudhui yaliyoainishwa kama maudhui yenye sumu, ya watu wazima au ya ngono waziwazi
  • Ili kufikia ubora wa 90%, Shaip alitekeleza mchakato wa udhibiti wa ubora wa viwango viwili:
    » Kiwango cha 1: Ukaguzi wa Uhakikisho wa Ubora: 100% ya faili zitakazothibitishwa.
    » Kiwango cha 2: Ukaguzi Muhimu wa Uchambuzi wa Ubora: Timu ya Shaips ya CQA ili kutathmini 15% -20% ya sampuli za rejea.

Matokeo yake

Data ya mafunzo ilisaidia katika kuunda kielelezo cha ML cha udhibiti wa maudhui kiotomatiki ambacho kinaweza kutoa matokeo kadhaa ya manufaa kwa kudumisha mazingira salama mtandaoni. Baadhi ya matokeo muhimu ni pamoja na:

  • Ufanisi wa kuchakata amt kubwa ya data
  • Uthabiti katika kuhakikisha utekelezaji sawa wa sera za udhibiti
  • Uwezo wa kuzoea kuongezeka kwa idadi ya watumiaji na idadi ya yaliyomo
  • Udhibiti wa wakati halisi unaweza kutambua na
    ondoa maudhui yanayoweza kudhuru yanapozalishwa
  • Ufanisi wa gharama kwa kupunguza utegemezi kwa wasimamizi wa kibinadamu

Mifano ya Udhibiti wa Maudhui

Examples of content moderation

Kuharakisha AI yako ya Mazungumzo
maendeleo ya maombi kwa 100%

Tuambie ni jinsi gani tunaweza kusaidia na mpango wako unaofuata wa AI.