Nyuma ya mitandao na giza la uhalifu, unyama na unyanyasaji

BBC imetumia miezi michache iliyopita kuchunguza ulimwengu wa giza na uliofichwa, unaosababisha maudhui mabaya zaidi, ya kutisha zaidi, yenye kuvuruga akili, na katika visa vingi, yasiyokubalika kisheria kwenye mtandao. Matukio ya mauaji ya halaiki, unyanyasaji wa kingono kwa watoto, na matamshi ya chuki, aina hii ya maudhui inafurika kwenye barua pepe za waangalizi wa maudhui ya mtandaoni.

Kwa kawaida hatujui chochote kuwahusu, lakini kazi ya wasimamizi ni kufuatilia maudhui mtandaoni na kuyaondoa wanapopokea ripoti na taarifa kutoka kwa watumiaji au zana za kiufundi zinapowatahadharisha. Usalama mtandaoni unazidi kuwa muhimu, na kampuni za teknolojia ziko chini ya shinikizo kubwa la kuondoa haraka maudhui yanayokera. Licha ya utafiti wa kina na uwekezaji mkubwa katika kutafuta suluhisho za kiteknolojia, bado ni rasilimali watu ambazo zina maamuzi ya mwisho katika ufuatiliaji na udhibiti wa maudhui kwenye Mtandao.

Wasimamizi kwa kawaida huajiriwa na kampuni za watu wengine na hushughulika moja kwa moja na maudhui yanayochapishwa kwenye mitandao maarufu ya kijamii ikiwemo Instagram, TikTok, na Facebook. Wanafanya kazi duniani kote. Watu niliowahoji kwa makala haya wengi wao walikuwa wakifanya kazi Afrika Mashariki, na wote wameacha taaluma hiyo.

Hadithi walizosimulia zilikuwa za kutisha. Baadhi zilikuwa za kuhuzunisha sana hivi kwamba hatukuweza hata kuzichapisha na kuzitumia kwenye redio. Wakati mwingine mtayarishaji wangu wa maudhui na mimi tulikaa kimya na kushangaa kwa muda baada ya kurekodi mazungumzo. "Ukichukua simu yako na kwenda TikTok, unaona video nyingi za kufurahisha na kucheza," anasema Mujez, ambaye hapo awali alifanya kazi kama msimamizi wa maudhui ya TikTok Nairobi. "Lakini nyuma ya pazia, kuna mtu kama mimi ambaye anadhibiti mamia ya video za kutisha, zenye uchungu."

"Nilikubali jukumu hili," anaongeza. "Niliruhusu afya yangu ya akili kuteseka ili watumiaji waweze kuendelea kuwa hai kwenye jukwaa hili." Hadi sasa, malalamiko kadhaa ya kisheria yamewasilishwa kuhusu madhara ya kisaikolojia ambayo kazi hiyo imesababisha kwa wasimamizi. Baadhi ya wasimamizi wa zamani kutoka Afrika Mashariki wameungana na kuunda chama cha wafanyakazi.

"Kweli, kitu pekee kinachosimama kati ya mtumiaji wa kawaida wa mitandao ya kijamii na kuona video ya kukatwa kichwa binadamu ni mfanyakazi aliyeketi kwenye dawati mahali fulani duniani ambaye aliona video hiyo kabla ya watumiaji na akaifuta ili wasilazimike kuiona," alisema Martha Dark, mkurugenzi wa kampeni ya Foxglove, ambayo inasaidia kushughulika na kesi hizo.

Mnamo 2020, Kampuni ya Meta, inayosimamia mtandao wa Facebook, ilikubali kulipa dola milioni 52 kwa wasimamizi waliokuwa wamekumbwa na matatizo ya afya ya akili. Kesi hiyo ilianzishwa na Selena Scola, msimamizi wa zamani nchini Marekani. Anawaita wasimamizi "mashahidi wa roho za watu" kwa sababu wameona picha za nyakati za mwisho za watu mara nyingi.

Wasimamizi wote niliowahoji walikuwa wameacha kazi hiyo. Wote walizungumzia athari za kazi hiyo kama "maumivu makubwa ya kiakili" (trauma). Baadhi walipata shida kulala, wengine walipata na matatizo ya kula. Mmoja alielezea jinsi alivyosikia mtoto akilia kulivyomtisha mwenzake. Mwingine alisema kuwa kutazama maudhui ya unyanyasaji wa kingono kwa watoto kumemfanya iwe vigumu kwake kuwasiliana na mke wake na watoto wake.

Baada ya kusikia simulizi hizi, nilitarajia waseme kuwa hii ilikuwa kazi inayochosha kihisia na kisaikolojia kiasi kwamba hakuna binadamu anayepaswa kuifanya. Nilifikiri wangeshauri kufanya mchakato huo kuwa wa kiotomatiki kabisa na kutumia teknolojia kama akili mnemba kuifanya. Lakini hawakufikiri hivyo.

Kile kilichoonekana wazi kwa watu hawa ni fahari waliyokuwa nayo katika kutekeleza kazi ngumu kama hiyo; kazi ambayo, kwa kiasi fulani, imeulinda ulimwengu kutokana na madhara ya mtandao. Wanajiona kuwa muhimu, kama wafanyakazi wa dharura. Mmoja wao alisema angependa kuwa na sare kwa kazi hiyo. Alijiona kama mwokozi na kulinganisha kazi yake na ile ya wazimamoto au wahudumu wa dharura.

"Hakuna sekunde iliyopotea," alisema mmoja wao, ambaye aliomba kutotajwa jina tutamwita David. Alikuwa akifanya kazi kwenye maudhui yaliyotumika kufundisha roboti ya ChatGPT inayotumika sana kujifunza kutochapisha tena maudhui yanayokera. "Ninajivunia kila mtu aliyeshiriki katika mchakato huu. Waliifanya ChatGPT kuwa kama ilivyo leo," alisema. Lakini chombo ambacho David alisaidia kukifundisha kinaweza siku moja kuwa mpinzani wake wa kitaalamu.

Dave Wilner, Mkurugenzi wa zamani wa usalama na uaminifu huko OpenAI, watengenezaji wa ChatGPT, alisema timu yake ilikuwa imejenga zana ya msingi ya ufuatiliaji wa maudhui ambayo inaweza kutambua maudhui yanayokera kwa usahihi wa karibu asilimia 90. "Nilishtuka nilipotambua hatimaye kuwa zana hii inafanya kazi kweli," aliongeza. "AI haichoki, haiboreki, na hakuna kinachoishangaza. Hazichoki."

Lakini si kila mtu anayeamini AI na kuiona kama suluhisho kamili kwa changamoto za usimamizi wa maudhui. Dk. Paul Riley, profesa wa vyombo vya habari na demokrasia katika Chuo Kikuu cha Glasgow, anasema: "Nadhani hili lina shida. Hadi sasa ni wazi kuwa AI inaweza kuwa zana isiyo sahihi sana katika kutofautisha aina za maudhui."

"Lakini tatizo ni kwamba matumizi mabaya ya AI yanaweza kusababisha udhibiti usio wa lazima wa maudhui, na hivyo kudhoofisha uhuru wa kujieleza. Pia, AI inaweza isiweze kutambua hila ambazo wanadamu wanaweza kuziona. Hatimaye, uwepo wa wasimamizi wa kibinadamu kwenye majukwaa ya kijamii ni muhimu." "Tatizo ni kwamba hatuna wasimamizi wa kutosha, na kazi hii inaweza kuwa na madhara makubwa kwa watu."

Tulijaribu kuwasiliana na kampuni za teknolojia zilizotajwa wakati wa kuandaa programu hii. Msemaji wa TikTok alisema kampuni hiyo inaelewa kuwa kazi za wasimamizi si rahisi na inafanya kazi kuweka hali nzuri za kazi, ikiwemo kutoa huduma za kimatibabu na programu za kusaidia afya yao ya akili. TikTok inasema kuwa katika hatua ya kwanza, video hukaguliwa na teknolojia ya kiotomatiki, ambayo inasema ina uwezo wa kutambua na kuondoa sehemu kubwa ya maudhui yanayokera.

OpenAI pia ilisema inathamini juhudi za wasimamizi, ambao wana jukumu muhimu katika kufundisha AI kutambua maudhui hatari. Msemaji wa kampuni hiyo aliongeza kuwa imetengeneza mifumo na washirika wake ili kuhakikisha usalama wa kundi hili la wafanyakazi. Meta, mmiliki wa Facebook na Instagram, inasema kampuni zake washirika zinatakiwa kuwapa wasimamizi msaada wa saa 24 kutoka kwa wataalamu. Wasimamizi pia wanaweza kutumia zana kuona maudhui yanayokera katika fomu iliyohaririwa.