今日暴露されたコンテンツモデレーターの隠れたトラウマ
コンテンツモデレーターの目に見えない苦労 ソーシャル メディア プラットフォームがユーザー生成コンテンツで栄える時代において、舞台裏では暗黙の戦いが繰り広げられています。見過ごされ、過小評価されることの多いコンテンツ モデレーターは、インターネット上の最も不快なコンテンツの一部をフィルタリングするという困難な課題に直面しています。これらの個人は、残酷な暴力から児童の搾取まで、ほとんどの人が遭遇することのない恐怖を目の当たりにしており、すべてオンラインの安全性の名の下に行われています。 節度を保つことの人的コスト テクノロジー企業が有害コンテンツを迅速に排除するよう求める声が高まる中、コンテンツのモデレーションは差し迫った問題となっている。テクノロジーが進歩したにもかかわらず、最終的な責任は依然として、Instagram、TikTok、Facebook などのプラットフォームでフラグの付けられたコンテンツを審査する人間のモデレーターにある。 東アフリカ出身の元モデレーターの多くが、自分たちの恐ろしい体験を語った。ある元モデレーターは、ユーザーが目にする楽しいコンテンツと、舞台裏で自分がチェックしなければならなかった悲惨な動画との著しい対比を振り返った。彼は、他の人々が安全なオンライン体験を楽しめるように、自分の精神衛生を犠牲にしたのだ。 現職および元モデレーターが、その役割が深刻な精神衛生上の影響を与えていると報告する中、法的訴訟も浮上している。中には、労働条件の改善を訴えるために組合を結成した人もいる。 テクノロジーとの複雑な関係 人間のモデレーターの役割は、特に人工知能 (AI) の進歩に伴い、コンテンツ モデレーションの将来についての議論を巻き起こしました。AI によって人間の作業員の負担が軽減されると考える人がいる一方で、その限界について懸念を表明する人もいます。 元OpenAIの信頼と安全担当責任者デイブ・ウィルナー氏は、AIツールが有害コンテンツを正確に識別できる方法について論じたが、テクノロジーだけに頼ることには注意を促した。批評家は、AIには効果的なモデレーションに必要な微妙な理解力が欠けており、過剰なブロックや文脈の誤解を招く恐れがあると主張している。 テクノロジー企業は、コンテンツ モデレーションの課題を認識しています。TikTok は、臨床支援や健康プログラムを通じてモデレーターをサポートするとともに、自動システムを活用して有害なコンテンツを最初にフィルタリングするという取り組みを強調しています。
