先日NHKのBS1で、2夜連続放送された「BS世界のドキュメンタリー ソーシャルメディアの“掃除屋”たち 前編/後編」というドキュメンタリーを見て驚愕しました。
僕は日頃フェイスブックも含め複数のSNSを楽しんでいますが、たまに不愉快だったり際どい内容の投稿を見かけるときがあります。
それはフェイスブックではありませんが、別のSNSでは明らかに破廉恥で露骨な動画や画像、国外の暴力的ないじめの動画や画像などがそれにあたります。
そういった投稿は長続きせずに突然削除されたり、アカウント自体が凍結されたり、そもそも投稿がアップされる前にディープラーニングの経験を積んだ優秀なAIが自動で排除してフィルタリングしているのかと思っていました。
しかし、それをフィルタリングしていたのは実は人間だったのです。
フェイスブック社がフィリピンのマニラに置くクリーナーズという会社で働く現地のエリート学生たち。彼(女)らの作業は、世界中のユーザーが投稿する画像や動画を「秒単位」でチェックし、わいせつ・残酷な投稿を除外していく作業。
毎日のように、「秒単位」でそのような画像や動画やテキストを目の当たりにし、次第に精神がおかしくなる社員たち。
問題はそれだけではなかった。
「人間の裸」による表現はアダルト。でも人によってはそれはアート。価値観の違いから招く問題など。
こういった判断は、人間にもAIにも難しいことのように思います。もはや神の領域なのか。
発信者(表現者)も管理者(除外者)もアマチュアが大半を占めるUGCのもろさとリスクを暴き出してゆくNHKも参加した国際共同制作番組。
SNSを巡るトラブルは日夜耳にしてきましたが、こういった実情も抱えていることを初めて知りました。
フェイスブック社のコンテンツから“社会的に不適切”なものを排除する“掃除屋=クリーナーズ”。検閲作業の実態をスクープ取材、ソーシャルメディアが抱えるリスクを探る。
ソーシャルメディアの検閲作業の実態に初めて迫ったスクープ番組。後編は、精神を病んでいく“クリーナーズ”の横顔や、“表現”をめぐって世界各国で高まる論争にフォーカス。