「1発BAN」の実態はどうなっているのか。
「グーグルサービスの場合は、他人へのハラスメント・いじめ・脅迫、大量の広告や詐欺メールなどを送りつけるスパム行為、テロ行為を助長する行為、漫画を含む児童ポルノと判断されるものの作成・共有・送信・アップロードを行ったりすると、1発BANになる可能性があります。これはYouTubeの場合もほとんど同じといっていいでしょう」(同)
ではBANの判断基準はどうなっているのか。
「グーグルサービスとYouTubeが、どんなシステムで判断を下しているのかは明らかにされていませんが、おそらくアウトの基準となるサンプルに近い要素を持ったコンテンツを発見した場合、自動でアウトの判別をするプログラムを利用していると思われます。つまり人間ではなくAIが判断しているのでしょう。そのため、実際にユーザーがどんな意図を持っていたのかは関係がないのです。いわゆる『誤BAN』を防ぐために、再審査の措置はグーグルサービスとYouTubeのどちらも用意されていますが、先述のような1発BANの場合はこうした措置すらないので、現状では防ぐ手立てはありません」(同)
三上氏は、運営側のプログラムを使ったBAN審査には支配的と思える部分もあると指摘する。
「過去に海外であるユーザーがグーグルのサービスに『装甲車の歴史』という資料をアップしたところ、1発BANを食らってしまったことがあるようです。どうやら、テロリズムの助長というポリシーに違反してしまったようですが、そのユーザーにはそんな意図はなかったそうです。
また、2020年6月には、YouTuberのアントニオ・ラディッチ氏が自身のチャンネルで、プロのチェス選手と過去の対戦を分析する生配信を行っていた際、『黒』『白』『攻撃』『防御』といったワードを使っていたところ、突如配信が停止され、警告が届いたという出来事がありました。これは自動プログラムが単なるチェスの試合にまつわる会話を人種差別談義と誤認してしまったために起きたものといわれています。このように、自動判断では予期せぬ理由で違反者の烙印を押されてしまうこともあるのです」(同)
意図せぬ突然のBANを回避するにはどういった心構えが必要なのだろう。
「残念な話ですが、BANされる可能性のあるコンテンツはグーグルに紐づけたサービス上で扱わないことです。例えば、危険度が高いと判断されそうな画像は、Googleドライブなどではなく、ハードディスクに個別に保管するといった対策ですね。さいとう氏のように視聴者からコンテンツを募集して自身の創作に生かしているようなケースでも、別途自分のホームページに投稿フォームを設けるといったことをすれば、ある程度、1発BANを防ぐことはできるでしょう。
ですが、根本的なところで我々がもっとグーグル側の、ある意味横暴ともいえるこうした判断基準にもっと反発の声を上げていくことも、システム改善の機運をつくる一助となると思います」(同)
グーグル側としては、膨大なコンテンツを人間のスタッフが一つひとつ判別することができないゆえの自動化なのだろうが、その過程で誤BANともいえる事例が頻発しているのも事実。グーグルがより判別精度の高いシステムを構築することに期待したい。
(文=A4studio、協力=三上洋/ITジャーナリスト)