いじめの写真をAIで検知! インスタ、新機能を数週間以内に展開へ

美味しそうな料理に、可愛いペットのアップなど、他愛もない写真を共有するのは楽しい。しかし、中にはソーシャルメディアを使って他人を攻撃する人も残念ながらいる。いわゆるオンラインいじめだ。

そうした問題に取り組もうと、比較的若い世代のユーザーを多く抱えるInstagramは、いじめの要素を含む写真を人工知能（AI）で検知するフィルター機能を間もなく展開する。

・ハラスメントも検知

Instagramはすでにいじめや嫌がらせのコメントを排除するフィルター機能を展開している。今回は、その対象を写真にも広げた形だ。

学生間でありがちないじめだけでなく、ハラスメントなど悪意のあるものはほぼ網羅される見込み。

・最終的に人が判断

Instagramでは毎日、すごい数の写真が共有されているが、この機能ではまずAIを使って写真とそのキャプションをチェックする。そこでひっかかったものをモデレーターが確認し、最終的にいじめにあてはまるかどうかを判断する。

いじめと“認定”されると、そのコンテンツは非表示になるという仕組みだ。

これまで、ひどい内容のコンテンツをユーザーがInstagramにレポートすると非表示にするなどの措置がとられていたが、新機能の追加でより幅広く、そして早期に対処することが可能になる。

悪意のあるコンテンツがあっという間に広がったり、集団いじめの様相を呈したり、オンライン上でのモラルが一部揺らいでいるのは事実で、こうした取り組みはInstagramのみならず全ソーシャルメディアに必須となってきそうだ。

Instagram