不適切な写真や動画はクラウドにも端末にも残さない　トーンモバイルが“自画撮り被害”から子供を守るAIフィルターカメラ搭載の「TONE e20」を発売

トーンモバイルは、スマートフォンの新製品「TONE e20」を発表。2月20日に1万9800円（税別）で発売します。子供の“自画撮り”を防ぐために、オンデバイスのAIフィルター機能を搭載した「TONEカメラ」を搭載するのが特徴です。

TONEカメラは、自動が通信相手の求めに応じて自分の裸の画像を撮影して送信してしまう“自画撮り”による児童ポルノ被害の増加を背景に搭載された機能。

オンデバイスAIがカメラの撮影した写真や動画の内容を判別し、不適切な内容と判断したものはクラウドにも端末にも保存しないAIフィルター機能を搭載。画像の判別にクラウドへ送信することもないので、プライバシーを守ることができます。

AIフィルターが動作すると、保護者へ位置情報と共に通知が届く仕組み。子供が不適切な撮影をする行為の抑止効果が期待できます。

不適切かどうかの判別は、単に肌色の量を見るのではなく、不適切画像の教師データから特徴量をモデリングしているとのこと。発表会のデモでは水着を着た姿のスナップ写真は問題なく撮影でき、女性の胴体のアップは不適切と判別されていました。TONEカメラは今回発表されたTONE e20に搭載し、順次アップデートでe19以前のモデルにも対応予定。

この他、子供の見守り機能として、スーパーアプリへの対応策も発表されました。ひとつのアプリに様々な機能やサービスを統合するスーパーアプリは、アプリ自体の使用を制限すると、メッセージ機能など必要な機能まで制限されてしまうのが課題。今のところ「LINE」へ対応し、ゲームとオープンチャットのみを制限するなど、スーパーアプリ内の機能別に制限項目を設定可能にしています。

端末は6.26インチ 1520×720ドットディスプレー、1200万画素＋1300万画素（広角）＋200万画素のトリプルカメラを搭載。前モデルe19と比べて、メモリーは3GBから4GBに、ストレージは32GBから64GBに増やしています。CPUはMediaTek Helio P22（MT6762WB） Octa-Core（2.0GHz）、OSはAndroid 9.0。