スマホ内の「ポルノ画像」を検出するアプリ。一体、何のため？

今や誰でもいつでもどこからでも、世界と繋がれる時代。ほぼ全員がその場で写真を撮って世界中にシェアすることができるし、かつ当たり前に行われるご時世。

そんな中、子どもを巻き込むネットがらみの性犯罪は無視できない問題になりつつある。時には児童自らそういった写真を撮り、それがいじめや売春の原因となって、親が知った時にはすべてが遅すぎた、なんてことも。

でもだからといって、彼らの携帯を毎日のようにチェックなんてしちゃいけない。子どもだってひとりの人間として、尊重されるべきプライバシーがある。そんな葛藤に上手に応えてくれるモニタリングアプリが、この「Gallery Guardian」だ。

このアプリは親子両方の端末にダウンロードして使うもので、子どもの携帯のカメラロールをチェックし、独自のアルゴリズムでヌードの写真を検出してくれる。疑わしい画像が見つかったときだけ、保護者に通知がいくのだ。

ポルノをダウンロードした時だけでなく、自分や周囲の子を撮影してそれを作った時にも知らせてくれる、というのが新しい。つまり、我が子が被害者だけでなく加害者・加担者になるのも防いでくれる。

特にお小遣い欲しさの売春や、ポルノで脅すいじめなどでは当事者の子も事件を親に隠しがちで、対処が難しいことが多い。そういったケースにこのアプリは非常に有効なのではないだろうか。

フィルターとは違い、子どもの行動それ自体を制限することはなく、また親には画像無しの通知だけがいく。中身はメッセージと、参照のためのタイムスタンプやその画像を入手した手段、そして画像のID。両親の端末から子どものカメラロールを覗いたり、疑惑の画像を見ることはできないのだ。

双方の同意のもと、プライバシーや自由を尊重したまま話し合いを進めることができるようになっている点が新しく、子どもからしても「監視されている感」が少ないぶん、信頼関係を保ってモニタリングできそうだ。

まず写真内に人間がいるかをチェックし、いるようならその人物の肌の露出度を判定する。それが高ければ高いほど報告の対象となりやすい。このアルゴリズムは96%という高い正当率で、画像から人間のヌードを見つけ出すことができる。

現在の難点は、服を着たままのポルノが判定しづらいということ。画像内の肌の面積だけでなく生殖器自体も認識するようにシステムを訓練中だが、「そのためには莫大な量と種類のサンプル画像が必要だから、なかなか難しいんだ」と製作者。

またカメラロールに無いポルノの閲覧、例えばサイトやチャットアプリで見るポルノはチェックされないので、今後の機能向上の際の課題となるだろう。

設定によっては、ヌードだけでなく下着や水着姿の人物も報告させたり、ひとつの端末で最大6つのカメラロールをチェックすることもできる。また、もしも子どもが自分の端末のアプリを削除してしまっても親に通知がいくようになっているなど、痒いところに手がとどく機能が満載。

さらに心強いのは、子どもの大きな問題が発覚してどうしていいかわからなくなった時に、一緒に解決策を考えてくれる窓口があり、電話などでコンタクトが取れるということ。「気づいたときには遅かった」ということのないよう、万全を期している。

子どものことは信じているけどやはり心配、という人は、これくらい「ちょうどいいゆるさ」の監視アプリを導入するのもひとつの手かもしれない。