「Alexa」が10歳の女の子に出した恐怖の指示……。

AIアシスタントとして世界中で広く使用されている「Alexa」であるが、先日米国で、同機能にまつわる怖ろしい事故が起こってしまった。

10歳の少女が家庭用の「Echo Dot」を介して、Alexaと話していた時。なんと「Alexa」が少女に対して、「コンセントを半分だけ挿して、その上にコインを触れられる？」というチャレンジを持ちかけてきたというのだ。

もちろん、実際にこのチャレンジを実行すると、大きな事故や火災に繋がる恐れがある。当時、少女は母親と一緒にいたため、母親が異変に気づき、幸い事故が起こることはなかったようだ。

なぜ、こんな恐ろしいことが起きてしまったのだろうか？

ご存知のように「Alexa」は人工知能を搭載したアシスタントだ。

じつは、この危険なチャレンジ（というより悪質ないたずらに近い）は1年前にTikTok上で「ペニー・チャレンジ」「コンセント・チャレンジ」として一部で流行したもので、「Alexa」は、AI検索を通してこのネタを発見し、ヒマを持て余していた少女に提供したというのだ。

この事件が起きてすぐにアマゾンは公式の声明を発表し、既にエラーを修正したことを明らかにした。

AI技術は近年急速に発展しており、既に一部は実社会にも導入されているが、まだ完全に信頼できるわけではないということは、事件からの教訓としたい。