AIの指示に従った二人の泳者。救ったのは、地元の経験と“人の声”だった

英国南部のサウス・ウェールズで、2人の水泳愛好家がChatGPTによって提供された不正確な潮汐情報により、命の危険にさらされるという恐ろしい出来事が発生しました。

彼らは、安全に渡れるはずだったサリー島への横断中に急激に水位が上昇。孤立の危機に瀕しました。地元レストランの店主の迅速な警告により九死に一生を得ましたが、この一件はAIの限界と、特に安全に関わる情報源としての信頼性について、深刻な問いを投げかけています。

事故に遭った2人のうち1人は、潮汐情報を得るためにChatGPTを利用したことを認めており、「午前9時30分が干潮時刻だとAIは示していた。しかし、実際に現地に行ってみると、状況は全く異なっていた」と語ったと「The Economic Times」は伝えています。

この誤った情報に基づき、彼らはサリー島への横断を決行しましたが、予想外の急激な水位上昇により、島への帰路が閉ざされる危険に直面しました。

幸いなことに、海岸沿いのレストラン「On the Rocks」の店主であるゴードン・ハドフィールド氏が、危険な状況に陥りつつあった2人の水泳客に気づきました。

彼はメガホンを使って彼らに島へ引き返すよう警告し、これが致命的な事故を防ぐ大きな要因となったのです。沿岸警備隊も、ハドフィールド氏の介入がなければ、事故につながっていた可能性が高いと指摘しています。

サリー島周辺の海域は、世界で2番目に潮位差が大きい地域として知られており、その差は約50フィート（約15メートル）にも達します。そのため、一見穏やかな海でも、潮の満ち引きが非常に速く、特にこの地域の潮汐に詳しくない人々にとっては、予期せぬ危険をもたらすことがあります。

地元当局によると、島に閉じ込められる事故は年間10～20件発生しているとのことです。

この一件は、ChatGPTのようなAIチャットボットが、安全に関わる重要な情報を提供する上での限界を露呈しました。

カーネギーメロン大学のレイディ・ガニ教授は、AIは単語のパターンを学習するものであり、情報の真偽や文脈を理解しているわけではないと指摘。そのため、学術的な知識においては優れていても、現実世界の安全性に関わる情報においては、誤った情報を提供するリスクがあるのです。

ChatGPTをはじめとする生成AIの進化は目覚ましく、私たちの生活のあらゆる側面に浸透しつつあります。しかし、今回の水難事故は、AIが生成する情報、特に緊急性や安全性が求められる場面での情報の正確性には、依然として大きな疑問符が付くことを示唆しているのではないでしょうか。

私たちは、AIが提供する情報を鵜呑みにするのではなく、その情報の信頼性を批判的に評価し、必要に応じて複数の情報源を確認する「AI時代の情報リテラシー」を改めて確立する必要に迫られています。

この事例で際立ったのは、AIの限界を補完した地域住民の知識と迅速な行動でした。ハドフィールド氏のような地元住民の長年の経験と、地域特有の自然現象への深い理解が、AIの誤った情報によって引き起こされかけた悲劇を未然に防ぎました。

これは、テクノロジーがどれだけ進化しても、地域に根差した伝統的な知識や、地域コミュニティの連携がいかに重要であるかを再認識させてくれます。特に、自然環境に関わる分野では、AIのデータだけに頼るのではなく、地域住民や専門家との連携が不可欠であると言えるでしょう。

今後、AIの活用範囲はさらに拡大していくことが予想されます。そのいっぽうで、AIの誤情報や誤作動がもたらすリスクも増大。特に、医療、金融、交通、そして今回のようなアウトドア活動における安全管理など、人命や財産に関わる分野でのAI活用においては、厳格なリスク管理体制の構築が急務です。

AIの恩恵を最大限に享受するためには、その限界を理解し、適切な代替手段や人間の判断を組み合わせるハイブリッドなアプローチが不可欠となるのではないでしょうか。