株式会社マモル

【情報リテラシーコラム Vol.14】

AI Literacy　生成AI編 ③

生成AI時代に必要な情報の見極め方

こんにちは。株式会社マモル 代表のくまゆうこです。

前回のコラムでは、生成AIを利用する際に注意したい「入力する情報」についてお話ししました。

生成AIは、文章作成や情報整理など、私たちの仕事や学習を助けてくれる便利なツールです。

一方で、入力する情報を守ることと同じくらい大切なことがあります。

それは、

「AIが出した答えを、そのまま信じてよいのか」

という視点です。

最近、こんな場面を耳にすることがあります。

「AIに聞いたら、こう書いてありました。」

「AIがそう言っていたので、間違いありません。」

しかし、生成AIの回答は、必ずしも正しい情報とは限りません。

今回は、生成AI時代に必要となる「情報を見極める力」について考えてみたいと思います。

生成AIは「検索エンジン」とは少し違う

生成AIを利用すると、まるで検索結果を教えてくれているように感じることがあります。

質問をすると、自然な文章で答えてくれるため、「調べてくれた」と思ってしまう人も少なくありません。

しかし、生成AIは検索エンジンとは仕組みが異なります。

検索エンジンは、インターネット上にある情報を探し出して提示するものです。

一方、生成AIは、学習した情報をもとに、質問に対する回答を文章として生成します。

そのため、回答が自然で分かりやすくても、内容が必ず正しいとは限りません。

この違いを理解することが、AIを安全に使う第一歩です。

AIが間違えることがある理由

生成AIでは、事実とは異なる情報を、あたかも正しいように作り出してしまうことがあります。

これは「ハルシネーション」と呼ばれる現象です。

例えば、

「この人物について教えてください。」

「この制度について詳しく説明してください。」

と質問した場合、存在しない情報や誤った内容が含まれることがあります。

文章が自然で説得力があるため、人は間違いに気付きにくいことがあります。

ここが、生成AIを利用する上で特に注意したいポイントです。

私もAIを使っていますが、たまに「これは間違いだな」ということがよくあります。
「●●は違うんじゃない？」と反論すると

AIは、「すみません。間違えでした」とあっさり間違いを認めますね。

そんな感じで間違いもあるということです。

子どもたちに増えている「AIに聞けば大丈夫」

生成AIが身近になるにつれ、子どもたちの学習方法も変化しています。

分からない問題をAIに質問する。

作文のアイデアを出してもらう。

調べ学習のヒントを得る。

これらは、AIを上手に活用する方法の一つです。

しかし、

「AIが答えたから、そのまま提出する。」

「自分で確認せず、そのまま信じる。」

という使い方には注意が必要です。

大切なのは、AIを使うことではなく、AIの答えを自分で考えることです。

「本当に合っているかな？」

「別の情報も確認してみよう。」

そう考える習慣が、これからの時代には欠かせません。

大人も注意したいAIへの思い込み

AIの情報リスクは、子どもだけの問題ではありません。

仕事でも、

「AIが作った資料だから大丈夫。」

「AIがまとめた情報だから確認しなくてもいい。」

と思ってしまうことがあります。

しかし、業務で使用する文章や資料では、誤った情報が大きな問題につながる可能性があります。

例えば、

・取引先へのメール

・社外向け資料

・法律や制度に関する情報

・顧客への案内

こうした内容は、必ず人が確認することが必要です。

AIは、作業を効率化してくれる存在ですが、最終的な責任を持つのは利用する人です。

AIの答えを確認する習慣

では、生成AIを安全に活用するためには、どのようなことを意識すればよいのでしょうか。

まず大切なのは、「AIの回答を一度疑ってみること」です。

例えば、

・重要な情報は別の信頼できる情報源でも確認する

・日付や数字、固有名詞は確認する

・専門的な内容は専門機関の情報を見る

・判断が必要なことは人に相談する

こうした確認作業が必要です。

これは、AIを信用していないということではありません。

AIの得意なことと、人間が得意なことを分けて考えるということです。

情報リテラシーとは「疑う力」ではなく「確かめる力」

インターネットが普及した時代にも、

「ネットに書いてあったから本当」

という考え方には注意が必要でした。

そして生成AI時代では、

「AIが言っていたから本当」

という新たな思い込みに注意する必要があります。

情報リテラシーとは、何でも疑うことではありません。

情報を受け取ったときに、

「これは本当に正しいのか。」

「根拠はどこにあるのか。」

「自分で確認する必要はないか。」

と考える力です。

生成AIが当たり前になる時代だからこそ、人間に求められるのは「答えを覚える力」ではなく、「答えを判断する力」なのです。

AIと人間、それぞれの強みを活かす

生成AIは、短時間で文章を作ったり、多くのアイデアを出したりすることが得意です。

一方で、

「その情報を信じてよいのか。」

「相手にどう伝えるべきか。」

「どのような判断をするべきか。」

という部分は、人間が担う大切な役割です。

AIに任せる部分と、人間が考える部分。

そのバランスを理解することが、これからの情報社会ではますます重要になります。

生成AIは、私たちの可能性を広げる大きな力になります。

だからこそ、「AIがそう言っていた」で終わらせず、「本当にそうなのか」と考える習慣を身につけることが、自分自身を守る力になるのではないでしょうか。

今日のリテラシーポイント

「AIは便利な相談相手。でも、最後に判断するのは自分自身です。」

生成AIの回答をそのまま受け取るのではなく、確認し、考え、判断する力が、これからのデジタル社会には欠かせません。

株式会社マモルでは情報リテラシー講演・研修を実施しています

株式会社マモルでは、小学校・中学校・高校・大学、PTA、自治体、企業を対象に、生成AIやSNS、オンラインゲームなど、デジタル社会における情報リテラシーに関する講演・研修を実施しています。

生成AIは、学習や仕事を支える便利な技術である一方、情報の正確性を見極める力がこれまで以上に求められる時代になっています。

講演では、生成AIの基本的な仕組みや活用方法だけでなく、情報の確認方法、適切な利用ルール、AI時代に必要な判断力について、具体的な事例を交えながら分かりやすくお伝えしています。

学校、PTA、自治体、企業での情報リテラシー講演・研修をご検討の際は、ぜひお気軽に株式会社マモルまでお問い合わせください。

次回予告

生成AIは、文章作成や情報整理だけではなく、画像や動画の生成など、さらに幅広い分野へ広がっています。

一方で、「AIが作った画像なのか分からない」「本物と偽物の区別が難しい」といった新たな課題も生まれています。

最終回は、「AIを禁止するより、AIを使いこなす　これからの情報リテラシー」をテーマに、生成AI時代に必要な向き合い方について考えます。