AIは嘘を作るだけなのか。感情操作を見抜く道具として考えてみる

ニュースを見ていて、胸がぎゅっとなる写真があります。

戦場の瓦礫の中で泣いている子ども。油にまみれた鳥。怒鳴る人、うつむく人、崩れた街。そういう一枚を見た瞬間、私たちは考えるより先に反応してしまうことがあります。

もちろん、そこで起きている苦しみを軽く見る話ではありません。むしろ逆です。人の苦しみは現実にある。ただ、その現実をどう切り取り、どう見せ、どんな感情を起こさせるかには、昔から技術がありました。

AIが出てきてから、偽画像やディープフェイクの危険ばかりが語られます。でも、少し立ち止まると、問題はもっと古いところにあります。人間はAIがなくても、ずっと感情を動かす情報の見せ方を使ってきました。

だとしたら、AIは嘘を作るだけの道具なのでしょうか。むしろ、人間が見落としてきた「感情を動かす仕組み」を見えるようにする道具にもなり得るのではないでしょうか。

AI以前から、感情を動かす情報はあった

AIの話になると、つい「新しい危険」が急に現れたように感じます。

けれど、印象操作そのものは新しくありません。戦争、選挙、広告、環境報道、企業広報。人の判断を動かしたい場面では、昔から言葉や写真や映像が使われてきました。

一枚の写真は、統計より強く心を動かすことがあります。何万人という数字より、目の前の一人の顔のほうが、私たちの感情に届いてしまう。これは冷たい話ではなく、人間の認知のクセに近いものです。

一枚の写真は、数字より先に心へ入ってくる

たとえば「多くの人が困っている」と聞くより、「この一人が困っている」と見せられたほうが、私たちは反応しやすいことがあります。

これは心理学では、識別可能な被害者効果に近い話として語られます。人は抽象的な人数より、顔や名前や具体的な状況を持った一人に感情移入しやすい。

だからこそ、報道写真や広告写真は強い力を持ちます。そこには善意もあります。見えなかった問題を見えるようにする力もあります。

ただ同時に、そこには危うさもあります。

どの写真を選ぶか。どの順番で見せるか。どの言葉を添えるか。それだけで、受け取る側の怒り、同情、不安、嫌悪感は大きく変わってしまいます。

怖いのは、嘘だけではなく「反応を設計されること」

偽情報はもちろん問題です。

でも、本当に厄介なのは、情報そのものが完全な嘘ではない場合です。写真は本物。出来事も本物。けれど、切り取り方や並べ方によって、見る側の感情だけが強く誘導されていく。

これは日常にもあります。

ニュースの見出しを見て、本文を読む前に腹が立つ。SNSの短い動画を見て、誰かを即座に悪者だと思う。強い言葉の投稿を読んで、いつの間にか自分も同じ温度になっている。

人は、自分で考えているつもりでも、先に感情の席に座らされていることがあります。

ここが、AI時代の本当の論点だと思います。

AIは感情操作を増幅するが、同時に見える化もできる

AIは、情報操作を強くする道具になり得ます。

画像を作る。音声を作る。もっともらしい文章を大量に作る。人の不安や怒りに合わせて、刺さりやすい表現を調整する。これはかなり危ない話です。

けれど、そこで思考を止めると、半分しか見ていない気がします。

AIは、情報の作り手側だけが使えるものではありません。受け手側、監査する側、教育する側にも使える可能性があります。

AIは「どこで感情が動かされているか」を探せる

AIは、文章や画像や動画の中から、感情を動かす要素を分析できます。

たとえば、見出しに恐怖を強める言葉が多いのか。ある集団だけを悪く見せる構図になっていないか。怒りを誘う単語が繰り返されていないか。悲しみを誘う映像だけが選ばれていないか。

もちろん、AIの判定が絶対に正しいわけではありません。

でも、人間がなんとなく受け取っていた違和感を、いったん机の上に置くことはできます。「これは事実の説明なのか。それとも、先に怒らせるための作りなのか」と考えるきっかけになる。

ここに、AIを使う意味があります。

AIに正解を決めさせるのではなく、自分の反応を一拍遅らせるために使う。これは、かなり現実的な使い方です。

「嘘つきの利益」は、社会全体を疲れさせる

ディープフェイクの怖さは、偽物が出回ることだけではありません。

もっと嫌なのは、本物まで疑われるようになることです。何か都合の悪い映像や音声が出ても、「それはAIで作った偽物だ」と言えば逃げられる。こうした状況は、liar's dividendという言葉で論じられています。

つまり、偽物が増えるほど、嘘つきだけでなく、本当のことを否定したい人にも都合がよくなる。

これは生活感覚としてもきついです。

何を見ても「どうせ操作されているんでしょ」と思うようになる。ニュースも、専門家も、政治も、企業発表も、全部うさんくさく見えてくる。そうなると、人は賢くなるというより、だんだん疲れて黙ります。

疑う力は大事です。けれど、全部を疑いすぎると、暮らしの足場までぐらついてしまう。

問題はAIそのものより、誰が文脈を握るか

AIは道具です。

ただし、普通の道具よりもかなり強い道具です。だから「使う人次第です」で終わらせるのは、少し雑です。

大事なのは、誰がAIを持ち、誰が分析結果を見られて、誰が異議を唱えられるのかです。

監視の道具にも、透明性の道具にもなる

AIが「この情報は人々を不安にさせる構成です」と分析できるようになったとします。

それを市民や研究者や報道機関が使えるなら、情報の見方を学ぶ助けになります。メディアリテラシー教育にも使えるかもしれません。

でも、同じ技術を政府や大企業だけが握ったらどうなるでしょうか。

「この投稿は社会不安を煽る」と判断して消す。「この批判は混乱を招く」と分類する。そうなれば、透明性の道具だったものが、静かな検閲の道具にもなります。

ここはかなり大事です。

AIが危険なのではなく、AIを使って誰が文脈を決めるのかが危険なのです。

人間側の判断力も、鍛え直す必要がある

AIに情報の分析を任せれば、それで安心という話でもありません。

むしろ、AIに頼りすぎると、自分で違和感を持つ力が鈍る可能性もあります。これは便利な道具すべてにある問題です。

ナビに慣れすぎると道を覚えなくなる。予測変換に慣れすぎると、自分の言葉を選ぶ時間が減る。AIの要約に慣れすぎると、長い文章を読んで引っかかる力が弱くなる。

情報を見る力も、同じかもしれません。

AIに分析させることは役に立ちます。ただ、最後に「自分は今、なぜこの情報に腹が立ったのか」と考えるのは、人間側の仕事として残しておいたほうがいい。

暮らしの中でできる、情報との距離の取り方

大きな話に見えますが、実際にはかなり日常的な話です。

朝、スマホを開く。ニュースを見る。SNSを見る。誰かの怒りに触れる。ショート動画が流れてくる。そこで一日の気分が少し変わる。

情報は、もう外の世界だけのものではありません。台所にも、布団の中にも、通勤中の電車にも入ってきます。

だからこそ、AIや民主主義の話は、偉い人たちだけの議論ではなくなっています。

すぐに共有しないだけでも、かなり違う

強い写真、強い見出し、強い怒りを見たとき、すぐに反応しない。

これだけでも、かなり大事です。

共有する前に、本文を読む。別の出典を見る。日付を見る。誰が出している情報なのかを見る。画像なら、どこで撮られたものなのかを確認する。

面倒です。正直、毎回はできません。

でも、全部を完璧に見抜こうとしなくていいと思います。せめて、自分が強く動かされた情報ほど、少しだけ距離を取る。

この小さな間が、情報に飲まれないための足場になります。

AIには「自分の反応の点検役」をさせる

AIを使うなら、事実判定だけを頼むより、こんな聞き方のほうが役に立つかもしれません。

「この文章は、どんな感情を誘導しようとしているように見えるか」
「この見出しには、煽りや断定が含まれているか」
「この主張に対して、反対側の見方は何か」
「事実と意見を分けるとどうなるか」

AIに答えを出させるというより、自分の頭を冷ますために使う。

たとえるなら、熱くなったスマホを机に置くような感じです。情報を受け取った自分の心も、少し冷ましてから見る。

それくらいの距離感が、今の時代にはちょうどいいのかもしれません。

まとめ：まず自分の反応に一拍置く

AIは、嘘を作る道具にもなります。

でも、それだけではありません。人間が昔から使ってきた感情操作の型を、見えるようにする道具にもなり得ます。

問題は、AIがあるかないかではなく、AIを誰が使い、どんな目的で使い、分析結果を誰が確認できるのかです。そこが閉じていれば怖い。開かれていれば、少し希望があります。

そして、私たちの日常でできることもあります。

今日できる小さな一手は、強いニュースや画像を見たときに、すぐ共有しないことです。

一度だけ止まって、「これは私に何を感じさせようとしているのか」と考えてみる。

その一拍は、とても小さいです。でも、情報に振り回されない暮らしは、そういう小さな一拍から始まるのだと思います。

参考情報

免責事項

この記事は、AI、情報操作、メディアリテラシー、民主主義に関する一般的な考察です。特定の政治的立場、政党、国家、企業、個人への評価を確定するものではありません。法的助言、政策助言、投資助言を目的としたものでもありません。公開時点の情報や参考資料に基づいていますが、AI規制や技術動向は変化するため、重要な判断をする場合は一次情報や専門家の確認をおすすめします。

AI利用開示

この記事は、Aki Bayの問題意識と提供されたチャット素材をもとに、ChatGPTを用いて構成整理、下書き作成、参考情報の整理を行いました。最終的な公開前には、人間による事実確認、表現確認、参考URL確認、WordPress上での表示確認を行う前提です。