AIの「注意力」の仕組みを覗いてみる！ 圃場巡回の「目の付けどころ」で体感する「Attention」の仕組み
現代のAIの概念を理解する特集｜第9回 飛躍編
第8回でTransformerの全体像──「読む係」と「書く係」の分業を学びました。その中で、処理パイプラインのステップ4に登場した「Attention」。これがTransformerの最大の革新であり、ChatGPTが「文脈を読む力」の正体です。
今回はいよいよ、そのAttentionの詳細メカニズムに迫ります。
キーワードはQ（Query）・K（Key）・V（Value）の3つ。
ベテラン農家の圃場巡回に例えると、驚くほど直感的に理解できます。
この記事は、書籍『ChatGPTはどのように動いているのか？』を農業の言葉で噛み砕く連載（全13回）の第9回です。
第8回「Transformerの全体像」でChatGPTの心臓部を学びました。今回はその心臓部の中の最重要パーツ「Attention」── 文脈を読み取る仕組みを解剖します。
👁️ ベテラン農家の圃場巡回 ── Attentionの直感的理解
ベテラン農家がハウスを巡回するとき、すべてを均等に見ているわけではありません。
全部を均等に見るのではなく、「今日の天気ならここが危ない」「この時期ならここを重点チェック」と注意の配分を動的に変える。
AIのAttentionもまったく同じです。文中の各単語が、他のすべての単語に対して「どこをどれくらい見るか」を計算しています。
🌾 農業の場合だと「高温が続いた翌日の巡回では、花房の着果状況に注目度90%、通路の掃除状況には5%。でも大雨の翌日なら、排水溝チェックが90%に変わる」イメージです。Attentionも文脈によって注目先が動的に変わります。
🔑 Q・K・V ── Attentionの3つの役割
Attentionの核心は、Q（Query）・K（Key）・V（Value）という3つの役割です。
「トマトの着果は大丈夫か？」
「夜温」「着果」「潅水」「通路清掃」
「4/12 夜温15℃→翌日 着果率が低下」
Q と K を照合する（「この質問に関係ある見出し札はどれ？」）
関連度の高い K の V を重み付きで集める
集めた情報が、その単語の「文脈つきの意味」になる
Q・K・Vは「図書館の検索」にも似ています。Q＝あなたの検索キーワード、K＝各本の背表紙のタイトル、V＝本の中身。キーワードとタイトルを照合して、関連の深い本の中身を重点的に読む── Attentionはこの「図書検索」を単語レベルで超高速に行っています。
🧮 数式の本質は「比べる → 重みづけする → 集める」
Attentionの数式は一見難しそうですが、本質はたった3ステップです。
🌾 農業の場合だと「栽培日誌を振り返るとき、①まず各ページの見出し札を見て関連度を評価し、②パーセンテージに変換し、③その配分で記録を集約する。これで”今日の管理の優先事項”が決まる」。Attentionの数式はこの直感的な流れをそのまま数学にしたものです。
📊 softmax ── 「どこをどれくらい見るか」を配分比率にする
ステップ2に出てきたsoftmax── これは第8回でも登場した重要な関数です。
8.2
5.1
3.4
0.8
softmax
着果記録
50%
夜温
30%
土壌水分
15%
通路
5%
softmaxは「どこをどれくらい見るか」を、分かりやすい配分比率に変換する係です。生のスコアをそのまま使うと比較しにくいので、合計100%のパーセンテージに揃えてくれます。
今回は「着果」の視点から、文中の他の単語をどれくらい見ているかを可視化します
── 他の単語への注目配分
夜温低下
90%
🔗 因果関係（原因↔結果）
トマト
85%
📌 主語 ─「何の」着果か
悪化
70%
🎯 述語 ─「どうなった」か
(自分自身)
40%
🪞 着果そのものの意味
🌾 農業の場合だと「ベテラン農家が”夜温低下でトマトの着果が悪化した”と聞いたとき、無意識に『夜温低下↔着果』の結びつきを一番強く見ているイメージです。これを数値で計算しているのがSelf-Attention」です。農家の直感的な「読解力」を数式にしたものをイメージすると分かりやすいかもしれません。
👀 Multi-Head Attention ── 複数の「目」で同時に見る
実際のTransformerでは、Attentionを1回だけでなく複数の「ヘッド」で同時に実行します。これがMulti-Head Attentionです。
なぜ複数のヘッドが必要なのか？── 1つの視点だけでは、文の複雑な関係を捉えきれないからです。
ベテラン農家が圃場を見るとき、無意識に「温度の目」「病害の目」「生育段階の目」など複数の視点を同時に使っています。Multi-Head Attentionは、まさにこの「複数の視点を並列実行してから統合する」仕組みを数式にしたもの。ヘッド数が多いほど、多角的に文脈を理解できます。
🎯 Attentionで最低限大事な3つのこと
まとめ
Attentionは「比べる → 重みづけする → 集める」の3ステップで文脈を読む仕組み。Q（今知りたいこと）とK（各情報の見出し札）を照合し、関連度に応じてV（中身）を重み付きで集める── これにより単語は単独ではなく「文脈の中で意味づけ」される。Self-Attentionで同じ文の単語同士が見合い、Multi-Head Attentionで複数の視点から同時に文脈を捉える。第8回で学んだTransformerの最大の革新がここにあり、ChatGPTの「文章を理解する力」の正体そのもの。
- Attention＝圃場巡回の「目の付けどころ」：状況に応じて注意配分を動的に変える仕組み
- Q・K・Vの3役割：質問(Q) × 見出し札(K) → 関連度の高い中身(V)を重み付きで集める
- 数式の本質は3ステップ：比べる（内積） → 重みづけする（softmax） → 集める（加重合成）
- Self-Attention＝文脈の中での意味づけ：同じ文の単語同士が見合い、単独では曖昧な言葉が精密な意味を持つ
- Multi-Head Attentionで多角的に読む：温度・文法・時系列・程度など複数の視点を並列実行し統合する
AIは「次の単語予測」装置
言葉を数字にする＝ベクトル
似ている度合い＝コサイン類似度
一括変換の道具＝行列
考える回路＝ニューラルネットワーク
間違いから学ぶ＝バックプロパゲーション
キーワード→意味の近さ＝Embedding
ChatGPTの心臓部＝Transformer
AIの注意力の仕組み＝Attention
自然な日本語で答える＝RLHF
✅ 5分アクション ── Attentionを自分の目で確認しよう
✅ 今回の5分アクション
ChatGPTに「どこに注目したか」を可視化させてみよう
- 下のプロンプトをコピーして、ChatGPTに貼り付ける
- AIが農業の文章のどの単語ペアに強く注目しているか確認する
- Q・K・Vの役割が実際の文でどう動くか体感する
あなたはTransformerのSelf-Attention機構を可視化する農業AIアシスタントです。
以下の文を分析してください：
「梅雨明けの高温多湿でトマトの灰色カビ病が急速に拡大し、収穫量が30%減少した」
【ステップ1：全単語のリストアップ】
この文を主要な意味単位に分割してください。
【ステップ2：Attention配分の可視化】
「灰色カビ病」の視点から（Q = 灰色カビ病）、他の各単語に対するAttentionの重み（%）を推定し、表形式で示してください。なぜその配分になったか理由も付けてください。
【ステップ3：Q・K・Vの実例】
この文における「高温多湿」のQ・K・Vを、圃場巡回のベテラン農家の「目の付けどころ」に例えて説明してください。
【ステップ4：別の視点】
同じ文を「収穫量」の視点から見たとき、Attention配分はどう変わりますか？ 表形式で比較してください。
最後に、Self-Attentionが農業AIの病害診断にどう役立つか、3行でまとめてください。
- 📖 参考書籍
『ChatGPTはどのように動いているのか？』（中西 崇文 著／翔泳社）
第6章 後半「Self-Attentionの詳細メカニズム」 - 📄 原論文
Attention Is All You Need（Vaswani et al., 2017）
Transformerを提案した歴史的論文 - 🔗 参考
The Illustrated Transformer（Jay Alammar）
Attentionの可視化で世界的に有名な解説記事
💬読者の声をお聞かせください
この記事に関するご質問・ご感想をお待ちしています。
※ この記事はAIツール（ChatGPT・Claude等）を活用して作成し、編集部が内容を確認・編集しています。正確性には十分配慮していますが、最新情報は公式サイト等でご確認ください。
