こんにちは、マナです。
今回は、生成AIの“エンジン”とも言える3つの重要技術、基盤モデル・トランスフォーマー・アテンションについて、試験対策の視点からわかりやすくご紹介します。
この3つは、JDLA Generative AI Test（生成AIリテラシー試験）でも頻出テーマのひとつです。
難しそうに聞こえる技術用語も、やさしく解きほぐしていきますので、一緒に学んでいきましょう！
🧱 基盤モデル（Foundation Model）とは？
基盤モデルとは、対話・翻訳・要約・画像生成など、さまざまなタスクに応用できる汎用AIモデルのことです。
- 📚 大規模なデータで事前学習されている
- 🛠️ ファインチューニングやプロンプト設計で多用途に対応可能
- 🧠 例：GPT-3/4、Claude、Gemini、PaLMなど
従来の「タスクごとにAIを開発する」方法から、「1つの基盤モデルをさまざまな用途に使い回す」という大きなパラダイムシフトが起きています。
✅ 試験で押さえたいポイント：
- 基盤モデルは汎用性・転用性が高い
- AIアプリケーションの“土台”として機能する
🔁 トランスフォーマー（Transformer）とは？
トランスフォーマーは、現在の生成AIの中核を担うニューラルネットワークの構造（アーキテクチャ）です。
2017年にGoogleの論文「Attention is All You Need」で発表されました。
特徴：
- 📖 文全体の文脈を一度に処理できる（RNNのような逐次処理は不要）
- ⚡ 並列処理が可能で、学習スピードが速い
- 🧩 エンコーダ・デコーダ構造により柔軟なタスク対応が可能
これにより、従来のRNNやLSTMよりも長文や複雑な文脈を効率よく理解できるようになりました。
🎯 アテンション（Attention）とは？
トランスフォーマーの核となる仕組みがアテンション（注意機構）です。
簡単にいうと…
「どの単語が、他の単語と強く関係しているか」を計算して、重要な部分に注意を集中させる仕組みです。
例：「彼は銀行の前で立ち止まった。」
→「銀行」が金融機関か川の土手かを判断するために、「立ち止まった」「お金」などの単語との関係性を見て意味を推測します。
仕組みのポイント：
- 🔁 すべての単語間の関係性（重み）を計算
- 👀 重要な単語に「注意」を向けて処理（Self-Attention）
この仕組みによって、生成AIは文脈理解・意味処理の精度を大きく高めることができています。
📘 試験対策としての理解ポイント
| 用語 | 試験での押さえどころ |
|---|---|
| 基盤モデル | 汎用的なAIモデル。事前学習済みで多用途に転用可能。 |
| トランスフォーマー | 現在の生成AIの基本構造。文全体を一度に処理。並列計算が可能。 |
| アテンション | 重要な単語に“注意”を向けて意味理解を深める。Self-Attentionが鍵。 |
✅ 試験対策まとめ
Q：基盤モデルとは何か？その利点を述べよ。
→ 複数のタスクに対応可能な汎用AIモデルで、一度学習した知識をさまざまな用途に再利用できる点が利点。
Q：トランスフォーマーとRNNの違いを説明せよ。
→ トランスフォーマーは文全体を同時に処理でき、並列計算が可能。
一方、RNNは単語を順番に処理するため時間がかかる。
Q：アテンション機構の目的は何か？
→ 入力内で重要な単語を見極めて、意味理解に必要な情報に“注意”を向けること。
📝 おわりに
生成AIの仕組みを理解するうえで、基盤モデル・トランスフォーマー・アテンションの3つはとても重要なキーワードです。
これらを単なる用語として覚えるだけでなく、「なぜ必要か」「どう動いているか」まで説明できると、JDLA Generative AI Testでも安心です。
一緒に少しずつ、技術の本質を理解していきましょう📘
コメント