生成AIに「取引先へ送るメールを書いて」と頼むと、数秒でそれらしい文章が返ってきます。
まるで、こちらの事情を理解し、言葉を選び、文章を書いているように見えます。
では、AIは人間と同じように、意味を考えながら文章を書いているのでしょうか。
実際の動きは、少し違います。
現在の生成AIは、「この続きを書くなら、次は何が自然か」を予想することが基本です。
答えを最初から知っていて取り出すのではありません。
文章の続きを予想し、選んだ言葉の続きをまた予想する処理を、高速で繰り返しています。
たとえば、次の空欄には何が入りそうでしょうか。
「むかしむかし、あるところに、おじいさんと＿＿＿＿」
私たちは「おばあさん」と予想します。
何度も目にした文章の型を知っているからです。
生成AIも、これと似た予想をしています。
ただし、読んだ文章の量、見られる前後関係、計算の細かさが、人間の想像を超えるほど大規模です。
その結果、メールだけでなく、要約、翻訳、企画、プログラム作成、質問への回答までできるようになりました。
今回説明する生成AIの仕組みは、難しい部品名を暗記しなくても理解できます。
- 大量の文章から型を学ぶ
- 質問を計算できる形へ直す
- 次の言葉を一つずつ選ぶ
という三つが基本です。
この仕組みがわかると、なぜAIが堂々と間違えるのか、なぜ自社の情報を知らないのか、なぜ人の確認が必要なのかも分かります。
本記事では、経営者や生成AIの導入担当者が仕組みの全体像をつかめるように、文章を入力してから回答が表示されるまでを、専門用語や数式をできるだけ使わずに解説します。
関連記事：RAGとは？社内生成AIに導入すべき企業と不要な企業の判断基準
生成AIは予想名人
生成AIを理解する最初のポイントは、完成した回答を頭の中から取り出しているわけではないことです。
「この文章の次には、何が続くと自然か」を予想しています。
乱暴にいうなら、
生成AIは、文章の続きを超高速で予想し続ける仕組み
と言っていいでしょう。
身近なものに例えてみると、スマートフォンの予測変換を、極端に大きく、賢くしたものと考えると入り口はつかみやすいと思います。
ただし、一般的な予測変換が直前の数文字から候補を出すのに対し、生成AIは長い質問や会話の流れを見ます。
さらに、大量の文章から学んだ言葉の使われ方も利用します。
次のような質問を入力したとします。
「新商品の発売が一週間遅れることを、取引先へ丁寧に伝えるメールを書いてください」
生成AIは
- 依頼
- 取引先
- 発売延期
- 謝罪
- 丁寧なメール
という前後関係を使います。
そして、書き出しとして「平素」「いつも」「このたびは」などの候補をくらべ、続きとして自然なものを選びます。
選んだ後は、その文章を含めて次の続きを予想します。
この処理を何十回、何百回と繰り返した結果が、私たちの見る回答です。
生成AIは大量の文章から何を学ぶのか
生成AIが文章の続きを予想できるのは、事前に大量の文章を使って訓練されているためです。
訓練中は、文章の途中までを見せて、その続きを予想させます。
予想が実際の続きと違えば、次は少し正解へ近づくように、内部の調整つまみを動かします。
この練習を、膨大な文章で繰り返します。
すると、言葉の意味だけでなく、次のような型も身につきます。
- 質問されたら回答する
- 「拝啓」で始めたら、手紙らしい表現を続ける
- プログラムの命令には、決まった書き方がある
- 文章を短くする依頼には、要点を残して言い換える
- 原因を聞かれたら、理由を整理して説明する
私たちが本を読み、さまざまな言い回しや考え方を身につける様子に似ています。
ただし、生成AIは読んだ本を本棚へ保存して、毎回該当ページを探しているわけではありません。
大量の練習を通じて、言葉や知識の傾向を、内部にある無数の調整つまみへ反映しています。
この調整つまみが、専門用語でパラメーターと呼ばれるものです。
学習によって膨大な数のパラメーターが調整され、その組み合わせによって、言葉の使われ方やさまざまなパターンを扱えるようになります。
質問を受け取ってから回答するまで
人間が読める文章を、そのままではコンピューターは計算できません。
そこで、質問を受け取った生成AIは、まず文章を扱いやすい小さな断片へ分けます。
「生成AIを会社で使いたい」という文章なら、「生成」「AI」「を」「会社」「で」「使いたい」といった具合です。
実際の分け方はAIによって異なり、単語の途中や句読点で分かれる場合もあります。
次に、それぞれの断片を数字へ置き換えます。単なる整理番号ではありません。
意味や使われ方が近い言葉を、似た数字の組み合わせで表せるようにします。
以下はかなり単純化したイメージですが、
- 犬は1
- 猫は10
- 決算書は100
だとして、犬と猫は近く、犬と決算書は離れるイメージです。
こうして文章を計算できる形へ直した後、AIは文章内の言葉同士が、どのように関係しているかを調べます。
最後に、次に続く断片の候補を並べ、一つを選びます。
全体をまとめると、次の流れになります。
- 質問を受け取る
- 文章を小さな断片へ分ける
- 断片を意味のある数字へ置き換える
- 文章内の関係を調べる
- 次に続く断片を選ぶ
- 回答が完成するまで繰り返す
AIは文章の前後関係をどう読むのか
生成AIが単なる予測変換と大きく違うのは、文章の中にある離れた言葉同士の関係を細かく調べる点です。
次の文章を考えてみます。
「犬は道路を渡りませんでした。疲れていたからです」
疲れていたのは、道路ではなく犬です。
人間なら、道路は疲れないことが自然にわかります。
生成AIは、「疲れていた」を理解するために、前にある「犬」と「道路」がそれぞれどの程度関係するかを計算します。
この場合は、「犬」との関係を強く扱うことで、文章の意味を捉えます。
文章が長くなると、関係を見る相手も増えます。
たとえばビジネスメールなら、「先ほどの案」「同社」「この問題」のような表現が、それより前のどの言葉を指しているかも判断しなければなりません。
現在の生成AIは、この関係を見る処理を何段も重ねることで、単語だけでなく、文、段落、文章全体の流れを扱います。
この中心となる仕組みが、TransformerとAttentionです。現在のAIの核心部分といっていえる重要な仕組みです。
名前は覚えなくても構いません。「文章のどこに注目すべきかを、何度も計算する部品」と理解すれば十分です。
なぜ回答が一文字ずつ表示されるのか
生成AIの回答は、画面へ少しずつ表示されます。
演出でゆっくり見せているのではありません。
実際に、回答の続きを小さな単位で一つずつ作っているためです。
「日本の首都は」と入力すると、次に続く候補として「東京」が最も有力になります。
「東京」を選んだ後は、「日本の首都は東京」の次に何が続くかを、もう一度予想します。
「です」が選ばれたら、今度はその続きを予想します。
この繰り返しによって、長い回答が作られます。
最初から結論までの文章を完成させ、それを一文字ずつ表示しているわけではありません。
そのため、途中で話の方向が変わったり、前半と後半が食い違ったりすることもあります。
なぜ生成AIは堂々と間違えるのか
生成AIは、ときどき存在しない制度、数字、書籍、人物を、もっともらしく説明します。
仕組みを知ると、この理由が見えてきます。
生成AIが基本的に行っているのは、事実を確認することではなく、文章として自然な続きを予想することです。
答えを知らないときに、自動的に「わかりません」と停止する仕組みではありません。
学んだ文章の型を使えば、材料が足りなくても、それらしい続きを作れてしまいます。
たとえば、実在しない専門家の経歴を尋ねても、人物紹介らしい文章の型に沿って、所属、研究分野、著書を作ることがあります。
生成AIは、悪意があって嘘をついているわけではありません。
自然な文章を作る機能が、事実を確認する機能より先に働いています。
正確さが必要な業務では、AIの文章力と、回答内容の正しさを分けて評価する必要があります。
なぜ同じ質問でも回答が変わるのか
文章の続きには、正解が一つとは限りません。
お詫びのメールなら、「このたびは」「平素より」「いつもお世話になっております」のいずれから始めても、文章として成立します。
生成AIは、複数の候補から一つを選びます。
毎回必ず1位の候補だけを選ぶと、回答が単調になりやすいため、二位や三位の候補を選ぶ余地を持たせる場合があります。
このため、同じ質問でも表現や構成が変わります。
アイデア出しでは、この変化が役立ちます。
一方、審査、計算、定型文作成のように同じ結果が必要な業務では、回答の揺れを抑える設定や、外部のルールによる確認が必要です。
なぜ自社の情報や今日の出来事を知らないのか
生成AIは、事前に学習した内容と、現在の会話で渡された内容を使って回答します。
自社の就業規則、最新の在庫、昨日の会議内容を、自動的に知ることはできません。
AIがインターネットへ接続できる製品であっても、社内の非公開情報まで自由に見られるわけではありません。
会話へ添付した資料を参照できるのは、その資料が今回の回答を作るための作業机へ置かれたためです。
AIそのものが資料を永久に覚えたという意味ではありません。
作業机の広さには上限があります。
長い会話、大量の資料、回答文が同じ机を使うため、すべてを無制限に参照することはできません。
専門用語では、この作業机をコンテキスト、その広さをコンテキストウィンドウと呼びます。
RAGや外部ツールは何をしているのか
自社情報を使って回答させる代表的な方法がRAG（検索拡張生成）です。
RAGは、社員から質問を受けると、関係しそうな社内文書を先に探します。
そして、見つけた箇所を生成AIの作業机へ置いてから回答させます。
生成AIを一から教育し直すのではなく、必要なときに必要な資料を渡す仕組みです。
電卓、Web検索、顧客管理システムなどの外部ツールも、同じようにAIの弱点を補います。
生成AIが計算問題を受けたら電卓へ渡し、最新情報が必要なら検索し、顧客情報が必要なら許可された範囲で業務システムを参照します。
生成AIを頭脳にたとえるなら、RAGは必要な資料を探す書庫、外部ツールは電卓や電話、業務システムは会社の台帳です。
現在のAIサービスは、生成AIだけで完成しているのではありません。
生成AIの周囲に、検索、データ、権限、外部ツール、人の承認を組み合わせて作られています。
難しい部品名を普通の言葉へ訳す
ここまでの内容を理解できていれば、専門用語は後から名前を付けるだけです。
| 専門用語 | この記事の言葉 |
|---|---|
| LLM、大規模言語モデル | 大量の文章から言葉の続きを学んだAI |
| トークン | AIが文章を扱うための小さな断片 |
| トークナイザー | 文章を小さな断片へ分ける部品 |
| Embedding、埋め込み | 言葉を意味のある数字へ置き換えたもの |
| Transformer | 文章内の関係を何段にもわたって調べる仕組み |
| Attention | 文章のどこを重視するか決める仕組み |
| パラメーター | 学習によって調整される内部の無数のつまみ |
| 推論 | 学習済みのAIへ質問し、回答を作らせること |
| コンテキスト | 今回の回答を作るために参照できる情報 |
| RAG | 必要な資料を検索し、AIへ渡してから答えさせる仕組み |
用語だけを先に覚えると、生成AIは難しく見えます。
しかし、部品の役割を普通の言葉で捉えれば、全体の流れは複雑ではありません。
企業が仕組みを知るべき理由
生成AIを利用するために、数式やプログラムを学ぶ必要はありません。
一方、導入を決める立場なら、生成AIが「できること」と「周囲の仕組みで補うこと」を分けて考える必要があります。
生成AIは、文章を読みやすく整え、要約し、案を作ることを得意とします。
しかし、社内の最新情報を自動で知ること、事実を必ず確認すること、正確に計算すること、操作の責任を負うことは、別の仕組みが必要です。
この区別がなければ、次のような計画になりがちです。
- 社内文書を全部入れれば、何でも正しく答えると思う
- 自然な回答が出たため、PoCは成功したと判断する
- AIが判断できるなら、人の承認は不要だと考える
- 高性能なモデルへ変えれば、すべて解決すると考える
生成AIは、膨大な文章から学んだ、非常に優秀な「”続き”の予想装置」です。
その能力は、単なる予測変換という言葉では片づけられないほど高くなりました。
一方、予想を基本としているからこそ、もっともらしい間違い、回答の揺れ、知識の不足という限界があります。
企業で使うときは、AIの賢さだけに期待しないでください。
正しい資料を渡す仕組み、外部ツールの利用範囲、アクセス権限、人が確認する場所まで含めて設計する必要があります。
まずは対象業務を一つに絞り、「AIへ何を渡すか」「どこまで任せるか」「誰が結果を確かめるか」を整理してください。
ネクスト株式会社では、生成AIの製品選定だけでなく、対象業務、社内データ、RAG、権限、人の確認を含む導入設計を支援しています。
まだ構想が固まっていない場合も、「この仕事のどこならAIを使えるか」を整理するところからご相談いただけます。
社内情報を使った生成AIを検討している方は、RAGの導入判断基準もあわせてご覧ください。