言語モデル：スコアと選択

AIは生き物ではなく、人が作るソフトウェアです。予測・認識・検索・生成など多くの方法を含みます。この授業ではトークンを一つずつつなぐ自己回帰型の言語モデルを扱います。

技術文献では、もっともらしくても誤りや裏付けのない出力をハルシネーションと呼ぶことがあります。これは出力の問題で、プログラムに心や人間の幻覚体験があるという意味ではありません。機械を擬人化せずに出力の誤りを見つけ、修正できます。

推論モードは回答前の中間手順・探索・確認に多くの計算を使うことがあります。役立つ課題もありますが正解を保証しません。「考え中」という製品表示は人間のような意識体験の証拠ではありません。

小さな単語バイグラム模型を作ります。一つの単語の次に出る回数を確率に変えます。条件付き予測を見せる教材であり、現代のニューラル言語モデルの全アルゴリズムではありません。

ニューラル言語モデルは学習例から数値の重みを学びます。生成時には重みと文脈から候補トークンのスコアを計算します。保存されたネットの文を取り出すだけでも、直前の単語だけを数える方法でもありません。

架空の分布を考えます。青70%、灰色20%、橙10%で合計100%です。AIサービスの測定値ではなく説明用の例です。サンプリングは確率に従って抽選し、この固定例の貪欲法は最高確率の候補を選びます。

サンプリングは違う答えも同じ答えも出します。小さい正の温度は分布を集中させますが、事実を正しくするわけではありません。実システムでは文脈・モデルの版・ツール・数値実行も変わるため、温度0でも同一出力は保証されません。

流暢で確率の高い答えも真実とは限りません。裏付けのない主張を自信ある文体で出すこともあります。流暢さを証拠にせず、主張を支える根拠を確認しましょう。

確率は選択を説明し、証拠は事実の主張を支えます。二つの役割を分けましょう。

人間の感情や意図を仮定せず、AIを道具として扱いましょう。適切な設計と利用の責任は人にあります。モデルの限界を知ると道具や確認方法を選べます。機械への道徳的判断ではありません。

誤った出力にはモデルの限界・学習データ・文脈不足・古い検索資料・ソフトウェアの欠陥などの原因があります。明確な質問は役立っても正解を保証しません。学習者を責めたり、聞き直せば全て解決すると考える前に原因を確かめます。

学習は重みを変え、モデルの利用は推論です。プロンプトに文書を入れると文脈は変わりますが、重みが変わるとは限りません。検索で資料を追加しても、資料と生成された主張の確認は必要です。

答えから主張を一つ選び、原典の日付・文脈・内容を確かめます。可能なら再計算や適切なテストをします。ヒントをもらってから、確認した結果を自分の言葉で説明しましょう。

最初の実験です。ある単語の後に候補Aが3回、Bが1回なら確率はいくつでしょう。作成実習を開く前に予想し、貪欲法と繰り返しの抽選を比較しましょう。

小さなモデルを作り、限界を観察し、学んだことを確かめます。仕組みの理解はAIを適切に使うための一歩です。