4
ベクトルと埋め込み
- トークンID
- ワンホットベクトル
- 学習済み埋め込み
ID・ワンホットベクトル・学習済み埋め込みを区別します。
言語モデルの中をのぞき、Pythonで自分で作りましょう
初級のステップ1〜3を終えたら、ここから始めましょう。
先に初級ステップ1〜3を見る9ステップのうち、今どのあたり？
- 初級 AIを使い、答えを確かめる
- 中級 言語モデルの中を見る
- 上級 Pythonで作り、評価する
ステップごとに実際に試せる場所
| ステップ | AI ラボ | 自分で作る | コード実習室 |
|---|---|---|---|
| 4. ベクトルと埋め込み | はい | いいえ | いいえ |
| 5. 学習・推論・検索 | いいえ | はい | いいえ |
| 6. 指示・サンプリング・検証 | いいえ | はい | いいえ |
| 7. Python：実行・観察・変更 | いいえ | いいえ | はい |
| 8. 数値・予測・活性化関数 | いいえ | いいえ | はい |
| 9. 小さなモデルの学習と評価 | いいえ | いいえ | はい |