マルレク「大規模言語モデルの数学的構造 II 」 | Peatix tag:peatix.com,2011:1 2024-02-26T21:00:18+09:00 Peatix 丸山不二夫 マルレク「大規模言語モデルの数学的構造 II 」 tag:peatix.com,2024:event-3827224 2024-01-27T19:00:00JST 2024-01-27T19:00:00JST 【 1/27 マルレク 「大規模言語モデルの数学的構造 II 」受付開始 】先月12月30日のセミナー、「大規模言語モデルの数学的構造 I -- 言語へのカテゴリー論的アプローチ入門 」に、多くの人に関心を持っていただいて、ありがとうございました。1月27日、セミナーの第二部を「大規模言語モデルの数学的構造 II -- enriched categoryによる言語モデル」というタイトルで開催します。この連続セミナーは、大規模言語モデルの振る舞いをもっと詳しく知りたいという人を対象にしています。この連続セミナーは、大規模言語モデルの「不思議な振る舞い」に対して、カテゴリー論に依拠して全く新しい視点からのアプローチを展開したTai-Danae Bradleyらの論文 "An enriched category theory of language: from syntax to semantics" の紹介しようとしたものです。先月のセミナーの第一部は、この論文の基本的特徴である言語理論へのカテゴリー論アプローチの基礎を解説したものでした。今回のセミナーでは、第一部では取り上げていなかった、先の論文の主題である、enriched category を用いたsyntaxからsemanticsにいたる言語理論の紹介をしようと思います。この第二部から、いよいよ、連続セミナーの本題に入ることになります。遅くなりましたが、セミナーへの申し込み受付を開始しました。あらためて、多くの人のセミナー第二部への参加をお願いしたいと思います。今回のセミナーは、次のような構成をしています。Part I  第一部のふりかえり・言語のカテゴリー Lを、preorder category として捉える・表現 Sの「意味」を、カテゴリー L 内の S → T なる射全体の集合と考える・意味のカテゴリーは、copresheaf 𝑆𝑒𝑡𝐿で表現される・言語のカテゴリーと意味のカテゴリーの対応は、Yoneda Embeddingで与えられる・言語のカテゴリーに確率を導入する Part 2 言語の論理性と意味のモデルとしてのcopresheaf・意味のカテゴリー copresheaf について・“red or blue” の意味を考える・“red and blue” の意味を考えるPart 3 enriched category論 入門・言語のカテゴリーに確率を導入する・enriched category とは何か ?・enrich以前のカテゴリーとenrich化されたカテゴリーを比較する・commutative monoidal preorder・closed commutative monoidal preorder とinternal homPart 4 enriched category 論のカテゴリー論的言語理論への応用・Syntax category・enriched copresheaf・[0, 1]-enriched Yoneda lemma.・Semantic category・enriched product and coproduct今回のセミナー第2部の内容は、詳しくは、まとめページ https://www.marulabo.net/docs/llm-math2/ を参照ください。前回のセミナー第1部の内容は、詳しくは、まとめページ https://www.marulabo.net/docs/llm-math/ を参照ください。