Sho Sakai

【図解】拡散言語モデルとは？ 大規模言語モデルの多くは、左から右へ 1 トークンずつ生成します。一度出したトークンは、基本的に後から直せません。 拡散言語モデルは、ノイズがかかった離散トークンから始め、反復的にデノイズします。順序は左から右に限られず、確信度の高い位置から埋められます。ノイズの入れ方には、Masked 型と Uniform 型があります。 各位置を独立に扱う product では、ステップを減らすと位置同士の依存を捉えにくいことまで、1 枚の図にまとめました。 11/11(水) 18:00〜、東京大学 早川 知志先生によるセミナーでは、生成の原理・学習の理論から、Masked / Uniform、蒸留による高速化までを扱います。 詳細・お申し込みはツリーへ▼ #拡散言語モデル #dLLM #生成AI

【来週 11/5 開講｜小標本の表データ予測をどう進めるか】 表形式基盤モデル TabPFN：地盤データで学ぶ活用・解釈・PFN構築 東北大学 大竹 雄先生｜11/5(木) 18:00–20:00｜オンライン 120分 表形式データでは、標本が限られる・特徴が混在する・チューニングに時間がかけられない、といった現場が少なくありません。本セミナーでは TabPFN を軸に、小標本での予測・不確実性・解釈・PFN の自作までを整理します。 まず、PFN の理論的背景と SCM に基づく事前分布を解説し、続けて地盤特性の空間分布推定・配合設計への適用と、階層ベイズモデル（HBM）との精度・計算コスト比較です。中盤は埋め込み空間による予測の解釈、後半は独自 prior で PFN を作り、地震動記録から地盤構造を逆推定する事例まで扱います。 【こんな方へ】 ・表形式データの予測・機械学習に関わる実務家・研究者・学生 ・小標本〜中規模の表で、階層ベイズ（HBM）など従来手法との使い分けを整理したい方 ・TabPFN / PFN の原理と現場適用の両方を一度掴みたい方 ・地盤・インフラ・GeoAI など、小標本・異質・不確実性が効く表データへの応用に関心がある方 資料ダウンロード可・アーカイブ1か月。 詳細・お申し込みはツリーへ▼

【図解】TabPFN とは？ 表形式データの予測では、データセットごとに前処理・モデル選択・ハイパーパラメータ探索をやり直すことになります。 TabPFN は、合成データで一度だけ学習しておき、実データでは重みを更新せず、学習データごと入力に含めた 1 回の順伝播で予測します。その出力は、合成データの事前分布のもとでの事後予測分布の近似です。 この仕組みと、地盤データでの活用・解釈の例を 1 枚の図にまとめました。 11/5(木) 18:00〜、東北大学 大竹 雄先生によるセミナーでは、PFN の理論から TabPFN の活用・解釈、独自の事前分布による PFN の構築までを扱います。 詳細・お申し込みはツリーへ▼ #TabPFN #表形式データ #機械学習

【本日 10/27 19時開講｜ランダム化比較試験における因果的な検討の基礎】 講師: 坂巻 顕太郎（順天堂大学）｜オンライン 120分 因果推論の基本である RCT のデザインを疫学の例をもとに学び、解析を Fisher’s null と Neyman's null の二つの観点から整理します。 【本日扱う内容】 ・ランダム化の方法と、系統的誤差・時間的傾向への対処 ・Fisher 流（sharp causal null）と Neyman 流（weak causal null）の検定と違い ・2値結果変数における response type と因果効果からの理解 ・検出力・推定精度の観点からの共変量調整 ・連続・2値・生存時間など、アウトカムごとの共変量調整の注意点 当日申込も可能です。見逃し配信（アーカイブ1か月）あり。 詳細はツリーへ▼