もし生物情報科学専攻の学部生が "StableDiffusion" を理解しようとしたら 1 ~AlexNet~

深層学習

かくびーが東大の生物情報科学科の学生になったのは、大学二年生の八月末日、夏休み半ばのことだった。

別にもしドラ読んだことないのでこれ以上はやめておきます。


さて、発端は以下のツイートです。


もちろん発表の形でもよかったのですが、せっかくなのでブログの方で連載する形で進めてみようかと思いました。

こちらの記事に、どういう論文を読み進めていけば StableDiffusion など拡散モデルの理解が可能になるかが紹介されていました。

ja.stateofaiguides.com


そこで、実際に画像系の深層学習にはあまり詳しくない自分が、これらの論文を読んだうえで、文字に起こしておけば、将来何かの役に立つかもしれないということです。

続きを読む

2020春から2021春までに触れた本を振り返る

　タイトルの通り、ここ一年で触れた（読んだ・読んでいる・途中まで読んだ）本について振り返ってみます。僕はあまり本の細かい部分を突き詰めるといったのは苦手で、数式を並べられた時しか真面目に読まない癖がありました。したがって、途中からは本で学んだ内容をある程度しっかりノートに取るなどして身につけようとしました。

続きを読む

数理生物学に入門してみる（３） 振動と波

数理生物学 授業のまとめ

　今回は教科書の第3, 4章、授業では4~6, 10回目で扱った振動のモデル・時空間パターンについてまとめます。ホジキンハクスレー方程式やチューリングパターンについて触れます。

前回

cake-by-the-river.hatenablog.jp


  • 振動性・興奮性
    • 振動の条件
    • Hodgkin-Huxley 方程式
    • Fitzhugh-Nagumo 方程式
  • 時空間パターン
  • 進行波のモデル
    • 化学進行波と界面
    • ケーブル方程式と進行波
  • 補足（末尾）
    • 拡散だけで進行波が起きないことの説明


振動性・興奮性

　細胞の中では周期的に量が変動する場合もあります。ここでは神経の活動電位を表すホジキン-ハクスレー方程式などを例に振動について考えます。

振動の条件

　化学反応で振動する例として有名なものに、Belousov-Zhabotinsky反応（通称BZ反応）があります。BZ反応はマロン酸をブロモ化する複雑な反応ですが、振動のエッセンスだけ取り出してきたモデルとして、ブラッセレータがあります。ブラッセレータは分子 X, Y が中間体として A, B (>0) という外部の成分をもとに時間変化する系です。

A \to X

2X + Y \to 3X

B + X \to Y + C

X \to D

の関係であり、時間変化は全反応速度定数を 1 とおくと

\displaystyle \frac{d X}{dt} = A - (B+1)X + X^2Y = f(X, Y)

\displaystyle \frac{d Y}{dt} = BX - X^2Y = g(X, Y)

となります。固定点は

\displaystyle A - (B+1)X + X^2Y = 0, BX - AX^2Y = 0 \Rightarrow (X^*, Y^*) = (A, \frac{B}{A})

と求まります。固定点でのヤコビ行列

\displaystyle J = \begin{pmatrix} \frac{\partial \dot{X}}{\partial X} & \frac{\partial \dot{X}}{\partial Y} \\ \frac{\partial \dot{Y}}{\partial X} & \frac{\partial \dot{Y}}{\partial Y} \end{pmatrix} = \begin{pmatrix} B-1 & A^2 \\ -B & -A^2 \end{pmatrix}

の固有値 \lambda_1, \lambda_2 は

\left| \begin{array}{ccc} B-1-\lambda & A^2 \\ -B & -A^2-\lambda \end{array} \right| = \lambda^2 - (B - A^2 - 1)\lambda + A^2B = 0

を満たすので

\lambda_1 \lambda_2 = A^2B > 0

\lambda_1 + \lambda_2 = B - A^2 - 1

という関係が求まります。すなわち、2固有値は同符号で、 B > A^2 + 1 のときに不安定、 B < A^2 + 1 のときは安定になることがわかります。

続きを読む

数理生物学に入門してみる（２） 入出力

数理生物学 授業のまとめ

　今回は教科書の第2章、授業では2~4回目で扱った入出力のモデルについてまとめます。化学反応速度論から初めてフィードフォワードなどの回路の話までやります。

前回

cake-by-the-river.hatenablog.jp


  • 入出力の基本の式
  • Ultrasensitivity
    • MWCモデル（アロステリック制御）
    • 超感度性（Ultrasensitivity）
    • push-pull型反応と zero-order Ultrasensitivity
    • 多重リン酸化
  • 入出力と回路
  • 補足（末尾）
    • MWCモデルがシグモイド的になるための条件
    • push-pull型反応の解


入出力の基本の式

　前回の”トグル・スイッチ”の例では、タンパク質の量の二乗を分母に持つ形で数値的に解析しました。これは、反応速度論によって分子の結合・解離を解析することで、より一般的に考えることが出来ます。

結合と解離・Hillの式

　希釈な溶液で分子 L と R が結合・解離する反応は、化学反応速度速度論の考えを用いて

\displaystyle L + R \ \overset{k_{on}}{\underset{k_{off}}{\rightleftharpoons}} \ LR

\displaystyle \frac{d [LR]}{dt} = k_{on}[L][R] - k_{off}[LR]

と書けます。定常状態を考えると上式から [LR] の関係式が現れるため、結合した分子 R の割合（占有率） p は

\displaystyle p = \frac{[LR]}{[R] + [LR]} = \frac{\frac{1}{K_d} [L][R]}{[R] + \frac{1}{K_d} [L][R]} = \frac{[L]}{K_d + [L]}

と書けます。なお \displaystyle K_d = \frac{k_{off}}{k_{on}} は解離定数です。

続きを読む