1. 線形結合と非線形性

ニューラルネットワーク(NN)は、多数のニューロン(ノード)の線形結合と非線形活性化関数の組み合わせです。
ここで、 は重み、 はバイアス、 は活性化関数です。

1.1 「もしも」の消去?

ニューラルネットワークには、if文のような明示的な分岐構造がありません。
そのため、「ニューラルネットワークは『もしも』を扱っていない」と主張する人もいます。
しかし、これは誤解です。ニューラルネットワークは、「もしも」を重みとバイアスの中に暗黙的にエンコーディングしています。

2. 活性化関数としての「もしも」

非線形活性化関数(ReLU, Sigmoid, Tanhなど)は、入力に応じて出力を切り替える役割を果たします。

2.1 ReLU: 現代のif文

ReLU (Rectified Linear Unit) は、以下のように定義されます。
これは、論理的には以下と同等です。

つまり、ReLUは、微分可能なif文です。
ニューラルネットワークは、この微分可能なif文を多数組み合わせて、複雑な関数を近似します。

2.2 Sigmoid: 確率的if

Sigmoid関数は、入力を0から1の確率値に変換します。
これは、第4章のベイズ推論における事後確率と類似しています。
「もし入力xが大きいならば、出力は1に近い」という確率的な「もしも」です。

3. 逆伝播と「もしも」の最適化

ニューラルネットワークの学習は、**逆伝播(Backpropagation)**によって行われます。
これは、損失関数の勾配を計算し、重み  を更新するプロセスです。

3.1 勾配と「もしも」の調整

「もし重み  を  だけ変えたら、損失  がどうなるか?」
この問いに対する答えが勾配  です。
学習は、この勾配に従って「もしも」の構造(重み)を調整し、損失を最小化します。

3.2 解釈可能性の欠如

決定木とは異なり、ニューラルネットワークの「もしも」は分散されています。
単一のニューロンや重みが特定の「もしも」に対応しているわけではありません。
そのため、ニューラルネットワークの内部構造を解釈することは困難です(ブラックボックス問題)。

4. 深層学習と階層的な「もしも」

深層学習(Deep Learning)では、各層が異なる抽象度の「もしも」を学習します。

  • 低層: 基本的な特徴(エッジ、色)の検出
  • 中層: 部分的な形状(目、耳)の検出
  • 高層: 意味的な概念(顔、車)の検出

各層は、前の層の出力に基づいて「もしも」を適用し、より高次な表現を構築します。

5. 第9章のまとめ:学習された「もしも」

第9章では、ニューラルネットワークにおける「もしも」について解説しました。
「もしも」は、明示的な分岐ではなく、重みと活性化関数によって暗黙的に表現されます。

  • 決定木: 明示的、解釈可能、離散的
  • ニューラルネットワーク: 暗黙的、解釈困難、連続的

この二つのアプローチは、第10章で述べるシミュレーション仮説や、第11章のAI倫理において重要な役割を果たします。