ニューラルネットの中を開けてみる

3.1 でわたしたちは重みを3,075こ合わせました。ところがその重みが どこに ついているのかは見ませんでしたね。

いま開けてみます。思っているよりずっと単じゅんです。

小さな計算機ひとつ

数をいくつか受け取って、それぞれに重みをかけて、ぜんぶたして、答えをひとつ出す。それだけの小さな計算機があります。

この計算機ひとつを ニューロンと呼びます。

そしてこのニューロンをいくつもつくって 層ごとにつないだもの を ニューラルネットといいます。

重みは そのつなぎ目ごとにひとつずつついています。3.1 の3,075こは ほとんどがつなぎ目についていたのです。

まっすぐな線が自分で動いて 場所を見つけましたね。

右の絵を見てください。線が太いものも細いものもあります。あの太さが重みです。 太いほど その信号を大事に見ているということです。1.2 で学んだあの値です。

1.2 で手で回していたものが ここにこうしてついています。この実習には二つしかなく、3.1 では3,075こで、本物のAIには何百万こもあります。

ニューロンひとつでは まっすぐな線ひとつ

ここで大事なことが出てきます。ニューロンひとつが引けるのは まっすぐな線ひとつだけです。

かけてたすだけだからです。その計算では まっすぐな線より入り組んだものを引くことができません。

いままではだいじょうぶでした。左がピンク、右が青緑なら まっすぐな線ひとつで分けられますから。

ところが こんなならびだったらどうでしょう。

ならびの例 · ななめ を押して もう一度学習させてみましょう。板は上にそのままあります。

まっすぐな線がずっとゆれていますね。900回以上回してもとけず、とうとう機械があきらめます。

まっすぐな線ひとつでは このならびを分けられないからです。 自分で引いてみてください。どう引いても かた方がまざります。

11年後に起きたこと

1.3 のカードに出てきたあの機械の名前が パーセプトロンです。ニューロンひとつでできた、いちばん単じゅんなニューラルネットですね。

11年後、二人の研究者が いまわたしたちが味わったことを証明しました。パーセプトロンはまっすぐな線ひとつしか引けず、だから 世の中でいちばんやさしい問題のひとつであるこれがとけない と。

期待が大きかった分 失望も大きいものでした。お金も人もはなれていき、ニューラルネットの研究は20年近くこおりつきました。

ボタンひとつ

では その問題をといてみましょうか。

とけますね。

さかいめの線がもう まっすぐではありません。曲がりました。ニューロンをもう一層入れたら まっすぐな線をいくつも組み合わせられるようになった のです。

いま押したそのボタンが、世界が押すのに20年かかったボタンです。

2.2 にもどります

2.2 の終わりで問いをひとつ 先おくりにしておきました。

フィルターの中の数は だれが決めるのでしょう。

もう答えられます。だれも決めません。学習が決めます。

フィルターの中の九つの数も重みです。はじめは何でもよい数が入っていて、まちがえるたびにすこしずつ直されます。そうしているうちに あるフィルターはたて線を見つけるようになり、あるフィルターはよこ線を見つけるようになります。だれもそうしなさいと言っていないのにです。

そうしてフィルターを何層も重ねたニューラルネットを CNNと呼びます。2.2 で層ごとに開けてみた あれがこれです。

では 層をたくさん入れればよいのですね

層をふやしたらとけましたね。では層とニューロンをうんとたくさん入れれば 何でもとけるでしょうか。

それがそうはいかないのです。次のチャプターで 練習問題にくらべて重みが多すぎるとき に起きることを見ます。