「ニューラルネットワーク研究との遭遇」神経回路学会誌(2009) Vol.16 N0.3, 131-133.

篠本 滋  京都大学理学研究科

私がニューラルネットワーク研究と関わるようになったのは,神経回路学会創立の少し前のことである.理論神経科学の変遷やその歴史的な意味などについては,もうすこし歳をとったらいろいろ考えてみたいと思うが,昨今の気ぜわしい毎日にはその余裕はない.今回の神経回路学会20周年記念特集記事への寄稿としては,自分が研究を始めた頃(〜神経回路学会創立の頃),の個人的な思い出話を書かせていただくことでお許しを請いたい.

日米セミナー

物理学を専攻している私がニューラルネットワーク研究に関わったきっかけは,いわゆるホップフィールド・モデルとして後に有名になる研究を知ったことにある.私のみならず何人もの物理屋が,この論文一つがきっかけとなって人生を変えた.この Hopfield論文に触発されて書いた論文原稿を甘利俊一先生に送ったところ,1987年にカルフォルニアで開かれる日米セミナーに参加してみないか,とのお声をかけていただいた.日本から参加する十人ほどのメンバーの多くは当時新進気鋭の若手であり,その中には宮下保司さん,彦坂興秀さん,安西裕一郎さん,川人光男さん,などがいた.彼らはその後神経科学研究のリーダーとなる人たち(各々現在は,東大医学部教授,米国NIH教授,慶應義塾大学(前)塾長,ATR脳情報研究所所長)であり,こういう人たちを見知ったことは大変な幸運であった.当時は日米セミナーなどの機会でもなければ海外出張旅費は捻出できない時代であった.確か「10人ぶんの旅費がでるが,少し多めに出るから,それを11人で分けて使おう」という粋な計らいで,論文も出していない若造を11人目に入れていただいたのであった.

神経科学研究会

現在の神経回路学会で現在中堅となって活躍している人たちと親しくなるきっかけとなったのが,日米セミナーと同じ1987年に神戸の六甲山で開かれた「神経情報科学研究会」であった.この会が「日本神経回路学会」の前進といってよいのだろう.この会の歴史に関しては,福島邦彦先生の記事を参照されたい.

さてその年の夏,私はというと,ロープウェイの駅を誤ったのか,六甲の山道を歩いて研究会場に向かった.その結果,開始時刻より遅れてホテルの会議場に入ったが,会場の百名近くの参加者のほとんどは私の知らない人ばかりだった.そのころの私は,ホテルの会場で開かれるような立派な研究会にはほとんど出たこともなかった.一つ一つの机にかけられた真っ白なテーブルクロスから,きっと立派な会議だろうと思い,緊張した.しかし,しばらく講演を聞いていると,どうやら講演の内容は必ずしも質が高いものばかりではないのではないかと思え始めた.不明瞭な定式化や,理解を誤った解説も少なくなかった.礼儀をわきまえた人が多いのか,誰もその種の間違いを訂正しようとはしないので,私はいらだって口汚く批判を浴びせかけ始めた.発表者や参加者はこの見知らぬ若造を眺めて,何がおこったのかよく分からない様子だった.このように口汚くののしり批判されるという体験をもたない礼儀正しい人たちばかりらしく,皆どういう対応をすればよいかわからなかったために混乱が生じ,会場はざわめいた.しかし,その日は最後までこの田舎者の無礼をただす人は現れなかった.

その日の夜の懇親会では結構いろんな人と仲良くなることができた.誰もがこの礼儀知らずの田舎者に興味を持ったようだった.しかしこの夜の懇親会では私は主役ではなかった.昼間よりもずっとおもしろい話をする人たちがいたのである.この神経科学研究会には,私がこれまで会ったことのないような動物好きの人たちがいて,夜は動物にまつわる会話で盛り上がるのである.ザリガニが交尾する様子を見るのが趣味だという人がいて,交尾の様子を楽しそうに語るのである.「雄ザリガニが自分のチョキをつかって,雌ザリガニのチョキをつかんで押さえつけるんだよね.まるで正常位みたいに,ふっふっふ」.この場では私は全くの脇役で,ただただ感心して口を開けていた.この話をしたのが誰だったか,今はよく思い出せないのだが,倉田耕治さんか合原一幸さんのどちらかだったように思う.この二人ともこの当時は東大工学部の助手であったかと記憶しているが,工学部の研究者としては異色の存在だった.

互いに見知り会った連中で六甲山を散歩することになったのは確か2日目の夕方だった.そのなかに一人捕虫網をもってときどきそれを振り回している年齢不詳のおじさんがいた.彼が何か捕まえる度にみんなで集まって獲物を検分する.彼は獲物について一通り解説してから,それを大事そうに三角のパラフィン紙にとじこめる.このおじさんはそのうち交尾しているガを捕まえた.そして少年のように目を輝かせていった.「はは,二つもらった」.これは神経生理学者の斉藤秀昭先生であった.交尾中のガを殺生することの是非については,その場に居合わせた連中の間で議論が盛り上がった.これを機に,研究会の度に昆虫採集に抜け出す悪ガキ集団が形成された.昨今の気ぜわしい時代には,こういうこともやらなくなった.いま告白しても時効だろう.

最近では国内の研究会でも外国人が幾人か混じっているのが普通になったが,当時はそういうことはめったになかった.この研究会にはめずらしく外国人が参加していた.アメリカから招へいされていたニールセンという人で,ある程度は名の知られた人だった.彼は日本語が分からないのに,日本語の講演を聞いていた.私の講演は確か最終日であったが,私の講演に対して最初に質問したのがこのニールセンだった.私は今でも英語は得意とはいえないが,この当時はもっと不慣れだった.いきなり英語で質問されたのには面食らったが,一つ目の質問はよく聞き取れた.それに続く質問は何を言っているのかわからなかったので,もういい,という気分になって聞いていなかった(相手が長たらしくしゃべっているうちに返答を準備しなければいけないのだ).長い質問が終わったあとで「まずはじめの質問に対してはこういうことです」といって丁寧に解答した.そしてその後,「次の質問については,実を言うとまるっきり何をいっているのかさっぱりわかりませんでした.後でゆっくり議論しましょう」ときっぱり言い切った.ニールセンやその他の人たちはそれを聞いて吹き出してしまった.その次には甘利先生の発言があった.「君の用いた断熱変化の手法は私が十年以上前に導入しているものであって,なんら新しくない」といった辛口の発言であった.甘利先生は,普段はとても友好的なのであるが,こういう講演の場で突然イジメに走ることがある.このときは私にいじめられた人たちの仇討ちの意味もあったろうか.これに対して私は「いじめられたあ」と言って子どもが泣く素振りをし,その場に居合わせた聴衆をあきれかえらせた.すでにこの頃からお笑い芸人をやっていたのである.

アスペンワークショップ

ホップフィールド・モデルに触発されて,連想記憶モデルの論文を書いて関連の研究者たちにその原稿を送ったが,海外ではDaniel Amitがそれを評価してくれて,いろんなところで紹介し,彼の著書にも引用してくれた.私が彼に始めて会ったのは,彼のその著書が出版された直後の米国アスペンワークショップ(確か1989年)においてである.このアスペンワークショップを開催したのはHaim Sompolinskyであった.彼が私を招待してくれたのは,おそらく私のニューラルネット論文よりも,私が蔵本由紀先生のもとでおこなった振動子モデルの研究に興味を持っていたからではないかと思う.アスペンでは,彼からその振動子モデルについて議論をふっかけられたが,彼はかなり攻撃的な議論をする人で,私はその時は彼の話し方にかなり腹をたてた覚えがある.そのずっと後,彼は尊大なのではなくて,単にストレートに質問しているのだと思えるようになってからは,うち解けて話すようになった.このアスペンワークショップは30人ほどの研究者が約一ヶ月間アスペン物理センターに滞在して,議論をしたり,バレーボールをやったり,ハイキングに出かけたりして互いに親しくなっていくというものであった.私はまだこういう経験が全くなかったし,日本人は一人だけだし,どう振る舞えばよいのかわからず,おずおずしていた.バレーボールは全くできなかったが,それでも次第に議論やハイキングなどに加わるようになった.この30人ほどの参加者の中には気鋭のDaniel Amit, Haim Sompolinsky,そしてHanoch Gutfreundの3人がいただけではなく,いわゆる「ホップフィールド・モデル」のJohn Hopfieldその人もいて,声をかけてもらったことを光栄に思う.当時まだ若かったWilliam Bialekとも知り合って,後に彼のバークレーの学生Michael Crairをポスドクとして受け入れることになったし, Ido Kanterはその後,京都のわが家に何度も来ているし,David Sherringtonは私がオックスフォード大学に長期滞在したときにホストになってくれたし,その後,京都の我が家にも何度も訪れて家族同士の交流がある.Daniel Amitとはその後,神戸の場末のカラオケで一緒に歌ったりしたが,彼からは学問のみならず人生についていろんな事を学んだ.人との出会いが人生を変えるということがあるが,このワークショップでの出会いというのは質・量共に大変な出来事であった.

第1回神経回路学会大会

ニューラルネットワークのモデルに関して少しだけ研究を行い,研究会では誤差逆伝播法などの工学研究報告に対して歯に衣を着せない攻撃をおこないながら数年が過ぎた.そして1990年,新しく設立した神経回路学会の第一回全国大会が開催された際の特別講演の演者に選ばれた.実験からは理研の生理学研究者,田中啓治さんが「形の脳内コーディングについての実験とモデル」という題目で講演を行ったのに対して,私は「理論:1980年代から1990年代へ」という題目で講演を行った.その予稿集を見ると,与えられた1ページのスペースに対して,数行の文章のみで,その下には大きな余白が堂々と残してある.いま振り返れば尊大である.

この講演では,いわゆるニューラルネット研究のそれまでの発展の概説を行い,いくつかの将来展望を話した.その際に,そのころアメリカから流行し始めていた計算学習理論についてもちょっとしたコメントを行った.単純パーセプトロンの推定誤り率はこのようなものになるのではないか,という私個人の予想を披露したところ,聴衆のなかから甘利先生が興奮した様子で発言した,「この問題はなかなかおもしろそうだ.しかしこんな単純な問題は,篠本,おまえなら2,3時間で解けなくてはいかん!」.それに対して私は「こういう問題にはあまり深入りしたくないですね.こういう類の計算論には秀才があつまってきますからね.勝てない勝負には取り組まない,ってのがぼくのポリシーで」といっておちゃらけてみせたが,彼がこの問題を気に入ったのには気をよくした.聴衆が百人近くいても,甘利先生以外は反応しなかったということは印象的であった.このあたりの目の付け所,そして獲物を逃さない機敏な反応が彼のすごさを示しているように感じる.この講演でまいた種はその後、大きな発展をみせることになる.甘利先生はその帰り道,数時間この問題に取り組んで,答えを見つけ,私の予想が正しいということを証明した,と思ったらしい,が,その後2週間ほどして,その証明が不完全であることに彼自身気がついた.結局この問題はその後も完全な解答が得られていない.ともあれ,この頃から甘利先生は本格的に計算学習理論に取り組み,Neural Computation に怒濤のように論文を発表されたが,その最初の論文には私の名前も入れていただいている.

これまでの20年と今後の10年

さて,その頃から20年が経過し,この間に研究内容も大きく変遷した.私もいい歳になったが,神経回路学会では,あいも変わらず,やんちゃ坊主を続けている.神経回路学会というのは一つの組織に過ぎないが,私はやはりここで育ててもらったという恩を感じている.さて学会そして自分の10年後はどうなっているだろうか.やはり研究の中身の充実が第一であろう.個人的には,最近になってようやく研究の面白さに気づき,これまで研究の批判に明け暮れてきたことについては大いに反省している.研究のスタートは遅きに失した感があるが,せめてこれから全力疾走して,なんとか納得のいくものを作り上げたいと思う.