Random thoughts in Japanese. All optinions are my own.
2025/02/28 (Fri.)
- 那覇に着いた。立川から羽田はやはり2時間近くかかってしまうのがネック。言われるがままに川崎で乗り換えたが、JR から京急までかなり距離があったので、次はできたら避けたい。
- 那覇に着いてホテルのフロントで外国人スタッフがちょっと対応にまごついていたのだが、その後エレベータで乗り合わせたおじさんが「外国人は困るね」と同情を求めるような言葉をかけてきたときに「まあ自分らが海外行ったらお互い様ですから」みたいな生ぬるい言葉しか咄嗟に返せなかったのを後から猛省している。こういう無意識のゼノフォビアは本当に嫌いなので、「外国人差別はやめたほうがいいですよ」くらい言うべきだった。
2025/02/27 (Thu.)
- たまたま来所した来年度からの新任の秘書さんとお会いして挨拶できた。僕も僕で来たばかりでまだ右も左もわからず、今後基盤運営費の執行や予算計画をどうしていくか全然わからないタイミングだけれども、秘書さんもはじめての職場でどうやっていくかわからないタイミングなので、お互いコミュニケーションを取りながらうまくやっていくしかない。既に在所されている秘書さんにもこれから発生しそうな手続きをしこたま教えてもらって圧倒されているけれども、これは遅かれ早かれ通らなければいけない道。いままでは研究室の環境に甘えてきただけだから、そろそろ一人立ちしなければ。
- そういうわけでようやく腰を据えて落ち着いて論文を読む時間ができてきたけれど、ここ数字のてんやわんやで疲れてあまり頭に入ってこない。週末には沖縄に行ってしまうから、今日明日で一本読み終えたい(だいぶ昔から気になっていた Francis Bach の logistic regression の self-concordance 解析)。とりあえず新しい環境に慣れるという意味でも。
- 退勤後に高円寺のカフェにサークルの後輩の展覧会を見に行った。会うのは何年ぶりだろうか。内面の映し鏡かのような良い絵を描いていてとても良いなと思った。そういえば2日ぶりに立川から出たことに気づいた。
2025/02/26 (Wed.)
- 2日続けて書類を提出したり挨拶したりアカウントを移行したりメールをセットアップしたりとてんてこ舞い。だいぶ疲れたが、2日で最低限活動していくのに必要な設備類は整ってきた気がする。
- 統数研滞在最終日の宮戸さんを捕まえて、相変わらず突拍子もない話をしていた。でも話しているうちに、機械の方が人間に比べて圧倒的に自由度=可能な状態数が(少なくとも論理世界の中では)大きく、それゆえに生物脳的な意味での汎化はしづらいんじゃないかといった結論にたどり着いた。二重降下は一見それに対する反証のように見えるけれども、注意深く考えると二重降下で汎化性能が classical regime よりも良くなるのはあくまで特定の最適化アルゴリズムを選んだことによる陰的バイアスのおかげであって、任意に最適化アルゴリズムを選ぶことができる状況では必ずしも汎化するとは限らないと思う。そういう意味では classical regime とは異なるけれども、あくまで自由度を縛って初めて汎化すると捉えたほうが良さそうに思う。
2025/02/25 (Tue.)
- 敦賀、京都、そして立川へ。転職したのか。どれくらい経ったら実感が湧くだろう。まだ新生活に想像がつかない。
- 30歳になったり異動したりと人生の大きな節目だから、少し長めの文章を書いた。1週間くらい空き時間を見つけては少しずつ書いて2万文字になったが、まだ書き足りない(し論理がちゃんとなっていないところがある)。文章を書くのは嫌いではないが、綺麗にまとめるのは大変だ。もっともっと練習をする必要がある。
2025/02/24 (Mon.)
- 転職記念ということで、一泊二日でふらっと敦賀旅に行ってきた。敦賀は10年前の3月に北陸鈍行旅行を友人と二人でやったときに通過しただけなのだけれども、そのときになぜか印象にとても残っていて、なんとなくいつか来て落ち着いて見て回りたいと思っていた。この三連休は敦賀でも結構雪が積もったタイミングらしく、道を歩くのすらもなかなかに大変ではあったのだが、それでも氣比神宮、松原、常宮の景色は絶景だった。天気は移ろいやすく、油断すると視界が見えない。そんな中、光と水と雪が織りなすソール・ライターのような一瞬の風景。それを見るために水平線を見つめていられる。
2025/02/21 (Fri.)
- ついに最終勤務日。意外と暇かなと思っていたのだが、結局朝から秘書さんに、教員に、お隣の研究室に、ひたすら挨拶をして回っていた。普段はみんな忙しくて理由がなければ話し込んだりしないけれども、いざ挨拶になってみるとその流れで研究の議論が始まったりして、やっぱりみんな学問が好きなんだなと思ってしまう。良い人たちに恵まれた。「Transformer 全盛期、実は表現学習の第二世代目を考えるべきではないのか」とか、実は今年の POPL のベストペーパーがプログラム検証とラグランジュ双対の(一見全く見えてこない)関係性らしいとか。みんな知的好奇心に溢れている。
- そういうことで足掛け3年 (2022/02/28) の京大生活も幕を閉じた。この3年間、忙しくててんてこ舞いというのは常態化していたけれども、辛かったとか苦しかったとか、そういうことは本当に少なかったように思う。それはひとえに知的好奇心に目を輝かせている周囲の人間、僕のアイデアや数学力を常に上回る刺激を与えてくれた国内外の共同研究者、そして白眉センターという正気では到底考えられないほど自由闊達で知的体力に恵まれた環境を必死に守り支えてくれた大学関係者、すべての人たちのおかげであると改めて噛み締めながら思う。どういう形になるかは全くわからないけれども、時間をかけてどうにか恩返しをしたいと思う。3年間本当にありがとうございました。
2025/02/20 (Thu.)
- ドイツから帰ってきた学生の就活で悩んでいる話を聞いて、その折で「分野の研究をするだけなら日本にいる意味はない」という言葉に出くわして、自分もそうだと頷きながら悲しくなった。ただ、僕自身がポスドクで海外に行くこともなく日本で研究をしていることに関してはいまなら自己正当化ができる。日本語が自分にとって最も思考を研ぎ澄ますことのできる言語だから。言葉を使って、普遍性を、理解を、法則を、帰納主義を、アプリオリズムを、徹底的に分析して論じたいから。それが僕に日本にいる意味であると言える。
- 午前はセンター長と一対一で離職前の挨拶をした。そういえば一対一でこう話したことはあまりないかもしれない。結局1時間話し込んで、話題も白眉の振り返りから研究領域の文化の違い、果ては日米での博士課程の待遇・社会的位置づけの違いまで多岐にわたった。こういう機会を捕まえたらマネージャーには言えることは全部言ったほうが良い。それが若手研究者の責務でもあると思う。しかし、3年前の白眉の面接 (2021/06/28) のときより明らかに自分の思考が明晰に整理されてきた感覚がある。目上の人、畑違いの人に対して、自分が言いたいこと・言うべきことを整理して喋り、議論する力がついた。これは確実に、情報学の中だけで閉じこもっているだけでなく、白眉の中でのびのびと思考を鍛えられたおかげだと思う。
- 午後は越智さんに誘われて関西セミナーハウスで戦争犯罪アーカイブに関するワークショップに参加していた。真剣に聞けば畑違いでもやはり面白いと思える話は多い。個人的に印象に残ったのは、デジタル生成物はいかにして法的証拠能力を獲得し得るか、というトピックだった。専門家による検証が欠かせないのでは、という提言だったけれども、それは「リヴァイアサンと空気ポンプ」の世界観を想起させる。それは専門家の「神託」を信じる他に、権威性に頼る他に、証拠性を担保する方法はないのか。科学哲学的にも全く持って興味深い問いである。
2025/02/19 (Wed.)
- メモ: ポパーの主張する「観測は理論によって初めて意味が与えられる」はコイレのアプリオリズム (2024/11/18) と呼応している。
- 宮戸さんが京都に遊びに来てくれた。会うのは去年のチュービンゲンぶり (2024/07/29)。蔵本モデルの詳しい話を聞けたのはもちろん、どういう経緯であのモデルを作ったのか、予測符号化や自己教師あり学習、backprop フリー学習、同期と模倣のアナロジーについて、明後日の方向から大量の議論と知見で頭を殴られた。7、8年前は宮戸さんとここまで深く研究の議論をする間柄でもなかったので、あまりの知識と試行錯誤のギャップにどこか絶望感を感じながらも、それを知的興奮に上回られた。人間の学習は社会的模倣であるわけだけれども、ではなぜ模倣をしてしまうのかという点に関して、ひょっとしたら自然界に内的に同期現象がプリセットとして備わっていて、そのプログラムに従って模倣しているのに過ぎないのかもしれない、とか。それはニューロンの同期現象の階層から社会的模倣の同期現象の階層まで多階層的になっていて、予測符号化の階層性をも想起させるとか。Backprop フリーに必要なのは stopgrad かもしれない、とか。Stopgrad は loss だけからは記述できないような学習の目的を「過度に複雑な力学系のメカニズムによる説明に頼ることなく」(Kolmogorov 複雑性をできるだけ小さくする形で)記述しているのかもしれない、とか。そういう視点はなかった。僕自身 loss のみに焦点をあてる研究の限界を感じていたところだけれども、それに対して宮戸さんは「loss だって学習の目的の記述長を相当に落とした表現だから意味はある」と鼓舞(?)してくれたり。なんというか、insipiration と encouragement に溢れた午後だった。
2025/02/18 (Tue.)
- 蕭山空港のラウンジ、去年来たときはここで必死に NeurIPS に向けてミーティングをしていたことを思い出す。本当に忙しかったタイミングな気がする。今回は締切直後というのもあってゆったり出来ている。去年のことを思い出すと、いまゆったりできていてホッとする。研究に打ち込んでいるときはアドレナリンが出ていて打ち込めるのだけれども、終わってみて振り返ると大変な集中の仕方だなとは思う。
- そんなことでバタバタと5日間の杭州から戻ってきた。帰りの飛行機でポパーを読み切った。反証可能性を科学の定義とするややもすれば乱暴な力強さぐらいの認識であったが、マルクス主義・全体主義・ユートピア普遍主義との戦いの末に歴史をいかに科学化するかに腐心してきたからこそ紡ぎ出せる切味の鋭い筆致で読み応えがあった。科学者であるならば絶対に読んだほうが良いと自信を持って薦められる。
2025/02/17 (Mon.)
- 異常に眠い。9時半に寝て7時半に起きているから10時間寝ているはずなんだけれども。最近の疲れが出てきたか。
- 30歳の振り返りの文章を書いていたが、書いている途中に段々とまとめる意味がわからなくなってきた。いつも同じような文章を書いているような気がする。ブログには一度も書いていない話もあるはずなのだけれども、すでに頭の中で三周くらい堂々巡りしたような話が多いから、自分にとって新鮮味が少ないという理由もあると思う。論文と同じで、鉄が熱いうちに打たなければならない。
2025/02/16 (Sun.)
- 去年中国に帰ってきたときは体調を崩して (2024/04/27) 叶わなかった墓参りにようやく行けた。足掛け3年 (2022/01/27)、パンデミックを挟んでいたのもあり、ようやく成就することができた。日々ぼんやりと過ごしているけれども、自分自身は30になるし、時間は過ぎていく。限られた時間でやるべきことをやらねばならない。
2025/02/14 (Fri.)
- 1年弱ぶりの中国への帰省。正直9月くらいから働き詰めだったような気がするから、少し羽根を伸ばせたらいいかなと思う。仕事は来るまでのラウンジや機内でもうたらふくやったし。
2025/02/13 (Thu.)
- 理論におけるネガティブリザルト、不可能性証明って要するにどれだけポジティブリザルトが欲しかったかということの裏返しなのだよな、とふと思った。箸にも棒にもかからないような命題だったらそもそもネガティブリザルトを出す意義もないから。早い話が情報論的限界なんかもそういうわけで。だからコミュニティが何に対して意義を持っているかという価値観が反映されていることになる。
- サークル時代の友達数人と久しぶりに飲んだ。まさかの出産祝い。もうそういう年代だから大きく驚くことはしないけれども、普段は京都にいるからあまり直接祝うような機会がなかったので新鮮ではある。そう、30なんだ。やりたいことを急いでやらなければ、あっという間に何年も過ぎ去ってしまう。
2025/02/12 (Wed.)
- 面接(する方)、審査、ミーティング三件。たぶん自分史上一番予定が詰まっていた日で、ひっきりなしに学内を移動したり海外とオンラインで会議したり。ミーティングがまだ楽しい研究の議論だったから助かった。
- その後夕方に白眉センターの事務室でささやかなお茶会に誘われた。なぜか事務に二人ほどお茶を点てられる人がいて、人生ではじめて表千家で点て方を教えてもらった。異動も目前に控えているので三日も連続で白眉の人と研究の話ができるのは嬉しい。
- 大阪から帰ってきてもうこれから東京、そして中国。1月が研究に集中する期間だった分、反動でものすごくバタバタしてきた。
2025/02/10 (Mon.)
- 白眉合宿で大阪へ。来週もシンポジウムでお会いする越智さんの戦争アーカイブのガイドライン化の話、鴻池さんの遺伝的系統関係と比較認知科学の見地の食い違いに関する話、他にも面白い話づくめで、締切を乗り切ったいま本当に純粋な気持ちで楽しめて嬉しい。僕はただ大西くんに昔言われた「どんな発表でも一つでいいから質問する気で聞けば理解度が変わる」という言葉のもと、ひたすらに聞いて質問していたけれど、それが白眉の同僚からもすごいと思われていたらしい。でも質問をするには本気で相手を理解する貪欲さがないと実際できないのだ。ただひとつ問題があって、これは相当な体力を消耗する。夕食前に全体力を使い果たしてしまった。
- にもかかわらず日を超えるまで議論に議論に議論。ブラックボックス AI に直面したときに機械学習研究者がどのように説明可能性を実現するのかという話と、本郷さんの抱えている、indigenous science に直面したときに文化人類学者・生態学者がどのようにそれを解釈・理解するべきなのかという話がリンクしているとか。安藤さん曰く、断続平衡説は(クーンの科学革命のように)突然変異の側面がよく持て囃されて誤解されているが、実際のところグールドは個体のロバスト性を種のロバスト性まで昇華するために説を提唱したのだとか。知らない発見に満ちあふれている。
- いつかは異動しないといけないのはそうなのだけれども勿体ないな。研究成果を無理に求められることもなく、こうやって異分野の研究者とひたすらに議論できる環境、他にあるのだろうか。
2025/02/08 (Sat.)
- 朝起きたら想像以上に雪が積もっていたので「これは行かなければ」と義務感に駆られて金閣寺へ向かった。数えてみたら小学生のときが最後だったはずなのでなんと19年ぶりか。朝一番で向かったのもあって雪の状態も良く、背景の白んだ山と雲の隙間から覗く薄青空、そして薄氷張る池を眼前に望む舎利殿は圧倒的だった。はからずもこの半年で相国寺 (2024/10/14) 、鹿苑寺、慈照寺 (2024/10/13) を制覇したことになる。
2025/02/07 (Fri.)
- 本命の COLT の締切が無事に過ぎたので、まだ手を付けていなかった他の学生の論文をひたすら直す。今日は3件。頑張った。ようやく今期の仕事の峠が見えてきた。年末にかけて研究の進捗がなかなか出ない日々が続いていたのはしんどかったが、最終的には良い研究ができたと思う。久しぶりに息をつける週末になりそうだ。
- 先週小俣さんから借りたポパーの『歴史主義の貧困』を昨日から読み始めたが、あまりにも面白い。どこを切り取っても自然科学に携わる人に対しても鋭く響くアフォリズムに溢れている。例えば「社会科学者の言明が実際に影響を及ぼすという事実により、科学者の客観性は失われる」など。まさに strategic learning が描くシナリオに他ならない。週末に早く続きを読みたい。
2025/02/06 (Thu.)
- 緊張状態が続いて日に日に未明早くに目が覚めるようになってきた。今日はもう5時。おかげさまで1日10時間くらい論文を修正している。でも今回はかつてないほどにやり甲斐を感じている。それだけ良い研究になっているということだ。
- Overleaf に GPT-4 の統合機能で LaTeX のエラーメッセージを勝手に解釈して解決方法を提案してくれる機能があるのに気づいた。これはすごい。まさに LLM が良く適合している応用事例として相応しい。ひとしきり感心していたところ、ふと「そもそもコンパイラのコンテキストやインタプリタの実行スタックトレースを直接 Transformer にエンコードして入力したら勝手に自然言語で解釈して喋ってくれるんじゃないか」という気がした。これはもっと面白い気がする。大規模言語モデル時代、こういう一昔では考えられなかったようなワクワクする技術が可能になっている。
2025/02/05 (Wed.)
- 学生の論文をひたすら書いては直して、書いては直して、の日々を繰り返す。3周くらいはしただろうか。回を重ねるごとに見違えるように良くなってきた。締切1日半前、ようやく論文然としてきた。これなら満足のいく水準で間に合わせられる。
- 書いている間になぜ今回のような驚くような結果が可能になったのかを考えていたのだが、本質的には極小畳み込み(infimal convolution)の構造が効いているらしい。凸解析の数ある道具の中でも正直なところ僕は極小畳み込みに対して造詣を深める機会に恵まれなかったので直感的に把握するのに時間がかかったが、凸関数を2つ加法的に結合することで、双対空間では極小畳み込みによって加法的に分解されるため、主空間では凸・非線形だったものが双対空間では線形化される、というのが大筋のようだ。つまり、極小畳み込みは主双対変換を通じて非線形性を線形化することができるらしい。今回はリグレット上界を線形にしたいという動機にこの構造が非常によくフィットしたが、他の応用も十分考えられる気がする。
2025/02/04 (Tue.)
- ふと数えたら現職もあと7回くらいしか職場に行かない予定なのに気づいて、急に寂寥感が身に沁みてきた。そんな残りの数回で気持ちの整理がつくわけもないし、心残りを引き摺ったまま最後の日を迎えるのだろう。二ヶ月くらい前からゆっくりと近い人には伝えながら挨拶してきて、それに別にしばらく引っ越しするわけでもないし、それでも多分引き摺りそう。なんだかんだあったけれども、総合的にはどう考えてもいい環境だった。
- そんな想いを引き摺りながら、現職期間中で参加できる最後の白眉セミナーに赴いてきた。14期の後藤さんのオプティクスによるシナプス結合介入の研究紹介。海馬から皮質への記憶の移行にはシナプス結合の変化が効いているという知見すらも知らなかったし、セミナー後の雑談で深堀りしたところ、予測符号化などによるドーパミンがシナプス結合の強さに間接的に貢献しているといった話も聞けて勉強になった。ちょうど山田さんたちと海馬モデルの研究をしていたところだったから、wet な研究をしている人たちの話が聞けるのは勉強になる。Dry ばかりやっていると本当にこれは正しいモデルなのかわからなくなってくるから。
2025/02/03 (Mon.)
- 日曜日は天気も悪くやる気が出ず、作業しようかと思っていたが結局一日寝ていた。気分が乗らない日があるのは仕方ない。寝ている間に英気を養っていると思って自分を責めないことが大事。
- 今週は論文投稿までのラストスパート。正直朝の時点ではもう息切れしかけていたのだが、論文を直し始めたら筆が乗ってきて平常運転に戻ってきた。やっぱり学生の論文のアイデアが面白いから頑張ってでも直す気持ちになれる。1時間くらいかけてイントロをさっと手直ししたら割と読みやすくなって、学生にも喜んでもらえたらしい。こういうのは双方気持ちよく仕事ができて嬉しい。彼なんか本当に自分の研究の興味と近いし、このアイデアを思いついた創意工夫には目を見張るものがあるし、今度シンガポールに行ったらどうにかしてリクルートしたいものだ。
2025/02/01 (Sat.)
- 雨降る中はじめて吉田神社の節分祭に行った。とはいえ境内はあまりの混雑で息苦しくなってしまったので、そそくさと抜け出して白川沿いでご飯を食べていたが。土曜の夜の白川沿い、人通りも少なく、レストランにもダウナーな空気が流れる。こういう停滞した空気は嫌いじゃない。