Han Bao

Random thoughts in Japanese. All optinions are my own.

2025/09/30 (Tue.)

• 1ヶ月ぶりのマルチモーダルモデルに関する研究の打ち合わせ。立てた仮説がそんなすんなりと検証できるとも思っていなかったし、そもそもサイドプロジェクトで時間もあまり取れないだろうと思って非常にコンサバにタイムラインを引いていたところ、当初の予想に比べて大きな進捗が1ヶ月で産まれ、仮説がスモールスケールの実験では正しそうだと検証できた。まさに望外の進捗。言うまでもなくこれは Claude の vibe coding のおかげに他ならない。検証したい仮説に対応する実験設定を組み立ててコードを書かせると綺麗にやりたい実験のコードを書いてくれて、僕はそれを実行して結果を眺めるだけ。それだけでもすごいのだけど、昨晩ミーティング前にもう一つだけ詰めの実験をしてみたら先週までの実験結果と食い違うところがあって、両者のソースコードを見せて原因を考察させたらソースコードを読み込むだけで原因を特定できた。おかげで昨晩に十数分でデバッグからジョブを投入するところまで進めた。三馬力くらいまで加速されている。

2025/09/29 (Mon.)

• 新幹線で帰りながら論文の改定をやる。隣のサラリーマンが Web 会議に参加しながらビールを呷っている。気持ちはよくわかる。僕は乗車前に逡巡してミルクプリンを落としどころにした。

2025/09/28 (Sun.)

• バンド練で新宿まで出かけて、お昼を食べて立川まで戻って来る。戻ってきた後はオフィスで実験結果をこつこつとまとめたりした。
• ちょっと週末に仕事しすぎかな。疲れてきた。こういうとき、「今後の人生もずっとこうやって孤独に生き続けるんだろうか」という不安に襲われる。よくマラソンに喩えられるけれど本当にその通りで、なんでもいいから仕事以外に気分転換をする方法を確立しないと持続できない。人によっては超人的な没頭で気分転換を必要としない人もいるのかもしれないけれど。
• まあそういうわけで、作業もしたのでコモンズのカフェに来て、こうやって意味もなく文章を書きながらコーヒーを飲んでいる。チェリーらしい酸味で舌先を少し刺激しながら意識的に頭で風味を味わうと、気分がリセットされるような気がする。
• カフェで小一時間で一気に文章を書いた。気分転換になった。こういうのもたまには良い。

2025/09/27 (Sat.)

• 締切前の週末ということで少し追い込み。実験結果が追加で実装したベースラインより想定していたよりも悪く、なんとか多少改善できないものかと思って calibration map を眺めたりしてああでもないこうでもないと試行錯誤していたところ、新しく実装した交差検証が雑だったのが問題らしいことがわかった。結局夜までかかってしまった。まあこれでジョブを流して明日多少良い結果が得られたら良いのだけれど。
• 立川髙島屋の猿田彦珈琲の雰囲気が立地の良さの割に結構良い。コーヒーもチェーンの中では質が良い方だと思う。気分転換になった。

2025/09/26 (Fri.)

• 一度自分の中で失敗したなと思った発言 (2025/08/04) がいつまでも反芻する。2ヶ月近く経つのに、まだ口が滑ったときの生々しい感覚が舌に残っている。あんなこと言わなければ良かったのに。普段忙しくしている日はそうでもないけど、ふと人と喋るのが少ない日になると思い返してしまう。
• 一人が好きなのか孤独に弱いのかわからない。面倒くさいやつ。

2025/09/25 (Thu.)

• オフィスにホワイトボードの搬入が終わった。これで一通りの家具は揃った。自室に大きなホワイトボードがあるというのは嬉しい。
• ベースラインの実装をひたすらやっていた。Claude の助けも借りながら、実装したいと思っていたベースラインは一通り実装した。思っていたよりベースラインの性能が良さそうで、明日の朝実験結果を見るのが少しドキドキする。

2025/09/24 (Wed.)

• ようやく来日した留学生に会うことができた。僕の予定が全然あわなくて1週間以上も経ってしまい申し訳なかったが、でも既に所内で友人を作っているようで非常によかった。もはやそれだけでも見込みのある学生だ。
• はじめての所内セミナーで喋る機会だった。AISTATS で発表した研究内容を紹介した。興味の近い先生方にきちんと面白がってもらえたと思う。体感ではうまく喋れたと思う。

2025/09/23 (Tue.)

• 20時間ほどで羽田に戻ってきた。論文を書き続けているうちに2時間半のフライトはあっという間に終わる。
• いつかわからないくらいに久しぶりに上野広小路に来た。記憶を辿る限り1年半くらいは来ていない？肌感覚では4分の1くらいは知らない店と建物に入れ替わっているし、やたらに中華系の店が増えている。行き交う人もインバウンド観光客も随分と多い。もはや日本ではないかのよう。

2025/09/22 (Mon.)

• 所内の健康診断に来てみたら、なんと江口先生が目の前に並んでいて、はじめて話す機会に恵まれた。ロバストダイバージェンス、拡大モデル関連の一連の論文はとても好きだし、よく勉強させてもらった。江口先生は饒舌に GPT-5 で研究がどう変わるかについて期待と懸念の混じった複雑な感情のこもった声を直接伺った。僕はその場で楽観的に「計算機の登場が新しい科学の登場を促したように、LLM の登場が新しい科学の登場を促すはずだ」と言ったのだけれど、あとから考えればこれは当たり前のように見えて相当にエキサイティングなことなのではないかと思えてきた。僕はその場で複雑系を例に挙げたのだけれど、計算機がなければ複雑系科学は存在し得なかったはずで、計算機がなければあれほど数学的にも自然科学的にもリッチな構造を目の当たりにできなかったのだろうと思うと、この時代に生まれて良かったと思える。それと同様に、LLM によって初めて可能になる科学がきっとあるはずなのだ。それは昨今多くの研究者が口にする、AI による科学研究の自動化とか AI for Science なんていうものではない。LLM によって人間の知覚が拡張されてはじめて可能になる認識対象なのだ。なんでこんなことを今まで言語化することがなかったのだろう。僕にとって、これは AI for Science よりも遙か先の、知的好奇心を掻き立てられて止まない未来の科学だ。
• AISTATS の最低限の初稿を書き上げた。書き始めてから5日 (2025/09/17)、悪くない調子。まだ10日あるから、実験と理論を追加して文章を推敲する時間はそれなりにある。論文を書くために calibration map を作ってみたら非常に綺麗な binning の様子が可視化できてとても満足。
• 今年もビザ申請のために沖縄へ (2024/10/17)。中央線で、モノレールで、ラウンジで、機内で、メールを返しながらひたすら論文を書く。グリーン車やラウンジをきちんと有効活用できている。

2025/09/21 (Sun.)

• Pimsleur に課金し始めたタイミングで代わりに日経の課金をやめてしまったけれど、そのときから顕著に社会情勢にキャッチアップできなくなってきている気がするので、やっぱりニュースには課金したほうが良いと思う。
• フランス語のレッスンが今日で4回目。喋れていると言うには程遠いが、話し相手がいるだけで明らかに上達はしているし、よく間違えるパターンもわかる（たとえば “Je n’ai pas de chat” のような否定形 + de）ので、楽しく勉強できている。

2025/09/19 (Fri.)

• 朝の空気はもう秋。ツクツクボウシは鳴いているのにカラッとした風が通る彦根の城下町を歩きながら、久しぶりに滋賀大に来た。
• NeurIPS に3本採択された。ちょうど COLT で不採択だった (2025/05/03) 3本で、成仏して良かったのと、うち2本は spotlight 採択だったことも鑑みるとやはり COLT 水準で論文を仕上げたほうが圧倒的に研究としてのクオリティが高くなるという実感を得た。実際いずれの論文も自分が心の底から高いクオリティであると胸を張れる。研究者人生9年目、ようやくこの境地に近づきつつある。
• そして数奇なタイミングで JMLR も採択通知が来た。こちらのほうがむしろ安堵感は大きいかもしれない。2年前の COLT に投稿 (2024/02/09) してから足掛け1年半。位置づけとしては僕の COLT2023 の仕事 (2023/05/15) のジャーナル版ともとれる。初めて会議論文のジャーナル化をした。査読者は時間がかかりすぎたものの概ね建設的で、投稿時は35ページくらいだったのが、議論を重ねるうちに最終的に50ページまで膨れ上がった。最後の minor revision でもう少し嵩増しされるかもしれない。いずれにしても論文としての self-containedness は高まったし、論文と教科書の中間くらいのサイズになった。
• そうして採択結果の余韻に浸る間もなく論文を書く。2日で6ページ、これくらいが律速速度か。共同研究者の学生が理論的な結果を頑張って出してくれているから、僕も精一杯応えなければ。今月は良い実験結果を出し、新しい分野を勉強し、論文を書き、ということで非常に充実している。

2025/09/18 (Thu.)

• とにかくひたすら論文を書く。Cyclic monotonicity の細かいところ、例えば squared Euclidean cost をとったときと negative inner product をとったときが各々通常の凸性とどのように関係するかなど、書き出してみて理解が甘いところがわかってくる。そういうのを逐一検証しながら書いているとそこまですぐに書き上げられるわけではないが、3ページほどは書いた。書けば書くほど頭の中の理解が整理されて楽しい。
• 学生が学内の奨学金を無事に獲得できたようで、自分ごとのように嬉しい。思えば人から頼まれて多少なりとも添削したこの手の申請書が通った覚えがほとんどなくて申し訳なく思うことも少なくなかったが、今回は指導学生の3年分の生活がかかっているということで、リアルに10往復くらいは添削をした。指導学生が一人しかいないから、これでもか、と質が少しでも上がるようにねちっこく修正し続けた甲斐があった。学生もポテンシャルがあってこそだし、手前味噌ながらやはり申請書を書くのはまあまあ得意だから、きちんと若者に伝授できてよかった。RA雇用もする予定だから、博士課程の学生としては上等な生活水準が提供できそうだ（もちろん民間と比較すればまだまだ改善の余地があるが）。PIとして初の、結構大事な仕事。

2025/09/17 (Wed.)

• 論文を書き始めた。良い研究であるという自信があるので、イントロダクションがスラスラと書ける。
• 午後に休みをとって猫カフェに行った。もう8年ぶりとかなのではないだろうか。猫に見入ってあっという間に時間が過ぎた。

2025/09/16 (Tue.)

• ついに留学生の来日の日になった。冬入試から足掛け8ヶ月 (2025/01/15)、はじめての指導学生。スケジュール上今日は研究所で直接迎えられなくて申し訳ないけれども、来週会えるのが楽しみだ。
• 締切まで地味に2週間前ほど。まだ原稿を書き始めていないが、結果が揃いそうなのでまあなんとかなるような気はする。あと数日実験をもう少し進めて、今週後半からエンジンをかけて一気に論文を書き上げる。

2025/09/15 (Mon.)

• ワークショップを終えて帰路につく。3日間濃密に力学系のことを勉強できた。なかなか普段だと古典的な、それも分野外のトピックについて腰を据えて勉強することはできないから、非常に新鮮である。僕は結局自分の興味の赴くままに準安定状態の解析手法を3つほど勉強した。適当なシステムさえあれば今にでも使えそうな内容で、モチベーションが高まっている。

2025/09/14 (Sun.)

• 昨日から多摩センターに籠もって未解決問題ワークショップに参加。当初から僕が未解決問題に貢献できることは端から期待していなくて、メタ的にこういうワークショップをどう運営するのかに興味が多少あって覗きに来たくらいの気持ちだったのだが、力学系の準安定状態の解析に関してサーベイして勉強するいい機会になった。1つは Yorke & Yorke (1979) のローレンツ写像の準安定状態の解析で、極大点を数値的に計算してモデルをあてはめて、Taylor 展開して準安定状態の脱出時間をモデルから解析的に書くアプローチ。もう1つは Otto & Reznikoff (2006) の Allen-Cahn 方程式の準安定状態に関する解析で、一般論として勾配流のエネルギー関数が KL 不等式の変種を満たすとき、初期状態からの脱出にリプシッツ定数の逆数程度の時間スケールが必要であるという結果。どちらも全く知らなかった話で、2日じっくりと時間を取れたからこそ辿り着いて勉強できた。今はとにかくこのあたりの結果を使ってみたい気持ちが先行しすぎていて、少しうわの空ですらある。

2025/09/12 (Fri.)

• フランス語のオンラインレッスンを始めたのに伴って、経費削減で Pimsleur の課金を止めた。ほぼ丸1年間課金して毎日聞いていたおかげで、去年の前半の時点では今思うとかなり基礎的なフランス語のフレーズでさえも全然聞き取れていなかったのが、少なくとも文法構造は聞いてなんとなくわかるようなレベルにまで来ているのだから、使ってよかった。
• 提案法が本当に強い。確率較正なんて割と良い具合に混雑しているレッドオーシャンなはずなのに、temperature scaling ほか古典的に「固い」ベースラインを軒並み淘汰している。今度は複数回実行して平均を取っているので、昨日よりも確度が高めの評価のはず。ちょっとしたトリックでそれなりに高速化もできた。うまくいきすぎて浮足立ってきた。早く論文を書き上げて色んな人に見せびらかしたい。

2025/09/11 (Thu.)

• 数日コーディングして確率較正のベンチマークを取れるようになったので、作った単調回帰アルゴリズムを試してみたら想定していた以上にどうやら性能が良いらしい？現状提案法は全くスケーラブルではないのですごく小さいデータセットでしか試せていないのだけれども、temperature scaling でさえ達成できないような非常に高い性能向上幅をたまに実現することがある。まだ検証が必要なので糠喜びはできないけれども、当初は「まあ性能低下しなかったとしても顕著な性能向上は見られないだろうな」と思っていたので、こんなに性能が上がる期待感があるとは思いだにしなかった。
• この単調回帰の研究、数理と実験の両輪の美しさでは、自分の研究者人生過去最高なのではないかという気さえしてくる。

2025/09/10 (Wed.)

• 今週は所内にやたらと人が少ないと思ったら、よくよく考えたら連合大会だった。結局2年前に京大で開催されていたとき (2023/09/04) に初めて参加したきり一度も行っていない。時間が無尽蔵にあるなら行っても良いのだけど、そんなに学会に出張していたら研究する余裕が全くなくなってしまう。ただでさえ山積している研究がたくさんあるのに。最近はできるだけ行く学会の数を抑えるように努力をしている。
• ものすごい数の出張やミーティングをしている精力的な若手を見かけると、穿った目で見てしまう。自分が自力で思考する貴重な時間がどんどんフラグメンテーションしてしまわないですか、と。とはいえ人のことをとやかく言う暇があるなら自分の襟を正すべき。
• コードを書く。ベースラインの実装は全く気が進まないが、重い腰を上げて、先人が公開してくれている実装を移植する作業を無心で行う。LLM のお陰で移植時のパッケージのバージョン違いなどに起因するエラーも瞬時に解決する。

2025/09/09 (Tue.)

• コードをひたすら書く。久しぶりだ。色々なデータセットが読み込めるようになったので、スケールアップして実験ができるようになる。LLM が使えるので以前よりも明らかに効率的に書けている。
• 坂上さんが立川まで来てくれて議論を少ししていた。その後は午前中に積み残したコーディングに邁進してしまって、それはそれで進捗が出たので良いのだけれど、後から振り返るとせっかく人が来てくれているのだからこの数時間で共同研究をきちんと進めればよかったなあと思う。

2025/09/08 (Mon.)

• 立川へ。8月はほとんど研究所にいなかったが、9月、10月はそれなりに研究所にいる時間がある。頑張って研究をしよう。
• 京大時代に少しだけ面倒を見ていた学生が統数研に長期滞在したいということで、話が本格的になってきた。僕としてはこの秋から留学生が一人来るタイミングなので、一人だけ学生が来るよりは二人以上のほうが学生の間でコミュニケーションが取れる余地ができるので、それはありがたい。

2025/09/07 (Sun.)

• 数日前から唐突に読書の習慣を取り戻したのだが、これはやはり良い。今日はエルンスト・マッハの「探求されるべき『実在』を想定せずに人間の諸『経験』の関係を記述するのが科学である」「科学の仕事は、私たちが到達できない、そして決して達成できない目標を達成するための無限の努力としてしか見ることができません。[…] それではすべての科学が無意味であり、“野生のガチョウの追跡"に過ぎないと宣言していることになるのでしょうか？まったくそうではありません、私たちは正しい方向に進むように私たちを導く現実のいくつかの具体的な証拠を明らかにする知識の成長するループを組み立てるために私たちの労働の成果を蓄積することができるからです」という言葉を識ることができたのは、読書のおかげに他ならない。前者はカイヨワ (2025/09/04) へのアンチテーゼ、後者はジェイムズ、ポパーへの強い影響を想起させる。僕自身にとって馴染みの良い考え方である。マッハの著作を読みたいと思い始めたのが修士の頃、既に8年ほども経ってしまったことになる。そして今なお、僕自身の考え方を補強するために強力な礎となるだろうことを追認し続けている。今読まないでどうするか。
• 出張で京都に訪れていたサークル時代の友人と久しぶりにあった (2025/02/13)。前回と違って今日はサシ飲みだったため、話しているうちになぜかどんどん科学論の話に突き進んでいった。どうやら僕がくねくねと書いた駄文も読んでくれていたらしく、望外の喜びである。自分自身が決して自己満足できる文章を書けているとは思わないけれども、少なくとも書かないことには前進しないのである。そして周囲の知人に思っている以上に恵まれており、彼らは僕の書いたはしたない文章であっても読んで面白がってくれるらしい (2025/04/24)。それは、僕たちが文章に残したいと切に願っていることが独善的な思想なのではなく、共時性を持った世代的現象であることに裏付けられているのだろう。そう、20世紀的自然科学のパラダイムままではこの時代は生きていくことはできず、常に鋭利な眼光を持って革命の時宜を虎視眈々と狙わなければならないのである。その旗揚げのために、文字を、文章を、紡ぎ続かなければならないのである。

2025/09/06 (Sat.)

• 『ヰタ・セクスアリス』を再読した。記録を見返したら最後に読んだのは2018年5月、修士2年生のときだったので、7年ぶりらしい。半年ぶりに本を読んだ (2025/03/22)。4月ころにフーコーの『言葉と物』を読み始めたのだが、難解過ぎてシンガポールやプーケットの出張中にスーツケースの奥に沈み込んだまま、本を読む気力が失せてしまっていた。少なくともここ5年くらいはコンスタントに本を読んでいた（読み切るのに1ヶ月くらいかかることはあったにはせよ）ので珍しい。本は難しければ読みきらなくても良い。別の本を漁れば良いと思う。
• はじめて『ヰタ・セクスアリス』を知ったのは、記憶違いでなければ中学2年生の現代文の授業のときだったと思う。当時の先生が小テストで漢字の書き取りに混ぜて小説の作者を訊く問題をよく出していて、その中で異彩を放っていたのが『ヰタ・セクスアリス』だったような気がする。20年弱経ってもまだ記憶に残っていると思うと、感慨深いものがある。「1000人の生徒がいて1人の心に届ければそれでよい」(2021/11/23)。
• 近所の Paddy に立ち寄った。民家の中にひっそりとしていて、知る人でないと辿り着けないような場所。水出しアイスコーヒーはマスカットとチョコの風味が香る、キリッとしたフルーティーな味わい。フルーツのタルトとよく合う。京都もとい西陣界隈には他所では巡り会えないような落ち着きがあるという得難さを、東京に仕事で頻繁に戻るようになってから再認識してきた。

2025/09/05 (Fri.)

• 先月大塚さんと議論していた内容 (2025/08/01)、今週に入ってから既存のリポジトリのコードを再現実行してみたり、Claude に検証コードを書かせてみたりしていたら、当初の仮説を支持する予備的な実験結果が早速得られた。こんなに一発でうまくいくとは思っていなかったので拍子抜けした。しかも vibe coding があまりにも効率的すぎて、実際の検証自体は今朝起きてから始めたのに、デバッグも含めてわずか2時間程度で終わってしまった。本当にすごい時代だなあ。毎週末に週報を Slack に投稿する、と啖呵を切ったのも良かった。毎週少しずつでも時間を取ろうという気持ちになれるので、僕の苦手なマルチタスキングの一助になっている。
• 今週は仕事も少なく、コーディング作業が多めだったので、体感とても生産的だった。

2025/09/04 (Thu.)

• 今週は割り込みが少なくて研究が顕著に捗っている。朝から文献を整理しながら、いまソルバーでなんとなく呼んでいる逐次二次最適化の実装を眺めてみたが、たぶん微分不可能な問題に適用してしまっている。まあ実用上はそれでも差分法で勝手に微分ライクな量を推定して最適化してくれていて、それが思いの外にうまく行っているというのも面白い現象ではあるのだが。いずれにしても実験がはじめからうまくいっているというのは心理的安全性が大きい。
• しかしこの研究、考えれば考えるほどすごく良い研究に思えてきた。元々5年前に Fenchel-Young loss に魅入られ (2020/04/24)、最適輸送に魅入られ (2020/07/02)、それらに通底する凸解析の構造が撚り合わさって、最適輸送の凸解析の構造を GLM の凸解析の構造に接続した研究と言っても過言ではないだろう。凸解析が単に問題の構造を衒学的に抽象化するだけの無用の長物ではなく、実際に役に立っている。「凸解析の真髄は何か」と問われたら、「視覚的理解を促すから」というのが一つの答えだったけれど、この研究では「多次元の構造を一次元の延長線上として捉えられるようになるから」、言い換えれば「多体系の自由度を大幅に落とせるから」という新たな着眼点も得られた。
• 先週札幌での懇親会でふと「この世が単一のスケールにおける物理法則で理解出来なければ、自分が生きる意味を見失ってしまう」という言葉を耳にして、そのときは何馬鹿なことを言っているんだ、人間の理解は本質的にマルチスケールでしかありえないだろう、と思っていた。学会会場でもシニアの先生含めて概ねその意見が多数派で、あまり気にもとめていなかった。しかし日記を読み返していると、カイヨワの「過度に人間中心主義を嫌う傾向自体も逆説的に人間中心的である」「宇宙は解きほぐされ得るということに賭けなければ、思考にいかなる意味もない」(2024/06/03) という言葉が改めて目に入ってきた。逆説的な人間中心主義、か。たしかに極端な二元論に陥っていたかもしれない。

2025/09/03 (Wed.)

• 9月に入ってから朝夕に通りに吹く風が一気に涼しくなった。日中は暑いと言えどもやはり9月ではある。
• 小一時間集中してコードのリファクタリングをやった。数理最適化をやっていると、コードを書く時間よりもむしろ最適化の結果が望ましくないときに数理的な方面のデバッグに悩む時間が多いから、これくらい集中してコードを書くのは久しぶりだ。運動後のような爽快感がある。実際はそんなに本質的なことをしているわけではないのだけれども、まあそれでもときには作業に充実感は必要である。

2025/09/02 (Tue.)

• Yutong が帰国してから (2025/06/27) 実質初めてのミーティング。もう2ヶ月半経ったのか。その間出張や休暇を挟んだりしてだいぶ時間が経ってしまったけれど、先月 (2025/07/21) 思いついた最適輸送ベースのアイデアを議論した。とても面白がって貰えてよかった。実際フレッシュな着眼点に基づく良いアイデアだと思う。Yutong と議論していなかったら辿り着けなかっただろうと思う。
• そしてミーティング後に少しコードを弄っていたら、単調回帰をほぼ完全に復元することに成功した！こんなに綺麗にフィッティングを復元できるとは。非常に encouraging な実験結果である。ここ数ヶ月で最も嬉しい研究の結果かもしれない。まだ実験を太らせたりなど、やるべきことは山積しているが、しかし既に自信を持って論文を書くことができそうだ。締切までちょうど1ヶ月。今季も良い研究を残す。

2025/09/01 (Mon.)

• 限られた語彙ですごく簡単なフレーズならフランス語で喋ることもできなくもないけれど、流暢さのかけらもない。英語でさえどのタイミングで流暢に喋れるようになった（少なくとも自信が持てるようになった）のか全く記憶がない。まあ多分ミシガンに行ってからだろうな。そうすると、中学1年生で英語を勉強し始めてから13年も経っていることになる。本当にフランス語を身に着けたいなら、3ヶ月くらいはフランス語圏で生活してみる必要はあるだろうな。
• 1週間ぶりに自宅で腰を据えて勾配の計算をしたりする。思えばやはり先週はディスカッションに出張に、忙しかった。できるだけ暇な時間を作る必要がある。先日逡巡した結果来週末ワークショップに参加することにしてしまったことは若干後悔している。