Random thoughts in Japanese. All optinions are my own.

2026/01/23 (Fri.)

  • AISTATS に論文が採択された!去年 Yutong が来日したときの議論を元に思いついた (2025/07/21) アイデアをベースに、勢いで書き上げた Brenier isotonic regression と題した論文。かなりイケているアイデアだと思っていて既に内輪で関係者に喋って回っており、採択自体は全くの無問題。ただ、spotlight や oral も狙えると思っていただけに普通の poster 採択で、それは虚をつかれたが、まあそこに関しては運要素も大きいから多くは望まないことにする。何にせよめでたい。
  • ただ共著者のイラン人学生が母国のデモの情勢に加えてインターネットの遮断で家族の安否がわからない日々が続いているそうで、なかなかかける言葉が見つからない。ここ数年でじわりじわりとイラン人研究者と接する機会が増えてきており、彼ら彼女らの聡明さ、生真面目さ、意志の強さ、朗らかさに心地よさも覚えたりするのだが、前提としている国際情勢が違いすぎて、結果僕は「こちら側」の人間なのだ、という壁が心のなかで勝手にできてしまう。体制に翻弄される個人の無力さ。個人にできることはあまりにも僅かしかなく、せめてもイランとの文化的交流を保ち、よく見てよく知ることくらいしかできない。

2026/01/22 (Thu.)

  • 証明を清書していたら、不等号が逆になっているところを発見した。しんどい。
  • こんなに締切で切羽詰まっている時期に車校を始めてしまい半ば後悔もある中、初の技能教習でハンドルを触ってきた。もはや論文執筆の気分転換としては良い。

2026/01/21 (Wed.)

  • 投稿論文が並行してて目まぐるしいが、ここ数日の頑張りによってまずはマルチモーダルの研究が収束しつつある。収束と言いつつ、ページ数が埋まっていてかつ必要最低限の実験結果だけはある、という状態だが、他の論文に比べると相対的に一番状態が良さそう。この研究に関しては、残りのスケールアップの実験の結果がサーバ上で揃うまで待つフェーズなので、比較的気が楽。
  • Two-scale dynamics (2026/01/11) はこの10日間で何も進んでいないが、自分の状況を整理するためにも昨日から原稿を書き始めた。いま4ページ。原稿が数式と綺羅びやかな図で多少埋まっているだけで、仮初かもしれないが進捗があるような気がするし、何よりも自分を鼓舞するためのやる気が出る。こころなしか頭の中も整理されてきた。

2026/01/19 (Mon.)

  • 京都に来た幡谷くんと缶詰をして実験を回して論文を大幅に書き進めた。コワーキングスペースでの半日の缶詰ではあったけれど、同じプロジェクトに関わっている同僚と席を隣り合わせにして集中して5、6時間仕事し続ける生産性はとてつもない、ということを改めて再追認した。いつもこうやるべきなのである。アカデミアだとどうしても皆が独立のテーマにバラバラに取り組んで、それはそれで創造性を高めたりするのに良い環境ではあるのだけれども、3ヶ月に一度くらいはこうやって一気に仕事を進めるタイミングを入れたほうが、バランスが取れるというものだと思う。

2026/01/17 (Sat.)

  • 初めての車校、初めてのテールコート、初めての指輪購入。この歳になって全てが初めて尽くしの一日で本当に目まぐるしく、一日忙しなくドタバタしていたら過ぎ去っていった。

2026/01/16 (Fri.)

  • 研究の打ち合わせに来てくれた Guillaume さんと、ランチ時にフランス語で会話できるか挑戦してみた。5分くらいの日常会話だったらなんとかなりそう。聞き取れているのは体感7割くらいなのでたまに噛み合ってない返事をしているだろうなと申し訳ないが、それでも去年の今頃は出会ったフランス人に一言二言フランス語を喋ってみても端で笑われていた(これはレトリックで、実際に笑われたわけではないが)のに比べると、一年経ってだいぶ成長したものだと思う。勉強を続けるモチベーションになるなあ。
  • ということで4件もミーティング尽くしの一日、帰りの新幹線に急いで駆け込んで(ホームを間違えて危うく目の前で予約していた新幹線をはじめて逃しそうになった)、新幹線の中でもサンドイッチ片手に共同研究者の書いてくれたアイデアメモを読み込んで返事をし、そしてもうすぐ京都である。僕自身のキャパシティは非常に限られて入るが、全方面に対して最大限可能な限り知的に誠実であれているだろうか。そうであると願いたい。

2026/01/15 (Thu.)

  • フランス語、進捗はまだ感じる。今週は立川駅付近に泊まっているので、研究所までの往復で innerFrench を聞きながら通退勤しているが、二度三度同じポッドキャストを聞くとかなりの部分の意味がわかる。innerFrench は相対的にはゆっくり目に喋っている方だとは思うが、それでも初心者向けのテキストでもないはずだから、30分近い話のプロットのほとんどがわかって、よく集中すれば一単語一単語が聞き取れるのは進歩の実感がある。もうすぐ何の気なしにフランス語をはじめて2年、独学の外国語でもここまでこれるのだという実績になった。
  • 今日も共同研究を3つ、ひたすら改稿したり実験分析をしたり理論の方針を立てたり。多忙ではあるが研究者としての充実感は他所の研究機関に比べると相当だろうと思う。

2026/01/14 (Wed.)

  • 京都から立川に行く途中で、中央線が人身事故で1時間半近く運転見合わせになり、武蔵小金井から動けなくなるハプニングに見舞われた。が、車内で論文をずっと直していたら体感では意外にすぐに復旧した。今日は本当に色んな共著論文を直しまくった。
  • 仕事の後に、久しぶりに一人で飲み屋にふらっと立ち寄った。昨年オープンした駅付近のガレーラというフードコートで、気になっていた焼き鳥屋さんに入ってみたらレバーが非常に美味しかった。結局先週の誕生日のときも全く豪遊しなかった(誕生日当日に時間を潰すのに椿屋珈琲を使ったくらい)ので、その埋め合わせだと思うことにする。

2026/01/13 (Tue.)

  • 大塚さんとのミーティングのついでに、雑談で「ポパーの反証主義はオッカムの剃刀とみなせる」という解釈を教えてもらった。その意味するところは、仮説のパラメータをいくらでも増やしてよいのであれば観察に適合するような仮説は常に作り続けることができていつまで経っても反証ができないので、反証可能性を担保したいという信念はオッカムの剃刀に他ならないのだと。聞いたときは納得したのだが、後から考えると腑に落ちないところもあって、反証主義と形而上的法則は矛盾しない(なぜなら形而上的法則にはいつまで経っても近づくことはできないかもしれないが、反証を重ねることで漸近していく集積点を形而上的法則だと思えるから)のに対して、オッカムの剃刀は正面から形而上的法則の存在を否定し、すべてをモデルだと想定するから、どうも両者は似て非なるもののように思えた。

2026/01/12 (Mon.)

  • 自動車教習所に入る決意を固めて支払いを済ませた。ようやく。正直いまの自宅の立地で取らなければ後生申し込むことはないだろう。
  • 三連休は結構仕事をしたが、料理をしたり散歩したり家事やゲームもしたので、ワークライフバランスは結構保てたかと思う。平日と同じ時間に起きて朝にまずある程度仕事をしておくのが大事。

2026/01/11 (Sun.)

  • ノートの上では証明のスケッチが終わったはず。年内はずっと implicit bias の損失関数の一般化を考えていたが、想定以上に一筋縄ではいかなかったので切り上げ、年始から two-timescale dynamics に関する仮説を示す方に注力し始めて (2026/01/05) 一応1週間で証明に漕ぎ着けた。と思う。証明に本質的な瑕疵さえなければ。しかし、これは本当に自分のやっていたシミュレーションから仮説に(狂信的な)確信を持っていたからこそ辿り着いたところであって、とにかくあらゆる時間と手段を尽くして示す胆力がなければできなかった。年末の山田さんとの雑談 (2025/12/10) での、「信念さえあれば研究をやり遂げられる」という一点に尽きる。結局去年も NeurIPS から帰ってきてもまだ証明がうまくいっておらず (2024/12/19) 年始になってようやくそれなりの形の証明に命からがら辿り着いた (2025/01/06) という、土壇場のスケジュール感は相変わらず。まあ最早研究がそういうものなのだ、と言ったら仕方ない。

2026/01/10 (Sat.)

  • 先月矢野さんとランチのときにぼんやりと話していた「algorithmic stability は必ずしも良い汎化の指標になっていないのでは」という話、矢野さんから共有された Iba and Yano (2025) を読んで考えてみたが、どうやら僕と矢野さんで喋っていることが噛み合っていなかったことがわかってきた。
    • まず Iba and Yano (2025) の結果を簡単に述べる。主貢献は、ベイズ予測誤差の推定量として LOOCV に基づく PCIC (事後分布共分散情報量基準)を提案し、PCIC が予測誤差の漸近不偏な推定量になっていることを示したこと。PCIC はほぼ LOOCV だと思って良いので、stability が汎化誤差に対して非常にタイトになり得る、という一つのケースを例示したことになっている。
    • しかしこれは stability を複雑性尺度として用いているわけではない。僕がイメージしていた stability の使われ方は、汎化ギャップ=期待誤差 - 経験誤差を stability で抑えるようなシナリオ。これは stability を複雑性尺度として用いており、一方の推定量は経験誤差である。経験誤差の推定量としての信頼性・ゆらぎを stability で評価している形。
    • したがって、stabilility を推定量として使うのか、複雑性尺度として使うのかで結果の含意が大きく変わってくるように見える。この点は正直明示的に意識したことがほとんど無かったので、非常に有益だった。わかる人にとっては当然のことだと思うけれど。
  • しかし LOOCV としての情報量基準は不思議だ。漸近不偏なのだとしたら、(誤特定ゆえに漸近不偏でない可能性がある)経験誤差を用いる意味はもはや無いのではないか。LOOCV はノンパラメトリックだからある意味で漸近不偏なのは当然、これこそがノンパラメトリックの良さ、というわけなのかもしれないが。
  • Stability のことを考えるといつもロバスト性のことを思い出す (2023/03/13) (2023/09/06)。しかし、LOOCV は残念ながらロバスト統計とはそれほど関係性を持たないのだろう。なぜなら LOOCV は「一つ*抜き*交差検証」であり、ロバスト統計は「一つ(あるいは微小確率体積)を*任意に摂動したときの*推定」だからである。一つ抜きの方が問題として圧倒的に簡単である。そこが本質的な問題の難しさのギャップである。
    • と思ったが、影響関数は本質的には LOOCV なのを考えると、両者はどういう関係になっているのだろうか。影響関数はあくまでテイラー展開的摂動を考えているから、任意摂動を考えているわけではない。その意味ではロバスト性のモデルの中では(破局点などに比べると)比較的弱い方である。微小摂動の範疇では一つ抜きと大差がないのかもしれない。だとしたら stability をロバスト性と結びつける余地はまだあるのかもしれない。
  • こういうことを考えていたら再びロバスト最適化とロバスト統計の関係について深堀りしたくなってきた。もう5年前からずっと思っているけど手がつけられていない。統数研に来た今、囲まれている同僚を眺め渡しても今が最も着手するのに適したタイミングであるのは間違いない。

2026/01/09 (Fri.)

  • 昨日の計算は間違ってはいなかったようだ。計算結果の筋も悪くない。中央線の中でマージンの絵を研究ノートになぐり書きしながら、そこで得た幾何的直感を新幹線の中で Claude に教え込んで、悪くないバウンドが得られた。まずは一歩。

2026/01/08 (Thu.)

  • 進捗がない。時間もない。他にやるべきこともあるのに、この研究のことしか頭の中で考えられない。幾何的な直感ではもう少し不等式をタイトにできる気がするのにどうにもうまくいかず、肝心のところで不等号が逆になる。
  • 帰りの新幹線でサンドイッチを頬張りながらひたすら Claude に色々な計算を試させていたら、少しばかりの光明が見えてきた。ただなんとなく微分を計算してみて偶然単調性があったというだけの話なのだけど、意外にもこういうところまで LLM は思い至らないものなのか。応用数学の不等式評価は定数まで含めた数値的なタイトネスを気にし始めると、常日頃から数値実験をやってなんとなくの数値感を肌感覚として醸成した僕らの方が、どういうアプローチで式変形をするとよりタイトになるのかがわかる、いわばある種の数値に対する「身体感」が要求されるのかもしれない。証明は一応2回目で追って正しそうであることを確認した。これから家に帰ってから書き起こしたら実は間違っていた、ということだけはもうそろそろ起こらないで欲しい。

2026/01/07 (Wed.)

  • 一日黙々と証明が通らないか試行錯誤し続ける。数値実験しては理論バウンドが成立するかを測定し、vacuous になっていたら頭を捻ってタイトにして、を繰り返す。もうあと1ピース嵌められれば仮説を定立できるように見える。しかしこの1ピースのギャップは往々にして大きい。歩いている間も、ゲストハウスに帰ってきても、この1ピースのことが頭を離れず、ずっと手を動かして計算をする。それでもまだうまくいかない。もう少し新しいアイデアが必要な気がする。LLM に聞いてももう新しいアイデアは出てこない。幸か不幸か我々数学者にはまだまだ仕事が残されているのだ。

2026/01/06 (Tue.)

  • 誕生日、なのに昨晩寝る前に2ヶ月くらい考えてきた two-timescale dynamics (2025/11/18) が全く見当違いの仮説であるかのような傍証が次々と出てきて、寝付きは酷かった。もう今期の論文の締切には間に合わせられないかもしれない、と思うと半ば絶望的な気持ちにもなってきた。そこまで悲観的になる必要もないのかもしれないけど、ここ数年はどうにか COLT は少なくとも毎年論文投稿をすると心に決めていて、そうでないと COLT のコミュニティに入るスタートラインにも立てないと思っていたから、年一度のチャンスの希望が半分くらい絶たれたかもしれないと思うと、酷い気分になった。
  • ミーティングの合間に藁にも縋る思いで Claude とブレインストーミングして、どうにか妥当な方向性で仮説を修正できないかと四苦八苦していた。このままうまく行かなかったらどうしよう。
  • 研究室のミニ同窓会だった。以外にも LLM の学習に関わっている人がいて、情報交換の場になった。多少の気晴らしになったが、研究が本質的に進展したわけではないと思うと依然厳しい心持ちではある。

2026/01/05 (Mon.)

  • 三が日はやる気が出ず、寝て YouTube を見たりゲームをしたりしていた。その割にダラダラしていることには内心耐えられず、休むに休んだ気持ちになれない時間だった。休むにしても2日まで。3日目からは休息の観点からも時間を浪費してしまう。次からは帰省も2泊3日まででテンポよく切り上げよう。
  • 本当に仕事始めができるのか不安で仕方なかったが、新幹線に乗り込んで論文を読み始め、メールを書き始めたら体が言うことを聞くようになってきてくれた。午前にはそれなりにペースを取り戻し、午後は年末に積み残していた証明に着手し直すところまで来た。心底安心した。作業が手につくようになってきたら、研究のことを考えるのが再び楽しくなってきた。今週も頑張る。

2026/01/02 (Fri.)

  • 新年早々、帰りの新幹線内で読んでいた「アット・ザ・ヘルム」をどうやら車内に忘れてきたことがわかった。まあ仕方ない。著者が医学系で分野違いであることも相俟って、最初の方はそんなものかと読んでいたが、中盤からどうにも著者のラボ運営の考え方が鼻につくようになってきて(サイエンスよりも経営を重視しているように見えた)、読む気持ちがちょうど失せてきたところだった。気持ちが行動に無意識に滲み出てしまったのかもしれない。