Random thoughts in Japanese. All optinions are my own.

2026/08/22 (Sat.)

  • せっかく休日に自宅で優雅に研究をしていたのに、夜になって所内で事務手続きに関する愉快でないメールが来て微妙な気持ちになった。極端な言い方をすれば、こうやって組織は組織の自己保身を優先して、個々の構成員を蔑ろにするのか、と。僕は別にそんなに力の弱い立場ではないので本件も別に構わないけれど、学生やポスドクが同じ立場に立ったら話は違うだろう。それを考えると唯唯諾諾と飲み込まずに毅然とした態度をとっていくべきだ。

2026/08/21 (Fri.)

  • 書類仕事をしながら所内のワークショップに引き続き少し顔を出したりする。Helmholtz 分解に基づいた統計モデルの話があって面白かった。質疑で聞いてみたけど、やはりまだ回転流をモデル化したい数理的動機が咀嚼できていない。「似た形質を持つデータだと回転流が生じにくい」ことが実は進化ゲーム理論的も知られているらしいのだけれど、そもそも抽象的にそのメタ的な現象自体を数理的に記述するとかだと面白そうか？この構造は多目的最適化のパレート最適性とも関連してくるような気がしていて、似たような目的関数が集まっている状況だったらパレート最適ではなく単目的の最適性が達成できる。そうなるとパレート最適解の優劣性の比較自体に循環構造があって、それを除去することでパレート最適解集合の中に全順序を入れるとか、そういうことはできるのだろうか。
    • HodgeRank 自体が割とこういうアイデアに基づいていそう。ただし Pareto dominance と整合的に設計するのが難しそうだが。
  • 7周年。三鷹に引っ越してきて早2ヶ月、近所の鉄板焼きでエビとフィレをいただいた。思い出深い時間だった。

2026/08/20 (Thu.)

  • 科研費の第一稿完成。大雑把な見積りで12時間くらいかかっただろうか。そう振り返ってみると案外悪くはない作業効率に見える。
  • 『生物学の哲学入門』(2024/08/23) の著者、『確率の出現』の訳者である森元さんが統数研の学会に来て講演をされていた。すごくいい本を書く人だから機会があれば話を聞いてみたいと思っていた。今日のトピックはフィッシャー流の有意差検定とネイマン・ピアソン流の仮設検定の流儀の違いで、実は半ば標準的となっているプロトコルである仮説検定は、あれはフィッシャー流でもネイマン・ピアソン流でもなくその融合である Null Hypothesis Significance Tesing (NHST) と呼ばれるプロトコルらしい。恥ずかしながら認識したことがなかった。検定が仮説の棄却にのみ係り、仮説の真性は保証できないというのは認識していたが、しかしこれは非常にフィッシャー流の「帰納論理」であり、ポパーの反証可能性に通ずる哲学であるのに対し、ネイマン・ピアソン流は検定の誤りによる損失最小化、すなわち「帰納行動」的原理に基づいている点で、胚胎している思想がかなり違う。そりゃフィッシャーとピアソンは相互に噛み合わない (2020/12/30) のも頷ける。
  • しかし面白い話とその後のディスカッションだった。同僚がフィッシャー流の検定の描像をとっているという立場（つまり基本的にはポパー的科学観にコミットする立場）も知ることができた。

2026/08/19 (Wed.)

  • 昨日から突然科研費の申請書を書き始めて、2日で4ページほど埋めた。7割くらいといったところか。しかし2日間の空き業務時間をほとんど費やしている。その分よい内容は書けていると思うが、時間がかかりすぎという感はある。
  • 突然呼び出されてクロアチア大使館にビザ申請にいった。どんなところだろうと思いつつ辿り着いたのは南青山の高級住宅街の中に聳え立つ洋館。もう9年も前になるけれど、原宿のエストニア大使館と雰囲気が似ている。インターホンを押して門を潜って中に入ると大使のおじさん一人が温かく迎えてくれた。最近の出張の話とかをなんとなく雑談して、「それじゃあまた来週パスポート受け取りにきてね」と。まるで親戚の家に遊びに行ったかのよう。フランスやイタリアのような大きな国とは全然違ってお役所にさえも人情があるのがよい。

2026/08/18 (Tue.)

  • 昨日から妙に耳がこもって聞こえる。ストレス性なのかどうかよくわからない。
  • 東京に帰ってきてから PAV の多変量拡張をずっと考えていた。多変量になった途端にうまくはまらないピースが出てくるのだけれども、単変量でこれだけ凸幾何と最適化がうまく噛み合わさっているのだから、多変量であってもきっとパズルのピースはハマるはずである、それに賭けてみる（“bet on”）のは分は悪くないだろうと思う。カイヨワの「宇宙は解きほぐされ得るということに賭けなければ、思考にいかなる意味もない」(2024/06/03) がふと頭を過った。

2026/08/15 (Sat.)

  • 今夏は全般的に涼しくて（もちろん相対的にということであって、基本的には湿気が高くて不快感があるのはどうしようもないのだが）、そのおかげで今日は昼間に散歩に出かけることができて、井の頭公園まで足を伸ばした。はじめての井の頭公園。自宅からは少しだけ時間がかかるけれど、徒歩圏内にこの規模の公園があるというのは嬉しい。
  • 自宅に帰ってきて、お盆の間にやろうと思っていた発表資料の作成や成績提出を一気に片付けた。悪くない進捗。これで研究に集中できる。

2026/08/14 (Fri.)

  • 3日ほど実家に帰省していたが、ベッドがあわなかったのか体がバキバキになって帰ってくる羽目になった。少し仕事を進めようかと思っていたが、そんな気持ちにはなれず3日間ずっとソファの上で惰眠を貪っていただけだった。

2026/08/11 (Mon.)

  • まさか免許の本学科試験で1点の僅差で落ちるとは思っていなかったな。重箱の隅をつつくような問題にも辟易するし、試験場のスタッフが全体的に高圧的なのも嫌だし（社会人なのになんで上から目線のタメ口？）。もう一度あの場所に行かないといけないのが嫌。

2026/08/09 (Sun.)

  • 深層行列分解の双曲安定多様体ってなんであの形をするのかずっとピンと来ていなかったけど、損失関数が (xy-1)2 の形だと思えばそりゃ安定多様体は xy=1 で双曲型なのは当たり前だということに気づいた。あまりにも酷い見落としだが、おかげで非常にすっきりと理解できた。

2026/08/08 (Sat.)

  • せっかくお盆休みに入ったと思ったらパソコンを職場に忘れて帰宅したことに気づき、初日から早朝出勤している。まあこれも研究に勤しむべしというお達しだと思って。
  • 明日の議論に備えて先日の支持関数の話を考え直す (2026/07/30)。極集合はノルム的なものを定義するための形式な集合以上に意味がよくわからなかったのだが、よくよく考えてみると支持関数の劣位集合が極集合になるのである。これが一つの見方。まあこれも形式的な見方でしかなくてよくわからない、とも言えるのだが、それなら元の集合（polytope であると仮定）の「面と頂点を入れ替える（正確に言えば面を構成する法線ベクトルを頂点とみなす）」操作を考えると、極集合が出てくるのである。こうなると極集合がなんたるかが幾何的な実感を持って浮かび上がる。ちなみに手元の凸解析の和書を三冊眺めてみたが、いずれも極集合はキーワードとして登場しなかった。やはりある程度マニアックな概念なのだろう。

2026/08/07 (Fri.)

  • 3日ほどずっといくつかの共同研究の下調べで論文読んだり考え事ばかりして過ごしているが、本当に楽しい。研究のイメージを頭の中で夢想して、たまに同僚と話して議論しているこの時間ほど楽しい時間はない。

2026/08/06 (Thu.)

  • 招待講演のアブストラクトを考えていたが、僕のここ2、3年の研究は「力学系から見た機械学習・最適化」と言って良い。去年生研での招待講演 (2025/11/25) もそういう軸でまとめた。博士を終えてから loss function の minimizer の性質だけでなくどうやって minimizer まで至るのか、その中間的な過程も考慮して理解したい、と思ってこういった研究に乗り出したはいいものの loss function からはだいぶ離れてしまったな、と思っていたんだけど、ふと考えると loss function の研究も loss には明示的にエンコードされていない loss minimizer の「暗黙的な」性質、最適化の研究もアルゴリズム、手続きには明示的にエンコードされていない軌道の「暗黙的な」性質について焦点を当てているから、実はどちらも「暗黙的な学習構造」に興味があって、それを異なる視点で切り出しているのだというふうに気づいた。普段は意識していなくてもいつの間にか似たような研究哲学があって、無意識な層で自分の興味というのは通底しているのだろうか。
  • 昨日の Muon の denoising vs. 位相復元の話、退勤後もずっと考えたら整理がついてきた。まず denoising 論文は確率的勾配を想定しており、位相復元論文は期待勾配を想定している点に注意。Denoising 論文は momentum が勾配の確率的ノイズを消去して部分空間同定をしており、位相復元論文はそもそも最初から同定されている部分空間の中で spurious direction を潰している。そのため、学習の時系列としては「denoising して部分空間同定してから、部分空間内で信号復元」ということになる。
    • Denoising 論文は Muon を調べているけれど、やはり本質に着目しているのは polar factorization ではなくて momentum denoiser。言ってしまえば当然だけど、polar factorization だけでは勾配ノイズを消去することはできなくて、momentum denoiser ではじめてフィルタアウトできる。
    • 僕が示した Theorem 3 も良質な理解を与えている。行列のサイズが大きくなるほど勾配ノイズの方向の数も（同定したい部分空間の次元に対して）増える（言い換えれば ambient dimension が大きくなる）ので、相対的に部分空間同定が難しくなる。Momentum denoiser を予めかけておけば ambient の勾配ノイズをある程度低減することができるから、その後の polar factorization による部分空間同定が相対的にうまくいく、という寸法。
  • 時間に余裕が出てきたので、共同研究者がリバッタルで苦労していた論文の（追えてなかった）査読者との議論を読み返していた。査読者はどうも凸解析ないし変分解析にあかるいらしく、指摘内容が悉く的確であり清々しいまでに勉強になる。レゾルベントと近接作用素が一致するとか、prox-regularity が凸関数を緩和するための性質としてみなせるとか、全然知らなかった。こうして見ると僕の凸解析に対する興味の自然な延長線上として、変分解析は近く腰を据えて勉強すべきだという強い気持ちを得た。
    • Active set identification という概念があるらしくて、制約付き最適化問題の解が制約集合のある active face の同定になっている、という枠組みらしい（cf. Hare and Lewis (2004)）。今回の flow matching の話だと、denoising 自体が proximal operator だとみなせるから、これは（データ分布の台上での）Brenier potential 最小化とみなすことができる。このとき Brenier potential がデータ分布の台に対して（特にその多様体の接空間方向に関して）平滑性を持つなら、この多様体を識別できるということになる。我々の論文の一連の仮定 (A1) - (A3) は、まさに Brenier potential のこの平滑性を仮定していることに他ならず、active set identification に問題を帰着しているということになる。そうすると、今まで腑に落ちていなかった仮定の強さに関しては、Brenier potential の平滑性の議論に落とすことができる。
  • 仕事帰りに今日終演だった『シラート』を観てきた。通勤途中にシネマの前を通るたびにポスターを見かけて気になっていただけで中身は何も知らなかったが、かなり衝撃的な映画で2時間たっぷり魅入ってしまった。『ダンケルク』のような圧倒的な音と自然の色彩で塗りつぶす映像 (2024/02/15)、かと思えば『関心領域』のような重低音の音圧だけで滲み出る緊迫感 (2024/06/15)。最後の地雷原のシーンは映像としては全く変わり映えのしない画面のはずなのに、とにかく緊張感で目が離せず、息を呑みっぱなしだった。これはいい映画だ。相変わらず万人には薦めづらいけど。

2026/08/05 (Wed.)

  • リバッタル期間がようやくすぎてほとぼりが冷めた。少し落ち着いたので、原稿を直したり勉強したり。そういえばふとカルマンフィルタを知っておかないといけないような気がして、アルゴリズムの概要とその導出を勉強した。修士のときの講義でデータ同化とかやったはずなんだけど、ほとほと何も覚えていない。統数研にいるのにデータ同化を知りませんとは言いづらい。勉強してみたらそんなに難しいことは言っていなくて、線形状態空間モデルを仮定したときに未知状態を観測だけから推定できるかを問うていて、正規分布を仮定して事後分布を逐次的にベイズ推定している、ということ。今すぐに手元の問題とつながりそうというわけではないのだが、学生の研究に付き合っていると幾度も線形状態空間モデルに遭遇しており、いつか繋がらないかなと思っている。
  • あとは学生とやった denoising 研究とGuillaume さんとやった位相復元の研究の関係を考えていた。どちらも Muon の理論解析で、スパイク共分散を仮定している点は非常に似ているのだけれど、前者はスパイクが信号になっていて Muon ないしモーメンタムが信号を復元する側面に着目しているのに対して、後者は共変量のスパイクをノイズとして捉えていて Muon ないし極分解がノイズ方向の固有値を消去する効果に着目しているという点で、一見すると同じ Muon が正反対の働きをもっているように見える。兼ねてから差分が気になっていたけど、なかなか腰を据えて考える時間がなかった。
    • Denoising 論文は部分空間復元が結果で、これに関していうと位相復元論文は構造がより強いので最初からパラメータ行列は invariant manifold 上に停留している、つまり復元すべき部分空間上にいる。Denoising 論文では部分空間の各次元の強さは気にしておらず、位相復元論文は各次元の強さ、特にスパイク方向の強さを Muon によって等方的に均すことによって GD よりも速く true index に align できることを主張している。なので両者で信号の定義がまず違う（denoising 論文では部分空間のすべての方向、位相復元論文では true index のみ）。位相復元論文の方がさらに仮定が強い分、true index 以外の spurious な方向を弱めることができるという、より強いことを言っている。
    • 違う側面を見ているというのは整理できたが、それでもまだ直感的・定性的な理解には至っていない。もう少し考えて整理したいところ。

2026/08/04 (Tue.)

  • 共同研究の方も自分の手元の計算が行き詰まっていたので今日の缶詰に臨むのにやや不安があったが、夕方の方で柳下さんの理論解析の方針を立てるのに多少役立つ議論ができたので及第点の最低ラインはなんとか越えた（と思いたい）。ずっと Claude に壁打ちしては未定乗数の収束性の証明方針を立てさせてはいるものの、どうにもこうにもうまくいかない。本質的に不可能ならそれがわかれば良いのだけど、なまじ収束が示せなくもなさそうなスレスレの縁からずっと離れられないので、自分の中ですっきりいかず諦めがつかない。また明日以降一人で Claude の示した証明方針を読み込んでみることにする。

2026/08/03 (Mon.)

  • OpenReview 上で一通り最低限必要な議論のリマインダを送り切った。真剣に読もうとするほどあからさまに AI generated な文章を見かけて馬鹿にされたような気がして腹立たしい。どうしたらいい？
  • 明日の柳下さんの議論に備えて10日ぶりに研究ノートを開いたが何も覚えていない。査読疲れでバーンアウト。
  • 月一の group dinner でも必然的に学生に愚痴っぽい話をしてしまったが、学生と多少話せてよかったかも。みんな LLM 時代で悩んでいることは多いし、お互いに抱えていることを打ち明けるだけで多少気が楽になった（少なくとも僕は）。

2026/08/02 (Sun.)

  • 突然週末にやる気が入らなくなって、昨日も今日も昼過ぎまで寝ていた。たぶん査読疲れだと思う。今日は午後3時くらいに突然スイッチが入って、そこから起きて OpenReview に向かい始めたが、治安の悪さで腹が立ってきた。著者が3、4万字でレスポンスを書いてきていて何様のつもりなのか。これを全部読めと。だったら何故 meta review で論点を絞っている意味があるのか。より生産的な議論をするためのはずなのに、そんなことはお構いなしにとにかく相手の注意リソースが削ぎ落とされるまでひたすらに情報を叩き込む。もう最悪だ。開き直って読む気でいたけど、2時間かけてもレスポンスを半分読み終わることすらできなかった。おかしすぎる。この著者は手書きしているようだけれども、全体的に LLM の発達も相俟ってとかく長く書いて読ませる気を霧散させた方が勝ち、というゲームはほとほと馬鹿げている。