Random thoughts in Japanese. All optinions are my own.

2026/07/23 (Thu.)

  • 寝ても覚めても最適輸送、Brenier の極分解、Helmholtz 分解、ICNN、凸回帰と支持関数推定、divergence-free なニューラルネットの関係が気になってずっと考えてしまう。
    • 最適輸送の構造をもう少し陽に使えばアーキテクチャ制約の少ない ICNN が作れるんじゃないだろうか。
    • Brenier の極分解と Helmholtz 分解は、考えているベクトル場が恒等写像からの無限小摂動 id + \epsilon * u だと思うと一致する（なぜなら極分解が \varphi = 1/2 * |x|^2 + \epsilon * p(x) + O(\epsilon^2)、s = id + \epsilon * w + O(\epsilon^2)、としたときに \nabla\varphi \circ s で書けるが、一次の項が \nabla p + w に一致するから）が、一般には一致しないことも確認できた。つまり、Helmholtz 分解は一般に一意ではないものの、ポテンシャルが凸になるようなものも一般には存在すると限らない。このあたりの理解はずっと怪しかったので整理されてきて気持ちよさはあるのだが、しかし研究にはならない。
    • あまりにも気になりすぎて、こういうことを歩きながら Claude と音声チャットしてしまっている。
  • Claude があまりにも頭が良すぎて僕がついていけない。主に人間の認知的キャパシティが律速になっている。言っていることが（すごく時間をかければ読み解けるのだけれども）限られた時間で読み解くにはあまりにもしんどい。でもこれが研究者の（というか検証者の）仕事になっていきそうな気がする。古代の文献を読み解くのとそんなに質的には変わらないだろうし。結局根気。どれだけ粘り強くその問題に興味が持てるかという熱意が、研究者を特徴づけるのはこれからも変わらなさそう。

2026/07/22 (Wed.)

  • すっきりしない。最適輸送による support function 推定はもう明らかに既存の凸包ベース手法の言い換えなのだが、最適輸送の言葉を持ち出すことによって生まれる解釈に「意味」がありそうな気もする。心のどこかではまだワクワクしているんだが、しかしこれが研究になるのかと言われるとわからず。こういうのは教科書とかレクチャーノートに書くのだとしたら潔く書けるし、教育的効果は非常に大きいと思うのだけど。
    • 3日ほど自分一人の頭の中（と Claude との壁打ち）でぐるぐると回って袋小路に入り切った感じがあるので、一旦来週の共同研究者とのディスカッションまで寝かせて持ち越しにしよう。考えることは考え切ったとは思う。
  • それにしても Claude と壁打ちするのは非常に良い。基本的に頭の中だけで考え事をするのはダメで、書き出す。とにかく書き出す。頭の中で考えているのと同じことをただ書き出すだけで、見えていなかった視点や新たな活路が見出されることがある。Claude と壁打ちするのも似た効果がある。ラバーダックデバッグ。本来は同僚と議論すべきかもしれないけど、生身の人間相手だと時間リソースを取ってしまうから、それをまず AI で洗練させてから本番の議論をする。AI 時代のいいことの一つはこれだろう。

2026/07/21 (Tue.)

  • 今期の講義を終えた！毎週月曜になると頑張って講義の予習をして、火曜の朝も講義のことが頭から離れないので、毎週実質1日半くらい講義のことを考えていたので割と大変ではあったが、自分の細かい理解の確認にはなって良い機会ではあった。自分からすすんでやりたいかと言われると微妙だけど。最後にお世辞でも一人の学生が「凸解析の楽しさが伝わった」と言ってくれて、それだけでもよかった。
  • Support function の推定、当初は最適輸送を使えば見通しが革新的によくなって良い研究になりそうだと思っていたのだが、考えれば考えるほど既存の半空間の凸包による推定量との差分がないように見られてきて、見通しが悪くなってきた。少なくとも最適輸送と凸回帰のつながりに着目した人間はこれまでにいなさそうではあるのだが、手法的に何も新しいことが言えない可能性が高い。先月の時点では「絶対いい論文になる」と思っていたのでその反動が大きく、今日も講義以外の時間は差分を見つけるのに諦められず、ずっと考えている。
    • ずっと考えていたら、Brenier isotonic regression も OT を使わずに凸で定式化できることがわかってしまった。かなり残念。OT を使った二段階最適化、最適輸送写像を回帰関数に使う、というアイデア自体が光っていて数理的に面白いと思っていたのに。輸送元、先のサポートサイズが異なるときは依然非凸のままなので、それは良いのだけれども。まあ一面的には isotonic regression を多変数拡張したときに非凸になるのは我々の拡張の artifact であって、本来は全然凸のまま拡張可能であることがわかったのは朗報と言えるのだけど。
    • この一年弱、本当に色々な集まりで嬉々として Brenier isotonic regression の話をしていたのだが、誰にもこの事実を指摘されなかったのはやや驚きである。
  • 職場の学生数人が企画して音楽同好会が実現した。隣の国語研の中に防音室があるらしく、そこを間借りして楽器を練習した。炎天下だったのでクラリネットとフルートを持っていって吹いた。フルートもだけどクラリネットに至っては相当に久しぶりだったので音を出すのも精一杯だったが、それでも木管楽器の吹奏感は悪くない。

2026/07/20 (Mon.)

  • 喉も微妙に痛いし、一日仕事していると夕方には絶妙な偏頭痛に悩まされる。あまり調子が良くない。季節の問題か。
  • 昨日 Fable が出力した PDF をゆっくりと眺めていたが、やはりこれは公開にするのに耐えない。すごく頭が「賢い」のはわかるのだけれど、読者のことを想定できていない、いわば自分勝手な独白であるように感じられる。しかし、AI に論文のドラフトを出力させるのは極めて危険であることを実感した。公開するのに躊躇はされるのだが、かといって自分のエネルギーを費やして全面的に書き直すのかと言われると対価に見合わないように思われるため、そのまま公開してしまいたくなる誘惑に駆られるのだ。これだったら初めから PDF なんて出力させるのではなく、一度僕自身の頭の中で AI との対話・議論を交通整理し、それから自分の手でまずは再構成した方が絶対に良い。

2026/07/19 (Sun.)

  • 連休だが家にこもってゆっくりと仕事をしている。査読をしたり、書こうと思っていた共同研究のための原稿を書いたり。Claude Fable が今日明日までしか使えないので、試しに20行程度のプロンプトでいま考えている問題の設定と解くためのアプローチを書いてみたら、10ページほどの論文然としたドラフトができた。概ね僕が意図していたアプローチできちんと書いてくれていそうなのだが、細かいところが難しい。間違っているとかではなくて、僕の知らない概念がしばしば出てくるので、検証に時間がすごくかかる。最近は Claude と壁打ちしながら研究しているとそういう時間が増えてきた。間違っていて解けない、とかじゃなくて、僕が正しさを判定するのに膨大な時間を要する。

2026/07/17 (Fri.)

  • 昨日のフランス語のレッスンは自分比で割に流暢に喋れた実感がある。フランス語の成長曲線はやや停滞気味になりつつあって、語彙力の壁に顕著にぶつかりつつあるのだが、おそらく今週は出張から帰ってきたのもあって行き帰りの通勤時間をすべて合わせると1日30分から45分くらいポッドキャストを聴いていて、それがフランス語力に寄与しているのだろうと思う。先週の出張中はほとんど聴いていなかったので。日常的に遭遇する基本文法はおそらく8割以上は抑えているから、もう本当に語彙量を抜本的に上げていく必要がありそう。単語帳を作ったり覚えたりするのは流石に腰が重いが。
  • Proper loss っぽい構造を行列分解に拡張している（という見方もできる）論文を見かけた。こういうのはすごくワクワクする。と同時に「ご利益」がなんなのか気になってしまう（少なくとも査読者視点からは言われてしまう）。一つ思ったのは、iterated reweighted least squares を考えるのが多分自然で、そうするとざっくり言えば目的関数の誘導する自然な曲率構造に従った二次最適化が収束の高速化に寄与するのは起こり得そう。面白いかもしれないのはここからで、最近の（準）二次最適化な optimizer（Muon などを含む LMO optimizer）が実はある一般化目的関数を最適化する陰的正則化を持つ、みたいなことは言えないか。陰的正則化では最大マージン構造が標準に調べられるけれど、行列分解の目的関数が変わっている、みたいなことが言えたら面白い。ただ、それでも so what と言われるか？それは最早陰的正則化全般的にそうなのだけれども。

2026/07/16 (Thu.)

  • 定例になりつつある柳下さんとの1日缶詰研究日。最近は Claude と壁打ちした結果を解読して研究を進めるのが専らになってきて、若干の手応えのなさを感じるものの、それでも明らかに全てを手計算でやっていた時代よりは「本質的」な問いにより速く到達できているのは間違いない。先週は学会参加のため使い倒すことができなかった Claude Fable も、なんだかんだで2週連続限定期間の延長があって、今週は限界まで使い倒せそうで嬉しい。いずれにしても僕自身が最適化理論でたくさん勉強できているので楽しい時間。

2026/07/15 (Wed.)

  • なんと自分の出生公証書が取れるのかどうかかなり微妙な状況らしく、このままだと色々な手続きがデッドロックしてしまうことがわかってきた。どうにかなるのだろうか。こんな出生公証書一枚でトラブルになるような制度では、多くの在留外国人が困ってしまうような気もするけれど。

2026/07/14 (Tue.)

  • たまたま見かけたフランスのポスドクの公募を眺めて、それよりも僕が出している給与等の条件が良くて上位互換になっていることを確認して安堵した。最近まで相場感があまりわかっていなかったのだけれども、多少奮発すれば諸外国のポスドクよりも良い待遇を実現するのは無理ではない。国内 PhD の待遇の悪さを考えて悶々とする日々が続いていたけれども、予算を取って地道に頑張るしかないだろうな。
  • 事務作業で情報伝達ミスが連鎖していくつか連続して落とし穴にはまって嫌な気持ちになった。支えてもらっているのでつらつらと愚痴を述べたくはないが、従業員の取ってきた経費とか、従業員の個人的な立替とか、そういうのを事業所が守ろうという意識があったらそうはならないだろうというくらい杓子定規な対応だった。反面教師にして僕自身が雑な仕事で周りの人を困らせないように心がけるのに役立てるくらいしかない。

2026/07/13 (Mon.)

  • 蒸し暑すぎる。査読を1本終わらせて講義準備をする。残り3回となってくると流石に疲れてきて早く終わらせたくなってくる。そんなことで1日。もう少し生産性を上げたい気もするが湿気に耐えられずこれが限界。

2026/07/12 (Sun.)

  • 帰国してみたら全然日本の方が暑い。特に蒸し暑さが酷すぎて何もやる気が起きない。一番嫌いな季節。

2026/07/10 (Fri.)

  • あっという間に帰途。予期してはいたけど結局どこも観光に行かなかった（会場斜向かいの奉恩寺を除く）。カンナム地区は初めてで、地図を見ると美術館とか公園とかいくつかあってそういうところに少し足を伸ばしてみるのも良かったのだけど、まあソウルはそんなに気合を入れて観光しようという気持ちも起こらなかった。

2026/07/09 (Thu.)

  • 最後のポスターセッションで共著論文の発表をしたりするなど。本会議最終日だし疲れてて何もできないかなと思っていたけど、ポスターセッションで元気よく発表すると段々楽しくなってきて、結局1時間半喋りっぱなしだった。もっと良い仕事をして、共著者や学生と一緒にポスター発表をしよう。
  • 昔学会で会った学生に声掛けしたりなど、挨拶すべき人には挨拶したと思う。4日間の ICML。

2026/07/08 (Wed.)

  • ポスター会場を歩いて回っても LLM の似たような論文が並んでて、正直あまりピンとこない。久しぶりの人たちと会えるものの、そんなにエキサイティングでもない。コーヒーブレイクで初めて会った隣の参加者と喋るような空気でもない。僕自身のコミットメントが高くないゆえか、会議の雰囲気ゆえか。2年振りの ICML (2024/07/28) だが、2年ほど前の熱狂は少なくとも自分の中にはないように思う。今後来たくないわけではないけど、先々月の AISTATS は今思い返すと居心地が良かったし、出来ることなら AISTATS、COLT を主要な活動場所として据えたい。

2026/07/07 (Tue.)

  • そんなに気持ちの良くない夢を見ていたような気がしていて、寝覚めで疲れた。学会に来て、自分の研究が傍流で大したことがないように感じられたのと重なっているかもしれない。
  • 共著のポスター発表をした。内容を思い出すのに時間がかかったけど、人前で英語で研究発表するのは気持ちいい。

2026/07/06 (Mon.)

  • ソウルにやってきた。もう8年半振り。東京からだとあっという間だな。そそくさと ICML 会場に駆け込んで calibration のチュートリアルを聞く。AISTATS のときの Nika のチュートリアル (2026/05/06) で no-regret learning と calibration の関係がすごくうまく説明されていたのでそれ以上に新しい情報はあまりなかったけれど、まあ ICML 規模のチュートリアルとなるともうあまり期待できないのはしょうがない。
  • 2ヶ月振りに会った Yuzhou と二人でサムギョプサルを食べに行って大満足。前回は一人でソウルに来たのであまり満足のいくディナーを食べられなかったから。

2026/07/05 (Sun.)

  • 研究の興味を聞かれるといつも結構困るのだが、一方で最近学生と議論していると、結局何回か回ってもダイナミクスとか振動現象とか edge of stability とか同じようなキーワードに触れて、そして自分で考えている時もこのあたりのキーワードに戻ってくるので、たぶんこのあたりの力学系の現象には無意識下で、しかし心の底から興味を持っているんだろうなと思う。
  • 振り返ればいつの間にか力学系に興味を持っているのにはいくつかのキッカケがあって、(1) contrastive learning の力学系に触れた (2023/04/28)、(2) Jingfeng Wu に離散力学系の重要性を力説された (2024/12/05)、(3) 今のさきがけに採択されて未解決問題ワークショップ (2025/09/14) 等を通じて力学系の人たちと交流を深めた、の3点が大きいように思う。Contrastive learning は振り返れば自分が大昔やっていた SU 学習からの関連性があるとは言え、やはり大学院時代の同僚の影響は大きい。そう思うと、徹頭徹尾その時にあった人たちからの影響は計り知れなく、自分の興味なんてそうやって形成されるものでしかないということがわかる。だから研究の興味、独自性、個性なんていうのは仮初の実態でしかなくて、共時的現象であることはもっと表立って認めるべきで、そして共時的であるというのは悪いことでもなくて、むしろ力強い、コミュニティの向かうべき方向性を示す羅針盤なのだろうと思う。
  • 先々週の軽井沢土産で出来心で買ってきた蕎麦粉を使ってスコーンとガレットを作った。蕎麦粉のスコーンははじめて食べたけど、香りの良さが小麦粉と違っていて食べ飽きない。苦めのマーマレードとよくあって美味しい。

2026/07/04 (Sat.)

  • 吉祥寺に出かけて服を買い足したりランチをしたりした。吉祥寺が隣駅というのがなんだか不思議。そんなに馴染みのある土地ではなかったのに。三鷹に住みながら買い物に吉祥寺に出るのは、感覚的には二条に住みながら買い物で四条烏丸に出かけるのに近いかも。繁華街の人流の多さも含めて。

2026/07/03 (Fri.)

  • 職場で「研究員を雇おうとすると途端に頼れる研究費プログラムが少なくなるんですよね」と雑談していたら、「最近は LLM が並の研究員よりは全然研究できるからその方が安上がりじゃない」と言われたんだけど、反射的に（何言ってるの？）と思ってしまった。でも確かに話の前提が違うかもな、と後で振り返って思った。研究員は教員自身の研究を補助する人員として捉えている人とは話が噛み合わなさそう。僕は（そりゃ自分の研究を進めてくれたら嬉しいけど）それよりもコミュニティが賑やかになってくれたら嬉しいと思っているから、LLM と比べてコスパがどうとかといった話は端から念頭になくて、人を雇うということ自体が目的でさえある。でもその場では少しカチンと来てしまったから、口元が薄気味悪く振えるのを必死に抑えながら気持ちの悪い返答をしてしまった。

2026/07/02 (Thu.)

  • 引越し後はじめて NII に行ってディスカッションした。行きは朝のラッシュで東西線が遅延しておりそのせいで中央線との直通運転が止まっていて残念だったが、帰りは竹橋から三鷹まで直通一本で帰れて非常に快適だった。三鷹の利便性を身に沁みて感じている。

2026/07/01 (Wed.)

  • あるプレプリントを読んでいたらなんとなく違和感があって、GPTZero に聞いてみたらやはり 100% AI generated だった。数式や定理の主張が妙に冗長な割に、パラグラフライティングに動機というか、もっと踏み込めば「意志」が感じられず、そんな気がしていた。別に AI を使って論文執筆をすることは否定しないけれど、なんで生の出力をそのまま公開できると思ってしまうんだろう。僕には著者が責任を持っているようには感じられない。これはもはや AI 時代の話に限ったことではなくて、自分が公開する制作物に対する最低限の責任を持っている人が多くないのは前 AI 時代から連綿と続いている傾向であって、それが加速されただけの話。責任を持っているかどうかは程度問題であり主観的ではあるのだけれども、とはいえ最低限のラインというものはあるだろう。
  • 久しぶりに1日ゆっくり時間をとって研究ができた。4ページもノートに計算した。一心不乱にノートに書きつけているときが一番研究している感覚がある。