Random thoughts in Japanese. All optinions are my own.
2025/06/30 (Mon.)
- 2年ぶりの COLT に参加 (2023/07/12)。相変わらず参加者数はマイルドで、会場を歩いていると見知った顔がちらほらと見えて、やはりここに来るべきだと感じる。未だに論文が通らなかったことで気を揉んでいるが、まわりの人たちは「そんなこと気にしなくていい」と宥めてくれて申し訳ない。
- 来年こそは良い研究をして確実に COLT に通したい。今考えている ranking の研究がきちんと最後まで解ければ十分にポテンシャルを持っていると思う。
- 1日経って夜になったが時差は感じていない。昨日灼熱の中日光を浴びながら旧市街を練り歩いたのがきちんと効いている気がする。
2025/06/29 (Sun.)
- 2年ぶりのフランス。1年ほどちまちまとフランス語を勉強してきたのがどれくらい役に立つか気になっていたのだが、耳に入ってくる単語単語で意味がわかることがある点で無いよりはだいぶマシではある一方で、実際にホテルやレストランできちんと細かいところまで意思疎通を取ろうとすると、結局自分のリスニング力が足りない。こればかりは語彙が足りないのでどうしようもない。継続して語彙を増やすべく勉強していくしかないだろう。幸い発音はそこそこ聞き取れるようになってきたので、純粋に語彙力の問題になっている。勉強するモチベーションになる。
- それにしても本当に暑い。熱波が来ていて夕方には38度近くまで気温が上がっているので、街中を歩くのがもはや修行の域に達している。しかしこれがまだ1週間は続く。
2025/06/28 (Sat.)
- 芝さんと久しぶりにランチしてから半田のトークセッションに行った。アルゼンチンに行く前日 (2024/02/13) もこの組み合わせだった。何の縁。
- フランスへ行く。今回はどんな旅になるのか。聴講だけれども精一杯吸収して仕事をしてきたいと思う。
2025/06/27 (Fri.)
- 昨日の件はひとまず軟着陸した（？）けれども、来週以降自分が出張中にまたどうなるのかわからない。とはいえこれ以上今すぐに打てる手もないし、日本に帰ってきてから様子をまた見るしかない。人間関係は大変だ。そんなことをモヤモヤ考えながら、先延ばしにしていたオフィスの引っ越しのため、段ボールを抱えながら蒸し暑い廊下を無心に往復していた。
- 荷物の移動も一段落を終えて、人間関係の調整や諸々の書類も終えて、自分の新しいオフィスでとりあえず最低限の仕事環境は整って、Yutong ももう明日帰国するというタイミングで、統数研に来てからのはじめの4ヶ月を乗り切った。日々を淡々と過ごしていたような気がしていたけれど、振り返れば新しい環境、仕事、人間関係、共同研究、と目まぐるしい日々だった。この環境にも次第に慣れてきただろうか。これからどうなっていくだろう。
- ひとまず自分の中で一つの区切りを超えたので、久しぶりに Repubrew を片手に部屋でのんびりしていたら、だんだんとフランスに行くのがワクワクしてきた。調べてみたらなんと Lyon の到着日がサン=テグジュペリ生誕125周年その日らしい。これもなにかの縁か。ブルターニュの方も空き時間でどこか海岸線の方まで見に行けたら良いな。
2025/06/26 (Thu.)
- 自分が研究活動をしているだけで（予算を執行したり書類作成をお願いしたりとか）周囲の人間に負担をかけてしまっていて、なんとも言えない気持ちになる。それを相談できる相手もほとんどいない。学生が正式に入ってきたら、学生の研究の進み具合に対する責任も一手に引き受けなければならないのだろう。PI の孤独さをひしひしと感じる。アカデミアに限らずマネージャー職はどこだってそうなのだろうけれど。
- 所内を歩いていたら事務員の方に声をかけられて、事務方の業務が滞っているんじゃないかとものすごく心配された。前々から何となく事務員の方たちの間で井戸端の噂で流れているなというのは感じていたけれど、思っていた以上に井戸端の中では大事になっているらしい。ただそれが井戸端の中だけで問題になっているのか、実際に問題なのかは僕も測りかねていて、立ち話している感じだと正直誰もわかっていないのだと思う。物理的にはこうやって壁を何枚か隔てた先にいるにもかかわらず、変にナワバリ意識のようなものがあって、少し腹を割って喋れば解決するはずのことが、「誰それには誰それのやり方があるから」という妙な個人の尊重によって途中で止まっている。僕が穴をこじ開ければ、という話なのかもしれないが、でも彼ら彼女らのフィールドに土足で勝手に立ち入って感情を逆なでするのも本意ではないし。そんなことでこっちの部屋に行って事情聴取をしてみたり、あっちの部屋に行って事情聴取をしてみたり、と大変だった。これからどうなるのか。そもそもなんで非常勤雇用でこんな骨を折らないといけないのかという問題がある。常勤職員だったらもっと引き継ぎをするインセンティブが出るだろう。結局翻ってアカデミアの異様な雇用体系が生むひずみに戻ってくるのか。
2025/06/25 (Wed.)
- 先週突如書かなければならなくなった応募書類、今日の新幹線内あたりで概ね一旦書き上げたけれど（実質全部で7、8ページ弱くらい）、先週末から地味に時間を結構使った。専門外の人にも見られるということでもっと平易になるよう書き直さなきゃならないし、ちょっと疲れた。疲れは溜まっている。多めに寝るべきか。
2025/06/24 (Tue.)
- もう次の海外出張の準備をしなければならないと思うとそわそわしてきた。相対的には出張の多い生活をしていると思うが、それでも慣れないものは慣れない。
- 発表のない国際会議に聴講に行って良いものかどうか、未だに踏ん切りがつかない。振り返れば聴講で国際会議に行ったのは M1 のときの NeurIPS2017 だけで。あのときは駆け出しの大学院生で非常に刺激になったので良い経験だったけれども、もうそういう歳じゃないし、そして投稿していた論文が全部落ちたことをまだ少し引き摺っている。一度の採択・不採択で一喜一憂するべきではないのだけれども、しかし国際会議に出ている暇があったらその時間で研究成果を出せ、と思わなくもないので、心のなかで聴講に対して引っかかっている。
2025/06/23 (Mon.)
- 共同研究、Yutong は新しいアイデアを次々と出して問題の方向性を適切に見定めようとしているけれども、僕は諦めきれずに（諦めが悪く）元の問題をずっと考え続けていて、正直解ける保証はないので不安ではあるのだけれども、僕の性格がそうだからいかんともしがたい。今日は一週間ぶりくらいにかすかな進捗が見えた。凸錐の交叉をきちんと式で書き下してみたら面白い幾何的な構造が見えてきた。なんとなくだけれど進んでいる方向は正しい気がするんだよな。だって数学的にここまで一歩一歩綺麗なステップを辿っているから。凸解析の美しさに、主双対構造の厳格さに、朧気ながら導かれている。
- もしかするともう一人学生が総研大に入ってくることになりそうな流れになってきた。今月頭に RA に興味を持ってくれていた学生を悩みに悩んで断ったのは、ここに来て英断だったと思う。
- 体調を崩しているわけではないけれど絶妙に好調でもない状態が一週間くらい続いている。梅雨だから仕方ないものか。
2025/06/22 (Sun.)
- 夏休みに数日の余裕がありそうなので、勢いで2泊3日でカンボジアに行く航空券を買った。今年の下半期はたぶんもうなかなか時間が取れないだろうし、一人で勝手に旅行に行くならこれが最後のタイミング。行かない理由を見繕うのは簡単だけれども、そうして一年、二年と時間を漫然と過ごしていると10年が過ぎてしまう、というのを20代の後半で思い知った。時間と体力があるうちに、少しでも多くの街と人と文化と建築を見たい。
2025/06/21 (Sat.)
- 昼下がりに少し外に出ると著しく蒸し暑く、夜になっても日が落ちず、ふと気づいて確認したら夏至だった。夏至は毎年気づいたら過ぎている。
- 一週間でイランとイスラエルが戦争状態に発展してアメリカも攻撃に参戦するとは。ミーティングしている学生の中にはイランの学生もいて、声をかけないわけにもいかず、しかしどうやって声をかければ良いかもわからず、苦し紛れに近況を聞いてみたら母国にいる家族とはインターネットが遮断されている影響でいまだ連絡が取れないらしく、何と言えば良いのかわからなくなる。なぜこうも意味のわからない戦争をはじめようとするのか。為政者が最前線に、いま市民が巻き込まれている今そこに立っても、まだ続けようと思えるのか。
2025/06/20 (Fri.)
- 領域会議終了。自分の研究発表は楽しくできた。やっぱり implicit bias の話は僕自身すごく興味があるのと課題の重要性を感じているので、楽しく話すことができる。話した感触も主観で良かったと思う。正則化ロジスティック回帰の implicit bias について考えたことがなかったのは片手落ちなのだが、調べてみたら Jingfeng Wu の2週間前の最新のプレプリントで扱っているのがそれだった。もっと早くこの課題に気づいても良かったのだが。しかしこうしてみると、むしろ正則化なしの implicit bias の研究は本当に意味があるのだろうか。元々 implicit bias の目標はアルゴリズムによる解の選択的バイアスを明らかにすることにあったわけなのだが、リッジ正則化が入ると implicit bias もリッジ解になってしまう（というかそれはもはや implicit ではない正則化である）。それは自然な構造ではあるのだが、implicit bias としては面白くなくなってしまう。アルゴリズム的な差分が見えなくなってしまう。モデルを線形より複雑にしたら、最適化を GD ではなく他のアルゴリズムにしたら、果たしてこの構造が変わったりするのだろうか。それは考えてみる価値はあるかもしれない。
- 領域会議が終わってそのまま浜松駅で2件ミーティング。長丁場でなかなか大変だったが、学生とそれなりに生産的なミーティングができたように思う。果たしてこのままうまく研究が進むか。常にハラハラドキドキである。
2025/06/19 (Thu.)
- 領域会議で浜松に来た。聞けば聞くほどこの領域、力学系の専門家が多くて（そういう内容で募集をかけていた領域だから当たり前ではあるのだが）、学習ダイナミクスに興味があるけれとも力学系の背景が足りずに歯がゆい思いをしている自分にとっては羨ましいというか、できたら相談したいと思う。
2025/06/18 (Wed.)
- Yutong が相変わらず新しいアイデアを出してくれて、だいぶプロジェクトが進みそうに見えてきた。問題を単純化して解ける形にする地力が強い。お昼すぎに教えてもらったアイデアだが、夕方以降自分の中で咀嚼すればするほど味が滲み出てくる、いいアイデアだ。こうやって日がな自然に議論を重ねていてはじめて到達できるような、質の良いアイデアだ。自分一人では決して辿り着けなかったと思う（Yutong もそう言ってくれたけど、彼なら一人でも辿り着いていたんじゃないかと僕は心のなかでひっそり思った）。
- ということで、およそ3週間強にわたって Yutong と密に議論した期間でやはり当初期待していたほど目に見えるわかりやすい成果には至らなかったわけだけれども、それは自分のいつもの皮算用というところで、実際のところは思ってもみないほど新しいアイデアの宝庫だったと思う。日本に気軽に呼んで良かったし、何の後悔もない。彼自身も東京を、そして立川を存分に楽しんでくれたようで、それは僕も望外の喜びだ。研究を地道に詰めていくのはこれからだけれども、さてどこまで到達することができるのか。それは僕たちの向こう数ヶ月の努力にかかっている。
2025/06/17 (Tue.)
- 一日や二日ではそんな進捗がすぐに産まれるわけはないとわかっているけれども、日がな机にかじりついて何も進捗がなかったように見えるとやるせなくなる。こうやって毎日向き合ってはじめて何かが見えてくるから辛抱するしかない。
- 昨日たまたまレコメンドで流れてきた Paul Taylor の英語・フランス語バイリンガルコメディが良い。特にフランス語パートは（Paul はネイティブフランス語話者ではないにもかかわらず）高速マシンガンなのでほとんどわからないが、でも喋り方の勢いがあってなんか聞いてしまう。例えばこれを聞いている。なんだか元気になる。
2025/06/16 (Mon.)
- 京都から立川へ。この移動もすっかり慣れて全く距離を感じなくなってきた。新幹線と中央線の中でちょうど何本か論文に目を通すことができる。
- 着いて早々1週間ぶりに Yutong と対面の議論で、自分が先週考えていたことの前提が間違っていてすべて水泡に帰したかと思ったが、幸い勘違いはしていなくて復元することができた。一瞬冷や汗をかいた。
- 気づけば Yutong が統数研で時間を過ごすのももうあと1週間少しになってきた。1ヶ月はあっという間に過ぎる。
2025/06/15 (Sun.)
- 1週間で割り当てられた査読をすべて終えた。偶然なのか今回はなんだか質の低い論文がほとんどだった。疑問提起をしておきながら次第にトピックがずれていって全く回収されない論文とか。根本的にライティングの訓練を受けた人間が監督しているとは思えない。投稿論文の数は単調に増えていっているから、今後もこういう低品質な投稿でますます溢れると思うと憂鬱な気持ちになる。
- 同時に学生の教育は本当にきちんと本腰を入れてやらなければ、と身をつまされる。いかに「文章を書く」という一見何の変哲もない所作が重大な意味と困難を伴っているかを認識してもらい、きちんと向き合い、そして伴走しながらスキル向上を図る。相当なエフォートが必要だし、もうこれだけで大学院教育の重要な部分を占めている。研究者が decent な物書きであろうとしないのは、僕は許すことができない。
2025/06/14 (Sat.)
- 1日中雨で鬱屈とする季節なので、景気上げにピザ生地を捏ねて焼いた。
- 学生の推薦状を書いて、税金の計算をして、戸棚の整理をして、貰っていたギフトカタログの注文をして。出張続きだとこういう細かい身の回りのことをするのが後回しになって溜まってしまう。研究に没頭しているとそうもいかないところもあるけれど、生活は最低限丁寧なラインを保っていたいとは思う。
2025/06/13 (Fri.)
- 一日研究に費やしてもなかなか目に見えるような大きな進捗は出ることもなく。必要条件が過度に零集合に縮退しないように、それと同時に扱いやすくなるよう条件を課していく、この絶妙なバランス感覚を保ちながら丹念に式を追加する作業は、地味ながら要所要所で「このチェックポイントは通らなければならない」と思わせられるような瞬間がある。今日取り組んでいたところだと、関数の単調性に関する解析の途中に、突如として proper loss と monotonicity のような関係が現れるところなど。先人がこのチェックポイントを通っているのはそれ相応の構造上の理由がある。ここを通り抜けるのがおそらく正しいのだろうという、根拠はないが確からしい予感がある。
2025/06/12 (Thu.)
- 在宅勤務のうちにできるだけ査読を終わらせる。今週はこれまで3本やった。良いペース。
- 共同研究で必要になったので Allen-Zhu and Li (2023) を読み始めたのだが、主定理の証明（Theorem D.2）を見ているとどうにもクロスエントロピー損失を用いているがゆえに logit が伸び続ける問題がここにも現れているように思う。定理の主張としては別に良いのだけれど、モデルとして妥当な挙動とは思われない。やはり separation margin がある損失関数が重要なのではないか。
- 訳あって経理に少しもの申し上げた。より良い業務環境になりますように。
2025/06/11 (Wed.)
- Contrastive learning の勾配流解析論文がようやくジャーナルで成仏した！これは自分史上で最も長かった。そもそも着想したのが23年4月中旬、最初に投稿したのが ICLR2024 (2023/09/28)、その後 ICLR2024、ICML2024、NeurIPS2024 の全てでボーダーラインで落ち、Neural Computation に再投稿 (2024/10/20) し、催促を重ねて7ヶ月で minor revision。再投稿の間に微修正は重ねていたので、Neural Computation の査読コメントは好評だった。苦労した。この話は個人的には結構好きだったし、まだ掘るべき課題は残っているので、研究トピックとしては悪くないと思っている。
2025/06/10 (Tue.)
- 先週から Yutong と考えている問題、一旦停滞期に入ってあまり進捗が見られなくなった。そういえば学生の頃も Narasimhan et al. (2015) の証明 は読んでいなかったなと思ってパラパラ見ていたら、意外に自分が考えていた不等式と近いことが並んでいたりした（Lemma 14）。僕は Narasimhan の思考を10年越しに辿っている。
2025/06/09 (Mon.)
- 近畿では梅雨入りしたらしく、朝からやたらと体が重く、始業前も仮眠をとっては昼寝もして、まだ体が重い。重い体に鞭を打って査読を一本終わらせる。
2025/06/07 (Sun.)
- 京都に帰ってきて寝て起きて早朝から DELF A1 の試験で日仏会館に赴いた。あれだけ3年間吉田に通い詰めたのに、日仏会館にはいるのは結局今日が初めてだった。試験の感触としては、リーディングとライティングはほとんど合っていると思うのだけれども、リスニングはどうしても半分くらい答えに自信が持てず、スピーキングは試験官の質問には一応全部漏れなく答えたつもりではあるものの問答の過程で言葉に詰まったりして非常にたどたどしかった。ここ1年の間のフランス語の勉強が基本的に音声と復唱をベースにしてきたのでリスニングとスピーキングに圧倒的に傾けた方法だったけれど、それでもやはり一筋縄ではいかない。まあ A1 レベルであれば理解できることは理解できるということがわかったというだけでも成果ではある。勉強方法を見直しながら、また半年後に今度は A2 に挑戦できるだろうか。
2025/06/06 (Fri.)
- 2週間の立川出張を終えて帰路についている。2週間、立川で、本郷で、よく議論して研究した。何より自分一人では興味があっても一人で飛び込もうとは思えない問題に取り組めたのが良い。日中は共同研究をして、夜部屋に戻っては論文のリバイズをして、という生活を続けていたので、2週間があまりにも流れるように過ぎていった。
- 統数研でついに自室が割り当てられた。どうやって整えていくか。
2025/06/05 (Thu.)
- だいぶ前から (2023/07/19) 気になっていた multicalibration、いろいろな知り合いに合うたびに面白さを宣伝してきた結果、ついに今日小さな multicalibration 勉強会を開いてもらえた。午後丸々部屋に籠もって議論を数時間重ねた結果、一応従来の multicalibration では扱えなさそうで、かつ実用的にも理論的にも意味のありそうな問題の定式化にこぎつけた。こういう研究の議論はとても良い。半日籠もっても目に見える結果が出ないことのほうがなんならよくあること。
- ここ最近ほぼ仕事時間ずっと研究の議論に没頭できていてすごく嬉しい。まわりの同世代の助教の話を見聞きしている中でもやはり恵まれている。その分きちんと研究成果として還元していきたい。
2025/06/04 (Wed.)
- 共同研究が進む。僕は短時間スプリントみたいなのが得意ではないのでなかなか進捗が生み出せなくてもどかしいのだけれども、その間に Yutong が着実に進捗を生み出している。その結果を見るだけでとてもワクワクする。惜しむらくは来週立川にいれないことなのだけれども、こればかりは時間が有限なので仕方ない。
2025/06/03 (Tue.)
- 先週に引き続き、Yutong と同じオフィスでひたすら問題に打ち込み、時折気分転換にディスカッションをする。まるで学生に返ったかのような贅沢な時間だ。週末の高尾山の登山中に先週考えていた問題の方向性を少しリフレーミングした結果、双方が取り組みやすい問題設定になった。思えば Narasimhan & Agarwal (2013) は学生時代から一貫して好きな論文で、自分の今の研究の方向性の個性を決定づけたと言っても過言ではない。そこに回帰する話である以上、俄然自分がやらなければ、という当事者意識が芽生える。
2025/06/02 (Mon.)
- 初めての博論の審査側を終えた。結果としては非常に優秀な学生だったし、僕自身が決断に気負うこともなく単に勉強させてもらえたので、ありがたい経験だった。ロバスト学習をやっていたときから気になっていた Diakonikolas やその周辺の高次元・ロバスト回帰を拡張する研究だったので、僕自身の興味にも非常にマッチしていて、ただただありがたかった。
2025/06/01 (Sun.)
- Yutong とはじめて高尾山に登った。こんなに何年も東京にいたのに。山道を歩きながら共同研究の話から PI として考えていること、今後数年でやるべきこと、アメリカと日本社会の差、などなど、ずっと喋っていた。もう5年半も昔になる Ann Arbor 滞在 (2020/02/13) を経ていまここでこうやって時間をともにしているのがあまりにも不思議な感覚で。喋っても喋り尽くせない、議論しても議論し尽くせない、共通の興味がある。ひょっとしなくても、今非常に贅沢な時間を過ごしている。