Random thoughts in Japanese. All optinions are my own.
2025/04/30 (Wed.)
- NTU でトークをしてきた。結果としてはかなりうまくいったような気がする。実は proper scoring rule は John McCarthy まで遡るんだ、という一節に対する Bo An さんの食いつきは想像以上に良かったし、proper loss や prediction market に対するチュートリアルとしてはまあまあまとまって喋ることができたんじゃないかと思う。こうやって地道にトークを重ねても全くスケールしないのはわかっているけれど、人と人との地道なコミュニケーションが何かを生むと思っているから。
- 念願だった Heatherwick Studio の The Hive (2023/05/20) を拝むことができた。あのとき森美術館で展覧会を見た中でも、自分の中で最もストライクだった The Hive。2年越しに本物に出会い、建物の中身を徘徊し、生身で味わう。シンガポールに来て1週間、全く恐ろしいくらい観光していないけれども、こういう自分の人生のマイルストーンを地味ながら回収していく瞬間が嬉しい。
2025/04/29 (Tue.)
- 完全にオーバーフローしている。抱えている共同研究のうち3件くらい同時に締切が近づいてきて、どれも頑張ってキャッチアップしようとしているのだけれども、時間が足りなさすぎて自転車操業になってしまっている。こんな体たらくで良いのだろうか。
- A*STAR でのトークをまず終えた。今回の出張の何が重いかって、自分メインで4件も発表するのにいずれもこれまでに発表したことのない研究なので、発表の準備コストがひたすらに高かったこと。特に今日の convolutional Fenchel-Young loss は理解に必要な前提知識もまあまあ要求されるため、聴衆に伝わるプレゼンができるかどうか結構気を揉んでいた。結果的には(流石に conv FY loss の細かいところはスキップしたものの)Fenchel-Young loss の大枠、適度な証明のスケッチを交えた直観の説明は、初めて喋った割にはまあまあうまく回っていたような気はする。70点くらいの及第点か。
- さて、明日朝もトークがあるので、ホテルに戻ってきたいままだ発表の練習をしなければならない。今回のシンガポール、思った以上にどこかを観光するという心持ちにまだなれない。
2025/04/28 (Mon.)
- 今日は多少体力を回復して、コードを書いたりミーティングに出たり、空き時間で少し人に会ったりしていた。5日の国際会議はやっぱりちょっと長すぎる。
- ディナーを終えて、EXPO からダウンタウンの電車の中でコーディングを進める。「こんな人と会ってクタクタのときにコード書いてもエラーだらけだろうなあ」と諦観していたけれど、案外エラーなくジョブが通った。ジョブがうまくいくかどうかは別として、まあでもよく頑張っている。シンガポールの夜11時。
2025/04/27 (Sun.)
- 体力をかなり使った。会議4日目だが、今日は正直中日ということで体力の回復に務めつつ、共同研究を進めることにする。ホテルの部屋が快適なのが身に沁みる。
- 何を研究すればいいのかわからない。ポスター会場で見る研究も、みな露頭に迷っているような印象を覚える。自分もどうすればいいのかわからない。
2025/04/25 (Fri.)
- 出口さんとはじめてお会いして、ランチに行きながら雑談しているとなんとバックグラウンドが NLP であるにもかかわらず意思決定理論に興味があるとのことで、効用ベースの意思決定の重要性、出口さんに言わせれば言語モデルのデコードをどうすべきかで盛り上がった。こういうのは雑談のランダム性の良さだ。
- Zellingerのポスターをたまたま通りかかって話を聞いていたら、Aditya が隣で話を聞いていることに気づいてびっくりした。もう8年ぶりか。自分のこともちゃんと覚えてくれていて嬉しかったけれど、よくよく考えると僕は Aditya にはじめて会ったときはまだ1本も論文を通したことがなく、それなのに「最近の論文も読んだよ、面白かった!」と言ってくれて、本当にもう研究者冥利につきる。Aditya の label smoothing や gradient clipping の論文はまだまだ自分もちゃんと考え直したいと思っているし、今日 Aditya と会えたことで loss function の重要性を思い出させてくれた。
2025/04/24 (Thu.)
- ICLR 初日。昼下がりから共同研究していた NTU の学生をはじめて対面で会えた。多少は世間話から始めようかなと思ったら、彼の方から急に研究の話に踏み込んできて、結局剛速球で研究の話をし続けた。こういうのができる間柄というのはありがたい。結局 Fenchel-Young loss 関連で引き続き L2D とエントロピーの関係を調べて割に面白い知見があったりとか共有してもらえて、勉強になった。これをするために(そこまでとても乗り気だったわけではない ICLR のついでに)シンガポールに来たのだった。
- そのままレセプションでは鈴木研の学生二人と会って立ち話をしていた。博士課程で研究の方向性に悩んでいるらしく、外野から見ると研究業績は着実に積んでいるだけに、やはり学生並に悩むものなのかと思った。僕は大学院のときから良く言えば自分が興味がある・知りたいことを研究してきたし、悪く言えば筋が良いかどうかもわからない(そして大体は筋がお世辞にも良いとは言いづらい)研究に時間を費やしてきただけに、solid な方向性が見えている研究をこなしている学生を羨ましく思うところはあった。でもそれは裏を返せば自分で暗中模索をする経験を詰めていないことでもあって、それはそれで学生さんとしては悩むものなのだろうと思う。まあ結局のところ大学院のたかだか数年ですべてを満足のいくようにできるわけはないので、時間が次第に解決する、あるいは時間で解決できるように立ち回りをしていくしかないのだろう。
- そして何人かの知り合いと立ち話をしていると意外にブログが読まれているらしいことを知る。書くときは勢いで書いていて読まれたときに自分が恥ずかしいとか何も考えずに書ききっているので、今になって恥ずかしくなる。そんな感情は忘れて書き続けるしかない。
- 忘れないうちに DELF A1 に申し込みをした。フランス語を趣味で独学し始めて1年、果たして試験には通るのか。
2025/04/23 (Wed.)
- あれよあれよという間にシンガポールへ。6時間のフライトはもはや短すぎる。ご飯を食べて小一時間ほど仮眠をとって、残った時間でスライドを1つ仕上げたらもうシンガポールだ。去年くらいからフライトの中での自分の仕事エフォートを無意識に過大に見積もっているせいで、フライトが一瞬に感じられるのは良いのだが、積んでいる仕事が全く終わらない。嬉しいのか嬉しくないのか。
- 意外と初めての東南アジア。出張慣れしすぎてしまい、現地通貨のレートも、メトロのルートも乗り方も、チップの風習も、何も調べずにとりあえず来てしまった。空港で数人と鉢合わせ、そのまま軽いディナーへ。半月ぶりの豊田さんと、またもやアカデミアと人生について話し込んでしまう。でも豊田さんみたいな近い世代の人とちゃんと踏み込んで現状の悩みを共有できるのは嬉しかった。普段の仕事の場だとややプライベートすぎる話で踏み込みづらいから。悩みは尽きない。
2025/04/22 (Tue.)
- 研究所で同世代の知人に会うたびに「研究者と家族の両立って無理じゃないですか」という話を持ちかけて自分の漠然とした不安をぶつけてしまう。アカデミアのワークライフバランスは一時期に比べてだいぶ改善しているのは間違いないと思うけれど、それは人生を家族の側に傾けた場合に実現するワークライフバランスであって、研究に傾けた場合はそのワークライフバランスは実現する気がしない。周囲の人間に犠牲を常に強いながらフロントランナーを続けていく道しかないように見える。それは誰が悪い、構造が悪いとかではなくて。年末に会ったときに岡野原さんがぼそっと残した「幸福と自己実現は別物」という言葉がリフレインする (2024/12/26)。
- 来週の A∗STAR での発表資料をようやく作り上げた。本当は先週には終わらせているつもりだったんだが、3日以上エキストラでかかってしまった。最も肝心なアイデアは infimal convolution でかなりシンプルなはずなのだが、Fenchel-Young loss の前提知識をちゃんと書き出したりしていたらスライドが50ページ以上になった。頭の中では自明でわかっているつもりのことを書き出すのはエネルギーがいるので、この3日ほど、ほぼ修行のような気持ちで書き出し続けていた。ようやく一区切りがついて解放された感覚。
2025/04/21 (Mon.)
- 発表準備のためにいろいろとやらねばならないことが山積しており、なかなか研究どころではない。今日も1枚ポスターを新しく作り上げて、出来上がったポスターを眺めて自己満足することで少しでも前に進む。1週間でポスター3枚。まだスライドを2つ作らないと。
- 秘書さんも初勤務1週間を終えたタイミングでまだ環境に馴染めず同僚とやっていけるかどうか不安もあるようで、今日1週間ぶりに会ったら少し抱え込んでいて大変そうだった。次第に慣れるだろうものの、自分としては気持ちよく働いてほしいし、少しでも喋って不安を和らげられればと思う。ただそれが回り回って自分の責任を感じる。成り行き上とはいえ雇用したのは自分だから。こうやって徐々に抱えるものが増えていく。逆に言えば今までどれだけ子どもだったかと思わされるし、それが自己卑下に繋がってしまう。
2025/04/20 (Sun.)
- サークルの先輩のお茶会兼出産お祝い会にお邪魔してきた。みんな子どもに向き合って育てていて偉いなと思うと同時に、自分にはやっぱりこれはできないと思ってしまった。ただでさえ仕事で精一杯なのに、加えて子どもの面倒を見る余裕が持てるはずがない。というかそこまで子どもの面倒を見たいと思えない。職業柄というのもあると思うけれども、30歳前後で子どもの面倒を真摯に見るというライフスタイルが全く想像できない。いまが仕事で一番肝要な時期だし、それなりにこの国の学問を背負っているという覚悟はあるし、でもこんなことをしていると「マトモ」な家庭を持てるはずもない。アカデミアと「マトモ」な生活の両立は無理なのか。
2025/04/19 (Sat.)
- 記念日でSynに行った。ご近所でこれだけのクオリティのダイニングがあるのは嬉しい。真ダコと菜の花の炭火焼のコンビネーションが思っても見なかった相乗効果を生み出していて記憶によく残る味だった。また来たい。
- お店にいる間、犬がしきりに外から覗いてくると思ったら、LOEWE のシャツを着て犬の散歩をしているおじさんがいてびっくりした。「LOEWE で犬の散歩」、声に出していきたい日本語。
2025/04/18 (Fri.)
- 昨日はホタルイカとアスパラガスのパスタが会心の出来だった。景気が良い。
- 共同研究の傍ら、先週の大きめの仕事は査読、今週は発表準備で、2週間が終了。本当に時間が経つのが早い。来週は ICLR。客観的に見れば十分に時間が取れているような気もするけれど、研究のことをもっと考えたい。
- やりたいことに対して体力がなかなかついてこない。1日仕事して夜になってかなり疲れているけれども、まだ1通でも2通でも共同研究者にメッセージを返したい。しかしいま返してももう意味のあるメッセージは返せそうにない。そういうもどかしさ。
2025/04/17 (Thu.)
- AISTATS のポスターをなんとか2枚作り終わった。もう数日後に出発が迫っているところでギリギリ間に合った。ポスター作成はかなり慣れてきたので、比較的自分でも満足のいっているクオリティのポスターを1枚あたり3時間程度でフルスクラッチで作れるようになった。これは我ながらかなり効率が良いだろう。しかしいよいよ自転車操業になってきている。
2025/04/16 (Wed.)
- ようやく論文のリバイズの初稿が終わった。例の計算結果や考察を丁寧に書いていたら投稿版よりも12ページも長くなった。Tsallis divergence が density power divergence に一致することとか pseudo-spherical divergence が up to constant で gamma divergene に一致することとか、かなりマニアックなことも書き込むことができたので一旦満足。
- 今のところ学生とはだいたい隔週でミーティングを入れているけれど、2週間って短すぎないか。何か別の仕事やプロジェクトに集中しているとあっという間に2週間経って、自分の方ではほとんど何も進捗を生むことなくミーティングを迎えてしまう。
2025/04/15 (Tue.)
- 研究打ち合わせが1日で3件。それにまつわる準備の時間も必要。気づけば人の研究のために使う時間が増えてきた。これはこれで学びが多いので良いのだけれど。3時間もミーティングをしていると1日なんて一瞬だな。数ヶ月前に比べたら研究ミーティングのやり方、中身もだんだん改善が見られるようになってきた気はする。
2025/04/14 (Mon.)
- 某論文の査読者との議論が想像以上に長引いている。もう他の査読者はみんな論文の貢献が高水準であることに合意しているのだけれど、最後の一人だけなぜかやたらと質問を繰り返して揚げ足を取ろうとしてくる。言ってしまえば明らかに査読者側にとって「負け戦」なのにやたらとやる気があって不思議。しかし僕も、そして主著の学生もどんな揚げ足取りが飛んでくるのかと気が休まらないし、議論中に一言でも不適切な言葉遣いをするとすぐに揚げ足を取られそうな気がして、落ち着かない。
2025/04/13 (Sun.)
- 翻訳プロジェクト、出版社から3週間も前に校正依頼出されているのになんで一瞬で終えられない人がこんなにいるのか。3時間も集中してやれば終わるだろう。もう自分は一切中間管理をしない。日記を振り返ったら当時中間管理をやっていたのももう2年半前 (2022/11/30) だった。まだ出版していないのは遅すぎるだろう。無理難題を言っているわけでもないのにこんなに仕事やレスポンスが遅いのはもうちょっと関わりたくない。
- Area Chair 業務を終えた。ボーダーラインで自分の中でも確信を持って決めきれぬまま reject に倒した論文が2件。自分は誠実に公正に判断ができただろうか。著者は怒り狂うだろうか。しかしもうこれ以上の時間をかけることはできないのである。この1週間、空いている時間で相当 chair 業務に時間をかけたし、昨日は日を跨いでも決めきれずに悩み、今日もいま夜10時にこうして悩んでは悩んで最終的に直観を信じて決めたところ。これ以上決断の質を上げることができる気がしない。時間とリソースが限られている国際会議のフォーマットを選んでいる以上、これで偽陰性が発生したとしてもコミュニティで甘んじて受け入れるしかない。へとへとだ。
2025/04/12 (Sat.)
- Area Chair 業務、もう少しばかり早くに終えるつもりだったのに、結局締切ギリギリになってきた。簡単に採否が決められる論文はトントン拍子に進むのだけれど、最後の揉めている数本の決着をどうつけるのかがとかく難しい。精神力が必要な仕事だ。
- 合間に二条公園に少しだけ花見をしに行った。ご近所なのにこうやって腰を掛けてゆっくりと花見をしたことがなかった。基本的に地元の人ばかりだけれど、桜の木は非常に立派で良いところ。
2025/04/11 (Fri.)
- 午前に Yutong とミーティングして、午後は本郷に立ち寄って坂上さんとミーティング。自分の研究はなかなか時間が取れず進まないけれど(今日坂上さんに話すために計算ノートを開いたら 3/17 が最後の日付だった)、共同研究者に恵まれていて少なくとも自分の知的好奇心が刺激され続けており、僕個人としては非常に楽しくできている。本当に人と環境に恵まれている。
- そうして京都に帰る。やる気が漲っている。
2025/04/10 (Thu.)
- 学生とのミーティングの準備でrandom feature model のテスト誤差の厳密解を解析した論文を勉強がてらに読んでいた。読むことになった動機は、Laplace 変換と最適化の境界領域の論文を探していたから。この論文は明確で、勾配流を流したときのテスト誤差の厳密解の時間発展が知りたくて、そのためには時間発展する関数の解析解を微分方程式を解くことで得る必要があるので、Laplace 変換が登場する。古典的な Laplace 変換の使い方ながらに非常に強い結果が出ていて唸らされる。
- 夜に新宿に用事があったので、はじめて中央特急に乗った。立川から新宿のわずか25分だが、あまりにも快適すぎる。こんなのに乗ったら二度と中央線の普通車に乗る気持ちにはなれなくなる。
2025/04/09 (Wed.)
- 気持ちの良い天気だ。研究所周辺は特に何もないけれど、電線もなく広大な青空が広がっているのが気持ち良い。今週は桜並木も綺麗だし人も少なく、思わず朝研究所に行くまでに日向ぼっこしながら散歩した。
- 月曜飲んでいたときに出てきた重要そうなキーワードメモ:
- 繰返し協調ゲーム: 普通の零和ゲームだと利己的戦略が最も合理的だが、ゲームを繰り返すことによって利他的に振る舞うことが経済的にも合理的になり得るらしい。
- ナイト流不確実性: 市場経済においてそもそも定量化・測定不能な不確実性の概念らしい。ひょっとしたら imprecise probability に関係するかもと思った。
- 学生との議論の過程で今まで精読したことのなかった Bartlett et al. (2006) の後半の fast rate の議論を読む必要性を感じて読んだ。テクニカルには Tsybakov 条件と損失の modulus of convexity を利用して Bennett の不等式に帰着している。Modulus of convexity を適用するくだりが割と面白くて、L2(P) 擬距離を使って modulus を定義しているからゆえに modulus が2乗より速くできない(具体的には Lemma 16)など、知見があった。この論文、本当に修士のときから何度読んだかわからないのにまだ読み続けており、いまだに知見が零れ出続ける。
- 研究所の(コロナ後初らしい)新年度懇親会だった。期待していた以上にシニアな先生も含めていろいろな方々に良くしてもらえて安心した。統数研、良いところ悪いところはありつつも、人生はじめての基幹教員として今のところやっていけそうな希望的観測が持てる。
2025/04/08 (Tue.)
- 昨晩は久しぶりに旧友と飲み明かして、立川に戻ってきたのも日を跨いでからになった。夜12時頃に IKEA のあたりを歩くのを普段想像するとかなり嫌だが、昨日は気持ちよく飲めたので浮足立ちながら帰路につくことができた。
- そういえば1日で2回中央線グリーン車に乗った。特に夕方飲みに行くときに6時半頃に東京方面に乗ったときは、立川駅のホームは人で溢れかえっていて辟易として買うつもりのなかったグリーン券を衝動的に買ったのだが、これがすこぶる快適すぎてもう戻れない。僕の異動のタイミングにあわせてグリーン車を開通させてくれてありがとう、JR東日本。
- 仕事は多いが捗っているので気分は悪くない。今日は論文直し、査読対応、学生の研究へのフィードバック、それから共同研究のコードのデバッグをやった。効率はまあまあ良いだろう。
2025/04/07 (Mon.)
- 今週から一緒に仕事をすることになる秘書さんのための準備のことをいろいろと相談したり考えたり、少しずつマネジメントっぽい仕事が増え始めてきた。未だに(運営業務で忙殺されるほど身動きがとれないような)マネージャーになりたいという積極的な気持ちは微塵もないけれど、研究の現場、人的交流を活性化させてよりよい研究が生まれる環境を作るためにささやかながら貢献したいという気持ちはある。まあおそらく誰しもマネージャーははじめはそう思っていて、段々身動きが取れないほどまでに忙しくなっていくのだろう。搦手を取られないように気を引き締めなければならない。
- 空き時間に少しずつ論文を修正する。査読者に言われて真面目に proper loss の例を書き出しているうちに、自分の理解が甘かったところが炙り出される。具体的には Bayes risk の勾配が proper loss になっているという凸共役の関係。以前にもしばしば Shannon entropy の標準的な定義の勾配をとっても -log(p) + 1 の + 1 が出てくることが気になったことはあって、これまでずっと「まあ定数だし些細なことか」と真面目に考えてこなかったのだけれども、Brier score に対して同じことをやると squared 2-norm の勾配は -p、しかしこれは linear score だから proper になるはずがないのである!そこで劣勾配不等式をじっくり眺めると、実は proper loss における劣勾配は正規化に関して一定の自由度があることがわかる。だから Brier score 自体は squared 2-norm の勾配にならないのだけれども、一定の自由度を許容すると squared 2-norm の勾配と同一視できるようになる。この事実は Gneiting and Raftery (2007) にも、Williamson (2016) にも一切触れられていない。かなり重要な事実だと思うんだけれども。今回の論文の主眼からはやや外れてしまうのでこれ以上深堀りするつもりはないけれども、この同値類は数学的にきちんと調べておきたい性質だ。
2025/04/06 (Sun.)
- 今週末はやる気があるので、初めての Area Chair 業務をやっていた。10本超えの論文を同時に対応するのはなかなか大変。正直一本一本の内容をきちんと把握するのは結構難しい。評価が割れている論文をどれだけ丁寧に扱うかがポイントになりそうだ。一日でとりあえず担当している論文の議論には一通り目を通した。これをあと一週間でまとめる必要がある。
2025/04/05 (Sat.)
- 日帰りで吉野山に花見に行ってきた。奈良は2年半ぶりか (2022/09/04)。吉野の位置もよくわからずとりあえず電車に飛び乗ったものの、実はかなり京都から遠いことに後になって気づき、移動だけで往復5時間かかってしまった。ならまちとはわけが違った。人も想像以上に多くて大変だったが、中千本の桜の海は見ごたえがあり、他では見られないような桜の山だったので、きちんと行ってよかった。再訪するのは大変だろうから。
2025/04/04 (Fri.)
- ドタバタとしていた一週間だった。彦根に来てリラックスした。堀を取り囲む桜の蕾が開花をいまかいまかと待ち構えるような趨勢だ。きっと来週には一面桜の海になるのだろう。
- 学生とのミーティングの準備のために、胡さんの論文の Theorem 2 の証明を読んだ。恥ずかしながら、大学院時代あれだけ近くにいていつもつるんでいたのに、証明が長くて難しそうだからいままでずっと敬遠していた。見た目の割にはそこまで過度に難解なわけではなくて、DRO 解が Bayes optimal でないことを仮定すると ratio function が最適でなくなる矛盾を導くのが基本の方針。その過程で Bayes optimal でないことを用いると ratio の optimality に矛盾するような別の ratio がシンプルに構成できる。式番号でいうと 56、57。これが意外に f-DRO の collapse が生じる理由の直感を与えてくれている気がする。
2025/04/03 (Thu.)
- 今日は結局夕方の学生とのミーティングの準備をするために、日中の7割方くらいの時間を使ってしまった。でもそのおかげで、彼の実験結果がネガティブではなくてきちんとポジティブであることを読み解くことができて、ミーティング中にちゃんと次の方向性をまとめることができた。毎回このミーティングのたびに緊張している。今日もミーティングが終わって一安心。自分の研究がうまくいかないことよりも、学生の研究が軌道に乗っていないことのほうが辛いというか、責任感を感じる。そういう意味では教員からある程度研究のアイデアを渡すと良くも悪くも責任感が発生するから、こっちは(主に精神的に)大変だけれど学生のために親身になれるような気はする。
- しかし2週間ほど全然 implicit bias の研究 (2025/03/11) に手がつけられていない。共同研究と学生とのミーティング、そして論文の直しに大半のリソースを割いている。でもこれらはほぼすべて研究のエフォートカウントだ。そう考えると(周りのもっとシニアな教員を見渡すと)幸せなことなのだろう。この幸せを噛み締めて日々仕事に邁進する。
2025/04/02 (Wed.)
- 学生とのミーティングの質を上げられないだろうか。往々にしてミーティングの終わりにかけて wrap up がうまくできないことがあって、そうすると次のミーティングまで学生がやや路頭に迷いかねない気がする。ひとつには僕がアジェンダを用意してそれに従って最終的なゴールに辿り着けるように采配をすること。ただ、それだと僕が一方的に喋る構造になりかねないので、自由闊達なディスカッションの形を目指そうと思うとそれも本望ではない。あとはミーティングの終わり時間を決めないとか。でもそれもあまり現実的でないような気がする。終わり時間があるから有限の時間でまとめようとする力学が働く。次善の策はミーティングの予定時間の後ろにすこしバッファを持っておくことくらいか。やり方に悩む。
2025/04/01 (Tue.)
- 新年度初日ではあるのだが、論文の修正が複数件同時に舞い込んできているため、全く首が回らず新年度の気配も感じない。耐え忍ぶのみ。