ミシガン大学に滞在して研究した話


本記事はStatsML Symposium'21の企画セッションへの寄稿として書かれた記事です。

当該企画セッションは「海外PhD留学生って日本の学生に向けて割と情報発信してるのに、日本のPhD学生って情報発信しないからあんまり実態がわかんなくない?」というモチベーションから始まっています。ちょうど最近博論審査を終えた自分が何を伝えられるだろうかと考えていて、実はいくつか案を考えて書きかけては消すのを繰り返して、やっぱり書くのならできれば自分の体験ベースでないと書けない内容が良いかなと思って、この内容に収束しました。

一応自分は機械学習を研究している身なので、想定としては最大半径で情報系を専門にする大学院生な気がします。

海外で研究することへの憧れ

元々私は大学院進学する時点で博士課程に進みたいと思っていたのですが、コンピュータサイエンスを専門とする身としてはやはり海外、それもできればアメリカで研究する経験を一度はしてみたいと思っていました。例えば機械学習研究の前世紀末からの系譜を辿ってみると、客観的に見てエポックメイキングと思われる研究はアメリカ乃至北米初であることが非常に多いからです1。そうして漠然と海外D進してみたいという気持ちは抱いていたものの、学部時代はバイトやサークルに没頭していて、いざ大学院に入ってみて海外D進する人がどれだけ長期にわたって計画的に準備しているのかを知って愕然としてしまい、多少はチャレンジしてみたものの全く準備が間に合いそうにないので国内でD進することにしました。

一方で当時修士だった私はやはり海外で研究を経験してみたい、短期でもいいからどうにかならないものか、と未練が残っていたので、「博士課程の間に機会を見つけて海外に滞在して研究しよう」という目標をひっそりと心の中に掲げていました。

はじめての海外滞在研究

そんな自分がある程度具体的に海外渡航を意識するようになったのは、M2のときにJSTのACT-Iという研究領域に採択されたことがきっかけでした2。1年半にわたって研究費を獲得できたので、研究期間中であるD1の間に必ず海外で共同研究をしようと決めました。

結論から言うと、ミシガン大学のClayton Scott先生に(伝手なしで)連絡して共同研究を取り付けて、2019年10月から2020年2月までミシガン大学で共同研究をしました。情報系でまわりの人の話を聞いていると、海外に短期滞在して研究する場合は企業インターンか、あるいは指導教員の知り合い関連のケースが多い気がしていて、こういうケースは比較的珍しいのかもしれない(要出典)ので、ある程度情報を残しておこうと思います。

博士進学してからしばらくして落ち着いた2019年6月頃から少しずつ準備をはじめました。およそ渡航開始時点の4ヶ月ほど前です。少しだけ自分の研究の話になるのですが、修士の終わり頃から機械学習で使う損失関数の性質に興味を持つようになってきたので、その周辺に造詣のある研究者と共同研究できないか考えていました。この時点では自分の中でぼんやりと5チームくらい候補があって、ミシガン大学以外にもイリノイ大学やペンシルベニア大学、オーストラリア国立大学、INRIAあたりにも自分の興味がある研究をやっていたチームがあったので検討をしていました。最終的には、まずいちばん最初にメールでコンタクトを取った相手から肯定的な返事をいただけたので即決をした形になります。

海外の無名学生からいきなりメールを送ってもほぼ確実に無視されるだろうと覚悟していたので一通目で返事を貰えるとは思っていなかったのですが3、できるだけ無視されないようにいくつか意識してメールを書きました。

  • 自分の研究業績に触れながら自己紹介
  • 相手の(最近の)論文の興味がある点と、自分の研究とどのように関連があるのかを述べる
  • 双方の研究の興味に沿った共同研究案を提案
  • こちら側に十分なファンディングがあることを強調

幸いD1の時点で会議論文に採択された経験があったのと、相手の論文は既にかなり読み込んでいて自分の興味との関連も明確だったので、伝手なしのコンタクトでも興味を持ってもらいやすかったのかなと振り返っています。何はともあれ、6月末には共同研究の約束を取り付けることができました。

渡航するまでの流れ

ここでは渡航までの手続き、主にビザ申請や渡航後の生活の準備についてまとめます。細かい話になるので、興味のない人は読み飛ばしてください

そういえば、渡航前の準備はいつか何かしらの形態でまとめて公開しようと思ってメモとして残していたのですが、2年以上お蔵入りしていたのを今回発掘したので、ようやく成仏しました。

ビザ(2019年時点での情報です): 渡米の場合、観光・ビジネスだとB1ビザ、留学目的だとF1ビザですが、今回のような半年前後の短期滞在で研究を行う場合はインターンシップ扱いでJ1ビザになるようです。B1ビザに比べてJ1ビザの取得に際して気をつけるべき点は2つあります。1つ目、はDS-2019という書類が必要になることです。これはインターンシップ受け入れ先(私の場合だとミシガン大学)が「この人は我々が招待していますよ」と証明するための書類です。しかもこの書類はビザ面接時に紙媒体での提出を要求されていてアメリカから郵送してもらう必要があるため、受け入れ先の部門に問い合わせて可及的速やかに発行してもらう必要があります。自分の場合は7月23日にミシガン大学のビザ部門と面接をし、8月8日にDS-2019を米国から発送してもらい(このとき入国用に必要なI-94という書類も同時に郵送されます)、その1週間後に郵便で受け取ったのですぐに米国大使館のビザ面接予約を行いました。

2つ目は、SEVIS (I-901) feeを(ビザ申請費とは独立に)事前に払う必要がある点です。これはどうやら米国大学との交流を行っている人を追跡管理するための費用としてビザ申請とは別に徴収しているようで、JビザだけでなくFビザでも払う必要があります。ビザ面接に行く前にSEVISのサイトで220ドル支払い、領収書を面接時に携帯する必要があります。

ビザは(少なくとも私の場合は)発給に非常に時間がかかったので、渡航のスケジュールにあわせて余裕を持って準備してください。ちなみに私の場合は渡航のおよそ2週間前になっても大使館から音沙汰がなかったので、大使館にメールで急かしてみたらすんなりビザが降りました。

フライトの予約: これはそれほど特段触れるほどのことでもないですが、ビザが発給されないと予約できないので、ビザ申請を急ぎましょう。加えて、初渡航の日は交通機関や土地勘もないため、できるだけ昼前に着けるような便を選んだほうが良いです。案外一時間半に一本しかない空港バスの乗り場がわからなくて現地への到着予定時刻が数時間遅れたりしがちです。

知財関連の契約: 自分の所属、受け入れ先によると思いますが、知財契約を結ぶ必要があることがあるので注意してください。私の場合は、受け入れ先のミシガン大学がDS-2019/I-94を発行する際に知財契約を結ぶ必要がありました。おそらくビザ回りで必要になる可能性が高いと思われます。

滞在中の資金: 本来であれば国際送金可能な銀行口座を持っておくのが安全なのだと思いますが、当時は国際送金可能な銀行口座は口座維持費が馬鹿にならなかった記憶があり、現地で給与の支払いもない予定だったので、銀行口座は開設しませんでした。この場合、滞在中の出費は現金とクレジットカードだけに頼ることになります。学生の身分だとクレジットカードの限度額が相当厳しい(上にフライト代の立替や現地での家賃の引き落としが発生する)ので、何枚かカードを持っておく必要があると思います。自分の場合は30万円限度のカードを3枚持ち歩いて、1枚は家賃などの引き落とし用、残りの2枚を生活用にあてていた気がします。

滞在中の下宿: ミシガン大学が公式で提供している物件紹介サイトを利用して、ビザ発給確定・フライト予約直後、渡航の1週間前に確保しました。ただ、自分の滞在が10月からということで、米国の秋学期が始まる後だったため、条件の良い物件がほとんど出払っていてかなり苦労しました。結局運良くダウンタウンの物件を見つけることができたのですが、10人入居のシェアハウスで家賃はおよそ10万円でした。日本にいる間にオンラインの電子契約で済ませられたため、到着初日にすぐに鍵を受け取って入れたのは良かったです(Ann Arborのローカル不動産ですがVarsity Managementというところでした)。シェアハウスあるあるとしてキッチンの治安が良くなかったので、滞在初日に自炊することを諦めて、学食とダウンタウンにあるChipotleで凌ぎました。Chipotleに週3から週4くらいで通っていたので、店員さんに顔覚えられてとても恥ずかしかった。

滞在中の保険: 滞在先機関はおそらく訪問者が滞在中にある一定水準以上の健康保険に加入していることを要求しているはずです(たとえばミシガン大学の例)。日本で何らかの海外渡航用保険に加入すればinsurance waiver(大学で強制加入の保険から免除される)を申請することもできるようですが、私の場合は面倒だったのでおとなしくミシガン大学の保険に加入しました。この保険の費用がそれほど小さくなく(150ドル/月)、かつ現金あるいは口座引落でしか支払えなかった(クレジットカードは不可)ので、滞在中の資金源を計算するときに少し注意が必要かもしれません。私は毎月クレジットカードのキャッシングで現金を引っ張り出して払っていました。

Social Security Number (SSN): 日本でいうマイナンバーカードみたいなやつです。有給インターンの場合はこれがないと給与の振込ができないらしいですが、自分のように無給の場合は4ヶ月くらいの滞在だったので発行しなくても特に不便はしませんでした。ちなみにもし仮に銀行口座を開きたい場合、Jビザ保有者はSSNは必要ないそうです(ソース)。

Ann Arborという街

ミシガン大学は名前の通りミシガン州にあります。ミシガン州は五大湖に囲まれていて、西側にミシガン湖、東側にヒューロン湖とエリー湖に臨んでいます(厳密に言うとこれはミシガン州のLower Peninsulaで、一般的には更に知名度の低いUpper Peninsulaがウィスコンシン州の先端に伸びていて陸続きになっていません)。ミシガン大学が位置するAnn Arborという街はミシガン州の中でも南東のあたりにあって、ミシガン最大の都市デトロイトからバスで1時間半ほど、おとなりイリノイ州のシカゴから電車(Amtrak)で4時間ほどの距離にあります。人口は11万ほどの小さい街で、ダウンタウンはミシガン大学のキャンパスと不可分になっていて、人口の多くが大学と何らかの関わりを持って生活しています。話を聞いている限りでも実体験でも治安は頗る良く、大学関係者は市内のバスも無料で乗れるので、生活は便利です。あと地味にドミノピザの本社所在地らしいです。

(Ann Arborのダウンタウン)

ダウンタウンはCentral Campusと隣接していて、多くのカフェやバーが軒を並べています。一方で理工系の多くはダウンタウンから学内バスで15分ほどのNorth Campusに入っています。私はCentral Campusの近くに住んでいたので、毎日バスでNorthに通いました。私は一応院生室の席が割り当てられていたのですが、途中から雨漏りの被害に遭うようになってしまったので、Northの図書館に主に籠もって研究していました。North Campusの周りは大学寮以外はびっくりするくらいほとんど何もありませんが、唯一やたらと新しいジムがあるので、筋トレが非常に捗ります。

(North CampusのシンボルのBell Tower、不定期的に絶妙な不協和音が鳴るところが愛せる)

Ann Arborを含めてミシガン州全域は中西部に位置しているため(タイムゾーンはギリギリ東海岸ですが)割と寒いです。だいたい12月に入ると日中でも摂氏零下が続き、最も寒いタイミングでは氷点下20度程度まで下がります。降雪量は思ったより多くはなく、自分が滞在している間に最も積もったタイミングでも30センチくらいで、1月でも週に1度積もる程度の頻度だったように記憶しています。

ちなみにミシガン州はビール醸造所の数が全米の州ランキングで(カリフォルニア、オレゴンに次ぐ)3位らしいです。それもあってAnn Arborのダウンタウンにも4つの醸造所(Jolly Pumpkin, Grizzly Peak、Blue Tractor、Arbor Brewing)があったり、市内全域で見ると30以上?の醸造所があったりします。全米でもかなり有名所のFoundersとかBell’s Breweryも(Ann Arborではないですが)ミシガン発です。

(コンビニにもカジュアルにBell’sのビールが並んでいる)

渡航後の研究生活

自分の渡航はビザ申請の都合上10月からになったので、タイミング的には機械学習分野の冬の国際会議投稿シーズン(ICML、COLT、UAIなど)までが4ヶ月程度でちょうど良かったので、滞在中に研究を1本論文の形にして投稿することを目標にしていました。当初は最初にアポを取ったときに提案した研究アイデアで手を動かしていたのですが、どうも筋があまり良くなかったので、1ヶ月経ったあたりで先生と方向性を見直すべくディスカッションして、最終的に11月中頃に研究の方向性が固まりました。アメリカ渡航直前までヨーロッパ出張などでバタバタしていて渡航前にあまり手を動かせていなかったため、研究の方向性が固まるまでの1ヶ月はミーティングのたびに進捗が乏しくて、割とメンタル的には辛かった記憶があります。ちなみに研究でメンタルが辛くなったときの解消ソリューションは

  • 筋トレ(あるいはランニング)
  • クラフトビール

の2つです。筋トレ・ランニングはやるだけで進捗が出るので精神衛生に大変良いですし、クラフトビールを飲めば辛い気持ちを全て忘れることができるので、この組合せは最強です。

11月末に一旦方向性が固まった後は比較的順調に解析の結果が出て、年末までにある程度の面白い結果が得られたので、1月はまるまる一ヶ月執筆期間にあてました。全体を通して方向性決めに1ヶ月、解析に1ヶ月半から2ヶ月、執筆に1ヶ月と、非常にドタバタで、論文を投稿してその足でイリノイ大学などに電撃訪問してそのまま帰ってくるなど、終盤は非常に慌ただしいスケジュールになってしまいました。

2020年2月に投稿した論文はその後帰国後に無事採択されたので、準備を始めてからちょうど約1年で論文の形になって、共同研究としては比較的きれいな形になりました。

滞在中の基本的なスケジュールは、週1で先生と1時間半程度のミーティング、週1で院生セミナーを覗いて、他の時間はひとりで研究している時間が多かったです。稀に同僚に誘われて関係ないネタのディスカッションをやったりしていました。渡航前は深く考えていなかったのですが、professorクラスの先生で週1に個人ミーティングを組んでもらえたのは結果的にかなり運が良かったように思います。院生セミナーでは、ミシガン大学EECS(電子・電気・計算機科学系)の中で機械学習、信号処理、最適化あたりを専攻する大学院生が10数人集まって輪読を行っていました。半期でTroppのMatrix Concentration Inequality(どの資料を参照していたかぱっと見つけられないのですが、だいたいこの辺のやつに準拠してると思います)と、Tengyu MaのLearning Theoryの講義を追っていました。専攻から学生のセミナーが推奨されているらしく、ランチセミナーをやると大学からただでピザが配られていました。ただでピザが食べたかったので積極的に参加しました。

渡航して良かったこと、反省していること

まず渡航して何よりも良かったのは、4ヶ月の間海外にいるということを名目にあらゆる講演のお誘いや書類仕事を強制的にシャットアウトして純粋に研究に集中できたという点でした。大学院生活は奨学金に申請したり、グラントの申請書を書いたり、報告書を提出したり、スライドを作ったりと、純粋に研究のことを考えられる時間が意外に多くないものですが、たまにはこうやって研究に専念できる環境を自分で作り出すのは良いものだと身にしみて感じています。

加えて、自分が元いた大学とは違う環境、違う国での研究のシーンを肌で感じられたのは言うまでもなく良い経験だったと思っています。海の向こうからだと一つの「アメリカ」というラベルで括りがちですが、例えばミシガン大学の自分がいた周囲では論文を出すために急ぐような空気感はあまりなく、比較的ゆとりを持って自由に研究をしている雰囲気を感じました。研究室単位が小さいので、どちらかと言えば専攻内の大学院生間のコネクションがメインで、例えば上述の輪講メンバーではICMLの投稿直前には自主的に相互proofreadingを行うなどしていました。

一方で、滞在期間を4ヶ月に絞ってしまったのは勿体なかったと感じています。今回は事務手続き上これ以上伸ばせなかったので仕方ないのですが、4ヶ月だとネタ出しから投稿までこぎつけるのはかなり体力と精神力が必要だという感覚でした。本当ならできればミシガン大学にいる近隣の研究員や大学院生ともっとディスカッションをする時間が取れるくらい余裕のある滞在であればよかったな、というのは心残りになってしまいました。そのためには、理想的には最低半年は必要な気がします。

国内でD進するか?海外でD進するか?

最初の話に戻りたいと思います。私は海外の大学院に進学したいという気持ちを抱えながら国内で博士課程に進みましたが、機会に恵まれて短期ではありますがアメリカの大学で研究をすることができたので、ある程度は国内と海外の大学院の雰囲気を経験できたのかなと思っています。ミシガン滞在前は「訪問研究者は所詮『お客様』の扱いだからホストもそんなに真面目に時間を割いて面倒を見てくれない」という(一般論としての)噂を聞いていましたが、これは自分の受け入れ先の先生の誠実な人柄に恵まれた面も大きく、滞在中の毎週のミーティングに加えて投稿前の原稿にも数式一行一行のレベルでかなり事細かにフィードバックを貰ったので、ケースバイケースだなと思います。一方で、訪問研究はあくまで短期滞在なので、よほど積極的に立ち回らないと現地のコミュニティに溶け込むのは容易ではないと感じました。上で触れたように滞在期間がもう少し4ヶ月より長かったら研究以外の時間を取る余裕もあったのかなと思うと、その点も加味して滞在計画が練られたら良かったなと思っています。いずれにせよ、その土地で大学院進学するのはその土地のコミュニティに溶け込むことだと思いますし、大学院進学は強制的に・非連続的に自分をあるコミュニティに投入することが可能なチャンスなので、国内にせよ海外にせよ、どういうコミュニティに入りたいのかを意識して大学院の進学先を選ぶのは、一つの重要なファクターのように思います。


  1. いくつか例を挙げるなら、PAC学習やSVM、BoostingはAT&T Labsに在籍していた研究者らによって提唱されていますし、深層学習については触れるまでもないと思います。ヨーロッパの研究者で大きなインパクトを残している人の中にも、学生時代は北米で過ごして後に帰国してリーダーシップを取っている人も少なくありません。スタンフォード大学の胡さんの寄稿からも、北米のトップ大学でいかに研究者がしのぎを削っているのかがよく伝わってきます。 ↩︎

  2. ACT-Iに採択されたおかげで海外研究が実現したので、JSTには全く頭があがりません。ACT-Iは同じくJSTのさきがけとは異なり大学院生の身分のままで研究遂行が可能です。ここ数年は急激に大学院生も含めた若手研究者に対する研究費が充実しつつあるので、興味のある大学院生は積極的に出してみることをおすすめします(ACT-Iは終了して、現在はACT-Xが継続中です)。 ↩︎

  3. 学部生のときに(違う文脈で)同じように海外研究者にメールを送ったことがあるのですが、打率は3/20でした。今から思えば当時はメールの書き方の筋が非常に悪かったのもありますが。 ↩︎