ミシシッピ川での決断（国際学会NAACL2019参加記）

おひさしぶりです。べりももです。お元気ですか。自分はなんとか生きています。
唐突ですが、6/1-6/9とアメリカのミネソタ州ミネアポリスで開催された自然言語処理の国際学会NAACL-HLT2019に2年連続で行ってきたので、その話をまとめます。

・行き
ミネアポリスは羽田空港から直行便があり、比較的楽なフライトで11時間程度で到着。
デルタ航空はごはんも美味しいしトイレも綺麗、スリッパもついてくるしコンセントもある！といっても自分は飛行機では作業しなかったが…。
空港からホテルはuberが便利だった。呼ぶとだいたい5分以内で来てくれる。しかし、uberの人たちは、常に道をうろうろしているのだと思うが、uberで生計を立てているのだろうか。
部屋は広くてきれいだったが、アメリカのアメニティは少ない。ホテルは売店があったが、当たり前だけど水もなんでも高い。
でもスーパーに行くとファミリーサイズしか売っていないし買い物が難しい…留学中の人とか、一人暮らしの人はどうやって買い物しているのか気になった。
夜はホテルのレストランでサンドイッチ。最初誰も客がいなくて不安だったが、まあまあ美味しかった。前回のNAACL以来、アメリカではご飯のクオリティは期待しないようにしている。。

・初日
午前はNYUのSamuel BowmanのNatural Language Inference（自然言語推論、通称NLI）のチュートリアル。
スライド：https://nlitutorial.github.io/nli_tutorial.pdf
このチュートリアルというか、Sam Bowmanの存在のおかげで、学会中は自分の研究トピックはRecognizing Textual EntailmentよりNLIだと説明したほうが相手に理解してもらえた。流行にうまく乗せて自分の研究を説明するのも大事だなと思う。
チュートリアルなので新しい話はなかったが、スライドや話はとてもよく整理されていて、参考になった。
午後はtransfer learningのチュートリアルに行こうと思ったが混み過ぎで退散。
スライド：https://docs.google.com/presentation/d/1fIhGikFPnb7G5kr58OvYC3GN4io7MznnM0aAgadvJfc/mobilepresent?slide=id.g5888218f39_177_4
でも、参加した人に聞いた所、こちらも目新しい話はなかったらしい。
代わりにclinicalNLPのチュートリアルを覗くが、医療ドメインでは一昔前のNLPの技術がツール化されていてよく使われている感じでこれまたあまり新しい話がなく、結局前半で退散。
夜はレセプション。国内外の研究者と話す。でもあまり日本人の参加者は少なかったような。昨年のNAACL以来久しぶりにUT AustinのOさんと再会し、じっくりとお話できてよかった。NLPの研究は今後どうなるのか、今後のキャリアはどうするのかなど。
レセプションのあとはACL BlackboxNLPの論文の最終版（カメラレディ）と発表のスライドのまとめ作業を少し行うが、この頃からやや喉が痛む。
カメラレディの締め切りが次の日なのに、まだカメラレディも発表のスライドも共著者とまとまらず焦る。

・2日目
起きると昨日よりも喉が痛く、寒気がしてまずい。とりあえず薬を飲んで少し休んでから会議に参加。気になっていた発表をいくつか聞く。
下記の発表とか、計算心理言語学的アプローチでニューラル言語モデルがどの程度言語の文法性を捉えられているか挙動を見る話がいくつかあり、面白かった。
Neural Language Models as Psycholinguistic Subjects: Representations of Syntactic State
Richard Futrell, Ethan Wilcox, Takashi Morita, Peng Qian, Miguel Ballesteros, and Roger Levy
https://www.aclweb.org/anthology/N19-1004
あとSebastian RuderのNAACLまとめ（http://ruder.io/naacl2019/　）にある通り、
Common Sense, (Social) Bias, Transfer Learningに加えて、Unsupervised Learning, Multitask Learningといったキーワードの研究が多かった気がする。
お昼は昨年留学したオランダのGroningen大学のJohan Bos先生のお弟子さんでもあり、ESSLLIのレクチャーで仲良くなったKilian Evang先生とランチ。Multi-lingual CCG parsingのお話を聞く。
前述の通り、この日はカメラレディの締め切りで、発表を聞きつつカメラレディを共著者と直しまくり、夜にはなんとかカメラレディを提出したが、体力的に限界が来て寝込む。夜ご飯はルームサービスで一番油っぽくなさそうなオムレツを注文したら、チーズとポテトが大量にのった油の固まりのようなオムレツがでてきてげむなりする。

・3日目
朝起きても体調は治らず、体温計がなかったから測ってないけど、高熱を出していた気がする。この日はソーシャルイベントもあったが泣く泣く1日休みひたすら寝る。こんなに寝たのは久しぶりかもしれない。
発表を聞くことはおろか、ソーシャルイベントも参加できなくて、何しにミネアポリスまで来たのか。。とひたすら悔しい、申し訳ない思いしかなかった。
博士課程2年目に本格的にNLPの研究に取り組んでから今まで全力疾走してきたけど、肝心な時に倒れたらどうしようもない。つくづく体が資本だと思い知らされた。同時に、博士号も昨年無事取得したのだし、そろそろ全力疾走から一旦落ち着かせて、研究の進め方を抜本的に変えないといけないのかもしれないとも思った。昨今のNLP業界は、自分の研究と関連のある研究が続々とarxiv（学会やジャーナルに投稿前・後の論文集みたいなサイト。）に出てくる（毎日20本くらい論文がアップされている）ような状態なので、無意識のうちに、「この研究は今すぐに形にしないと他の人も取り組んでいそうでまずい」、みたいな焦りを常に抱いていた。でもそういうときこそ一度ちょっと落ち着いて、本当に自分が解くべき問題は何なのかをじっくり考えるべきなのかもしれない。一方で、あまりじっくり考えていても一向に答えが出てこないということもあるので、どれくらいじっくり考えるのがいいのかもまた悩ましい。

・4日目
前日はバナナとヨーグルトとジュースをひたすら食べて飲んで生き延び、起きたら微熱になっていたので、じわじわ復活。でもまだ声はがらがらで、知人と会ってもまともに会話できずつらい。
昼はNTTのNさんと回転すし屋さんに行く。もちろん日本の回転すしとは違う感じだけど、風邪でさっぱりしたものを求めていたので、カリフォルニアロールやら枝豆やらが思ったよりも美味しく感じられた。。
Best paper awardの発表を聞く。BERT（汎用的言語モデルでいろんな自然言語処理のタスクで最高精度を達成している）もBest paper awardの一つ。しかしBERTがarxivで発表されたのは半年以上前で、半年以上前の内容に加えて何か新しい知見が合わせて発表されるかなと期待したけどとくに新しい話はなく、淡々とした論文の説明で終わった。あとで聞いた話ではGoogleはあまり学会では最新の発表はしてくれないらしい…。
BERTに限らず、arxivでチェックしていた論文はだいたい論文以上の話は出てこず、これなら会議に参加しなくてもarxivをチェックしていれば良いのでは、とちょっと思ったりもした。
相変わらず食欲がなく、油っぽい食べ物はとても受け付けられず、夜はベトナム料理を食す。といっても、日本のベトナム料理とはだいぶ違い、カレーの具のような切り方の野菜が載っているスパイシーフォーという謎料理を食べてしまった…。

５日目以降は、結構長くなってしまったので、箇条書きで。。

・発表
風邪の中25分発表、5分質疑という長時間で正直結構つらかった。なんとか発表できただけでも良かった。。風邪でもこれくらいは発表できる、というベースラインをつかんだ。ちなみに発表スライドは発表の数分前まで微修正していた…。質疑応答は想定通りの質問がいくつかあり、たぶんちゃんと答えられたと思うけど、スピーキングは継続的に勉強しようと思う。

・日本人研究者の会
東大のNさんからお誘いいただく。３０人くらいの日本の（というか日本語が少し話せる研究者という感じで実際は結構グローバルだった）研究者が集まった。ソーシャルイベントも参加できなかったのでとてもありがたかった。感謝です。。
とはいえまだ絶賛風邪ひき中だったので自分はあまり話をせず、いろんな人の話を聞くことに徹する。グローバルな話、アカデミックv.s.民間の話、あとここでもキャリアの話を色々と聞けて良かった。

・ミシシッピ川
発表後はミシシッピ川に行く。相変わらず風邪で朦朧とする中、ひたすら橋を歩く。なんとか発表まで終わったけど、なんだか風邪ですべての調子が一気に狂ってしまい、何のために、何がしたくて、自分はここにいるのか、何を大事にしたらいいのか、よくわからなくなっていた。ここ数年の自分のやり方について、見直しを余儀なくされたように思う。3年前のように、そろそろまた思い切り舵を切る必要があるのかもしれない、とも。

・最終日のディナーは早稲田のOさんとご一緒した。Oさんのニューヨーク大学（NYU）時代のお話を色々と伺い、面白かった。アメリカ食事で一番美味しい＋油っぽくない食べ物は牛肉とアスパラという結論になった…。オムレツとかサラダとか日本の常識ではさっぱりしていそうなものですら、チーズ＋ポテトがのってくるので、油っぽさから逃れるには牛肉とアスパラしかない。笑　今後アメリカに行く時の大事な教訓としてメモ。

・2回NAACLに参加して思ったまとめ
国際学会に参加する一番の意義は、いろんな人と何度も会って話して自分のキャラと研究を覚えてもらうことにあるのでは、ということ。
ソーシャルイベントには行けなかったものの、なんだかんだいろんな人と話す機会があり、Mark Steedman先生、Ido Dagan先生をはじめ、国内外の研究者にそこそこ自分の名前と研究を覚えてもらえるようになったのは良かった。
どんな仕事も、人とのつながりでできている。

東大生ランキングに参加しています。いつも応援ありがとうございます！