Yui Oka

me.png

岡 佑依 / 若染 佑依

📧 Email / 🎓 Google Scholar / 📕 OpenReview

日本電信電話株式会社 人間情報研究所 所属 / 東北大学 博士後期課程2年

自然言語処理、とりわけ大規模言語モデル（LLM）において一般的に用いられている位置符号化および長文コンテキストモデリングの研究に取り組んでいます。 理論的解析に基づく位置表現の設計や、コンテキスト拡張、位置補間や外挿といった拡張手法の研究を通じて、LLMの長文理解能力の向上を目指しています。 また、得られた研究知見を実際のLLMのコンテキスト拡張技術へと応用し、基礎理論と実装の両面から言語モデルの高度化に取り組んでいます。 近年は信号処理の視点を取り入れ、周波数解析やウェーブレット理論に基づく位置表現の再設計に取り組んでいます。

ジャーナル

  1. 岡 佑依, 柳本 大輝, 平尾 努, 西田 京介. “談話関係ラベル付き接続語認識.” 自然言語処理, 2025. [paper]
  2. Yui Oka, Katsuhito Sudoh, Satoshi Nakamura. “Length-constrained Neural Machine Translation using Length Prediction and Perturbation into Length-aware Positional Encoding.” Journal of Natural Language Processing, 2021. [paper]

国際会議/ワークショップ

  1. Yui Oka*, Kentaro Hanafusa*, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito (* Equal contribution). “Probing Rotary Position Embeddings through Frequency Entropy.” ICLR 2026. [Openreview]
  2. Yui Oka, Itsumi Saito, Kyosuke Nishida, Kuniko Saito. “Frequency Bands in RoPE: Base Frequency and Context Length Shape the Interpolation–Extrapolation Trade-off.” ICLR 2026. [Openreview]
  3. Yui Oka, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito. “Wavelet-based Positional Representation for Long Context.” ICLR 2025. [Openreview][Arxiv][Poster]
  4. Yui Oka, Tsutomu Hirao. “Implicit Sense-labeled Connective Recognition as Text Generation.” EMNLP Findings 2023. [ACL Anthology]
  5. Makoto Morishita*, Keito Kudo*, Yui Oka*, Katsuki Chousa*, Shun Kiyono, Sho Takase, Jun Suzuki (* Equal contribution). “NT5 at WMT 2022 General Translation Task.” WMT 2022. [ACL Anthology]
  6. Ryo Fukuda, Sashi Novitasari, Yui Oka, Yasumasa Kano, Yuki Yano, Yuka Ko, Hirotaka Tokuyama, Kosuke Doi, Tomoya Yanagita, Sakriani Sakti, Katsuhito Sudoh, Satoshi Nakamura. “Simultaneous Speech-to-speech Translation System with Transformer-based Incremental ASR, MT, and TTS.” O-COCOSDA 2021. [Paper] Best Student Paper Award
  7. Ryo Fukuda, Yui Oka, Yasumasa Kano, Yuki Yano, Yuka Ko, Hirotaka Tokuyama, Kosuke Doi, Sakriani Sakti, Katsuhito Sudoh, Satoshi Nakamura. “NAIST English-to-Japanese Simultaneous Translation System for IWSLT 2021 Simultaneous Text-to-text Task.” IWSLT 2021. [ACL Anthology]
  8. Yui Oka, Katsuhito Sudoh, Satoshi Nakamura. “Using Perturbed Length-aware Positional Encoding for Non-autoregressive Neural Machine Translation.” ACL-IJCNLP SRW 2021. [Arxiv]
  9. Yui Oka, Katsuki Chousa, Katsuhito Sudoh, Satoshi Nakamura. “Incorporating Noisy Length Constraints into Transformer with Length-aware Positional Encodings.” COLING 2020. [ACL Anthology]

国内学会

  1. 岡佑依*, 花房健太郎*, 長谷川拓, 西田京介 (* Equal contribution). “周波数エントロピーによる位置埋込みの解明”. 言語処理学会第32回年次大会, 2026. [paper] 優秀賞受賞
  2. 岡佑依, 斉藤いつみ, 西田京介. “位置符号化の基底拡大戦略は外挿性能を制限する”. 言語処理学会第32回年次大会, 2026. [paper] 優秀賞受賞
  3. 辻航平, 岡佑依, 西田京介, 坂井優介, 上垣外英剛, 渡辺太郎. “疑似グラフデータ学習によるLLMのグラフ理解能力の向上”. 言語処理学会第32回年次大会, 2026. [paper]
  4. 岡佑依, 長谷川拓, 西田京介, 齋藤邦子. “ウェーブレット位置符号化”. 言語処理学会第31回年次大会, 2025. [paper] 優秀賞受賞
  5. 岡佑依, 田中貴秋, 平尾努, 永田昌明. “球体表面を利用した位置符号化”. 言語処理学会第29回年次大会, 2023. [paper] 若手奨励賞受賞
  6. 岡佑依, 田中貴秋, 永田昌明. “英日翻訳のためのPositional Encodingを用いた正則化手法”. 言語処理学会第28回年次大会, 2022. [paper]
  7. 岡佑依, 須藤克仁, 中村哲. “Positional Encodingへの摂動付与による長さ制御を用いた非自己回帰型機械翻訳のための知識蒸留”. 言語処理学会第27回年次大会, 2021. [paper]
  8. 岡佑依, 帖佐克己, 須藤克仁, 中村哲. “Positional Encoding出力長制御を用いた英日ニューラル機械翻訳の検討”. 言語処理学会第26回年次大会,2020. [paper]
  9. 岡佑依, 黒田久泰. “線形モデルを用いたシステムトレードロジックの構築”. 電子情報通信学会大会,2019. [paper]

受賞

  • 優秀賞 :岡佑依*, 花房健太郎*, 長谷川拓, 西田京介 (* Equal contribution).「周波数エントロピーによる位置埋込みの解明」(言語処理学会 第32回年次大会, 2026年3月)
  • 優秀賞 :岡佑依, 斉藤いつみ, 西田京介「位置符号化の基底拡大戦略は外挿性能を制限する」(言語処理学会 第32回年次大会, 2026年3月)
  • 優秀賞 :岡佑依, 長谷川拓, 西田京介, 齋藤邦子「ウェーブレット位置符号化」(言語処理学会 第31回年次大会, 2025年3月)
  • 若手奨励賞 :岡佑依, 田中貴秋, 平尾努, 永田昌明「球体表面を利用した位置符号化」(*主著のみの受賞)(言語処理学会 第29回年次大会, 2023年3月)
  • Best Student Paper :Ryo Fukuda, Sashi Novitasari, Yui Oka, Yasumasa Kano, Yuki Yano, Yuka Ko, Hirotaka Tokuyama, Kosuke Doi, Tomoya Yanagita, Sakriani Sakti, Katsuhito Sudoh, Satoshi Nakamura 「Simultaneous Speech-to-speech Translation System with Transformer-based Incremental ASR, MT, and TTS」(O-COCOSDA 2021)

講演

研究成果に関する公式発表・報道

寄稿・解説記事

  • 解説「位置符号化の歴史とその役割」, 情報処理学会会誌 2024年12月号（Vol.65 No.12）
  • 小特集「私のコンピューティング人生の原点」, 情報処理学会会誌 2024年10月号（Vol.65 No.10）

委員

  • 2023年–現在, 情報処理学会会誌編集委員
  • 2021年–2023年, NLP若手の会運営委員

略歴

  • 2024年10月–現在 東北大学大学院 情報科学研究科 博士後期課程
  • 2024年 7月–現在 NTT株式会社 人間情報研究所
  • 2021年 4月–2024年6月 日本電信電話株式会社 コミュニケーション科学基礎研究所
  • 2019年 4月–2021年3月 奈良先端科学技術大学院大学 修士（工学）