早稲田大学
基幹理工学部 情報通信学科
基幹理工学研究科 情報理工・情報通信専攻
河原研究室
人間と同程度に言語を理解し、使いこなすことができる人工知能システムについて研究しています。そのために、言語・世界知識の獲得・利活用、そして計算機科学と言語学の知見・技術の融合をコアにしています。特に、大規模言語モデル(LLM)の構築・利用・評価、知識のLLMへの融合、ベンチマークの構築の研究を進めています。
2023/03 NLP2023@宜野湾
2023/09 夏ゼミ合宿@鴨川
2024/02 スキー合宿@志賀高原
ニュース
2025/3/13: 言語処理学会第31回年次大会(NLP2025) 表彰
以下の論文がNLP2025において表彰されました。
若手奨励賞
Sebastian Zwirner, Wentao Hu, Koshiro Aoki, Daisuke Kawahara. Sparse Autoencoders as a Tool for Steering the Output Language of Large Language Models.
スポンサー賞
青木洸士郎, 河原大輔. 大規模言語モデルは他者の心をシミュレートしているか. (博報堂テクノロジーズ賞)
委員特別賞
笹川 慶人, 前田 航希, 杉浦 一瑳, 栗田 修平, 岡崎 直観, 河原 大輔. LLM-jp-3 VILA: 日本語マルチモーダルデータセット及び強力な日本語マルチモーダルモデルの構築.
2025/3/9: 第263回自然言語処理研究発表会 表彰
以下の論文が第263回自然言語処理研究発表会において表彰されました。優秀研究賞
李聖哲, 大萩雅也, 塚越駿, 福地成彦, 柴田知秀, 河原大輔. 実在しないエンティティや出来事に関する合成文書を用いたRAGベンチマークの構築.
2025/2/28: オープンラボ開催
3/17-18に学内3年生、2年生向けのオープンラボを開催します。こちらのフォームから予約をお願いします。2025/2/25: 言語処理学会第31回年次大会(NLP2025) 発表
3/10-14に開催されるNLP2025で以下の研究発表をします。小川隼斗, 河原大輔. 和歌の埋め込みに基づく本歌取りの推定.
小川隼斗, 河原大輔, 相澤彰子. LLMの学術ドメイン適応のための合成データに基づく統合フレームワーク.
杉浦一瑳, 栗田修平, 小田悠介, 河原大輔, 岡崎直観. オープンLLMによる翻訳を活用した日本語CLIPの開発.
村田栄樹, 河原大輔. SvMoE: MoEルータの教師あり学習.
堀尾海斗, 福田創, 小川隼斗, 鈴江万碧, 織田宥楽, 河原大輔, 関根聡, 安藤まや. 日本語の包括的な指示追従性データセットの構築.
堀尾海斗, 河原大輔. 真面目LLMと不真面目LLMで推論能力は変わるか？
Sebastian Zwirner, Wentao Hu, Koshiro Aoki, Daisuke Kawahara. Sparse Autoencoders as a Tool for Steering the Output Language of Large Language Models.
榎本倫太郎, 新妻巧朗, 栗田修平, 河原大輔. 大規模言語モデルにおける多段推論の依存構造と推論能力の関係検証.
小林俊介, 河原大輔. LLMによるクイズの自動生成と質問応答への応用.
山本貴之, 河原大輔. 多様な言い換え生成と自己学習手法の統合による大規模言語モデルへの新規知識の追加学習.
青木洸士郎, 河原大輔. 大規模言語モデルは他者の心をシミュレートしているか.
福田創, 小川隼斗, 堀尾海斗, 河原大輔, 柴田知秀. 日本語創造性ベンチマークの構築.
源怜維, 小田悠介, 河原大輔. 大規模言語モデルの事前学習用コーパスにおける要配慮個人情報の検出.
笹川慶人, 前田航希, 杉浦一瑳, 栗田修平, 岡崎直観, 河原大輔. LLM-jp-3 VILA: 日本語マルチモーダルデータセット及び強力な日本語マルチモーダルモデルの構築.
近藤瑞希, 河原大輔, 倉林利行. 関数単位の修正箇所特定によるリポジトリレベルのバグ修正.
尹子旗, 村田栄樹, 河原大輔. 連合学習におけるLoRAの統合数と精度の関係の検証.
植松拓也, 福田創, 河原大輔, 柴田知秀. Japanese MT-bench++: より自然なマルチターン対話設定の日本語大規模ベンチマーク.
鈴江万碧, 堀尾海斗, 折田奈甫, 河原大輔. 対話に対する共感のアノテーションと共感制御可能な対話モデルの構築.
石原 祥太郎, 村田 栄樹, 高橋 寛武, 中間 康文. 日本語ニュース記事要約支援に向けたドメイン特化事前学習済みモデルの構築と活用.
中村友亮, 堀尾海斗, 飯塚康太, 小田桐海翔, 吉藤尚生, 河原大輔. 高品質な合成データに基づくドメイン特化LLM開発フレームワーク. (JLR2025)
李聖哲, 大萩雅也, 塚越駿, 福地成彦, 柴田知秀, 河原大輔. 実在しないエンティティや出来事に関する合成文書を用いたRAGベンチマークの構築. (JLR2025)
2024/9/16: 夏ゼミ合宿 実施
9/14-16に軽井沢セミナーハウスにて夏ゼミ合宿を実施しました。2024/9/6: NLP若手の会(YANS)第19回シンポジウム 表彰
以下の発表がYANS第19回シンポジウムにおいて奨励賞として表彰されました。渡邉一功, 河原大輔. 学習過程における重みのマージによるモデル最適化.
堀尾海斗, 河原大輔. LLMは真面目・不真面目になれるか？