第１４回

大阪公立大学　工学部　情報工学科
合田 光希
 

　皆様、はじめまして。情報工学科4年の合田光希です。
 
　約3年半の大学生活が過ぎ、大学生活も残り半年となりました。森之宮キャンパスが去年の今頃に開設されましたが、授業・研究室ともに中百舌鳥キャンパスであり、中百舌鳥に下宿しているので恥ずかしながら森之宮には一回も行ったことがありません。せっかくだし気が向いたら一回は行っておこうかなと思っています。でも、森之宮開設のおかげで中百舌鳥キャンパスの人口密度が減って風通しがよくなったのは嬉しいです。下級生の人たちは森之宮と中百舌鳥だったり、森之宮と杉本だったりと複数のキャンパスに移動させられるのは可哀そうだなという印象ですが、あまりマイナスなことを言うと怒られるかもしれないのでやめておきます。

図1 森之宮キャンパス（参照: 大学HP. https://www.omu.ac.jp/fund/donation/morinomiya/ ）

 
　さて、情報工学科では3年の後期から研究室に入って研究が始まります。私は特にAIに関する研究を中心に行う研究室に配属されました。先輩からいろんなことを教えてもらって、なんとかついていけている感じです。私は主にLLM（大規模言語モデル）の研究をしており、3年のときは数学問題を解くLLMの精度を向上させる研究[1]を行いました。当時はLLMのことについてあまり知識がなく、先生や先輩たちの助言によりいろんな手法を学ぶことができました。授業最後の発表では先輩方に資料やスライドの添削をしてもらい、発表当日でも研究室全員で発表を聞きに来てくれたのでとても温かい研究室だなと感じました。4年の前期ではBabyLM challenge[2]というコンペティションに参加し、少量のデータセット＋小規模な言語モデルで効率よく言語能力を獲得する方法を模索する研究を行いました。先輩のやっている研究の補強的な立ち位置で研究していたのですが、先輩が考案した言語モデルがコンペティションの上位に食い込んでいたので、素直にすごいなと思いました。

 

図2  赤枠で囲っているのが私の研究室の提出モデル。3位から5位を席巻しています。

 
自分もこのくらい研究できたらいいのになと思っているのですが、なかなか難しいと感じている今日この頃。そして今現在、AIMO Interpretability Challenge[3]という数学を解く言語モデルの堅牢性を向上させる研究を行っています。数学問題を解く言語モデルは、正しい答えを出していても、問題文の表現や文脈を少し変更すると急に解けなくなることがあります。そこで、モデルの内部状態や推論時の情報などを利用して、その推論が表面的な特徴に依存せず堅牢なものかどうかを高精度に判別する方法を模索するのが、このコンペティションです。

図3 AIMO Interpretability Challenge

 
研究についてですが、実のところCodexやClaudeといったLLMにとても助けられております。LLMによって実験の実装やデータをまとめる作業、報告書作成をとても効率よく行ってくれます。しかし、LLMのせいで、文章を書く能力がとても低下したように感じます。この文章も拙さが感じられるのではないでしょうか。スマートフォンに依存するのと同じようにLLMへの依存が止まりません。LLM断ちするのは流石にできないですが、なんでもかんでもLLMに頼るのはやめたいですね。ちなみにこの文章はLLMを用いておりません。安心してください。
 
　最後になりますが、大阪府の授業料無償化や森之宮キャンパスの開設、2028年から予定されている工学部再編、2029年の秋入学開始構想などを見ていると、この大学からは新しいことに挑戦しようという気概を感じます。大学の人気も高まってきて、弊学を志望する受験生の数も以前より増えているという話も耳にしたことがあります。この大学のますますの繁栄をお祈り申し上げます。次回は電子物理工学科の方が書いてくれるみたいです。お楽しみに！
 
 
参考文献
[1] 大規模言語モデルのファインチューニング技術と評価. NLP2026. https://llm-jp.github.io/tuning-competition/2026/feature.html
[2]BabyLM Challenge. EMNLP2026. https://babylm.github.io/
[3]AIMO Interpretability Challenge. Neurpis 2026 Competition. https://aimo-interp.github.io/