ステアリングベクトルは日本語LLMを堅牢に制御できるか？

Abstract

大規模言語モデル (LLM) のミスアライメント抑制において、推論時の活性化を操作するステアリングベクトルが注目されている。しかし英語圏モデルではその効果が入力により不安定である報告がされている。本研究では、日本語LLM (Swallow, LLM-jp) においてステアリングベクトルの分布内信頼性と分布外汎用性を評価した。結果、その効果は層・モデル・データセットに強く依存し、分布内でも効果のばらつきや反ステアリングが生じ、分布外では効果が不安定化することをを確認した。本知見は、日本語LLMにおけるステアリングベクトルの応用には安定化などの課題が残ることを示唆する。