ロシア語で書かないで！
無料で使える生成AI「Gemini 2.0 Flash」が、なかなか使いこなせません。
その理由は、時々ロシア語(たぶん)を混ぜてくるから。
もう、使うのが嫌になるぐらい変。
「ロシア語を使わないで！」「日本語に直して！」と指示しても、容赦なく混ぜてくる。
ちょっとした小競り合いは日常茶飯事。
そこで、Gemini本人に、なぜロシア語を出力するのか聞いてみました。
なぜ？Geminiが時々ロシア語みたいな言葉を生成する謎
最近、高性能な生成AIとして注目を集めている「Gemini」。
文章作成や翻訳など、様々なタスクで目覚ましい成果を上げていますが、時折、私たちの目を引く奇妙な現象が報告されています。
それは、ロシア語のような、あるいは全く意味不明な文字列を出力することがある、というもの。
例えば、「こんにちは」と入力したはずなのに、「привет как дела」のようなロシア語の返事が返ってきたり、意味のないアルファベットの羅列が出力されたりするケースがあるようです。
なぜ、このような意図しない出力が起こるのでしょうか？その背景には、いくつかの要因が考えられます。
大規模言語モデルの学習データ
Geminiのような大規模言語モデルは、インターネット上の膨大なテキストデータを学習しています。
このデータの中には、様々な言語の文章が含まれており、ロシア語のデータも例外ではありません。
学習の過程で、AIは単語と単語の関連性や文法構造などを統計的に学習します。
しかし、完璧に言語を理解しているわけではないため、異なる言語間のパターンを誤って関連付けてしまうことがあります。
例えば、日本語の「は」という助詞と、ロシア語の動詞の語尾が、内部的な数値表現において近い位置にマッピングされてしまう、といった可能性も考えられます。
内部的な処理の複雑さ
生成AIの内部で行われている処理は非常に複雑です。
入力されたテキストは、単語や文節に分解され、数値化されたベクトル表現に変換されます。
これらのベクトル表現は、AIの内部で複雑な計算を経て、最終的な出力として再構成されます。
この過程で、わずかな計算のずれや、学習データの偏りなどが影響し、意図しない言語の要素が混入してしまうことがあります。
翻訳モデルとの連携
Geminiは、翻訳機能も備えています。
内部的には、翻訳モデルとテキスト生成モデルが連携して動作している可能性があります。
もし、入力されたテキストが誤って翻訳モデルに渡されたり、翻訳モデルからの出力が適切に処理されなかったりした場合、意図しない言語の単語やフレーズが出力されることも考えられます。
特殊なトークンの影響
大規模言語モデルは、単語だけでなく、文章の区切りや特殊な記号なども「トークン」として扱います。
学習データに含まれる特殊なトークンが、何らかの拍子に意図しない形で出力されてしまう可能性も否定できません。
ハルシネーション（幻覚）
生成AIは、学習した情報に基づいて新しいテキストを生成しますが、時には事実に基づかない内容や、文法的に不自然な文章を出力することがあります。
これは「ハルシネーション（幻覚）」と呼ばれる現象の一つです。
ロシア語のような単語の出力も、このハルシネーションの一種として捉えることができるかもしれません。
AIが内部的に生成した意味のないパターンが、たまたま既存の言語の単語に似てしまった、という可能性も考えられます。
まとめ
Geminiがロシア語のような単語を出力する原因は、一つに特定することは難しいですが、学習データの特性、内部処理の複雑さ、翻訳モデルとの連携、特殊なトークンの影響、そしてハルシネーションなどが複合的に関わっていると考えられます。
AI技術は日々進化しており、これらの課題も徐々に解決されていくことが期待されます。
それまでは、Geminiのユニークな（？）一面として、少しだけ大目に見てあげる必要があるかもしれませんね。
考察
↑だそうです。
> それまでは、Geminiのユニークな（？）一面として、少しだけ大目に見てあげる必要があるかもしれませんね。
「ユニークな」ですって。
なにをほざいていらっしゃいますの。
ただ、有料版を使っている知人に聞くと、ロシア語なんて全然吐き出さないんだとか。
メインでChatGPTを使っているらしいので、Geminiをそこまで活用していないだけかもしれませんが……。
便利に使いたいのなら、お金を払えってことなのでしょうかね。
Geminiにはまだお金を払えそうにないので、次のバージョンアップで進化してくれるのを待ちます。