エリアス・ソーンによるチャットボットへの執着の起源と物語の灯台が研究で明らかに 著者 Beatriz
読了時間 約6分
 |
ChatGPT、Gemini、Claude などの大規模言語モデル (LLM) は、エリアス ソーンという名前のキャラクターを中心としたストーリーを作成するという好奇心と持続的な傾向を示しています。この数字は、一方的に求められていないように見えますが、すでに仮想アシスタントの世界を超えており、現在では Amazon の自費出版の本、YouTube のビデオ、さらにはフェイクニュースサイトにまで現れており、これらのテクノロジーの形成と偏りについて疑問を引き起こしています。
人工知能の物語におけるエリアス・ソーンの遍在
ソフトウェア エンジニアのダニエル メイは、2026 年の初めにこの特異性に最初に気づいた 1 人で、Google トレンドで「エリアス ソーン」の検索数が増加しており、それが「灯台守」などの用語の増加と一致していることに気づきました。さまざまなチャットボットをテストしたとき、メイ氏は、ストーリーを語るように求められると、多くのチャットボットが灯台、時計職人、探検家などを巻き込んだ同様のテーマの物語を始めることが多いことに気づきました。キャラクターは、灯台守、時計職人、図書館司書まで、さまざまな職業で登場します。
学術研究により、ロボットにおけるキャラクターの再現が明らかに
5月、コーネル大学の研究者シル・ハミルトン氏とデビッド・ミムノ氏は、「灯台のエリアス、再び?」と題したプレプリント研究を発表した。この研究では、OpenAIのChatGPT、AnthropicのClaude、GoogleのGemini、およびAllen Institute for AIのチャットボットによって生成された2万件のストーリーを分析した。調査の結果、ストーリーの 88% 以上に同じ 11 語が含まれており、モデル間での差異はほとんどないことが明らかになりました。
- エリアス、マーラ、エララなどの固有名詞。
- 灯台守、時計職人、図書館司書などの特定の職業。
言語モデルの「家系図」における文字の起源
研究者らは、これらのテーマの頻度がモデルの調整とセキュリティのプロセスに関連していると示唆しています。ハミルトン氏によると、LLM の現在の開発は、他のモデルから合成されたトレーニング データを使用して、多くのモデルが相互接続される「家系図」を形成します。 ChatGPT の最初のモデルである GPT-3.5 は、このツリーのルートとみなされ、トレーニング データセットである WildChat の作成に使用され、その後、新しいデータセットの生成に使用されました。
WildChat には ChatGPT との実際の会話が 100 万件含まれており、そのうち 166 件にはすでに灯台を思わせる語り口調で「エリアス」という名前が含まれています。 WildChat でトレーニングされた後続のモデルは、このスタイルを再現しました。開発者は、これらのモデルを使用して新しいデータセットを作成することで、知らず知らずのうちにこの「感染」を永続させ、ストーリーを広める「ウイルス」のように機能しました。
イライアス・ソーン: チャットボットから偽情報の現実世界へ
イライアス・ソーンの存在はチャットボット環境を超えました。ダニエル・メイは、代替医療マニュアル、YouTubeアルゴリズムガイド、ギリシャ神話に関する本、さらにはAmazonで心理スリラー小説の著者としてエリアス・ソーンの名前を挙げた。メイ首相は「人間がこのすべてを書いているわけではない」と指摘し、これらの投稿から有害なアドバイスが生まれる危険性を強調した。
近年、Amazon で AI によって生成された書籍が急増しており、誤った情報や重大な間違いを含むコンテンツが含まれており、図書館員にとって問題となっています。エリアスはまた、YouTubeやフェイクニュースサイトの「下劣な世界」にも侵入した。低品質のイラストを含むビデオでは、彼は83歳の曹長として、または爬虫類の保護区で妻に撃たれた男性として登場します。彼は悲劇的で不当な扱いを受け、年老いた人物として描かれることが多いが、この名前はBBCの子供向けコンテストの最終候補に挙げられたヒューマンストーリーにも使われた。
AI モデルのセキュリティ調整により、「安全な」ナラティブが好まれることが説明されます
世界中のあらゆる文献にアクセスできるにもかかわらず、なぜ LLM が灯台のテーマに頼るように見えるのかという疑問は、安全性を確保するためにモデル出力をサニタイズして調整しようとする開発者の試みにあります。ハミルトン氏は、WildChat 上の多くのストーリーは「仕事に安全」ではないと説明しました。このため、研究者らは、モデルが調整を行う際に、最終的にはボトルネックなど、WildChat の「安全な」ストーリーのごく一部を優先することになるのではないかという仮説を立てました。エリヤの物語が絶対的に頻繁にあるというわけではなく、むしろ一貫して「安全」であり、モデルの標準出力となっています。
研究者らは今後の調査でこの理論を探求する予定だ。興味深いことに、LLM の物語に現実に近づいたエリアスがいたのです。エリアス アレンは 16 世紀のロンドンの時計職人であり、恐竜攻撃ではタイムトラベルをするマッドサイエンティストでもありました。カードシリーズ。これは、生成 AI の時代以前から、この名前がすでにある程度の文化的存在を持っていたことを示しています。
