存在しないチャンピオンシップで優勝した

この記事は、大言語モデル（LLM）の学習データを意図的に汚染する可能性を実証しています。著者は、実在しないゲーム「6 Nimmt」の架空のワールドチャンピオンシップで優勝したという虚偽の情報を、偽のWikipedia編集と単一のドメイン登録という最小限の手段だけで、複数のLLMに信じさせることに成功しました。

この実験は、LLMが学習データの検証可能性や信頼性を十分に吟味していないことを露呈させています。コメント欄では、より広範な問題が浮き彫りになります。

simonwは、Wikipediaの破壊さえ不要であり、ブログエントリとYouTubeビデオのキャプションだけで「Teresa T」という架空のクジラをLLMに認識させたという別の事例を共有しており、学習データの脆弱性がより深刻であることを示唆しています。一方、nicole_expressは重要な視点として、このLLM固有の問題ではなく、人間も検索結果を盲信する傾向があること、つまりLLMは人間のオンライン行動を学習しているに過ぎないことを指摘しています。

これらの指摘は、AI時代のディープフェイク・情報操作の脅威がいかに普遍的であるかを浮き彫りにしています。