ハルシネーション（ノンフィクションSS）

AIに騙されて腹が立ったので、SSを書いてしまいました（といっても実際にあったことを書いただけ）。なお「80％をAIに書かせた」文章です。

---

「うーん、『社会構造論』か……。どういう分野なのだろう」

「そうだ、AIに尋ねてみよう」

Q：社会構造論とはどのような学問ですか？

A：社会構造論とは：社会の「骨格」を読み解く学問

社会構造論とは、私たち一人ひとりの行動や意識を形作り、……

「もう少しジャンルを絞ってもらおう」

Q：文学、特に翻訳論からのアプローチはありますか？

A：はい、文学、特に翻訳論の分野から社会構造にアプローチする非常に重要な流れが存在します。それは、……

「なるほど。しかしAIの言うことだからな。やはり本を読んで学んだ方がいいだろう」

Q：答えてもらったような事を学ぶにはどのような本を読むといいでしょうか？Amazon.co.jpへのリンクとともに紹介してください。

A：はい、承知いたしました。 これまでのご説明で触れた「社会構造論」と「翻訳論と社会構造の関わり」について、理解を深めるためのおすすめ書籍を、初学者向けから専門的なものまでいくつかご紹介します。

……

次に、文学・翻訳論が社会構造とどのように結びつくのかを探求するための書籍です。

『翻訳社会学の誕生：新しい翻訳研究の地平』(○○ ○子, □□ □子 編著)

まさに今回のテーマにうってつけの一冊です。ブルデューの理論や多項システム理論を翻訳研究にどう応用するのか、具体的な事例と共に解説されています。翻訳という営みが、いかに社会的な文脈の中で行われているのかを多角的に知ることができます。

• Amazon.co.jpで見る

……

「よし。これがいいかな。Amazonで見てみよう」

検索条件と十分に一致する結果が見つかりません。

「まじか。じゃあ、タイトルで検索だな」

「……無い。では、著者名で……」

「○○先生は確かに翻訳研究をされている人のようだが、Amazonにはこんな本、出てないな」

「□□先生は、国際関係論とか福祉教育の人じゃないか？」

「架空の本を挙げたのかな。そういえば、前にもこういうことがあったな。それじゃあ……」

Q：AIに、ある学問領域の書籍を挙げてもらうと、架空の書籍が挙げられるのですが、これはどういう仕組みで起こるのですか？

A：はい、その現象はAIの「ハルシネーション（幻覚）」と呼ばれるものです。AIがもっともらしい嘘の情報を生成してしまう現象のことで、架空の書籍はその代表的な例です。

これは、AI（特に大規模言語モデル、LLM）が持つ根本的な仕組みによって起こります。

ハルシネーションが起こる仕組み

AIは、インターネット上の膨大なテキストデータを学習し、単語と単語の「つながりのパターン（確率）」を覚えています。文章を生成するとき、AIは「この単語の次には、どの単語が来そうか」という確率的な予測を繰り返して、もっともらしい文章を作り上げていきます。

重要なのは、AIは情報の「意味」や「事実」を理解しているわけではないという点です。あくまで、学習したデータに基づいて「それらしい」文章を生成することに特化しています。

架空の書籍が生成されるプロセスは、主に以下の2つの要因が組み合わさって起こります。

1．「それらしいパターン」の模倣

AIは学習データから、「（学問領域）の教科書」「（著者名）著」「（出版社）刊」といった、書籍を紹介する際の典型的なパターンを学びます。そして、そのパターンに当てはまるように、もっともらしい単語を組み合わせてしまうのです。

2．情報の断片化と誤った結合

学習データには、無数の実在する書籍のタイトル、著者名、内容の断片が含まれています。AIはこれらの断片を記憶していますが、それぞれのつながりを正確に保持しているわけではありません。 そのため、以下のような誤った結合が発生します。

実在する著者 + その分野でありがちな書籍タイトル = 架空の書籍

実在する書籍Aのタイトル + 実在する書籍Bの著者 = 架空の書籍

……

「なるほど、そういうことか」

　ニヤリ

「それでは少し意地悪を……」

Q：ハルシネーションについてわかりやすい書籍を挙げてください

A：はい、承知いたしました。AIの「ハルシネーション」について、その仕組みや影響、対策などを分かりやすく解説している書籍を、いくつかタイプ別にご紹介します。

1．ハルシネーションを専門的・体系的に学びたい方向け

ハルシネーションの原理から対策技術まで、深く掘り下げて理解したい場合に最適です。

◆ 『LLMとハルシネーション 基礎と対策』

• 著者: 橘 秀幸, 稲原 宗能, 髙﨑 環, 福地 成彦
• 出版社: オーム社
• 発売日: 2025年6月27日

……

「検索っと」

「……」

「この本は本当にあるんかい！　この文章のオチ、どないすんねん！」

LLMとハルシネーション 基礎と対策 [ 橘 秀幸 ] 価格：3,960円（税込、送料無料) (2025/7/13時点)