2025.04/22 AIブームと不易流行（9）

推論には、科学で使われる前向きの推論と第一次AIブームで検討された逆向きの推論があり、逆向きの推論では、ゴールとなる結論を満たすケースだけ考えればよい。

この逆向きの推論によるアルゴリズムの効率の良さは、1960年代の受験参考書にも「結論からお迎え」と標語化されており、実務から大学入試まで使える範囲は広い。

難解なAIであるが、成果を使うだけであれば、その敷居は低い。まず、使ってみることが重要となってくる。　


ちなみに、生成系AIでは、質問の回答に事実と異なる内容や文脈と無関係な内容を生成するハルシネーション（幻覚）が問題となっている。

これを防止するための工夫として、システムプロンプトを制御する方法がある。例えば、情報が無ければ回答しないことを命じたり、グラウンディング（grounding）というテクニックがあるが、質問内容をChain of Thought(CoT)、すなわち前向きの推論だけでなく逆向きの推論も含め、思考過程や推論の展開過程を指示するテクニックを駆使するとハルシネーションの発生率を下げることができる。

カテゴリー : 一般