2025.02/24 ハルシネーション

イルミネーションでもイントネーションでもない。また、母の日のカーネーションでもない、ハルシネーションの話。春が待ち遠しいのでハルシネーションを書こうとしたわけではなく、その深刻さの警告をサービスとして書きます。

最近生成系AIを利用して調査研究をされている方がいるのではないか。弊社でもそのためのセミナーを用意しており、ハルシネーションを起こしにくいプロンプトデザインの方法をご指導しております。

それに従えば本日書きますサービス情報ような問題を回避することが可能です。しかし、プロンプトデザインに不備があると、AIの知ったかぶりの回答に騙されていても気がつかない。

例えばゴムのコンパウンド製造プロセスやセラミックスの製造プロセスについて、インターネットには誤った情報が氾濫している。このような分野の質問をAIにすると、ベースの情報に間違いが含まれているので間違った答えを平気で出してくる。

それも、もっともらしく論理的な答えを出してくると、その分野の素人には見破ることが難しくなる。それを防ぐためにプロンプトデザインが重要になってくるのだが、ベースとなるネット上の情報が間違っていると小手先のプロンプトデザインだけで対応できない。

そのようなときにどうするかは、プロンプトデザインのカテゴリーに入れてよいのか知らないが、別のAI活用テクニックが必要になる。AIの活用で悩まれている方は、弊社へご相談ください。このような場合の対処テクニックをご教示いたします。

カテゴリー : 一般