コース: プロンプトエンジニアリング基本講座

情報の正確性 - ChatGPTのチュートリアル

コース: プロンプトエンジニアリング基本講座

情報の正確性

“

生成 AI を実業務で活用する際に、 注意してほしい４つのリスクがあります。 このレッスンでは、 情報の正確性というところの リスクについて、解説します。 ChatGPT や生成 AI が 出力したものを鵜呑みにしない ということを注意してください。 理由としては、 「ハルシネーション」というものを 生成 AI は起こします。 「ハルシネーション」とは、 もっともらしいウソ、 事実とは異なる内容や 文脈とは無関係な内容を 出力することがあります。 こちら、理由も含めて解説します。 ChatGPT や 生成 AI というものは、 ジェネレーティブ AI とも言いますが、 あるひとつの単語が入力されると、 それの次に、一番続く可能性が高い文字を 連結するというものが、 仕組みとなっております。 例えば、「吾輩」という文字が 入力されたときに、 次に続く確率が最も高いもの というのを選択します。 今回で言うと、 「は」というものが高かったので、 「は」を出力しました。 同じように、「吾輩は」の次に、 最も続く可能性があるものとして 「猫」というものが上がっています。 こちらを継続して、 文字を出力しております。 要は、一番確率の高い文字を 連携させているだけなので、 ChatGPT や生成 AI が 文脈の意味を理解しているわけではない ということに注意してください。 こういったことからも、 単に文字を連結させて生成をしているので、 誤った情報や、無関係な内容を 出力する可能性もあります。 先ほど、生成 AI の注意点として、 「ハルシネーション」もっともらしいウソを 出力されるという可能性がある ということを説明しました。 必ずしも、 ChatGPT や生成 AI が 正確な情報を出力するとは限りません。 出力された情報を 鵜のみにしないということを 注意してください。

目次