내용으로 건너뛰기
KV_case_A-6.png__PID:6966c22f-aa07-4b1e-a28a-e8ebc4a863ed

AIが嘘を付く?ハルシネーションってなに?

近年、生成AI技術の急速な進歩により、ファッション業界とクリエイティブ業界でもAIの活用が盛んになっています。しかしAIツールを初めて使用すると、「AIが嘘をつくことがあるって本当?」という疑問に直面することがあります。特に「ハルシネーション」という現象が取り沙汰されており、これはAIが事実でない情報を生成することを指します。この記事では、ハルシネーションとは何か、なぜ発生するのか、そしてどのようにリスクを回避しながらAIを活用するのが良いかについて詳しく解説します。

Jun 6, 2024

プロンプト必要な基本要素を理解し、プロンプトに盛り込もう

プロンプトとは、生成AIに対して「どのような画像を生成してほしいか」を具体的に指示するテキスト入力です。適切なプロンプトが書かれていないと、AIは意図を正確に把握できず、期待通りの画像が生成されません。しかし、適切なプロンプトを作成すれば、AIはあなたのアイデアをより相応しく視覚的に表現できます。

そのためには、「被写体」、「視点や構図」、「画風や描写」の3つの基本要素を理解し、それらをプロンプトに盛り込むことが重要です。具体的かつ詳細な指示を与えることで、AIはあなたの意図を正確に読み取り、理想的な画像を生成することが可能になります。

プロンプトの基本要素
1. 被写体
2. 視点や構図
3. 画風や描写

ハルシネーションとは何か?

ハルシネーションは、AIが実際には存在しない、あるいは間違った情報を生成してしまう現象のことを指します。この言葉はもともと医学用語で、「幻覚」を意味します。しかしAI分野では、その名の通り、AIが幻覚を見ているように「もっともらしい嘘」を出力するために使われます。特に、生成AIがテキストや画像を生成する際に問題になることが多いです。

なぜ ハルシネーションが起こる ?

1. 学習データの誤りと不完全性

生成AIは膨大なデータを学習して情報を提供しますが、その中には誤った情報や偏りが含まれています。特に、フィクションや偏見の入ったデータを学習することにより、生成される情報が事実とは異なることがあります。例えば、ブログ記事やSNS投稿、誤報が含まれるニュースなど信頼性に欠けるソースからのデータが原因で、AIが誤った結論を導くことがあります。

2. 文脈を重視した過度の推測

AIは質問や指示(プロンプト)に対して自然で一貫性のある回答を生成しようとするため、文脈に沿って情報を調整することがあります。しかし、この過程で正確性が犠牲になることがあるのです。例えば、特定の著名人や事件についての質問に対して、その文脈に自然に合わせるために実際には存在しないエピソードを追加することがあります。

3. 情報の古さと最新トレンドの未対応

AIの知識ベースは過去のデータに基づいており、最新情報を常に反映しているわけではありません。そのため、時代の変化や新しい発見に対応できず、今の時点では正確でない情報が生成されることがあります。例えば、新しいトレンドや現在進行中のプロジェクトなど、最新の情報に基づいた質問には正確に答えることが難しい状況です。


Group 182.png__PID:6ddcaa1b-ed50-4fbc-82c7-5f9fe8d64a45

この例は、Chat GPT-3.5が「Open Fashion」について誤った情報を提供しているハルシネーションの一例です。Chat GPT-3.5の学習期間は2021年9月までのデータに基づいています。実際には「Open Fashion」は2024年6月に「Omnis」から社名を変更した会社であり、過去には存在しない会社です。しかし、AIは自ら学習していない内容を勝手に創作し、実際の事業内容と異なる説明を行いました。このように、AIから提供される情報には注意する必要があります。

 ハルシネーションの例

チャット.png__PID:db68a560-1dc2-4cfa-9e9a-0e94fd9dbf89


Group 183.png__PID:dcaa1bed-50af-4cc2-875f-9fe8d64a4532

 ハルシネーションへのリスク対策

文章生成AIが生成した回答の根拠や裏付けを確認する

文章生成AIが生成した回答は、表現や言い回しが非常に自然であるため、正しいと感じてしまいがちです。しかし、生成された内容には最新の情報が反映されていなかったり、偏った価値観やアンコンシャスバイアス(無意識の偏見)が含まれていることがあります。そのため、必ずしもその内容が「正確」とは限りません。

対策:情報の裏付け確認
例えば、AIから提案された内容を拡散や実行する前に、その提案内容を信頼できる情報源や公式データと照合することが必要です。具体的には、政府の統計データ、業界団体の公式レポート、信頼性の高いニュースメディアなどを参照して、AIが生成した情報の正確性を確認しましょう。

ガイドラインを作成し、利用する

生成AIツールを社内で効果的かつ安全に使用するためには、明確なガイドラインを作成することが必要です。このガイドラインには以下の内容を含めると良いでしょう。

1. AIツールの使用目的と制限:AIは補助的なツールであることを徹底し、その出力を唯一の情報源として利用しないことを強調します。

2.情報の確認と検証の手順:AIが生成した情報を他の信頼できるソースでクロスチェックする手順を具体的に示します。

3.ハルシネーションのリスクと対策:具体的なリスク事例を挙げ、どのように対処するかを教育します。

ガイドラインを作成し、チームに周知徹底することで、生成AIのリスクを最小限に留め、正確かつ信頼性の高い情報に基づいた意思決定を支援します。ガイドラインに従うことで、誰でも簡単に情報の確認と検証を行うことができ、安心してAIを活用できるようになります。

画像生成のプロンプトの書き方のコツは...?

Group 181.png__PID:25bc45b6-59a2-4ed8-81d5-c1a5d46451af
BsCheckCircleFill.png__PID:7c46d5b1-6e94-420c-8248-7961f8f597fdBsCheckCircleFill.png__PID:7c46d5b1-6e94-420c-8248-7961f8f597fdBsCheckCircleFill.png__PID:7c46d5b1-6e94-420c-8248-7961f8f597fd

AIは万能ではない: 出力される情報には常に疑いを持ち、必ず確認する。

ガイドラインとチェックリストの整備: 誰でも確実に確認できるよう、情報の確認手順をガイドラインとチェックリストとして整備し、徹底する。

継続的な情報の収集と習得: 技術や情報の正確性は変わるため、最新の知識と技術を常に収集し、習得する。

ハルシネーションについて正しく理解し、チェック方法を確立しながら生成AIを活用しましょう。これにより、提供された情報の正確性を確保し、安全かつ効果的にAIを利用することができます。

Mask group (5).png__PID:e123103a-e51b-4f8f-97e1-942b72a88450

Maison AI 活用 Advisor

OpenFashion COO

上條 千恵

OpenFashion / ファッションドメインスペシャリスト大学在学中にファッションSPAで店舗オペレーションを経験し、そのままファッションの世界に。デザイナー、MD、マーケティング、EC、システム開発、グローバル新規事業開発・運営などを歴任した、アパレル歴20年のドメインスペシャリスト。組織やデジタルなどファッション業界で障害になりがちな境界線に向き合い、課題の発見から解決まで現場に寄り添いながら提供、より良いサービスを実現するのがやりがい。現在は株式会社ワールドにて、ジェネレーティブAI活用した新規事業開発のプロジェクトを担当。