生成系AI活用支援

生成AI利活用にむけて

生成AIを、どのように利用したらいいでしょうか？

生成AIを利活用することで、自然文で質問をして、容易に回答が得られたり、業務に必要なコンテンツに用いる文章を生成できるようになれば、チャットボットやカスタマーサポートにおける質の向上が期待できると言われています。
一方で、得られる回答や情報の正確さや、偏りなどのバイアスが生じないか懸念する声もあります。

生成AIが抱えるリスク

生成AIから得られた結果が、非倫理的でない、偏っていない、信頼できる情報と言えるか
業務で活用するからには正確な情報が求められるが、モデルが学習していない情報には対応できないのではないか
生成AIへの聞き方（質問文）によって、結果が変わってしまうのではないか
悪意のあるコンテンツやコードを生成してしまう可能性はないか

生成AIが高度な出力を行えるように、性能を高めるための工夫や方法が開発されています

大規模言語モデルが対応するタスク

大規模言語モデルが対応するタスクをご紹介します

No	タスク名	概要
1	文書分類	予め決められたカテゴリに文書を分類が行なえます。例えば「スパム」と「非スパム」というカテゴリを用意し、受信メールに分類を適用すると、スパムメールの検出が可能です。他にも、「ポジティブ」や「ネガティブ」などのカテゴリを用意し、製品レビューに分類を適用すると、対象製品の評判を自動的に分析する感情分析が行えるようになります。
2	質疑応答（Q&A)	自然言語で、音声または文字で与えられる質問に対して応答を返します。最近では、スマートスピーカーであったり、ECサイトなどでの自動質問回答やSlackやLINEを活用した自動応答システム（チャットボット）などにも活用されています。入力に対して正しい返答をするために、入力された内容の意味を解析することが非常に重要になります。
3	要約（文章要約）	与えられた文章の要約を短くまとめることができます。新聞記事の本文からその内容を端的に表す見出しを生成したり、会議の議事録から要点をまとめるといった応用が　期待されています。
4	機械翻訳	音声または文字で入力された文章を、別の言語に翻訳するシステムです。入力された文章の意味を理解するだけでなく、別の言語の構文規則に合わせて文章を構築します。
5	情報検索	ユーザが必要としている情報を検索によって探し出し、提示します。代表的な例が、GoogleやEdgeを使って検索するウェブ検索サービスで、キーワードなどで表現された問合せ（検索クエリ）に対してユーザが閲覧したいと思われるウェブサイトを提示します。
6	抽出	文書の中から重要と思われる単語やフレーズを抽出します。例えばＳＮＳ上の投稿でよく出現するキーワードを取り出すことで、世の中の流行や人の関心を知ることができます。また、ビジネスニュースの記事から会社名と事例を取り出すことで、企業活動を効率的に把握できます。
7	テキスト生成	モノやコトに関する情報や入力されたテキストデータの文法や意味、内容を理解して、新しい文章を生成したり、質問に対する適切な答えを返します。
8	コード生成	開発者向けにコード変換、仕様書、テスト設計などに対応します。コードを自動生成し、開発者の作業を助けることが期待されています。

生成AIの性能を高めるための工夫や方法の検証

生成AIを利用して効果的に回答を引き出すことにつながる下記方法の検証を通じて、実際の業務での
活用について考えていくことができます。

	検証内容	概要	難易度	備考
1	Prompt-tuning （入力プロンプト設計）	•生成AIの大規模言語モデル（LLM)に送るプロンプト（命令・指示）を調整することにより、適切な回答を引き出す •システム開発のコストがほとんどかからない	低	データ事前準備は不要
2	検索拡張生成 RAG (Retrieval-augmented Generation）など	•自社固有データなどを連携して、モデルのカスタムチューニング/追加学習を行う •外部知識等も参照でき、検索結果の信頼性が高まる	中	連携情報の事前準備が必要
3	Fine-tuning （モデル微調整）	•既に存在するモデルに対して追加学習、または学習をし直し、利用目的にあった大規模言語モデル（LLM)にするための最適化を行う •汎用モデルを特定タスクに適応する場合は効果的	高	追加学習用データが必要（少量可)

生成AI利活用にむけての事前検討

生成AIの精度を向上させる手法の検証内容について整理しました。

検証1：RAG（Retrieval-augmented Generation）を利用したユースケース案

社内で保有している情報を活用して検索精度向上

ユーザーによる検索実施の場合

検証２　Function callingを利用したユースケース案

「Function calling」を利用してスケジュール検索

1.事前準備

2.例：ユーザーによるスケジュール検索

生成AI活用のステップ

生成AI の業務活用に向けて

お客様の状況を理解し、目指すゴールを明確にしてから具体的な実施内容と検証に必要な期間を整理していきます。

生成AI 活用に向けて　検討すべき課題や懸念事項

生成AIを貴社業務に組み込み、効果を発揮するためには、多くの検討すべき課題や懸案事項があると想定されます。特に本格展開していくにあたっては、運用方法や人材面での検討も必要です。

よくある質問と回答

#	質問	答え
1	生成AIの回答は信用できるものなのか？業務に使えるのか？	GPT-3からGPT-4では(hallucination)は減少しましたが、引き続き工夫が必要です。外部アプリケーションを利用する、情報不足の場合は聞き返すPromptの設定をするなどが考えられます。
2	セキュリティは大丈夫か？	システムに入力した情報が、サーバーへ保存されることを拒否するオプトアウト（Opt Out）と呼ばれる機能を使用することにより、入力データが学習データとして利用されることを事前に防ぐという方法があります。
3	生成AIの実利用までにはどのくらいの期間が必要か？	扱う内容にもよりますが、PoC（要相談：数ヶ月）を実施してから、その内容に基づく検討を行ってから実業務への適用を検討するのが妥当と考えます。
4	必要となるツールや開発環境は？	現段階では、基盤モデルは、Azure Open AIの利用を前提としていますが、お客様が利用を想定される環境や内容に応じて検討を行います。