生成AIを業務に活用するために、部門の要望を引き出して短期間で開始できるよう、生成AIの準備、検証、展開を内製化するノウハウを伴走型で提供します。
Amazon KendraやAWS Lambdaを使った生成AIの精度や信頼性を向上させるRAGの開発など、実践的なご支援が可能です。
生成AIの活用の課題
生成AIを使うと、自然文で質問をして容易に回答が得られたり、業務用の文章を生成できたりする等、業務の向上が期待できると言われています。一方で、得られる回答や情報の正確さや偏りなどのバイアスが生じないか懸念する声もあります。
例えば、
- 生成AIへの聞き方（質問文）によって、結果が変わってしまうのではないか
- 業務で活用するからには正確な情報が求められるが、モデルが学習していない情報には対応できないのではないか
- 悪意のあるコンテンツやコードを生成してしまう可能性はないか
そこで、生成AIの性能を高めるための工夫や方法が開発されています。
- Prompt-tuning（入力プロンプト設計）
生成AIの大規模言語モデル（LLM)に送るプロンプト（命令・指示）を調整することにより、適切な回答を引き出す - 検索拡張生成（RAG (Retrieval-augmented Generation）など）
自社データから情報を補完してテキスト生成することで、結果の信頼度をあげる - Fine-tuning（モデル微調整）
利用目的にあった大規模言語モデル（LLM)にするための最適化を行う
生成AIを実務で使えるようにするには、自社のデータで精度向上の方法をどう使うとよいか検証して、最適な方法を導き出す必要があります。
実現イメージ
生成AIの精度を向上させる手法を検証するご支援例です。
- 「RAG（Retrieval-Augmented Generation）」による検索の回答精度向上
構成例では、プロンプトをAWS Lambdaで作成し、社内規定をはじめとした社内情報を用意してAmazon Kendraで検索を拡張し、その会社に応じた回答文をAmazon Bedrockで生成します。
社内規定等の情報を、社内FAQの検索に活用するだけでなく、テキスト生成に用いることで稟議書の下書き作成なども可能にします。
- 「Function calling」を利用したスケジュール検索
進め方
これまでの実績をもとに生成AI活用のステップを用意しています。
お客さまの状況を理解し、目指すゴールを明確にしてから具体的な実施内容と検証に必要な期間を整理していきます。
- STEP1：準備
生成AIでできること、生成AI関連のAWSのソリューションを知り、自社のどの業務にどう適用する（ユースケースの特定）と、どのようなビジネス上の効果が期待できるか整理します。
精度向上に用いる学習データの確認も行います。 - STEP2：検証の実施
ユースケースごとに精度向上手法のどれをどう組み合わせるかの検証パターンを設定して、業務で価値を発揮できるかの検証を行います。
Fine-tuningなどの高度な精度向上についてはデータサイエンティストがご支援します。 - STEP3：展開策の検討
検証からみつかった最適な方法を現場で使えるように、自社の業務システムやデータ基盤と連携させたり、セキュリティ面の整備をしたりします。
さらに成果の測定も行います。
豆蔵の強み
- 実績をもとにした、実務で使えるをゴールにした生成AI活用のステップを提供しています
- 生成AIの精度、セキュリティ、運用ポリシーなど、実務で活用するうえでの様々な疑問に、ITとデータサイエンスの両分野を得意とするコンサルタントがお答えします
- 高度なチューニングには、データサイエンティストが対応します