こんにちは!TECH Street編集部です!
2024年3月27日(水)に開催した、 「生成AIセキュリティ対策事例共有会」のイベントレポートをお届けします。今回の知見共有会では、Azure OpenAIの最新情報を中心としたセミナーと、実際に事業会社内で生成AIを活用した開発事例やセキュリティ対策などについてお届けします。
登壇者はこちらの方々!
寺田 佳央/マイクロソフト・コーポレーション
泉 大喜/パーソルキャリア株式会社
武田 弘晃/日清食品ホールディングス株式会社
早速、内容を紹介いたします!
- Azure OpenAI の最新状況のご紹介
- AIアプリ作成のための知識
- AIモデルの選定や注意点
- 各モデルでできる事と、それぞれの違い
- それぞれの違い
- AIアプリ作成のためのテクニック
- プロンプト エンジニアリング - プロンプトはどのように動く?
- トークン数に応じたAIの課金体系
- プロンプト エンジニアリング- 例の提供
- インストラクト・チューニング
- Temperature(温度)
- AIによる回答結果の改善
- コンテンツ・フィルタ
- Azure OpenAIの最新状況のご紹介
- AzureOpenAIアップデート情報
- 各リージョンでデプロイ可能なAIモデル一覧
- Azure OpenAI On Your Data (GA)
- Text to speech with the Azure OpenAI Service
- オンライン講座のご紹介
- “セキュア”かつ “スピーディ”に生成AIを利活用 PCA Azure共通基盤の挑戦
- 日清食品グループにおける生成AI活用とセキュリティ対策
- 自社環境の生清いAIチャット“NISSIN AI-chat”導入背景
- 公開までのスケジュール
- 日清食品G専用のChatGPT環境 “NISSIN AI-chat”
- ぶつかった壁
- 一番効果が見込めて影響力が大きい部門で成功事例をつくる
- 現場の声を吸い上げる
- NISSIN AI-chatのシステム構成とセキュリティ対策
- 生成AI利用に際するリスク
- NISSIN AI-chatにおけるセキュリティ対策
- NISSIN AI-chatにおけるコンプライアンス対策
- 生成AIの更なる活用に向けた対策
- 【IT部門】社内問い合わせ業務の効率化
- 工場における是正措置ナレッジの有効活用
- 全社共通データベースとの連携
- AI活用を前提とした業務プロセスの構築
- 今後目指すこと
- Q&Aコーナー
最初は、マイクロソフト・コーポレーションの寺田さんの発表です!
Azure OpenAI の最新状況のご紹介
寺田:本日はAzure OpenAI の最新状況について、以下のポイントでお伝えします。
- AIアプリ作成のための知識
- AIモデルの選定や注意点
- AIアプリ作成のためのテクニック
- AzureOpenAI最新情報
- オンライン講座のご紹介
AIアプリ作成のための知識
AIと一口に言っても様々なAIのモデルがあり、何かひとつ使えれば十分ということはありません。
様々な種類のAIを組み合わせて使うことで、できることがたくさん増えていきます。
重要なことは「どんなモデルがあり、どのモデルで何ができるのか」を理解することだと思います。
AIモデルの選定や注意点
各モデルでできる事と、それぞれの違い
埋め込みモデル(text-embedding-ada-002)
埋め込みモデルに関しては、最近第三世代のモデルが出てきました。
マシンにとっては自然言語を扱うよりも、数値データを扱う方が得意なため、数値データを使って、「似ている言葉を探したり」「後に続く文字列はどんなものがくるのか」を計算したりしています。
テキスト生成モデル
一方、私たち人間が扱いやすいものとしてテキスト生成モデルがあります。
それぞれの違い
- チャット入力候補(gpt-35-turbo, gpt-4)
- 画像生成(DALL-E 3)
AIアプリ作成のためのテクニック
プロンプト エンジニアリング - プロンプトはどのように動く?
プロンプトで重要なのは「トークン」と呼ばれているものです。テキストを書いて命令をする際に、AIの内部的には、そのテキストをトークンという単位に分けて扱っています。では、なぜトークンが重要かというと、使用するトークン数によって金額が変わってくるからです。トークンを使うほどお金がかかります。
また、トークンは英語と日本語でその性質が異なります。英語の場合、1つの単語に1つのトークンが使われるのですが、日本語で使用すると変なところでトークンが区切られてしまいます。つまり、英語に比べると日本語のほうがより多くのトークンを消費してしまうのです。よって、費用面を考えると、日本語ではなく、英語で命令を与えて結果を日本語に翻訳して出力させれば、消費するトークンを減らすことができます。(OpenAI 社は現在日本語対応モデルを作成中)
トークン数に応じたAIの課金体系
実際の課金体系は下画像をご覧ください。どの言語モデルを使うかによっても、金額が変わってきます。そのため、言語モデルは適材適所で考えて使用した方が良いと思います。便利だからと1つのモデルを使いすぎると、思った以上のお金がかかることがあります。
プロンプト エンジニアリング- 例の提供
プロンプトという形で命令を与えますが、すでに多くの方がいろんなプロンプトの手法を生み出しています。
- ゼロ ショット プロンプト
- フュー・ショット プロンプト
- 思考の連鎖(Chain of Thought)
- 思考の木(Tree of Thought)
インストラクト・チューニング
これは、システムのメッセージを記載することによって、AIの振る舞いを定義することができます。
- シナリオにおけるモデルのプロファイル、機能、制限事項を定義する
- モデルの出力形式を定義する
- モデルの意図された動作を示す例を提供する
- 追加の動作ガードレールを提供する
Temperature(温度)
ChatGPTなどを扱う際には、「Temperature」というパラメーターも強く意識してください。
同じ質問を繰り返した際に、temperatureを1にすると毎回違った回答を出し、ランダム性が高くなります。一方、0に近づけるとより決定的な回答になるので、同じ質問を繰り返したとしても、毎回同じような回答が出てくることになります。
ランダムな回答が求められているのか、または決定的な回答が求められているのかで使い分けてください。
AIによる回答結果の改善
AIによる回答結果の改善を狙う際に、一番お金がかからない方法は、先ほど紹介したプロンプト エンジニアリングの部分で工夫することです。
その次に、AIが学習しているデータ以上の内容を扱いたい場合に、多くの皆さまにおすすめするのは、「RAG」(Retrieval-Augmented Generation)です。ここまでなら比較的簡単に開発できるところだと思います。
コンテンツ・フィルタ
AzureのOpenAIでは、「コンテンツ・フィルタ」という機能をデフォルトで提供しています。
コンテンツ・フィルタによって、例えば「暴力的」「犯罪系」「薬物系」などの危険な内容が記入されたら弾く設定をすることが可能です。
Azure OpenAIの最新状況のご紹介
GPT-4 Turbo Vision
下画像では、GPTに対して三角形の図の画像を与えて、角度や線の長さを求めるように依頼しています。そうすると、GPT-4 Turbo Visionが画像を解析して回答してくれます。最近、このGPT-4 Turbo Visionが Azuren OpenAIに追加されました。
下画像では、おばあちゃんが手書きで書いた文字を認識して、それをもとに食材を自動的に購入する、というものです。手書きで書かれたものを正しく読み取り、それをもとに何かしらの処理をする、というアプリも出てきています。
下画像では、ヒトデの写真を解析して、ヒトデの数などを回答しています。
これによって、例えば目が不自由な方に対して、目の前の様子を説明してあげることができます。
AzureOpenAIアップデート情報
各リージョンでデプロイ可能なAIモデル一覧
- 現時点でswedencetralが一番多くの新しいAIモデルをデプロイ可能
- gpt-4,0125-Preview(Dec 2023 トレーニング)を利用したい場合はeastus,northcentralus,southcentralus
- 第3世代 text-embedding-3-small,largeを利用したい場合はeastus,eastus2,canadaeast
- イベント登壇後、gpt4o のモデルも登場
Azure OpenAI On Your Data (GA)
自分が持っているデータを簡単に取り込んで、簡単にRAGのようなものを作れるような機能も提供しております。
Text to speech with the Azure OpenAI Service
「Text to speech」というものが追加されました。これはテキストをリアルな音声に変換する機能です。現時点でテキストの文字列の最大は4096文字で、声に関しては男性や女性が選べます。話すスピードは、いくつか選べるようになっています。
オンライン講座のご紹介
最後に、マイクロソフトのアドボケイトのチームが作ったコンテンツを私が翻訳したものがありますので、それを紹介したいと思います。全て無料でご利用いただくことができ、今回紹介した「プロンプトエンジニアリング」のより深い内容など学ぶことができますので、ぜひ利用していただければと思います。
発表は以上です。
寺田さん、ありがとうございました!
続いては、パーソルキャリア株式会社の泉さんの発表です。
“セキュア”かつ “スピーディ”に生成AIを利活用
PCA Azure共通基盤の挑戦
泉:皆さまの組織では生成系AIをどのように活用されているでしょうか?
多くの企業で望まれているユースケースとしては、「社内のデータを利用して業務効率化を図りたい」というものだと思います。
しかしながら、生成系AIのサービスをインターネット経由で利用する場合、情報漏洩のリスクを伴ったり、法令違反や規約に反した学習データの利用などリスクがあります。そのため、サービス事業者としてはこれらのリスクを把握する必要があります。
我々、パーソルキャリアとしては「こういうリスクがあるから使えないね。」で、終わらせないため
- 5000人規模が取り扱う社内の情報を、セキュアに運用する
- 事業に資するプロダクトとして、生成AIをスピーディに活用・展開する
を念頭に置き、それを実現させるために、生成AIの利用ニーズに迅速、かつセキュリティも担保された「PCA Azure共通基盤」を構築し、 Azure OpenAI Serviceの利用展開に踏み切りました。
PCA Azure 共通基盤について
Cloud Adoption Framework(CAF)Landing Zone
- Microsoft社の公式ガイドラインであるAzure CAF をベースにすることで、セキュアかつガバナンスの効いたPCA Azure共通基盤構築を実施しました。
- 基盤管理者側から「ランディングゾーン」を提供することで、利用者(開発者)側が、Azure基盤を自前で用意する必要がなく、開発作業に従事できる環境となっています。
AI Services利用において取り入れているセキュリティコンポーネントの紹介
この発表では、下図の赤い部分の3つのコンポーネント(Express Route Private Peering、 Azure Firewall、 Private Endpoint)について紹介したいと思います。
Azure OpenAI Serviceを活用した社内向けチャットサービスを構築
まず1つ目は、AzureOpenAI Serviceを活用した社内向けチャットサービスを構築しました。
俗に言う、社内版ChatGPTです。
AI Servicesを活用したWebアプリケーション構成(Chatシステム)
- Cosmos DB:利用者が入力するプロンプトやコンプリーション等が含まれるため、インターネット経由でのアクセスは望ましくないと考えました。
- Azure OpenAI Service:より安全に利用することを目的とした、クローズドな環境で利用可能な生成系AIの環境が必要だと考えました。
そこで、下図のような構成にしました。
Azureの仮想ネットワークであるVnetを構成して、各コンポーネントに対してプライベートアクセスさせる構成です。
こうすることで、万が一API機が外部に漏れたとしても、個人端末や外部環境からはリソースへのアクセスはできない形となります。
パーソルキャリア既存システムに Azure OpenAI Serviceを導入する
弊社では、オンプレミスをはじめ、AWS、GCP、オラクルクラウドなどを中心に様々なシステムが稼働しています。これらの環境から、AIサービスをセキュアに利用するために、下図のようなアーキテクチャで基盤設計をしました。
現在、弊社の既存システムではすでにいくつかの開発プロジェクトでこの環境の活用が進んでいます。今後も機能拡充やレベルアップに向けて、プラットフォーム側でさまざまな取り組みを検討しています。
セキュリティ・ガバナンスが担保されたプラットフォームの自動化
世の中の変化に対応し、事業にコミットメントするという観点からも、生成AIのプロダクト開発やインフラ構築をスピーディーに展開する必要があり、そのためにも可能な限りオペレーションを自動化したいと考えました。
「サブスクリプション発行」から「ネットワークの構成」までの一連のオペレーションを自動化したいと考えたときに、Subscription Vending Automation で実装できないかを考えました。
これはサブスクリプション利用者の発行要求から承認プロセスまで組み込まれているので、単純な環境構築のオペレーション工数の削減のみならず、プロセスの簡素化も併せて実現可能となるので、本共通基盤においては非常にメリットの大きなソリューションだと考えています。
まとめ
- 基盤提供側(作り手側)ではなく、あくまで利用者目線での設計が大事
- 今後も生成AIの活用推進に向けて、社内イベントや、Azure勉強会を積極的に開催!
発表は以上です。
泉さん、ありがとうございました!
続いては、日清食品ホールディングス株式会社の武田さんの発表です。
日清食品グループにおける生成AI活用とセキュリティ対策
武田:本日は以下の内容について発表させていただきます。
- 自社環境の生清いAIチャット“NISSIN AI-chat”導入背景
- NISSIN AI-chatの業務活用
- NISSIN AI-chatのシステム構成とセキュリティ対策
- 生成AIの更なる活用に向けた対策
自社環境の生清いAIチャット“NISSIN AI-chat”導入背景
2023年度に開催した日清食品グループの入社式にて、弊社安藤宏基CEOがChatGPTを用いて「日清食品グループ入社式 × 創業者精神 × プロ経営者 × コアスキル」のキーワードで生成したメッセージを披露し、テクノロジーを賢く駆使することで短期間に多くの学びを得てほしいと新入社員を激励しました。
この入社式には、成田敏博CIOも参加しおり、「業務で活用するための環境をすぐに整えなければならない」と判断され、その日のうちにプロジェクトが開始いたしました。
公開までのスケジュール
プロジェクトをはじめてからおよそ2週間で専用環境であるNISSIN AI-chatを構築しました。
弊社はローコードツールとして、Power Platformを使っています。そのため、迅速に構築することが可能でした。
日清食品G専用のChatGPT環境 “NISSIN AI-chat”
ぶつかった壁
リリースして間もなく、壁にぶつかりました。
社員に「使ってください」と大々的にアナウンスしましたが、「どう使えばいいの?」という声がたくさん上がってきました…。
一番効果が見込めて影響力が大きい部門で成功事例をつくる
そこで、グループの中で最も影響力の大きい日清食品の営業部門とタッグを組んで、NISSIN AI-chatをセールス業務に活用する企画の検討を開始しました。
セールス業務での活用に向けて、以下の4つのステップでプロジェクトを進行しました。
- 研修実施
- 対象業務洗い出し
- プロンプトテンプレート作成
- 効果算出・利用促進
下の画像は実際のプロンプトです。これまではセールスのスタッフがアイデアを考えていましたが、AI-Chatを使うことによって、効率的にアイデア出しができるようになりました。
現場が使いやすいテンプレートを現場主導でどんどん作っていき、現在では20個以上のテンプレートがあります。
現場の声を吸い上げる
また、Goodボタン、Badボタン、さらにフィードバックコメントの入力欄を設けて現場の声を吸い上げています。
また、現場から届いたテキストメッセージは、フィードバック内容から「分類・件名」を生成AIが自動的に生成し、カテゴリー分けしています。
これらの取り組みにより、日清食品の営業部門におけるNISSIN AI-Chat月別利用率がアップしました。これを成功事例として、他部門にも横展開しています。また、今後はグループ各社にも広げていきたいと考えています。
こうした活動を続けた結果、現在は100種類以上のテンプレートができています。
NISSIN AI-chatのシステム構成とセキュリティ対策
エンドユーザーはPower Appsに対してプロンプトを送信します。その後、Power AutomateがAzure Functionsと連携し、Azure Open AIに指示を出しています。
Dataverseは、Power Appsのデータベースで、そこに情報を格納しています。その際に「何を打ったか、どんな回答が返ってきたか」という情報は格納していません。プライバシーの問題にも考慮する必要があるので、あえて情報を残さない対応をしています。Power BIを用いて利用状況の分析をしていますが、そこでは「どの部門がどれだけ使っているか」という分析のみ行なっています。
生成AI利用に際するリスク
新技術であるがゆえに、生成AIは利用に際して様々なリスクが取り沙汰されますが、そのほとんどが以下の「セキュリティ」と「コンプライアンス」の2点に集約されると考えています。
<セキュリティ>
リスク:ChatGPTに入力した内容はOpenAI社の学習に利用されていると言われており、社外への情報漏洩に繋がる
↓
対策:セキュリティを担保する日清食品グループ専用環境を構築し、業務利用を専用環境のみに限定
<コンプライアンス>
リスク:ChatGPTの回答内容を二次利用してしまうと、様々なリスクが生じうる
↓
対策:ガイドライン策定、説明会、通報・社内報、システム上での注意喚起など、ユーザーに回答内容を適切に扱うように繰り返し啓蒙を実施
NISSIN AI-chatにおけるセキュリティ対策
Microsoft社と連携して日清食品グループ専用のセキュアな環境を構築し、情報漏洩リスクに対処しています。
NISSIN AI-chatにおけるコンプライアンス対策
コンプライアンス面に関しては、ガイドラインを作成して対応しました。それに加え、下の画像のように、初回ログイン時にはコンプライアンスに関するテストが表示されるようにしました。
2回目以降のログイン時は、ログインするごとに「ひよこちゃん」がコンプライアンスに関する注意喚起をします。複数パターンを用意し、ランダムで表示が切り替わります。
生成AIの更なる活用に向けた対策
生成AIのさらなる活用に向けた施策については、以下の2軸を定めています。
- “社内の情報を把握している”AIの構築
- “AIの利用をあらかじめ前提とした”業務プロセスの確率
AIの利用を前提とした業務プロセスを確立することで、意識せずとも自然にAIを使うようにしていきたいです。
【IT部門】社内問い合わせ業務の効率化
例えばRAGの活用例として社内問い合わせ業務の効率化があります。過去の対応履歴を生成AIに参照させ、回答業務の対応工数削減、回答内容の質の向上が可能になりました。
お客様からのお問い合わせについても、過去の対応履歴を生成AIに参照させ、回答業務の対応工数削減や対応品質の向上に繋がっています。
工場における是正措置ナレッジの有効活用
kintoneにて年間約400件申請される是正措置報告の情報をデータベースに蓄積しています。トラブル発生時に過去の対応履歴を生成AIに参照させ、対応策を提案しています。
全社共通データベースとの連携
各業務システムデータを集約した全社共通データベースに対して、AIがデータ参照し、より多様・広範囲な回答生成を可能にしていきます。
AI活用を前提とした業務プロセスの構築
食品製造業の各業務領域において、AIの活用を前提とした業務プロセスの構築を推進中です。
今後目指すこと
今後、AIを社内の様々な業務に統合し、業務プロセスを再設計することで業務の効率化とイノベーションの創出を実現していきたいと思います。
発表は以上です。
武田さん、ありがとうございました!
続いては、Q&Aコーナーです。
Q&Aコーナー
(Q)日清食品さまの生成AIに関するセキュリティ周りはどのような対策をとられていますでしょうか。
武田:VNet を使ったり、Key Vaultを使うといった一般的なAzureのセキュリティ対策をしています。
(Q)パーソルさんも色々サービスがあって部署も企業も色々だと思いますが、こういった生成AIは情報共有や活用推進の横串部隊なんてありますか?
泉:横串部隊はあります。弊社(パーソルキャリア)の中で、生成AIをどんどん活用していこうというチームがあります。実際に活用に向けての勉強会やイベントなどもやっています。
(Q)生成AIを絡めた開発のアンチパターン、気を付けたほうが良い点をお聞きしたいです。
寺田:アンチパターンという意味からはズレるかもしれませんが、現時点ではまだまだ生成AIは進化の途中なので、ガチに作り込まない方がいいと思っています。開発をする際においての、いろんなSDKやライブラリも出てきていますが、次のバージョンが出てきた時、ガラッと変わってしまうことが想定されます。そのため、ローカルで試したりするのは良いと思いますが、企業の本番環境で実施する場合は慎重になった方が良いかと思っています。
(Q)会社向けにチューニングしたいのですが、作りこんだのに「あ、ChatGPT側でムッチャ良いツールでちゃった…そっちで良かったじゃん、開発工数無駄になった…」みたいなことになりそうで怖いです、、、
寺田:Microsoftの社員側にとっても「こんなことができるの!?」と驚くことがあるくらい、生成AIはまだ先が読めない状況です。まだまだ変わる可能性が十分にあるので、柔軟性を持って対応するのが良いかと思います。
(Q)AI活用企業側の開発視点で、生成AIについて「もっとこうなってくれると嬉しい」というものはありますか?マイクロソフトさまもいらっしゃるので良い機会かなと!
泉:そもそも生成AIは、エンジニアリングをあまり知らない人でも簡単に触れるものだと思うのですが、それでもまだ、難しいと思う部分もあるため、更にもう少しとっつきやすくなれば嬉しいと思います。
武田:例えば、開発するにあたってのSDKの情報が少ないので、そのような情報を皆さんがブログなどで情報発信していけば、どんどん開発しやすい環境が生まれると思います。
寺田:確かに現状としては1つのインスタンスの中で、例えば同じプロンプトを与えたときに、「こうきたらこのファンクションを」ということは可能ですが、複数のインスタンスをまたいで、もしくはモデルを変えてというのは難しいと思います。
現時点で無理やりやろうと思うと、どういった処理から来たのかを把握する1つのインスタンスが必要で、それが裏側でファンクションを呼びます。それで出来なくはないと思いますが、現時点では難しいのかもしれません。
(Q)生成AIにエンドユーザーや顧客の個人情報をセキュアに渡す方法はないのでしょうか
寺田:Azure OpenAI などをご利用いただくと、お客様のデータはお客様の物と考えているため、個人情報や顧客情報などを利用しても、それらが学習されることはございません。
(Q)社内の業務(例えばシステム開発における設計やコーディングの業務、サービス窓口運用における返信業務や問合せ内容分析業務など)に生成AIを活用する際のセキュリティ基準として、どんな項目でどのレベルのセキュリティを担保すべきか?厳しくしすぎると業務で生成AIを何も使えなくなってしまうため、できる限り安全に生成AIの恩恵を享受できる丁度よい基準を作りたいです。
寺田:社内業務で利用するためには、サービスを社内からだけアクセスできるようにネットワーク設定して頂く他、生成 AI で利用するデータへのアクセス保護も必要と感じます。Azure OpenAI のサービスから特定のサービスに対してのみアクセスできるように設定する他、ユーザ名、パスワードによるアクセスを禁止し特定リソースからだけアクセスできる様にするなど、セキュリティの要件に応じていくつか対応を施す事ができます。
(Q)生成AIだからこそ対策に注意しないといけない点が気になります。
寺田:まず、利用者の観点では、想定する利用者に使われているか(不特定多数?企業向け、大人、子供、システム)を確認し対象の利用者に適切な回答や回答フォーマットを返しているかを確認することは重要です。さらに、意図しない入力がされていないかを確認し、意図しない質問には回答を拒否するように設定しているかにより不適切な使用を防げます。さらに、提供するサービスにおいて、AI が回答する生成は正確でない回答を返す可能性もありますので、それが許される場合に使用すべきです。100%正しい結果が必要な場合においては、ご使用を控えるか、返された結果を人間が判断するなど、最終的に人間の判断が必要です。
(Q)学習済みのモデルを利用しつつ、企業情報も学習させ、かつ、企業情報は社内のみで閉じられるような方法がないか検討しています。
寺田:RAG などのテクニックを使用して、検索結果から得られた情報を利用して回答を生成する方法などがあります。
(Q)AzureOpenAIに限らず、Azureの節約した使い方のアドバイスがあればぜひお願いします(勉強中の情シスより)
寺田:利用するサービスを常にモニタリングし、リソースの使用状況に応じて適切なサービスプランに変更したり、スケール(アップ、アウト)させる事、さらに AI モデルにおいても各モデルの特徴を正しく把握し、状況に応じて適切な AI モデルを利用するなどで適切な利用が可能になるかと想定します。
(Q)単純に、日本語を英語に翻訳して、それをプロンプトにする方が良いでしょうか?
寺田:ケース・バイ・ケースかと想定します。よりスピードが求められる場合には、多段プロセスを挟むことになるため、日本語のまま実施した方が良いかと思います。一方、より利用金額を考える場合は、現時点では最終回答を得るまでは英語で処理を進め、最終段階で日本語にする方が安く済むかと想定します。しかし、OpenAI 社が将来日本語対応のモデルを出すという報告もありますので、それが出てくるとトークン数の計算も変わってくるのではないかと想定しますので、日本語対応モデルの登場に期待したいです。
(Q)CodeInterpreterの企業での検証を超えた実業務利用で考慮しておくべき安全性の問題について何か良く問われるポイントなどありましたらご教授いただきたいです。
寺田:通常の Chat と CodeInterpreter の違いを正しくご理解いただき、適切なニーズでご利用いただくのをお勧めします。
(Q)マイクロソフトさまや各社様で、生成AIが当たり前になってきた前後で社内業務がどれくらい変わったのか、また生成AI活用専用の部隊なんてできたりしたのかを参考までにお聞きしたいです
寺田:生成 AI が業務で当たり前になり、様々な面で日々の業務が改善されています。マイクロソフトの場合、全ての社員が M365 や Azure , GitHub Copilot などで利用できるようになっています。Teams での会議の要約や、Word ドキュメントのドキュメントの要約、メールの作成や英文の作成、アプリ開発などに至るまで、すべての面で AI 利用のありがたみを感じています。
(Q)セキュリティ面についての意識は実際どれくらい必要になってきますでしょうか。情シスがいない企業で、市民開発者なわたしが奮闘しているのですが、セキュリティ面意識が全くできていないので、ものすごく悩みまくってます💦
寺田:セキュリティについては、どの程度求められるかによって、セキュリティの設定レベルは変わってきます。
マイクロソフトにおきましては、現在セキュリティはトップ・プライオリティでの対策が求められていますので、利用するデータへのデータアクセスや、サービスへの接続、利用するサービスへのネットワークからの接続制限に至るまで厳しい対応を行っています。
(Q)Azure OpenAI On Your Dataでは、どれぐらいのデータ量に対応しているのでしょうか?PDF 1000ファイルぐらいでも対応していますか?
寺田:扱うデータのファイルサイズにもよりますが、一般的には 1,000 ファイル程度ならば問題なく対応できます。ストレージとしては最大
Vector: 300 GB/Partition
Total Storage: 4 TB/Partitionまで大丈夫です。
(Q)有害な出力を制御するContent Filter機能は有償ですか?どのような課金体系でしょうか?また、日本語への対応はどの程度ですか?
寺田:現在は、Preview 機能ですが、将来的に有償になる可能性はございます。
具体的な課金体系については、まだ決まっておりません。日本語も試しましたが、日本語も利用可能です。
(Q)On Your Dataを利用したいのですが、セキュリティが不安です。十分にセキュリティを確保して利用するには、どうすればよいでしょうか。
寺田:一度インスタンスを作成していただいた後、アクセス可能なネットワーク制限や、接続するリソースを Managed identity で設定し、ユーザ名、パスワードの Key によるアクセスを不可にする設定などを行うことができます。
(Q)CodeInterpreterのデータをアップロードした場合、どこにデータが保存されるのでしょうか?そこはセキュアな場所なのでしょうか。
寺田:CodeInterpreter 用の領域にアップロードされる様です。
(Q)App ServiceそのものはVNet内に配置しなくても大丈夫でしょうか?
寺田:設置した方がより、セキュアになります。
(Q)GPT-4 Turboは、まだプレビュー版だと思いますが、実務で利用する上での判断基準がありましたら、教えてください。
寺田:2024/05/27 時点で Chat GPT-4o がリリースされ GA になりました。今後はこちらのご利用をお勧めします。
(Q)キャッチコピー作成とか、商品のマーケ施策なんかでも使われているのでしょうか?
寺田:利用可能です。
武田:キャッチコピーやマーケ施策などでのたたき台として生成AIを使用することはあります。しかしながら、そのまま使用するのではなく、「日清らしさ」を追加しブラッシュアップして利用する形となります。
(Q)Snowflakeに集約した後の検索はベクトル検索ですか?
武田:現状は通常のSQLで検索していますが、今後はベクトル検索なども利用したいと考えています。
(Q)ラインが止まった時の報告書の下書きを過去の事例から作らせるのは疑問でした。新しい視点でのレポートを書けなくなるような気がします。
武田:説明の仕方が悪く、誤解を与えてしまい申し訳ありません。生成AIを用いて自動化しているのは、あくまで資料のベースを作る箇所となります。原因分析や対策の検討を生成AIで実施しているわけではありません。
いかがでしたでしょうか、レポートの内容は以上です。
次回のイベントレポートもお楽しみに♪