生成AI機能に加えて
使いやすくする仕組みを実装
生成AI連携サービス for iは、IBM iユーザーを対象にした開発／現場業務を効率化する生成AI対応のSaaS型クラウドサービスである。
たとえば、「受注ファイルから得意先別の受注金額を税抜で集計したい」という指示文を投入すると、受注ファイルと指示文の解析を行い、次にSQL文を生成して受注ファイルに対して処理を行って、その結果を自然な日本語に変換して返してくれる。
生成AI連携サービス for iの特徴は、上記のような一般的な生成AI機能（指示文の投入と回答文の生成）に加えて、テンプレートや操作内容などをナレッジとして登録する機能を設け、ユーザーの操作を容易にしたり的確な回答を得やすくする仕組みを備えている点である。しかもIBM i上で稼働中の基幹システムのデータに対しても生成AI処理を行える。
つまり、一般社員やIBM i担当者の利用シーンを想定し、使いやすくする作り込みを多面的に行っている点が生成AI連携サービス for iの特徴と言える。
追加・拡張が可能な
テンプレートとナレッジ登録
生成AI連携サービス for iでは、「構築支援」「テンプレートなどの提供サービス」「活用支援サポート」という3つのサービスを提供している。
1つ目の「構築支援」は、生成AI連携サービス for iを利用するための複数の要素から成る環境の構築サービスである。複数の要素とは、
❶Azure上の大規模言語モデル「Azure OpenAI Service」
❷生成AI連携サービス for iを利用するためのWebアプリケーション（Azure上のApp Serviceで開発）
❸データソースをもつIBM i
❹WebアプリケーションとIBM iを連携させるAPIサーバー（Azure上のApp Serviceで開発）
❺テンプレートやナレッジ／RAGを格納するデータベース（Azure上のAzure Cosmos DB）
❻規定集などの社内ドキュメントを格納するオブジェクトストレージ（Azure上のAzure Blob Storage）
❼社内ドキュメントを検索するためのAI検索エンジン（Azure上のAzure AI Search）
❽ユーザー認証とID管理を行うAzure上のMicrosoft Entra ID
の8つ（図表1）で、導入時は、次の構築サービスを提供している。
・Azure上の各種要素の環境
・IBM iとAzure OpenAI Serviceの接続環境
・Azure Blob Storageへの社内ドキュメントの転送環境
・Webアプリケーション（チャットインタフェース）
2つ目のサービスで提供される「テンプレート」では、業務目的に応じて、IBM iとの連携や業務文書の活用機能、プロンプトチューニング、メニューなどを設定できる。
メニューには、よく利用する指示文を登録できる。ユーザーはチャットインターフェースから指示文を選択すると、AIへの指示を効率的に行えるようになり、AIを活用した業務をスムーズに進めることができる。
「テンプレート」は、デフォルトで以下の3つが用意されている。ベル・データによると、テンプレートはいくつでも追加可能で、機能の追加やメニューの変更もでき、テンプレートの作成や活用するための技術支援サービス（Q＆A）も提供するという。
・IBM iデータ操作（SQL生成）テンプレート
・IBM iデータ操作のナレッジを保存し再利用可能にするテンプレート
・業務文書検索用テンプレート
テンプレートの一例を挙げてみよう。
たとえば、受注ファイルから社員名を条件にして受注金額を集計したいとする。この場合、「受注ファイルから中津という社員名の受注金額を税抜で集計したい」と指示すると、生成AIはIBM iのテーブル名やカラム名を基に社員名が社員マスターにあり、受注ファイルの社員番号と紐づけられることを調べ、データを集計してくれる。
このように、よく利用する指示文はメニューへの登録で次回からの利用を容易にできるが、メニュー登録する指示文を少し工夫をすると、汎用的な利用も可能になる。
たとえば「受注ファイルから受注金額を税抜で集計したい。社員名もしくは会社名で検索したいので聞いてください。名称は含むもので調べてください」と登録しておくと、次に選択すると利用者がどのような検索をしたいか生成AIが社員名や会社名を聞いてくるため、ユーザーは検索条件を入れるだけで簡単に集計できる。
また、業務に関する知見を登録することも可能である。たとえば「受注ファイルからサービス提供先の受注金額を税抜で集計したい」と指示しても、受注ファイルや取引先マスターにサービス提供先の項目名がないので、生成AIは調べることができない。
そこでナレッジ登録を使い、サービス提供先は取引先マスターの会社名と同じであることを登録しておくと、受注ファイルの会社番号から取引先の会社名を紐づけて使うことをAIが理解し、次回の検索からより適切な回答を返してくることになる。
つまり、テンプレートの「メニュー」やナレッジを利用して指示文などを登録しておくと、より適切な回答をよりスピーディに得られるということになる（図表2、図表3）。
3つ目の「活用支援サポート」は、運用フェーズに入ってからの、生成AI連携サービス for iと業務文書を活用するための支援サービスである。ユーザーの利用が円滑に進むよう生成AI連携サービス for iの導入後も伴走支援を続けるという。
一般社員やIT部門向けに
4つのユースケースを想定
ベル・データでは生成AI連携サービス for iのユースケースとして、次の4つを挙げている。
①一般社員向け：規定集やマニュアルなどの社内ドキュメントに対する問い合わせと回答（図表4）
②マーケティング部門向け：チラシや提案資料用のキャッチコピーや説明文の作成（図表5）
③IT部門向け：ITヘルプデスクへの問い合わせに対する回答支援（図表6）
④IT部門向け：SQL生成を活用したデータ抽出業務などの効率化（図表7）
このうちベル・データが「当初ニーズが最も大きい」と見ているのは④の「SQL生成を活用したデータ抽出業務などの効率化」で、後継者問題を抱えるIBM iユーザーが対象という。
「IBM iとオープン系のデータベースは構造が違うので、オープン系の若手エンジニアがIBM iを習得するのは容易ではありません。しかし生成AI連携サービス for iを使えばIBM i上のデータを抽出する際にSQLを生成し、その実行結果を返すSQLの中身も見ることができるので、IBM iのベテラン技術者とオープン系の若手エンジニアがSQLを仲立ちにして会話でき、スキルギャップを埋めていく契機になり得ます。さらにIBM iのベテラン技術者の知見をナレッジとして登録しておけば、若手エンジニアはそれを参照しつつIBM i上のデータを操作できるので、スキルトランスファーも容易に進みます。生成AI連携サービス for iは、多くのIBM iユーザーが直面する後継者問題の有力な解決策になると考えています」と、ベル・データでは説明している。
ベル・データでは今年1月に
社内利用をスタートし、改善点を収集
ベル・データでは、生成AI連携サービス for iのプロトタイプが完成した2024年1月から社内利用を続けている。前述したユースケースの①と③（社内ドキュメントへの問い合わせ・回答、ITヘルプデスク支援）の利用で、その成果として、テンプレートの必要性やパフォーマンスの改善についてフィードバックを得、生成AI連携サービス for iの改良に役立ててきたという。
ベル・データでは今後、チューニングモデル（ファインチューニング）の提供や、個社最適のチューニング、CLプログラムへの対応を予定している。
チューニングモデル（ファインチューニング）とは、ユーザー環境（ライブラリ、オブジェクト）に合わせてコマンドの生成を可能にすることで、ベル・データの運用経験やサポートの知見を結集したモデル化を進めている。
個社最適のチューニングとは、生成AIにユーザー環境に合わせた学習をさせることで、ユーザー企業の固有の条件に即した回答が容易になる。
CLプログラムへの対応とは、生成AI処理の結果、CLプログラムが生成されるということで「IBM i運用担当者の業務負荷の軽減や担当者ごとのスキルギャップの解消に貢献し、若手エンジニアの教育にも役立つ」とベル・データでは述べている。
生成AI連携サービス for iは10月のリリース予定で、パイロットユーザー向けに低価格でサービスを提供する「スタートキャンペーン」を予定しているという（図表8）。
［i Magazine・IS magazine］
