Next Driven / 個人事業主 / ソフトウェアエンジニア
金融機関向け生成AIチャット基盤の移行(稼働率50%)
セキュリティ要件の高い金融機関向け生成AIチャット基盤について、提供終了が決まっていた旧AIアシスタント基盤から、クラウドAIエージェント基盤への全面移行を担当しました。委託元はAIスタートアップで、体制はPM1名・エンジニア1名。設計、実装、単体テスト、結合テスト、インフラ構築、本番作業までを自ら提案しながら進めました。 ■ 技術検証 ・移行先の候補を比較し、プレビュー版の安定性、仕様変更リスク、情報量を含めて評価したうえで方針を決定 ・素のPythonコードで、汎用チャット、ファイル検索(RAG)、コードインタプリタ、Web検索が新基盤で実現できることを個人環境で先に検証してから既存アプリケーションへ適用 ・ストリーミングイベントの仕様が公式ドキュメントに揃っていなかったため、SDKの実装を読んでイベント種別を洗い出し ■ 実装 ・ストリーミングのイベントハンドラを全面的に書き換え(メッセージ生成、差分更新、実行ステップ、エラー処理、画像出力、ファイルパス、引用番号) ・ファイルアップロード処理を新基盤のAPIに合わせて置き換え ・アシスタント作成スクリプトを、新基盤のエージェント作成スクリプトとして再構築 ・モデル世代の切り替えで発生した不具合(トークンクォータの割り当て設計、引用番号の文字化け、特定モデルでのWeb検索エラー、2通目以降のファイル添付)を、切り分け・再現・クラウドベンダーへの問い合わせを含めて対応 ■ テスト ・pytestによる単体テストと手動確認を組み合わせたハイブリッド構成を設計・実施。イベントハンドラは初期化、初回・2回目以降のメッセージ生成、完了・不完全時のエラー処理まで観点を洗い出して網羅 ・結合テストを新基盤向けに置き換え、テスト専用のサービスプリンシパルに必要最小限のロールを割り当ててインフラ疎通を確認する構成に ■ インフラ・リリース ・旧リソース、モデルデプロイ、プライベートエンドポイント、プライベートDNSゾーンの削除・切り替えを含む基盤更新手順を作成し、本番作業を実施 ・作業前のDBスナップショット取得、クォータの割り当て変更、削除順序と復旧手順を含む手順書を用意 ・ステージング移行、最終受入前の調整、本番リリースまでを推進 使用技術: Python 3.11、Chainlit、Azure AI Foundry Agent Service、Azure Identity / Storage / App Service、プライベートエンドポイント、PostgreSQL、SQLAlchemy(asyncio)、asyncpg、Alembic、Docker、Azure Pipelines、pytest、pytest-asyncio、pre-commit