Azure

Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門 執筆感想

Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門という書籍執筆に参加した話

Read

Azure VPN Gateway による Site-to-Site VPN 接続とクエリフォワーディング

opnsense ルーターと Azure VPN Gateway の間で Site-to-Site VPN を確立の上で DNS にクエリフォワーディングを設定して閉域検証を容易にした話

Read

LLM (Cerebras-GPT) を MLflow Models でラップしてノーコードデプロイした話

Hugging Face から持ってきた OSS 大規模言語モデルを MLflow Models の pyfunc フレーバーでラップして AzureML に登録し、以後ノーコードで入力テキストに対する出力テキストを返却する API をデプロイしてみた。

Read

ray_on_aml を試してみた話

従来ジョブの形で分散処理を実行できるのみだった ray_on_aml が、AzureML SDK v2 に対応&インタラクティブな実行に対応したということで、サンプルコードを参考に実際に分散処理を試したみた話

Read