前回の投稿で、Amazon BedrockのEmbeddingsを試しました。 LLMと独自ナレッジを組み合わせたFAQに活用できそうです。

ベクトルデータベースのQdrantでは、単体のサーバーとして構築する方法だけでなく、メモリー上で動作させたりローカルファイルシステムで動作させることができます。

ローカルファイルとして動作するということは、 Lambda化できるのではないか！？ と思い、挑戦しました。

Amazon BedrockのEmbeddingsを試しました。

AWSの生成系AIのサービスAmazon Bedrockがローンチしました 🎉🎊🎉🎊🎉

https://aws.amazon.com/jp/bedrock/

LINEのチャットでBedrockと会話ができる環境を構築しました。AWS Serverless Application Repositoryにて公開していますので、ソースのクローンやビルドといった作業も不要で、マネジメントコンソールから設定を少し行うだけで利用することが可能です。

boto3は1.28.57でBedrockに対応しました。

日本語対応の大規模言語モデルが色々出てきてますね😀

色々試してみたいですが高価なGPUが手元にない😥

そんなあなたにおすすめしたいのが、そう、Sagemaker！！

ちょっと試すだけなら数百円程度でお手軽に試せます。AWS素敵！！！