개발자와 솔루션 빌더를 대상으로 하는 이 실습 워크샵에서는 Amazon Bedrock을 통해 파운데이션 모델(FM)을 활용하는 방법을 소개합니다.
Amazon Bedrock은 타사 제공업체 및 Amazon의 FM에 대한 액세스를 제공하는 완전 관리형 서비스로, API를 통해 이용할 수 있습니다. 베드락을 사용하면 다양한 모델 중에서 사용 사례에 가장 적합한 모델을 찾을 수 있습니다.
이 실습 시리즈에서는 Generative AI에 대해 고객들이 가장 많이 사용하는 몇 가지 사용 패턴을 살펴볼 것입니다. 텍스트와 이미지를 생성하여 생산성을 향상시킴으로써 조직의 가치를 창출하는 기술을 보여드리겠습니다. 이는 이메일 작성, 텍스트 요약, 질문에 대한 답변, 챗봇 구축, 이미지 생성에 도움이 되는 기초 모델을 활용하여 달성할 수 있습니다. 이 과정에서는 베드락 API와 SDK, 그리고 LangChain 및 FAISS와 같은 오픈소스 소프트웨어를 통해 이러한 패턴을 구현하는 실무 경험을 쌓을 수 있습니다.
실험실에는 다음이 포함됩니다:
- Text Generation [Estimated time to complete - 30 mins]
- Text Summarization [Estimated time to complete - 30 mins]
- Questions Answering [Estimated time to complete - 45 mins]
- Chatbot [Estimated time to complete - 45 mins]
- Image Generation [Estimated time to complete - 30 mins]
- Advanced Questions Answering [Estimated time to complete - 60 mins]
- Applications [Estimated time to complete - 30 mins]
- Post Call Analytics [Estimated time to complete - 30 mins]
워크샵 웹사이트의 단계별 안내 지침을 참조할 수도 있습니다.
이 워크샵은 원하는 환경에서 실행할 수 있는 일련의 Python 노트북으로 제공됩니다:
-
풍부한 AI/ML 기능을 갖춘 완전 관리형 환경의 경우, 세이지메이커 스튜디오를 사용하는 것을 권장합니다. 빠르게 시작하려면 도메인 빠른 설정 지침을 참조하세요.
-
완전 관리형이지만 좀 더 기본적인 환경을 원하시면 SageMaker Notebook 인스턴스 만들기를 사용하실 수 있습니다.
-
기존(로컬 또는 기타) 노트북 환경을 사용하시려면 AWS 호출을 위한 자격 증명이 있는지 확인하세요.
ℹ️ **참고: 세이지메이커 스튜디오에서 파일 > 새로 만들기 > 터미널을 클릭하여 "시스템 터미널"을 열어 이러한 명령을 실행할 수 있습니다.
노트북 환경이 설정되면 이 워크샵 리포지토리를 노트북에 복제(clone)합니다.
git clone https://github.com/dongjin-ml/amazon-bedrock-workshop-webinar-kr.git
cd amazon-bedrock-workshop-webinar-kr- 00_Setup/setup.ipynb의 가이드를 따르세요.
베드락의 세분화된 작업 및 리소스 권한에 대한 자세한 내용은 베드락 개발자 가이드를 확인하세요.
step-by-step video tutorial 시청하기
이 리포지토리에는 베드락 아키텍처 패턴 워크숍을 위한 노트북 예제가 포함되어 있습니다. 노트북은 모듈별로 다음과 같이 구성되어 있습니다:
- Simple Bedrock Usage: 이 노트북은 boto3 클라이언트 설정과 베드락의 기본적인 사용법을 보여줍니다.
- Simple use case with boto3: 이 노트북에서는 Amazon Bedrock을 사용해 텍스트를 생성합니다. boto3를 사용하여 Amazon Titan 모델을 직접 소비하는 데모를 보여드립니다.
- Simple use case with LangChain: 그런 다음 동일한 작업을 수행하지만 널리 사용되는 프레임워크인 LangChain을 사용합니다.
- Generation with additional context: 그런 다음 응답을 개선하기 위해 추가 컨텍스트가 포함된 프롬프트를 개선하여 한 단계 더 나아갑니다.
- Small text summarization: 이 노트북에서는 베드락을 사용해 작은 텍스트를 요약하는 간단한 작업을 수행합니다.
- Long text summarization: 요약할 콘텐츠가 점점 커져 모델의 최대 토큰을 초과하면 위의 접근 방식이 작동하지 않을 수 있습니다. 이 노트북에서는 파일을 작은 덩어리로 나누고, 각 덩어리를 요약한 다음 요약을 요약하는 접근 방식을 보여드립니다.
- Simple questions with context: 이 노트북은 모델을 직접 호출하여 주어진 컨텍스트에 따라 질문에 답하는 간단한 예제를 보여줍니다.
- Answering questions with Retrieval Augmented Generation: 검색 증강 생성(RAG)이라는 아키텍처를 구현하여 위의 프로세스를 개선할 수 있습니다. RAG는 언어 모델 외부(비매개변수)에서 데이터를 검색하고 검색된 관련 데이터를 컨텍스트에 추가하여 프롬프트를 증강합니다.
- Chatbot using Claude: 이 노트북은 Claude를 사용하는 챗봇을 보여줍니다.
- Chatbot using Titan: 이 노트북은 Titan을 사용하는 챗봇을 보여줍니다.
- Image Generation with Stable Diffusion: 이 노트북은 안정적인 확산 모델을 사용하여 이미지를 생성하는 방법을 보여줍니다.
- RAG with FAISS: 이 노트북은 FAISS(VectorDB)기반 RAG 구성 방법을 보여줍니다.
- RAG with Opensearch: 이 노트북은 OpenSearch(VectorDB) Semantic 서치 기반 RAG 구성 방법을 보여줍니다.
- RAG with Opensearch_Keyword_Search: 이 노트북은 OpenSearch(VectorDB) Keyword 서치 기반 RAG 구성 방법을 보여줍니다.
- RAG with Opensearch_Semantic_Search: 이 노트북은 OpenSearch(VectorDB) Semantic 서치 기반 RAG 구성 방법을 보여줍니다.
- RAG with Opensearch_Hybrid: 이 노트북은 OpenSearch(VectorDB) Hybrid(Semantic + Keyword) 서치 기반 RAG 구성 방법을 보여줍니다. 검색 결과 fusion을 위해 Custom function을 사용합니다.
- RAG with Opensearch_Hybrid_EnsembleRetriever: 이 노트북은 OpenSearch(VectorDB) Hybrid(Semantic + Keyword) 서치 기반 RAG 구성 방법을 보여줍니다. 검색 결과 fusion을 위해 Langchain에서 제공하는 Ensemble retriever를 사용합니다.
- RAG with Opensearch_Chatbot: 이 노트북은 OpenSearch(VectorDB) RAG기반 챗봇 구성 방법을 보여줍니다.
- RAG with Opensearch_Chatbot_Agent: 이 노트북은 OpenSearch(VectorDB) RAG 및 langchain Agent기반 챗봇 구성 방법을 보여줍니다.
- RAG with Kendra: 이 노트북은 Amazon Kendra기반 RAG 구성 방법을 보여줍니다.
- Post Call Analytics
- PCA with Cladue: 이 노트북은 사후통화분석 기능으로, 통화요약을 비롯하여 통화목적, 고객감정, 상담사대응을 분석하는 예시를 담고 있으며, 긴 통화 분석기법도 다루고 있습니다.
- PCA with Quenstion and Answering: 이 노트북은 사후통화분석 기능으로, 통화요약 및 통화내용 질의 및 음성단서 제공 예시를 담도 있습니다.