300x250 반응형 LLM1 누구나 쉽게 만드는 LLM을 활용한 챗봇 1. 사용할 LLM 선정HuggingFace에서 사용할 모델을 찾습니다. 저는 Llama 기반이 좋아서 kfkas님의 모델을 들고왔습니다.예시 질문들과 훈련 진행 현황도 표시해주셨습니다.그리고 기본적인 모델 사용 방법도 나타내 주셨습니다.저희는 이걸 사용해서 진행해보도록 하겠습니다.2. 코드 구현가. 일반 코드kfkas님께서 제공해주신 코드는 이렇습니다.def gen(x, model, tokenizer, device): prompt = ( f"아래는 작업을 설명하는 명령어입니다. 요청을 적절히 완료하는 응답을 작성하세요.\n\n### 명령어:\n{x}\n\n### 응답:" ) len_prompt = len(prompt) gened = model.generate( .. AI/LLM 2024. 9. 18. 이전 1 다음 300x250 반응형