AI/LLM3

• 

  누구나 쉽게 만드는 LLM을 활용한 챗봇(Web) -2 1. 개요저번 글에 이어서 Web부분을 마저 알아보도록 하겠습니다.저번글을 읽지 않으신 분들은 저번 글을 읽고 와주시면 흐름을 이해하실 수 있습니다.2024.10.06 - [AI/LLM] - 누구나 쉽게 만드는 LLM을 활용한 챗봇(Web) 누구나 쉽게 만드는 LLM을 활용한 챗봇(Web)1. 개요지난 글에서 챗봇을 만드는 글을 올렸습니다. 구현한 챗봇은 CLI환경에서 작동하는 형태였는데, 현 시중에 나와있는 ChatGPT나 Gemini등 다양한 챗봇들은 Web Server를 통해 GUI환경으로 보여집니area51.tistory.com 2. Web 구현가. Login.js모듈 임포트를 먼저 진행합니다.import React, { useState } from 'react';import { useNaviga.. AI/LLM 2024. 10. 10.

• 

  누구나 쉽게 만드는 LLM을 활용한 챗봇(Web) 1. 개요지난 글에서 챗봇을 만드는 글을 올렸습니다. 구현한 챗봇은 CLI환경에서 작동하는 형태였는데, 현 시중에 나와있는 ChatGPT나 Gemini등 다양한 챗봇들은 Web Server를 통해 GUI환경으로 보여집니다.그래서 Web을 구현해서 비슷한 형태로 챗봇을 구현해 보도록 하겠습니다. 2. Web 구현이번 글에서 프로젝트의 구조는 아래와 같습니다.conversation-app/├── node_modules/├── public/├── src/│ ├── components/│ │ ├── ConversationList.js│ │ ├── AdminPage.js│ │ ├── Login.js│ │ ├── SignupPage.js│ │ ├── ConversationDe.. AI/LLM 2024. 10. 6.

• 

  누구나 쉽게 만드는 LLM을 활용한 챗봇 1. 사용할 LLM  선정HuggingFace에서 사용할 모델을 찾습니다. 저는 Llama 기반이 좋아서 kfkas님의 모델을 들고왔습니다.예시 질문들과 훈련 진행 현황도 표시해주셨습니다.그리고 기본적인 모델 사용 방법도 나타내 주셨습니다.저희는 이걸 사용해서 진행해보도록 하겠습니다.2. 코드 구현가. 일반 코드kfkas님께서 제공해주신 코드는 이렇습니다.def gen(x, model, tokenizer, device): prompt = ( f"아래는 작업을 설명하는 명령어입니다. 요청을 적절히 완료하는 응답을 작성하세요.\n\n### 명령어:\n{x}\n\n### 응답:" ) len_prompt = len(prompt) gened = model.generate( .. AI/LLM 2024. 9. 18.