AI4

• 

  누구나 쉽게 만드는 LLM을 활용한 챗봇(Web) -2 1. 개요저번 글에 이어서 Web부분을 마저 알아보도록 하겠습니다.저번글을 읽지 않으신 분들은 저번 글을 읽고 와주시면 흐름을 이해하실 수 있습니다.2024.10.06 - [AI/LLM] - 누구나 쉽게 만드는 LLM을 활용한 챗봇(Web) 누구나 쉽게 만드는 LLM을 활용한 챗봇(Web)1. 개요지난 글에서 챗봇을 만드는 글을 올렸습니다. 구현한 챗봇은 CLI환경에서 작동하는 형태였는데, 현 시중에 나와있는 ChatGPT나 Gemini등 다양한 챗봇들은 Web Server를 통해 GUI환경으로 보여집니area51.tistory.com 2. Web 구현가. Login.js모듈 임포트를 먼저 진행합니다.import React, { useState } from 'react';import { useNaviga.. AI/LLM 2024. 10. 10.

• 

  누구나 쉽게 만드는 LLM을 활용한 챗봇(Web) 1. 개요지난 글에서 챗봇을 만드는 글을 올렸습니다. 구현한 챗봇은 CLI환경에서 작동하는 형태였는데, 현 시중에 나와있는 ChatGPT나 Gemini등 다양한 챗봇들은 Web Server를 통해 GUI환경으로 보여집니다.그래서 Web을 구현해서 비슷한 형태로 챗봇을 구현해 보도록 하겠습니다. 2. Web 구현이번 글에서 프로젝트의 구조는 아래와 같습니다.conversation-app/├── node_modules/├── public/├── src/│ ├── components/│ │ ├── ConversationList.js│ │ ├── AdminPage.js│ │ ├── Login.js│ │ ├── SignupPage.js│ │ ├── ConversationDe.. AI/LLM 2024. 10. 6.

• 

  누구나 쉽게 만드는 LLM을 활용한 챗봇 1. 사용할 LLM  선정HuggingFace에서 사용할 모델을 찾습니다. 저는 Llama 기반이 좋아서 kfkas님의 모델을 들고왔습니다.예시 질문들과 훈련 진행 현황도 표시해주셨습니다.그리고 기본적인 모델 사용 방법도 나타내 주셨습니다.저희는 이걸 사용해서 진행해보도록 하겠습니다.2. 코드 구현가. 일반 코드kfkas님께서 제공해주신 코드는 이렇습니다.def gen(x, model, tokenizer, device): prompt = ( f"아래는 작업을 설명하는 명령어입니다. 요청을 적절히 완료하는 응답을 작성하세요.\n\n### 명령어:\n{x}\n\n### 응답:" ) len_prompt = len(prompt) gened = model.generate( .. AI/LLM 2024. 9. 18.

• 

  예측 모델 활용하여 교통사고 예측하기 1. 예측 모델 선정가. HuggingFace에서 오픈 소스 모델 찾기해당 사이트에서 개발자들이 올려놓은 다양한 모델을 활용할 수 있는데, 우리는 다양한 함수식으로이루어진 모델을 편하게 가져다 사용할 수 있다.예측 모델 중에서 가장 다운로드 수가 많은 모델은 Amazon 사에서 개발한 모델이 제일 인기가 좋다.위 사진은 Amazon사에서 개발한 Chronos의 기본 원리이다. 하지만 우리는 원리는 뒤로하고 사용해보자.나. Colab으로 모델 가져오기pip install git+https://github.com/amazon-science/chronos-forecasting.git모델은 pip 명령어로 불러올 수 있으며, github에서 가져왔다.사실 밑에 코드 처럼 HuggingFace에서 불러오는 방법도.. AI/Forecasting 2024. 9. 13.