greatsangho의 이야기

https://github.com/greatsangho/SKN05-3RD-1TEAM GitHub - greatsangho/SKN05-3RD-1TEAMContribute to greatsangho/SKN05-3RD-1TEAM development by creating an account on GitHub.github.com이번에는 네이버 API을 활용하는 내용이 추가 되었고, streamlit에서 해당 입출력이 진행되는 내용을 구현하였다.챗봇을 만들면서 느낀 점은 기존 서비스 되고 있는 챗봇의 한계점이 명확하다는 것과, 다양한 입력에 대해 유연하지 못한 대응이 결국 전화 상담으로 이어질 수 밖에 없다는 점이다. 또한 상담사가 내용을 전부 숙지할 수 없기 때문에 곤란한 상황이 발생할 수 있는데, 이처럼 RA..

데이터 주제는 사람들이 가입한 보험의 보장내용을 잘 모르거나, 보장 받고자 하는 내용에 대한 내용을 챗봇을 통해 서비스를 하는 상황을 생각하여 '보험 약관 기반 보장 내용 확인'이라는 아이디어를 제시하였다. 이에 한 기업을 선택하여 운전자 보험에서 어떠한 상황에 대해 보장을 받을 수 있는지 대답을 듣는 시스템을 만들고자 하였다.약관 PDF를 from langchain_community.document_loaders import PDFPlumberLoader로 읽어왔고,RAG를 이용하기 위한 벡터 데이터베이스로 Chroma를 사용하였다.텍스트를 임베팅하기 위한 모델로는 한국어에 대해 성능이 좋다고 되어있는 모델인 ' jhgan/ko-sroberta-multitask'를 찾아 적용하였다.path_ins = ..

이미지와 이미지에 대한 질문-답변 데이터가 있을 때 이를 바탕으로 학습형 텍스트 기반 이미지 생성한다.이미지 경로는 glob을, 이미지 정렬은 sorted(), 그리고 이미지 있는 데이터에 대한 설명만 남기도록 dataframe을 전처리하였다. 모델에 입력하기 위해서는 질문과 답변을 Dataset 형태로 바꿔주어야 한다. 그 다음 GPT2와 resnet50을 사용한다.class QADataset(Dataset): def __init__(self, df, tokenizer,transform, img_path, train=True): ... def __len__(self): return len(self.df) def __getitem__(self, idx): row = s..

파이토치 라이브러리 불러오기import pytorch파이토치에는 tensor라는 자료형이 있다. 텐서플로에서의 constant와 대응된다.# 파이토치import torchtorch.tensor([1,2,3])# 텐서플로import tensorflow as tftf.constant([1,2,3])파이토치는 딥러닝 모델 구조를 한번에 정의할 수 있는 torch.nn.Sequential이 있다.model = torch.nn.Sequential( torch.nn.Linear(10,5), torch.nn.ReLU(), torch.nn.Linear(5,2),)GPU 사용 여부는 torch.cuda.is_available()을 활용한다. 모델이나 텐서를 cuda에서 연산을 하도록 정할 수 있다.dev..

The four FsFACTS(사실, 객관) : 이번 일주일 동안 있었던 일, 내가 한 일이번주는 CRNN, UNet, GAN, SRGAN, 멀티모달에 대해 공부하였다. CNN기반 이미지 처리는 전에 공부한 것과 같았지만, 이번에는 CTC손실과 함께 결합하여 캡챠를 인식하도록 학습시키는 과정을 진행하였다. 이미지의 경계를 구분하는 UNet에 대해 공부하였다. UNet은 인코딩, 디코딩과 스킵 연결로 구성되어 있으며 이를 이용하여 강아지와 고양이의 경계선을 구분하는 모델을 학습하였다. 사람들의 얼굴을 학습하여 얼굴 이미지를 GAN으로 생성하는 모델을 만들었다. SRGAN을 이용하여 VGG라는 기존 학습된 모델을 이용하여 이미지에서 특성을 더 잘 뽑아내고 고화질로 변환하는 학습을 잘 진행할 수 있게 된다. ..

#### 데이터전처리 ####from tqdm import tqdmimport torchimport torch.nn as nnfrom torchvision.datasets.cifar import CIFAR10from torchvision.transforms import Compose, ToTensor, Normalize,RandomCrop,RandomHorizontalFlipfrom torch.utils.data import DataLoaderimport numpy as npimport matplotlib.pyplot as pltfrom torchvision.models.resnet import resnet34, resnet18from torch.optim.adam import Adamtransforms..