tioon's Devlog

이번글은 아예 학습이 안된 davinci모델을 가지고 더하기를 할 수 있게 학습시켜보겠습니다. 저도 지금 배우면서 하고있는글이라 정확하지않을 수 있으며, 더 효율적인 방법이 있을 수 있습니다. 혹시나 더 나으신 방법을 알고 계시면 알려주시면 감사하겠습니다....^_^;;; 일단 먼저 초기버전의 gpt 3 davinci모델을 실행 시켜보겠습니다. 보시다싶이 2+6을 물어봤음에도 알맞은 대답을 전혀 하지않는 걸 볼수 있습니다. 질문 마지막에 '->'를 붙여야 더 정확하게 답변을 합니다. 공식 설명서에 나와있는데 정확한 이유는 잘모르겠습니다. 아무튼, 이제 파인튜닝을 시켜서 학습시켜보겠습니다. 다음은 학습시킬 데이터셋입니다. 기초적인 더하기 연산 데이터셋입니다. 다양한 숫자의 더하기를 학습시키기 위해 12개정..

파인튜닝이란? -미리 학습된 GPT 모델을 특정한 분야에 대해서 추가적인 학습을 시키는것을 말합니다. 기본적인 GPT모델에 특정분야의 데이터를 추가학습시켜 강화시키는것을 파인튜닝이라고 합니다. 파인튜닝을 해야하는 이유 -본격적으로 GPT 모델은 텍스트 데이터를 기반으로 사전학습된 모델인데, 이건 기본적인 단어와 문장의 의미를 파악하며 이를이용해 일정한 패턴을 학습할 수 있습니다. 기본적인 데이터는 학습이 되어있으니 특정 분야에 대해 정확하게 답변을 생성하기 위해서는 그 분야의 추가적인 학습이 필요합니다. 따라서 그 분야에맞는 추가적인 데이터를 학습시켜 모델을 강화시켜 특정분야에서 더욱 정확한 예측 결과를 얻을 수 있습니다. 파인튜닝 과정 먼저 파인튜닝을 진행되기위해선 OPENAI라이브러리가 최신버전이어야..

챗GPT API란? -OpenAI에서 제공하는 새로운 인공지능 언어 모델인 GPT의 기능을 API 형태로 외부에 공개하여 개발자들이 API형식으로 간편하게 서비스에 활용할 수 있도록한 것입니다. 이 API를 사용하면 사용자의 입력에 따라 적절한 응답을 자연어 형태로 반환하여 문장생성, 번역, 요약등의 다양한 언어 처리 작업을 수행할 수 있습니다. 챗GPT API 종류 GPT-3.5-turbo -API를 제공하는 GPT 모델중에선 가장 최신의 모델입니다. 이 모델은 그전의 GPT3와는 다르게 좀더 언어 처리능력이 발전하였고, 특히 전모델에 비해 대화를 자연스럽게 이어나갈 수 있다는 특징이 있습니다. FINE-TUNING MODEL -이 모델들은 커스터마이징을 할 수 있는 모델들입니다. GPT의 기본적인 능..