tioon's Devlog

이번글은 아예 학습이 안된 davinci모델을 가지고 더하기를 할 수 있게 학습시켜보겠습니다. 저도 지금 배우면서 하고있는글이라 정확하지않을 수 있으며, 더 효율적인 방법이 있을 수 있습니다. 혹시나 더 나으신 방법을 알고 계시면 알려주시면 감사하겠습니다....^_^;;; 일단 먼저 초기버전의 gpt 3 davinci모델을 실행 시켜보겠습니다. 보시다싶이 2+6을 물어봤음에도 알맞은 대답을 전혀 하지않는 걸 볼수 있습니다. 질문 마지막에 '->'를 붙여야 더 정확하게 답변을 합니다. 공식 설명서에 나와있는데 정확한 이유는 잘모르겠습니다. 아무튼, 이제 파인튜닝을 시켜서 학습시켜보겠습니다. 다음은 학습시킬 데이터셋입니다. 기초적인 더하기 연산 데이터셋입니다. 다양한 숫자의 더하기를 학습시키기 위해 12개정..

파인튜닝이란? -미리 학습된 GPT 모델을 특정한 분야에 대해서 추가적인 학습을 시키는것을 말합니다. 기본적인 GPT모델에 특정분야의 데이터를 추가학습시켜 강화시키는것을 파인튜닝이라고 합니다. 파인튜닝을 해야하는 이유 -본격적으로 GPT 모델은 텍스트 데이터를 기반으로 사전학습된 모델인데, 이건 기본적인 단어와 문장의 의미를 파악하며 이를이용해 일정한 패턴을 학습할 수 있습니다. 기본적인 데이터는 학습이 되어있으니 특정 분야에 대해 정확하게 답변을 생성하기 위해서는 그 분야의 추가적인 학습이 필요합니다. 따라서 그 분야에맞는 추가적인 데이터를 학습시켜 모델을 강화시켜 특정분야에서 더욱 정확한 예측 결과를 얻을 수 있습니다. 파인튜닝 과정 먼저 파인튜닝을 진행되기위해선 OPENAI라이브러리가 최신버전이어야..