반응형 실패1 [python] Transformer 연습해보기(4, 종료) - 실패 원인 복기 예전에 Transformer를 사용해보려고 하면서 나만의 데이터로 학습해보려고 하다가 대차게 실패했었다. HuggingFace에서 pretrained된 모델을 가져와서 사용해보려고 했는데미리 학습된 모델을 이용해서 예측을 하려고 할 때당연히 같은 형식의 데이터를 사용해야 하는데 (데이터 type이라던가.. )그걸 제대로 이해를 못한 채 시작했던게 실패의 원인이었던 것 같다. 그래서 text, img 등등이 pretrained model을 사용하기 용이한 듯 하다. 실제로 수치데이터로 학습한 모델보다도 언어모델, vison 모델 등이 많이 공유 되고 있다. 따라서 뭔가 자신의 데이터에 알맞은 transformer을 사용하기 위해서는pretrained model은 높은 확률로 사용할 수 없을 것이고모델을 직.. 2024. 12. 18. 이전 1 다음 반응형