분류 전체보기71 BLEU 지표의 등장과 한계 BLEU 점수는 무엇일까? BLEU Score는 기계번역 태스크에서 참조 문장과 기계가 생성한 번역문을 비교하여 번역의 품질을 평가하는데 주로 사용되는 지표로 흔히 알려져 있습니다. 좀 더 일반적으로는 생성된 텍스트를 평가하는데 널리 사용되는 지표 중 하나입니다. 번역, 요약, 질의응답 등 특정 태스크에 국한되지 않고 인공지능 모델이 생성한 텍스트를 평가하는 방식이라고 생각하면 될 것 같습니다. BLEU 의 등장 BLEU는 BiLingual Evaluation Understudy의 줄임말입니다. 각 단어를 직역하면 '이중 언어 평가 대역' 입니다. 2002년에 BLEU를 제안한 논문(BLEU: a Method for Automatic Evaluation of Machine Translation) 초록의 .. 2023. 9. 11. 임베딩 벡터 간 유사도에 대한 오해 개인 프로젝트를 진행하다가 LLM의 답변에 대한 정량적인 평가 지표 개발의 필요성을 느끼고 모델의 특징을 고려한 평가 지표를 만들어보려고 했습니다. 프로젝트 주제를 간단히 소개하면, 입력된 법률 분쟁 상황에 대한 조언을 하는 파인튜닝을 수행한 LLM입니다. LLM 파인튜닝에 사용하는 학습 데이터는 다음과 같이 법적 상황에 대한 QA 형식으로 이루어져 있습니다. 질문: 남편이 가출하여 연락이 되지 않다가 3년 6개월 뒤 ‘실종자 찾아주기’ 운동의 일환으로 DNA검사를 했더니 남편은 3년 전에 이미 교통사고로 사망하였고, 신원미상자로 처리되었다고 합니다. 가출 전 남편이 들어놓은 사망보험금을 청구했더니 보험회사는 사망 후 3년이 경과하였기 때문에 소멸시효 완성을 주장하고 있습니다. 보험금은 못 받는건가요? .. 2023. 7. 29. 기술 문서 번역의 어려움 오픈소스 컨트리뷰션 HuggingFace 한글화 프로젝트에서 본격적으로 번역활동을 시작했습니다. Transformers 라이브러리의 공식 문서를 한글로 번역하는 작업인데, 하위 문서를 골라서 번역을 수행합니다. 처음으로 고른 문서는 How to add a model to 🤗 Transformers? 입니다. Transformers 라이브러리에 새로운 모델을 추가하는 방법을 단계별로 매우 구체적으로 설명하고 있는 문서입니다. 이 문서를 번역하는 도중 여러가지 문제점에 직면했었는데 구체적으로 어떤 문제였는지 하나씩 정리해보았습니다. 용어 번역 문제 먼저 팀에서 어떤 과정으로 번역을 수행하는지 간단하게 요약하자면 다음과 같습니다. 1. 원본 문서를 ChatGPT, DeepL등을 사용하여 기계번역 수행 2. 초.. 2023. 7. 22. 2023 오픈소스 컨트리뷰션 아카데미 Review 부스트캠프 팀원의 소개로 오픈소스 컨트리뷰션 아카데미를 알게 되어, 지원하였습니다. 오픈소스 컨트리뷰션 아카데미는 오픈소스에 대한 진입장벽을 허물고, 선의의 경쟁의 형식으로 오픈소스 문화에 기여하는 '컨트리뷰톤'에 참여하여 오픈소스 문화를 경험하는 멘토링 프로그램입니다. 개발자로서 오픈소스에 기여하고, 내 PR이 직접 merge되는 것의 가치를 알고 있기에 매우 좋은 기회라고 생각되어 망설임없이 지원하였습니다. 지식은 공유되어야 한다는 생각을 평소부터 갖고 있었기 때문에 단순히 오픈소스에 기여해봤다는 경험을 가지려기보다는, 그 행위 자치에 큰 의미를 두고 참여하고 싶다는 생각이 들었습니다. 올해는 약 20여개의 프로젝트가 진행되는데, 인공지능 분야를 공부하고 있어 관련 분야의 프로젝트를 지원하였습니다. .. 2023. 7. 14. 이전 1 ··· 12 13 14 15 16 17 18 다음
