분류 전체보기69 파이썬의 dis 모듈 최근 파이썬 3.12 버전이 공개되면서 몇 가지 변경점이 소개되었습니다. 자세한 내용은 공식 문서를 통해 확인할 수 있고, Real Python에서 각각에 대해서 조금 더 이해하기 쉽게 풀이한 내용을 볼 수 있습니다. 해당 글에는 Faster Python: More Specializations and Inline Comprehensions라는 섹션이 있습니다. 거기에 dis라는 모듈이 언급되는데 그 역할이 흥미로워서 간단하게 정리해보았습니다. dis는 CPython 바이트코드를 분해하고 분석할 수 있도록 하는 모듈입니다. 이 모듈이 입력받는 CPython 바이트코드는 include/opcode.h 파일에 정의되어 있으며 컴파일러와 인터프리터에서 사용됩니다. 바이트코드는 CPython 인터프리터의 구현 세.. 2023. 10. 16. GPT-5에 대한 다양한 소식 ChatGPT가 등장한 이후 GPT-4를 비롯한 그 이후의 행보에 대한 관심이 계속해서 커졌습니다. 이와 관련하여 GPT-5에 대한 흥미로운 소식을 접하게 되어 정리해보았습니다. 먼저 GPT-4이 발표된 지 얼마 되지 않은 올해 3월 22일에 인공지능 연구를 중단해야 한다는 선언이 발표되었습니다. Pause Giant AI Experiments: An Open Letter라는 제목의 성명이 널리 퍼졌고, 요슈아 벤지오, 스튜어트 러셀, 일론 머스크, 스티브 워즈니악, 유발 하라리 등 상당 수의 각계 권위자들이 서명에 동참하였습니다. 그 내용을 간단하게 요약하면 다음과 같습니다. Demis Hassabies, Yann Lecun, Yoshua Bengio 등 저명한 인사들이 서명한 Asilomar AI 원.. 2023. 10. 16. [논문리뷰] A Neural Probabilistic Language Model [2] 신경망에 기반한 언어 모델링이라는 새로운 패러다임을 제시한, NLP에서 정말 중요하고 획기적인 논문인 A Neural Probabilistic Language Model을 리뷰해보았습니다. 이 글은 논문의 전반부를 다룬 이전 글에서 이어집니다. 여기서는 실험 결과와 결론까지의 Section을 다룹니다. 번역을 통해 오히려 이해가 어려워지거나, 원문의 표현을 사용하는 게 원래 의미를 온전히 잘 전달할 것이라고 생각하는 표현은 원문의 표기를 따랐습니다. 오개념이나 오탈자가 있다면 댓글로 지적해주세요. 설명이 부족한 부분에 대해서도 말씀해주시면 본문을 수정하겠습니다. 4. Experimental Results 비교 실험은 영어 텍스트와 책에서 가져온 약 180만 개의 단어로 된 Brown 말뭉치로 수행되었습니.. 2023. 10. 14. [논문리뷰] A Neural Probabilistic Language Model [1] 신경망에 기반한 언어 모델링이라는 새로운 패러다임을 제시한, NLP에서 정말 중요하고 획기적인 논문인 A Neural Probabilistic Language Model을 리뷰해보았습니다. 저자도 딥러닝의 4대 석학이라 불리는 요슈아 벤지오 교수님입니다. 이 논문은 단순히 출력 시퀀스에서 다음 단어를 예측하는 것을 넘어서 단어의 본질적인 의미를 포착하는 밀집 벡터 표현인 단어 임베딩의 시대를 열었다고 봐도 될 것 같습니다. 단어를 단순히 기호로 보는 것이 아닌 연속적인 공간에 매핑하는 임베딩은 NLP에서 단어와 그들의 관계에 대해 생각하는 방식에 혁명을 일으켰습니다. 이번 논문은 제안된 방법론 외에도 병렬화나 관련 이론에 대한 내용을 많이 포함하고 있어 두 부분으로 나누어 정리하였습니다. 여기서는 논문의.. 2023. 10. 13. 이전 1 ··· 6 7 8 9 10 11 12 ··· 18 다음
