전체 이야기

Local LLM 정복하기 – Positional Encoding (4)

Transformer는 자연어를 처리하여 우리가 묻는 질문에 대해 추론하여 답변을 생성한다. 단어의 의미를 이해했더라도 문장속에서 우리가 무엇을 원하는지 어떻게 알아차릴까? 학습을 진행할 때, 그리고 머신은 기본적으로 입력으로 들어오는 문장에서 단어의 순서를 모른다. 쉽게 비유하면, 좋은 아침입니다.라는 문장은 사람은 다음과 같이 받아들인다....

Local LLM 정복하기 – Embedding (3)

Vector를 통해 의미와 관계를 숫자로 표현할 수 있는 공간을 만들고, 학습을 통해 그 공간의 구조를 만들어가는 것을 알았다. 그런데 컴퓨터는 문자를 이해하지 못한다. 애초에 0과 1, 정확히는 전기를 바탕으로 On/Off만 알 수 있다. 우리는 자연어(사람이 사용하는 언어)를 컴퓨터가 이해하도록 변환해야...

Local LLM 정복하기 – Vector (2)

LLM을 공부하다 보니 모르는 단어가 많다. 특히 현재의 LLM은 Transformer 구조로 되어 있다는데 나는 이 Transformer도 말만 들어봤지 뭔지 모른다. Transformer부터 공부하려고 했더니 Attention이 나오고, Attention을 공부하려 했더니 Embedding이 나온다. Embedding하면 또 Vector가 나온다. LLM은 Large Language Model이다. 즉, "큰...

춘천 이름 유래, 봄내가 된 소머리

봄과 물을 품은 이름 ‘춘천’은 고려와 조선, 서로 다른 시대를 지나 완성됐습니다. 맥국·우수주·삭주·춘주에서 오늘의 춘천까지 이어진 이름의 시간을 따라가 봅니다.

노을이 내려앉은 소양강 위의 소양강처녀상

Local LLM 정복하기 – 토큰이 부족해 (1)

요즘 시대에 AI를 쓰지 않는 것은 굉장히 비효율적이다. 특히 AI를 쓰면 커피 시간을 굉장히 비약적으로 늘릴 수 있다. Claude Code, Chat GPT 등을 사용할 때 가장 많이 마주 하는 것은 사용량 초과 메시지다..ㅠㅠ 그리고 이는 나를 굉장히 괴롭게 한다.

위로 스크롤