국산 AI의 한국어 토크나이저는 다를까? 12종 재보니 2종은 남의 것이었습니다
같은 문서를 토크나이저 12종에 넣어 한국어 토큰 효율을 쟀습니다. 국산 신형 3종이 상위를 차지했지만, 국산으로 유통되는 다른 2종은 base 어휘 집합이 Llama 3, Mistral과 sha256까지 완전히 같았습니다. Read more »
LLM
다운로드 상위 100개 오픈웨이트 라이선스를 실측하니 76개만 자유로웠다
다운로드 상위 100개 오픈 모델의 라이선스와 게이팅 상태를 직접 집계했습니다. 상업적으로 자유로운 모델과 접근 승인이 걸린 모델을 갈라, 오픈이라는 브랜드와 실제로 쓸 수 있는 권리 사이의 간극을 데이터로 짚습니다. Read more »
AI 모델 다운로드 1위는 챗봇이 아니었다, 허깅페이스 월 2.4억 건 실측
허깅페이스 다운로드 상위 100을 직접 집계했다. 1위는 화제의 챗봇이 아니라 2021년 임베딩 모델 all-MiniLM이었고, 좋아요 랭킹과 다운로드 랭킹은 정반대를 가리켰다. Read more »
프롬프트 엔지니어링은 끝났다? 컨텍스트 엔지니어링 완벽 가이드
컨텍스트 엔지니어링은 AI 모델의 컨텍스트 창에 무엇을 넣을지 설계하는 기술이다. 같은 모델이라도 어떤 정보를 주느냐에 따라 성능이 갈린다. 4대 실패 모드와 Write·Select·Compress·Isolate 전략, 어텐션 예산 개념을 처음부터 짚는다. Read more »
AI 에이전트는 왜 해킹에 뚫릴까: 프롬프트 인젝션 완벽 가이드
AI가 신뢰할 지시와 외부 데이터를 구분하지 못하는 구조적 약점을 파고드는 프롬프트 인젝션. 직접·간접 유형부터 치명적 삼요소, 2026년 실제 브라우저 에이전트 사고, 현실적 방어 전략까지 개념 중심으로 짚었습니다. Read more »
AI 에이전트 벤치마크의 붕괴: 점수는 100%인데 현실에선 왜 무너질까
치솟은 AI 에이전트 벤치마크 점수의 이면 — 버클리의 8개 벤치마크 익스플로잇, OpenAI의 SWE-bench 폐기, pass@1의 한계를 근거로 점수를 깎아 읽는 법을 짚는다. Read more »
1조 파라미터인데 왜 빠를까? 전문가 혼합(MoE) 완벽 가이드
거대 AI 모델이 수천억 파라미터를 갖고도 빠르게 답하는 비결, 전문가 혼합(MoE)을 라우터·활성 파라미터·메모리 한계와 실제 모델 사례까지 차근차근 풀어봅니다. Read more »
AI 컴퓨트 비용의 대분기: 만드는 값은 폭증, 쓰는 값은 폭락한다
프런티어 모델 훈련 비용은 매년 2.4배 뛰어 2027년 10억 달러를 향하지만, 같은 성능을 쓰는 추론 비용은 3년 만에 1000배 무너졌다. Epoch·arXiv·a16z 1차 데이터로 본 AI 컴퓨트 경제의 대분기. Read more »
답하기 전에 ‘생각하는’ AI: 추론 모델 완벽 가이드
답을 내기 전에 중간 추론 과정을 거치는 추론 모델의 작동 원리를, 사고의 사슬 개념부터 OpenAI o1과 딥시크 R1의 등장, 그리고 비용·지연이라는 현실적 한계까지 차근차근 풀어 정리했습니다. Read more »
비용 90%↓, 폰에서 도는 AI: 소형 언어 모델(SLM) 완벽 가이드
소형 언어 모델(SLM)은 1~7B 파라미터로 스마트폰에서 오프라인 실행되는 경량 AI다. 증류·가지치기·양자화로 압축해 클라우드 비용을 최대 90% 줄이고, Phi·젬마·라마 3.2가 대형 모델에 근접한 성능을 낸다. Read more »