AI 에이전트 벤치마크의 붕괴: 점수는 100%인데 현실에선 왜 무너질까
치솟은 AI 에이전트 벤치마크 점수의 이면 — 버클리의 8개 벤치마크 익스플로잇, OpenAI의 SWE-bench 폐기, pass@1의 한계를 근거로 점수를 깎아 읽는 법을 짚는다. Read more »
인공지능·AI
AI 트렌드, 생성형 AI, LLM 관련
1조 파라미터인데 왜 빠를까? 전문가 혼합(MoE) 완벽 가이드
거대 AI 모델이 수천억 파라미터를 갖고도 빠르게 답하는 비결, 전문가 혼합(MoE)을 라우터·활성 파라미터·메모리 한계와 실제 모델 사례까지 차근차근 풀어봅니다. Read more »
AI 컴퓨트 비용의 대분기: 만드는 값은 폭증, 쓰는 값은 폭락한다
프런티어 모델 훈련 비용은 매년 2.4배 뛰어 2027년 10억 달러를 향하지만, 같은 성능을 쓰는 추론 비용은 3년 만에 1000배 무너졌다. Epoch·arXiv·a16z 1차 데이터로 본 AI 컴퓨트 경제의 대분기. Read more »
답하기 전에 ‘생각하는’ AI: 추론 모델 완벽 가이드
답을 내기 전에 중간 추론 과정을 거치는 추론 모델의 작동 원리를, 사고의 사슬 개념부터 OpenAI o1과 딥시크 R1의 등장, 그리고 비용·지연이라는 현실적 한계까지 차근차근 풀어 정리했습니다. Read more »
ChatGPT 메모리 대전환: OpenAI ‘드리밍 V3’, 사용자를 스스로 기억한다
OpenAI가 6월 4일 공개한 ‘드리밍 V3’는 저장 목록 대신 백그라운드 종합으로 대화를 스스로 기억하고, 시간이 지나면 정보를 자동 갱신합니다. 사실 회상은 82.8%, 메모리 용량은 2배로 늘었지만 삭제·보관을 둘러싼 프라이버시 쟁점도 함께 떠올랐습니다. Read more »
비용 90%↓, 폰에서 도는 AI: 소형 언어 모델(SLM) 완벽 가이드
소형 언어 모델(SLM)은 1~7B 파라미터로 스마트폰에서 오프라인 실행되는 경량 AI다. 증류·가지치기·양자화로 압축해 클라우드 비용을 최대 90% 줄이고, Phi·젬마·라마 3.2가 대형 모델에 근접한 성능을 낸다. Read more »
750억 유로 베팅: 손정의, 프랑스에 5GW AI 데이터센터 짓는다
소프트뱅크가 프랑스에 최대 750억 유로를 투자해 5GW AI 데이터센터를 짓습니다. 1단계 3.1GW는 2031년 완공 예정이며, 손정의의 오하이오·스타게이트로 이어지는 글로벌 컴퓨트 전쟁의 유럽 전선을 짚어봅니다. Read more »
AI는 왜 거짓말을 할까? RAG로 환각 잡는 벡터DB의 원리
RAG는 LLM이 답하기 전 외부 문서를 검색해 근거로 삼는 기술이다. 검색·증강·생성 3단계와 벡터DB·임베딩 원리, 파인튜닝과의 차이, 2026년 에이전틱 RAG·GraphRAG 흐름까지 핵심을 정리했다. Read more »
$3.48 DeepSeek V4, 93.5% 코딩이 Claude Opus를 7배 싸게 따라잡았다
DeepSeek V4 프리뷰가 2026년 4월 24일 공개되면서, V4-Pro는 출력 토큰 100만 개당 $3.48로 Claude Opus 4.6의 $25 대비 7배 저렴한 가격을 제시했습니다. LiveCodeBench 93.5%와 Codeforces 3,206으로 코딩 벤치마크에서 프론티어 모델을 제쳤고, 1M 토큰 컨텍스트에서 KV 캐시를 V3.2 대비 10%만 사용합니다. 같은 주 Tencent·Alibaba가 $20B 밸류에이션 투자 논의를 열었고, DeepSeek은 스스로 GPT-5.4·Gemini 3.1 Pro와 3~6개월 격차를 인정했습니다. Read more »
$12B Mira Murati, Google Cloud 수십억 GB300 딜로 OpenAI 본진을 흔들었다
Mira Murati가 이끄는 $12B 밸류 AI 스타트업 Thinking Machines Lab이 2026년 4월 22일 Google Cloud Next 2026에서 수십억 달러(single-digit billions) 규모 AI 인프라 계약을 체결했습니다. Google Cloud는 Nvidia의 최신 GB300 기반 A4X Max 가상머신과 Kubernetes Engine, Spanner 데이터베이스를 번들로 제공하며, 이는 Thinking Machines 사상 첫 클라우드 프로바이더 계약입니다. 3월 10일 NVIDIA와 맺은 1기가와트 Vera Rubin 공급 계약이 2027년 초 발효되기까지의 공백을 메우는 교두보이기도 합니다. Read more »