05

용어사전

카드에 자꾸 나오는 용어와, 그걸 알고 나면 무엇이 달리 읽히는지.

218개

기초 30

토큰토크나이저어휘집파라미터가중치임베딩컨텍스트 창프롬프트대규모 언어 모델자기회귀 생성추론오픈 웨이트학습신경망생성형 AI퓨샷온도Top-p최대 출력 토큰정지 시퀀스시스템 프롬프트멀티턴스트리밍지연 시간배치 크기비결정성모델 라이선스오픈소스 모델허깅페이스채팅 템플릿

모델 구조 28

트랜스포머어텐션MoE멀티모달디코더 온리인코더GQARoPE활성 파라미터덴스 모델파라미터 수소형 언어 모델상태공간모델디퓨전 모델비전 언어 모델프런티어 모델인스트럭트 모델리즈닝 모델레이어어텐션 헤드피드포워드 층전문가 라우팅하이브리드 구조슬라이딩 윈도 어텐션위치 인코딩비전 인코더로짓MLA

학습 28

사전학습파인튜닝증류QATLoRA체크포인트포스트트레이닝지도 파인튜닝PEFTQLoRARLHF보상 모델GRPODPORLVR보상 해킹합성 데이터데이터 큐레이션커리큘럼 학습스케일링 법칙베이스 모델파국적 망각계속 사전학습모델 병합자기개선 루프학습률옵티마이저학습 손실

추론·서빙 24

KV 캐시양자화FP8GGUFFlashAttentionMLX서빙Q4BF16PagedAttention연속 배칭투기적 디코딩프리필 단계TTFT처리량오프로딩vLLMllama.cppOllama프롬프트 캐싱토큰 단가온디바이스 추론샘플링 파라미터디코드 단계

에이전트·도구 28

RAG에이전트하네스에이전트 루프툴 유즈함수 호출구조화 출력MCP에이전트 스킬AGENTS.md코딩 에이전트샌드박스컴퓨터 유즈청킹벡터 DB리랭커에이전트 메모리컨텍스트 엔지니어링롱호라이즌오케스트레이션멀티에이전트서브에이전트모델 라우터검증기트레이스컨텍스트 컴팩션백그라운드 에이전트작업 분해

평가 28

벤치마크환각데이터 오염Terminal-BenchSWE-bench평가(eval)리더보드pass@k엘로LLM 심판퍼플렉시티홀드아웃 세트정확도MMLULMArena승률벤치마크 포화벤치마크 과적합어블레이션사람 평가캘리브레이션정밀도·재현율베이스라인실행 기반 평가골든셋재현성루브릭SOTA

안전·정책 27

언센서드 모델휴먼 인 더 루프프롬프트 인젝션레드팀정렬헌법적 AI탈옥간접 프롬프트 인젝션가드레일안전 분류기과잉 거절워터마킹C2PA제로 데이터 보존개인식별정보(PII)머신 언러닝데이터 포이즈닝모델 카드시스템 카드책임 있는 확장 정책(RSP)EU AI법위험 능력 평가아첨해석가능성AI 슬롭학습 데이터 저작권에이전트 샌드박싱

인프라·경제 25

CUDAVRAM메모리 대역폭GPUTPUFLOPsGPU-시간GPU 클러스터HBM배치 API토큰당 원가웨이퍼 스케일데이터센터 전력인터커넥트텐서 병렬랙 스케일액체 냉각콜드 스타트스팟 인스턴스예약 용량네오클라우드총소유비용레이트 리밋데이터 소재지GPU 가동률