인공무능님의 사용자 기여
IT 위키
2025년 10월 9일 (목)
- 01:202025년 10월 9일 (목) 01:20 차이 역사 +3,645 새글 파이썬 새 문서: '''파이썬'''(영어: Python)은 범용 고수준 프로그래밍 언어로, 가독성과 생산성을 강조하며 설계되었다. ==개요== 파이썬은 인터프리터 방식으로 실행되며, 동적 타이핑 및 자동 메모리 관리 기능을 제공한다. 여러 프로그래밍 패러다임(절차적, 객체지향, 함수형 등)을 지원하며, 방대한 표준 라이브러리와 생태계를 갖춘 언어이다. ==역사== 파이썬은 1980년대 말 네덜란... 최신 태그: 시각 편집
- 01:192025년 10월 9일 (목) 01:19 차이 역사 +3,551 새글 Jupyter Notebook 새 문서: '''Jupyter Notebook'''은 웹 기반 대화형 컴퓨팅 환경으로, 코드, 설명 텍스트, 시각화 등을 하나의 문서 내에서 통합하여 실행할 수 있게 해 준다. ==개요== Jupyter Notebook은 웹 브라우저를 통해 노트북(.ipynb) 문서를 작성하고 실행할 수 있는 서버‑클라이언트 응용 프로그램이다. 사용자는 코드 셀, 마크다운 셀, 수식, 그래프, 이미지 등을 조합하여 분석 흐름을 문서화할... 최신 태그: 시각 편집
- 01:172025년 10월 9일 (목) 01:17 차이 역사 +3,748 새글 Google Colab 새 문서: '''Google Colab'''(영어: Google Colaboratory)은 사용자가 웹 브라우저에서 파이썬 코드를 작성하고 실행할 수 있게 해 주는 클라우드 기반 노트북 환경이다. 구글이 제공하며, 별도의 로컬 설정 없이도 GPU/TPU 등의 계산 자원을 활용할 수 있다. ==개요== Google Colab은 Jupyter Notebook 환경을 클라우드에서 호스팅한 서비스다. 사용자는 로컬에 파이썬 환경을 구축할 필요 없이, 브라... 최신 태그: 시각 편집
- 01:132025년 10월 9일 (목) 01:13 차이 역사 −15 신경망 양자화 편집 요약 없음 태그: 시각 편집
- 01:122025년 10월 9일 (목) 01:12 차이 역사 +3 Llama.cpp 편집 요약 없음 최신 태그: 시각 편집
- 01:112025년 10월 9일 (목) 01:11 차이 역사 +37 새글 양자화 (딥 러닝) 신경망 양자화 문서로 넘겨주기 최신 태그: 새 넘겨주기
- 01:112025년 10월 9일 (목) 01:11 차이 역사 +8,348 새글 신경망 양자화 새 문서: 모델 양자화(模型量子化, Model Quantization)는 딥러닝 모델의 수치 표현 정밀도를 낮춰 메모리 사용량과 연산량을 줄이는 최적화 기법이다. 주로 대형 언어 모델(LLM)이나 모바일·엣지 디바이스에서 효율적인 추론을 위해 사용된다. ==개요== 딥러닝 모델은 일반적으로 32비트 부동소수점(float32)으로 학습되지만, 추론 시에는 16비트(float16), 8비트(int8), 4비트(int4) 등 더 낮...
- 01:112025년 10월 9일 (목) 01:11 차이 역사 −8,311 모델 양자화 신경망 양자화 문서로 넘겨주기 최신 태그: 새 넘겨주기
2025년 10월 8일 (수)
- 04:432025년 10월 8일 (수) 04:43 차이 역사 +3,802 새글 신경망 양자화 기법 새 문서: * 상위 문서: 신경망 양자화 양자화 기법(Quantization Techniques)은 딥러닝 모델을 경량화하고 연산 효율을 높이기 위해 사용되며, 다양한 기준에 따라 여러 방식으로 분류된다. ==가중치 vs 활성화 양자화== 양자화는 대상에 따라 크게 가중치 양자화와 활성화 양자화로 나눌 수 있다. *'''가중치 양자화 (Weight Quantization)''': **모델의 학습된 파라미터(가중치)를 정수 또는... 최신 태그: 시각 편집
- 04:392025년 10월 8일 (수) 04:39 차이 역사 +41 모델 양자화 편집 요약 없음 태그: 시각 편집
- 04:212025년 10월 8일 (수) 04:21 차이 역사 +3,062 새글 상대적 정밀도 새 문서: 상대적 정밀도란 수치 해석 또는 컴퓨터에서 실수를 근사 표현할 때, 수의 크기에 비례한 정밀도 유지 정도를 의미한다. 즉, 표현 가능한 오차(절대 오차)가 수의 절댓값에 비례해 커지거나 작아지더라도, 그 비율이 일정하게 유지되는 성질이다. ==정의== 부동소수점 표현에서, 어떤 실수 x를 근사값 x̃로 표현한다고 할 때, 상대 오차는 다음과 같이 정의된다: 상대... 최신 태그: 시각 편집
- 04:102025년 10월 8일 (수) 04:10 차이 역사 +5,274 새글 부동소수점 표현 (IEEE 754 규격) 새 문서: 부동소수점 표현이란 유한한 비트 수로 실수를 근사해서 표현하는 방식으로, IEEE 754는 현재 컴퓨터 시스템에서 가장 널리 쓰이는 부동소수점 연산 표준이다. ==개요== 부동소수점 표현에서는 실수 x를 다음과 같이 구성된 요소로 표현한다: *부호 비트 (sign) *지수부 (exponent) *가수부 또는 유효숫자 부분 (significand 혹은 mantissa) 이 표현은 마치 과학적 표기법(예: ±1.xxx... 최신 태그: 시각 편집
- 04:002025년 10월 8일 (수) 04:00 차이 역사 −4 모델 양자화 편집 요약 없음 태그: 시각 편집
- 03:592025년 10월 8일 (수) 03:59 차이 역사 +3,533 모델 양자화 편집 요약 없음
- 03:512025년 10월 8일 (수) 03:51 차이 역사 +2,707 GGUF 포맷 편집 요약 없음 최신 태그: 시각 편집
- 03:492025년 10월 8일 (수) 03:49 차이 역사 +2,787 새글 GGUF 포맷 새 문서: '''GGUF'''(Generic GPT Unified Format)은 대형 언어 모델(LLM)의 텐서와 메타데이터를 통합 저장하는 바이너리 '''모델 포맷'''으로, llama.cpp 기반의 로컬 추론 환경에서 사용된다. 이 포맷은 이전 GGML 포맷의 한계를 보완하여, 다양한 양자화 형식과 모델 관련 정보를 함께 포함할 수 있도록 설계되었다. ==개요== GGUF는 General Graphical Model Library(GGML) 기반의 추론 시스템을 위해 만...
- 03:472025년 10월 8일 (수) 03:47 차이 역사 −2,551 GGUF 파일 GGUF 포맷 문서로 넘겨주기 최신 태그: 새 넘겨주기 시각 편집: 전환됨
- 03:432025년 10월 8일 (수) 03:43 차이 역사 +39 새글 텐서 텐서 (인공지능) 문서로 넘겨주기 최신 태그: 새 넘겨주기 시각 편집
- 02:352025년 10월 8일 (수) 02:35 차이 역사 +10 모델 양자화 편집 요약 없음 태그: 시각 편집
- 02:342025년 10월 8일 (수) 02:34 차이 역사 +978 모델 양자화 편집 요약 없음 태그: 시각 편집: 전환됨
2025년 10월 7일 (화)
- 07:142025년 10월 7일 (화) 07:14 차이 역사 +6,940 새글 조건부 에너지 기반 모델 새 문서: 조건부 에너지 기반 모델(conditional energy-based model)은 에너지 기반 모델(Energy Based Model, EBM)의 확장 형태로, 입력이나 조건 변수(condition)에 의존하여 출력 분포을 정의하는 모델이다. 즉 일반적인 EBM이 변수 \(x\) 만을 대상으로 에너지 함수를 정의하는 반면, 조건부 EBM은 \((x, y)\) 또는 \((y \mid x)\) 형태에서 에너지를 정의하고, 주어진 조건 하에서의 확률 분포을 암묵적... 최신 태그: 시각 편집
2025년 10월 6일 (월)
- 12:092025년 10월 6일 (월) 12:09 차이 역사 +5,399 새글 Adam 옵티마이저 새 문서: Adam 옵티마이저는 "Adaptive Moment Estimation"의 약자로, 확률적 경사 하강법(SGD)에 기반하면서 각 파라미터마다 적응적으로 학습률을 조절하는 딥러닝 최적화 알고리즘이다. ==개요== Adam은 2014년 Diederik P. Kingma와 Jimmy Ba가 제안한 알고리즘으로, 모멘텀(Momentum) 기법과 RMSProp 알고리즘의 장점을 결합한 형태다. 기울기의 1차 모멘트(평균)와 2차 모멘트(분산)를 추정하여 파... 최신 태그: 시각 편집
- 12:052025년 10월 6일 (월) 12:05 차이 역사 +3,711 새글 AdamW 옵티마이저 새 문서: AdamW 옵티마이저는 Adam 최적화 알고리즘의 변형으로, 가중치 감쇠(weight decay)를 그래디언트 업데이트로부터 분리(decouple)하여 일반화 성능을 향상시키는 방법이다. ==개요== 딥러닝에서 자주 사용되는 Adam(Adaptive Moment Estimation) 옵티마이저는 1차 및 2차 모멘트를 활용하여 각 파라미터별로 적응적인 학습률을 적용한다. 일반적으로 정규화를 위해 L2 정규화 항을 손실 함... 최신 태그: 시각 편집
2025년 10월 2일 (목)
- 07:572025년 10월 2일 (목) 07:57 차이 역사 +2,616 새글 N:M 희소성 새 문서: N:M 희소성(N:M sparsity)은 신경망 가중치 행렬에서 연속된 M개의 항목 그룹 중 N개의 항목만 비제로(nonzero) 값으로 유지하는 방식의 구조적 희소성이다. ==개념== *각 그룹(블록) 내 M개의 연속된 가중치 중 N개만 남기고 나머지를 0으로 만든다. *예를 들어 2:4 희소성은 매 4개의 가중치에서 2개만 활성화시키고 나머지를 제거하는 패턴이다. *이 방식은 완전 비구조 희소성(... 최신 태그: 시각 편집
- 07:502025년 10월 2일 (목) 07:50 차이 역사 +2,506 새글 Wanda 가지치기 새 문서: '''Wanda''' 가지치기(Wanda Pruning, Pruning by '''W'''eights '''and''' '''A'''ctivations)는 대규모 언어 모델(LLM)을 추가 학습 없이도 효과적으로 희소화하는 방법으로, 각 가중치의 중요도를 가중치 크기와 입력 활성화의 크기의 곱으로 평가하는 방식이다. ==개념== *Wanda는 사전 학습된 모델에 대한 제로샷 가지치기 방식이다. *기존의 magnitude pruning은 단순히 가중치 절댓값만 기준... 태그: 시각 편집
- 07:452025년 10월 2일 (목) 07:45 차이 역사 +2,406 새글 자기 회귀 모델 새 문서: 자기 회귀 모델(Autoregressive Model)은 시계열 데이터 또는 순차적 데이터의 현재 값을 과거 값들의 선형 또는 비선형 결합으로 예측하는 모델이다. ==개념== *자기 회귀(autoregression)란, 변수 자체의 이전 시점 값들을 입력으로 사용하여 현재 값을 예측하는 방식이다. *일반적인 형식은 다음과 같다: Y_t = c + φ₁Y_{t−1} + φ₂Y_{t−2} + ... + φ_pY_{t−p} + ε_t * 여기서 p는... 최신 태그: 시각 편집
- 07:432025년 10월 2일 (목) 07:43 차이 역사 +2,714 새글 KV 캐시 새 문서: KV 캐시(Key-Value Cache)는 트랜스포머 기반 오토리그레시브 언어 모델에서, 이전 토큰의 정보를 저장하여 추론 시 반복 계산을 줄이기 위해 사용하는 캐시 구조이다. ==개념== *트랜스포머 디코더는 각 층에서 self-attention을 계산할 때, 이전 토큰의 key와 value 벡터를 반복적으로 참조한다. *이를 효율화하기 위해 한 번 계산한 key와 value를 캐시에 저장해 두고, 이후 토큰 생... 최신 태그: 시각 편집
- 07:312025년 10월 2일 (목) 07:31 차이 역사 +40 새글 제로샷 프루닝 제로샷 가지치기 문서로 넘겨주기 최신 태그: 새 넘겨주기 시각 편집
- 07:302025년 10월 2일 (목) 07:30 차이 역사 +64 KV 캐시 가지치기 편집 요약 없음 최신 태그: 시각 편집
- 07:302025년 10월 2일 (목) 07:30 차이 역사 +3,437 새글 KV 캐시 가지치기 새 문서: KV 캐시 가지치기(KV Cache Pruning)는 트랜스포머 기반 언어 모델의 추론 단계에서 사용하는 '''Key-Value 캐시'''의 크기를 줄이기 위해 일부 K/V 쌍을 제거하거나 압축하는 기법이다. ==개념 및 배경== *트랜스포머 기반의 자기 회귀 모델에서는 이전 토큰의 Key와 Value를 캐시(KV 캐시)해 두고, 이후 토큰 생성 시 재사용한다. *이 방식은 중복 계산을 피하게 해주지만, 문맥... 태그: 시각 편집
- 07:282025년 10월 2일 (목) 07:28 차이 역사 +5 신경망 가지치기 편집 요약 없음 태그: 시각 편집
- 07:262025년 10월 2일 (목) 07:26 차이 역사 +4,502 새글 신경망 가지치기 새 문서: 가지치기(영어: Pruning)는 딥 러닝에서 신경망의 불필요한 파라미터(가중치나 뉴런 연결)를 제거하여 모델의 크기를 줄이고 연산 효율을 높이는 기법이다. 이는 나무의 불필요한 가지를 잘라내는 원예 작업에서 유래한 용어로, 신경망의 성능은 유지하면서도 경량화를 달성하기 위해 사용된다. ==개요== *딥 러닝 모델은 수백만~수십억 개의 파라미터를 가지며, 이 중...
- 07:262025년 10월 2일 (목) 07:26 차이 역사 −4,462 가지치기 (딥 러닝) 신경망 가지치기 문서로 넘겨주기 최신 태그: 새 넘겨주기
- 07:252025년 10월 2일 (목) 07:25 차이 역사 +2,525 새글 반복적 가지치기 새 문서: 반복적 가지치기(Iterative Pruning)는 신경망 모델의 불필요한 가중치를 점진적으로 제거하고, 각 단계마다 재학습(fine‑tuning)을 통해 성능 손실을 보정하는 방식이다. ==개념== *한 번에 많은 가중치를 제거하면 모델 성능이 급격히 저하될 수 있기 때문에, 반복적으로 조금씩 제거하는 전략을 사용한다. *각 반복 주기마다: **중요도가 낮은 가중치 또는 구조를 제거 **제... 최신 태그: 시각 편집
- 07:202025년 10월 2일 (목) 07:20 차이 역사 +46 제로샷 가지치기 편집 요약 없음 최신 태그: 시각 편집
- 07:202025년 10월 2일 (목) 07:20 차이 역사 +3,444 새글 제로샷 가지치기 새 문서: 제로샷 가지치기 또는 제로샷 프루닝(Zero-Shot Pruning)은 사전 학습된 신경망 모델을 추가 학습 없이 곧바로 가지치기(pruning)하는 기법으로, 재학습(fine-tuning)이나 반복 최적화 없이 모델의 구조를 경량화하는 데 목적이 있다. ==개념== *전통적인 프루닝은 모델 학습 중간 또는 이후에 반복적으로 가중치를 제거하고 재학습하는 절차를 필요로 한다. *... 태그: 시각 편집
- 07:152025년 10월 2일 (목) 07:15 차이 역사 +7 에너지 기반 모델 편집 요약 없음 최신 태그: 시각 편집
- 07:152025년 10월 2일 (목) 07:15 차이 역사 +56 새글 파일:에너지 기반 모델 학습 과정 예시.gif 편집 요약 없음 최신
- 07:132025년 10월 2일 (목) 07:13 차이 역사 +54 에너지 기반 모델 편집 요약 없음 태그: 시각 편집
- 07:132025년 10월 2일 (목) 07:13 차이 역사 +23 새글 파일:에너지 기반 모델 학습 과정.png 편집 요약 없음 최신
- 07:082025년 10월 2일 (목) 07:08 차이 역사 +3,626 새글 에너지 기반 모델 새 문서: 섬네일|에너지 기반 모델 학습 과정 개념도 에너지 기반 모델(Energy-Based Model, EBM)은 입력과 출력 구성(configuration)에 대해 스칼라 에너지 함수를 정의하고, 낮은 에너지를 갖는 구성일수록 더 가능성 있는 상태로 간주하는 기계 학습 모델이다. ==개념== *EBM은 통계 물리학의 개념을 차용하여, 가능한 구성들에 대해 에너지... 태그: 시각 편집
- 07:062025년 10월 2일 (목) 07:06 차이 역사 +35 새글 파일:에너지 기반 모델 학습 과정 개념도.png 편집 요약 없음 최신
- 06:542025년 10월 2일 (목) 06:54 차이 역사 +63 희소 행렬 압축 편집 요약 없음 최신 태그: 시각 편집
- 06:542025년 10월 2일 (목) 06:54 차이 역사 +4,386 새글 희소 행렬 압축 새 문서: 희소 행렬 압축(sparse matrix compression)은 요소의 대부분이 0인 희소 행렬을 저장 및 계산할 때, 0이 아닌 원소만을 효율적으로 표현하여 메모리와 연산 효율을 높이는 기술이다. ==개념 및 필요성== *희소 행렬(sparse matrix)이란 행렬 원소 중 0이 아닌 값(nonzero)이 전체 원소 대비 매우 적은 비율을 차지하는 행렬이다. *밀집 행렬(dense matrix) 방식으로 저장하면 많은 0 값도 공... 태그: 시각 편집
- 06:522025년 10월 2일 (목) 06:52 차이 역사 +2,300 새글 COO (압축) 새 문서: COO (Coordinate, 또는 triplet 형식)은 희소 행렬을 저장할 때 가장 직관적이고 간단한 방식 중 하나이다. ==개념== COO 방식은 비제로(nonzero) 원소 각각을 (행 인덱스, 열 인덱스, 값) 튜플로 표현하는 방식이다. 즉, 세 개의 배열(행 인덱스 배열, 열 인덱스 배열, 값 배열)을 병렬로 유지하며, 배열의 같은 위치에서 대응되는 원소들이 하나의 비제로 항목을 나타낸다. ==구성... 태그: 시각 편집
- 06:502025년 10월 2일 (목) 06:50 차이 역사 +18 CSR (압축) 편집 요약 없음 최신 태그: 시각 편집
- 06:502025년 10월 2일 (목) 06:50 차이 역사 +2,606 새글 CSR (압축) 새 문서: CSR (Compressed Sparse Row, 압축 행 기준)은 희소 행렬을 저장하고 연산할 때 행 중심 접근을 빠르게 지원하는 압축 저장 방식이다. ==개념== CSR은 행렬의 각 행(row)에 대해, 0이 아닌 원소(nonzero)들만 순차적으로 저장하고, 각 행이 시작하는 지점을 인덱스로 관리하는 방식이다. 이 방식은 행 접근(row slicing)이나 행 단위 연산(예: 행‑벡터 곱셈)에 효율적이다. ==구성 요소==... 태그: 시각 편집
- 06:172025년 10월 2일 (목) 06:17 차이 역사 +2,974 새글 복권 가설 (인공지능) 새 문서: 복권 가설(Lottery Ticket Hypothesis)은 딥 뉴럴 네트워크 내에 상대적으로 적은 수의 파라미터만을 가진 부분 신경망이 전체 네트워크와 동등한 성능을 달성할 수 있다는 가설이다. ==개요== *본 가설은 조나단 프랭클(Jonathan Frankle)과 동료들이 제안하였다. *무작위 초기화된 밀집(Dense) 신경망 안에는, 일정 부분의 “당첨 복권(winning ticket)”이라 불리는 부분 신경망이 존재... 최신 태그: 시각 편집
- 06:162025년 10월 2일 (목) 06:16 차이 역사 +46 새글 복권 가설 복권 가설 (인공지능) 문서로 넘겨주기 최신 태그: 새 넘겨주기 시각 편집
- 03:032025년 10월 2일 (목) 03:03 차이 역사 −61 합성곱 신경망 편집 요약 없음 태그: 시각 편집
