인공무능님의 사용자 기여
IT 위키
2025년 12월 11일 (목)
- 06:332025년 12월 11일 (목) 06:33 차이 역사 +4,563 새글 PICACHU (인공지능) 새 문서: '''PICACHU(Plug-In CGRA for Nonlinear Operations in LLMs)'''는 대규모 언어 모델(LLM)에서 반복적으로 등장하는 비선형 연산(Softmax, GELU, LayerNorm, RMSNorm, RoPE 등)을 전용 하드웨어에서 가속하기 위해 고안된 '''플러그인(Plug-In) CGRA(Coarse-Grained Reconfigurable Architecture) 기반 가속기'''이다. PICACHU는 전용 컴파일러, 연산 알고리즘 최적화, 그리고 비선형 연산 전용 재구성 가능 연산 유닛(FU)... 최신 태그: 시각 편집
- 06:102025년 12월 11일 (목) 06:10 차이 역사 +15 테일러 근사 편집 요약 없음 최신 태그: 시각 편집
- 06:082025년 12월 11일 (목) 06:08 차이 역사 +871 테일러 근사 편집 요약 없음 태그: 시각 편집
- 06:012025년 12월 11일 (목) 06:01 차이 역사 +3,415 새글 테일러 근사 새 문서: 테일러 근사(Taylor approximation, Taylor 다항식)는 어떤 함수 \(f(x)\)를 그 도함수들을 사용하여 특정한 점 근처에서 다항식으로 근사하는 방법이다. ==개요== 테일러 근사는 복잡하거나 해석적 표현이 어려운 함수를, 함수의 도함수 값을 이용해 단순한 다항식으로 근사함으로써 계산, 해석, 근삿값 추정 등에 유용한 도구이다. 특히 함수가 충분히 매끄럽고 도함수가 존재... 태그: 시각 편집
2025년 12월 4일 (목)
- 05:322025년 12월 4일 (목) 05:32 차이 역사 +3,233 새글 시스톨릭 배열 새 문서: 섬네일|시스톨릭 아키텍처 시스톨릭 배열(Systolic Array)은 다수의 연산 유닛을 규칙적인 격자 형태로 배치하고, 데이터가 유닛 사이를 흐르듯 전달되면서 연산이 이루어지는 병렬 하드웨어 구조이다. 특히 행렬 곱셈과 같은 대규모 MAC(Multiply-Accumulate) 연산이 필요한 딥러닝 계산에 널리 사용된다. ==개요== 시스톨릭 배열(systolic array)은... 최신 태그: 시각 편집
- 05:302025년 12월 4일 (목) 05:30 차이 역사 +94 새글 파일:시스톨릭 아키텍처.png 편집 요약 없음 최신
2025년 11월 27일 (목)
- 07:062025년 11월 27일 (목) 07:06 차이 역사 +52 Straight-Through Estimator 편집 요약 없음 최신 태그: 시각 편집
- 07:022025년 11월 27일 (목) 07:02 차이 역사 −726 Straight-Through Estimator 편집 요약 없음 태그: 시각 편집
- 07:002025년 11월 27일 (목) 07:00 차이 역사 −2 Straight-Through Estimator 편집 요약 없음 태그: 시각 편집
- 07:002025년 11월 27일 (목) 07:00 차이 역사 +3,506 새글 Straight-Through Estimator 새 문서: '''스트레이트스루 추정기'''(Straight-Through Estimator, '''STE''')는 딥러닝에서 미분 불가능하거나 불연속적인 연산(예: $\mathrm{sign}(x)$, $\mathrm{round}(x)$, 이산 샘플링 등)을 역전파로 학습할 수 있도록 하기 위해 사용되는 근사 그라디언트(surrogate gradient) 기법이다. ==개요== 딥러닝 학습에서 다음과 같은 연산은 미분이 불가능하거나 거의 모든 지점에서 미분값이 0이다. *$\math... 태그: 시각 편집
2025년 11월 20일 (목)
- 08:582025년 11월 20일 (목) 08:58 차이 역사 −33 딥 러닝 프레임워크 편집 요약 없음 최신 태그: 시각 편집
- 06:042025년 11월 20일 (목) 06:04 차이 역사 +4,621 새글 자동 미분 새 문서: '''자동 미분'''(Automatic Differentiation, AD)은 함수의 기울기(도함수)를 연산 그래프를 기반으로 자동으로 계산하는 기술이다. 심볼릭 미분(symbolic differentiation)이나 수치 미분(numerical differentiation)과 달리, 자동 미분은 기계 오차를 최소화하면서 정확한 기울기를 효율적으로 계산할 수 있어 딥러닝과 최적화 알고리즘의 핵심 기술로 사용된다. ==개요== 자동 미분은 함수... 최신 태그: 시각 편집
- 06:022025년 11월 20일 (목) 06:02 차이 역사 +30 새글 TensorFlow 텐서플로 문서로 넘겨주기 최신 태그: 새 넘겨주기 시각 편집
- 06:022025년 11월 20일 (목) 06:02 차이 역사 +4,481 새글 텐서플로 새 문서: '''TensorFlow'''는 Google Brain 팀에서 개발한 오픈소스 머신러닝 및 딥러닝 프레임워크로, 수치 계산, 모델 학습, 추론, 배포까지 아우르는 종합적인 ML 플랫폼이다. 대규모 분산 학습, 모바일 및 엣지 배포, TPU 통합 등을 강점으로 하며, TensorFlow Extended(TFX), TensorFlow Lite, TensorFlow.js 등 폭넓은 생태계를 제공한다. ==개요== TensorFlow는 2015년 처음 공개된 이후 산업계와 연구계... 최신 태그: 시각 편집
- 06:002025년 11월 20일 (목) 06:00 차이 역사 +4,777 새글 JAX 새 문서: '''JAX'''는 Google Research에서 개발한 고성능 수치 연산 및 머신러닝 라이브러리로, NumPy 스타일의 API를 기반으로 자동 미분(autograd), JIT 컴파일(just-in-time), 벡터화(Vectorization), 병렬 처리 등을 제공한다. XLA(Accelerated Linear Algebra) 컴파일러를 통해 CPU, GPU, TPU에서 모두 효율적으로 실행되며, 대규모 딥러닝 연구와 과학 계산에서 널리 사용된다. ==개요== JAX는 기존 NumPy 스타... 최신 태그: 시각 편집
- 05:572025년 11월 20일 (목) 05:57 차이 역사 +4,801 새글 FPGA 새 문서: '''FPGA'''(Field-Programmable Gate Array)는 사용자가 제작된 이후에도 하드웨어 회로를 직접 구성할 수 있도록 설계된 프로그래머블 집적회로이다. 범용 CPU나 GPU와 달리, FPGA는 하드웨어 레벨에서 병렬 처리 구조를 원하는 형태로 설계할 수 있어 높은 유연성과 맞춤형 가속 기능을 제공한다. ==개요== FPGA는 내부에 구성 가능한 논리 블록(logic block)과 이들을 서로 연결하는 라... 최신 태그: 시각 편집
- 05:542025년 11월 20일 (목) 05:54 차이 역사 +4,229 새글 ASIC 새 문서: '''ASIC'''(Application-Specific Integrated Circuit)은 특정 용도나 알고리즘을 빠르고 효율적으로 수행하기 위해 맞춤 설계된 집적회로이다. 범용 CPU나 GPU와 달리, 특정 작업을 수행하는 회로가 하드웨어 수준에서 고정되어 있어 매우 높은 성능과 전력 효율을 제공한다. ==개요== ASIC은 범용 프로세서와 달리 소프트웨어로 동작을 변경하는 형태가 아니라, '''하드웨어 자체가 특... 최신 태그: 시각 편집
- 05:512025년 11월 20일 (목) 05:51 차이 역사 +5,034 새글 GPU 새 문서: '''GPU'''(Graphics Processing Unit, 그래픽 처리 장치)는 대규모 병렬 연산을 효율적으로 처리하도록 설계된 프로세서로, 본래는 그래픽 렌더링을 위해 개발되었지만 현재는 딥러닝, 과학 계산, 고성능 컴퓨팅(HPC), 데이터 분석 등 다양한 분야에서 핵심 가속기로 사용되고 있다. ==개요== GPU는 수천 개의 연산 유닛을 병렬로 배치해, 동일하거나 유사한 연산을 반복적으로 수... 최신 태그: 시각 편집
- 05:332025년 11월 20일 (목) 05:33 차이 역사 +4,903 새글 구글 TPU 새 문서: '''TPU'''(Tensor Processing Unit)는 Google이 딥러닝 워크로드를 가속하기 위해 설계한 맞춤형 ASIC(Application-Specific Integrated Circuit) 계열의 하드웨어 가속기이다. 내부 Google 서비스(Gmail, Search, Translate 등)와 Google Cloud Platform(GCP)의 AI/ML 워크로드를 위해 개발되었으며, 행렬 연산 및 대규모 딥러닝 연산을 최적화한 아키텍처를 가진다. ==개요== TPU는 딥러닝에서 핵심이 되는... 최신 태그: 시각 편집
- 05:302025년 11월 20일 (목) 05:30 차이 역사 +5,501 새글 AI 가속기 새 문서: '''AI 가속기'''(AI Accelerator)는 인공지능(Artificial Intelligence), 특히 딥러닝(Deep Learning)의 연산을 빠르고 효율적으로 수행하기 위해 설계된 특수 목적 하드웨어이다. 딥러닝 모델의 핵심 연산(행렬 곱, convolution, attention 등)을 가속하기 위해 범용 CPU나 GPU보다 더 높은 성능 또는 전력 효율을 제공한다. AI 가속기는 데이터센터, 클라우드, 엣지 장치(스마트폰·IoT), 로봇, 자... 최신 태그: 시각 편집
- 05:262025년 11월 20일 (목) 05:26 차이 역사 +4,292 새글 DRAM 새 문서: '''DRAM'''(Dynamic Random-Access Memory, 동적 랜덤 접근 메모리)은 컴퓨터 및 전자 기기에서 주기억장치(main memory)로 널리 사용되는 반도체 메모리 기술이다. DRAM은 메모리 셀에 저장된 전하가 시간이 지나면 자연 방전되기 때문에, 일정 간격으로 재충전(refresh)해야 한다. 이러한 특성 때문에 "동적(dynamic)"이라는 이름이 붙었다. ==개요== DRAM은 CPU, GPU, 모바일 기기, 서버, AI 가... 최신 태그: 시각 편집
- 05:132025년 11월 20일 (목) 05:13 차이 역사 +4,517 새글 CuBLAS 새 문서: '''cuBLAS'''는 NVIDIA가 제공하는 고성능 GPU 가속 선형대수(Liner Algebra) 라이브러리로, BLAS(Basic Linear Algebra Subprograms) 표준을 GPU에서 빠르게 실행할 수 있도록 구현한 라이브러리이다. 행렬-벡터 곱, 행렬-행렬 곱(GEMM), 벡터 연산 등 딥러닝과 과학 계산의 핵심 연산을 효율적으로 처리하기 위해 최고의 성능을 제공한다. ==개요== cuBLAS는 CPU에서 실행되는 BLAS를 GPU로 이식한... 최신 태그: 시각 편집
- 05:082025년 11월 20일 (목) 05:08 차이 역사 +4,411 새글 CuDNN 새 문서: '''cuDNN'''(CUDA Deep Neural Network Library)은 NVIDIA가 제공하는 고성능 GPU 가속 딥러닝 라이브러리로, 합성곱 신경망(Convolutional Neural Networks), 순환 신경망(RNN), 정규화, 활성화 함수 등 딥러닝에서 자주 사용되는 연산을 최적화된 GPU 커널로 제공한다. TensorFlow, PyTorch, JAX 등 대부분의 주요 딥러닝 프레임워크는 cuDNN을 자동으로 사용하여 GPU에서의 학습 및 추론 성능을 크게 향... 최신 태그: 시각 편집
- 05:052025년 11월 20일 (목) 05:05 차이 역사 +30 새글 PyTorch 파이토치 문서로 넘겨주기 최신 태그: 새 넘겨주기 시각 편집
- 05:042025년 11월 20일 (목) 05:04 차이 역사 +4,860 새글 파이토치 새 문서: '''PyTorch'''는 Meta(구 Facebook) AI Research(FAIR)에서 개발한 딥러닝 프레임워크로, 동적 계산 그래프(dynamic computation graph)와 파이썬 친화적 인터페이스를 기반으로 한 고성능 머신 러닝/딥러닝 라이브러리이다. 자연어 처리, 컴퓨터 비전, 대규모 모델 연구 등 다양한 분야에서 사실상 표준적으로 사용되는 프레임워크 중 하나이다. ==개요== PyTorch는 파이썬 문법과 자연스럽... 최신 태그: 시각 편집
- 04:512025년 11월 20일 (목) 04:51 차이 역사 +4,290 새글 Triton (인공지능) 새 문서: '''Triton'''은 Python 기반으로 GPU 커널을 작성할 수 있게 해주는 오픈소스 언어 및 컴파일러로, 고성능 CUDA 수준의 연산을 훨씬 간단한 코드로 구현할 수 있도록 설계되었다. 원래 Harvard 및 OpenAI에서 개발되었으며, 현재는 PyTorch의 컴파일 스택에 통합되어 딥러닝 연산 최적화를 위해 널리 사용되고 있다. ==개요== Triton은 연구자와 개발자가 복잡하고 오류가 발생하기 쉬... 최신 태그: 시각 편집
- 01:572025년 11월 20일 (목) 01:57 차이 역사 +4,136 새글 딥 러닝 프레임워크 새 문서: '''딥 러닝 프레임워크(Deep Learning Frameworks)'''는 인공 신경망 모델을 정의하고 학습하며 배포하기 위한 소프트웨어 도구와 라이브러리의 집합이다. 이러한 프레임워크는 자동 미분(autograd), 텐서 연산, GPU 가속, 모델 구조화, 데이터 파이프라인 구성 등 복잡한 과정을 추상화하여 연구자와 개발자가 효율적으로 딥러닝 모델을 개발할 수 있도록 돕는다. 딥러닝 프레임... 태그: 시각 편집
2025년 11월 13일 (목)
- 08:512025년 11월 13일 (목) 08:51 차이 역사 +3,739 새글 MoDNN 새 문서: MoDNN(Mobile Distributed Deep Neural Network, 2017년)은 여러 모바일 디바이스의 연산 자원을 결합하여 하나의 딥러닝 모델을 분산 추론하도록 설계된 기법이다. 단일 스마트폰이나 IoT 기기에서 처리하기 어려운 신경망 연산을 여러 노드가 협력하여 나누어 수행함으로써 추론 속도를 향상시키는 것을 목표로 한다. ==개요== MoDNN은 모바일 디바이스들이 서로 연결된 환경에서,... 최신 태그: 시각 편집
- 08:152025년 11월 13일 (목) 08:15 차이 역사 +3,581 새글 ADCNN 새 문서: ADCNN(Adaptive Distributed Convolutional Neural Network, 2020년)은 여러 엣지(edge) 디바이스에 신경망의 연산을 적응적으로 분산시켜 추론 지연(latency)과 통신량을 줄이기 위한 딥러닝 분산추론(distributed inference) 기법이다. ==개요== ADCNN은 딥러닝 추론을 위해 하나의 중앙 서버나 클라우드에 모든 연산을 맡기는 대신, 여러 엣지 디바이스 클러스터에 연산을 적절히 분할해서 배치함... 최신 태그: 시각 편집
- 08:092025년 11월 13일 (목) 08:09 차이 역사 +3,667 새글 DDNN (신경망, 2017년) 새 문서: DDNN(Distributed Deep Neural Network, 2017년)은 단일 기기에서 실행되는 신경망을 클라우드, 엣지, 디바이스 계층에 분산하여 협력적으로 추론을 수행하는 구조로, 입력 데이터의 특성에 따라 로컬 또는 클라우드에서 단계적으로 계산을 수행함으로써 지연(latency)과 통신 비용을 줄이는 것을 목표로 한다. ==개요== DDNN은 분산 환경에서 신경망 일부를 로컬 디바이스에 배치하... 최신 태그: 시각 편집
- 07:482025년 11월 13일 (목) 07:48 차이 역사 +3,268 새글 브랜치넷 새 문서: BranchyNet(브랜치넷)은 신경망의 중간 계층에 여러 개의 조기 종료 지점(exit branch)을 추가하여, 입력 데이터의 난이도에 따라 계산량을 동적으로 조절하는 신경망 구조이다. 이를 통해 쉬운 입력은 빠르게 처리하고, 어려운 입력만 전체 모델을 통과시키는 방식으로 추론 속도를 크게 향상시킨다. ==개요== BranchyNet은 입력 샘플의 난이도가 서로 다르다는 점에 착안하여... 최신 태그: 시각 편집
- 06:302025년 11월 13일 (목) 06:30 차이 역사 +4,637 새글 GPipe 새 문서: 섬네일|Bubble을 줄이는 것을 목표로 한다. GPipe(지파이프, 영어: GPipe)는 대규모 신경망 모델을 여러 장치에 나누어 학습시키기 위해 제안된 파이프라인 병렬(pipeline parallelism) 기법으로, 마이크로배치를 활용해 파이프라인의 유휴 시간(bubble)을 줄이고 장치 활용률을 높이는 것을 목표로 한다. ==개요== GPipe는 모델을 여러 스테이지(stage)로 분... 최신 태그: 시각 편집
- 06:302025년 11월 13일 (목) 06:30 차이 역사 +121 새글 파일:GPipe 병렬 학습.png 편집 요약 없음 최신
- 06:252025년 11월 13일 (목) 06:25 차이 역사 +4,165 새글 파이프드림 새 문서: 섬네일|파이프드림 사용 전의 학습 순서 섬네일|파이프드림 사용 시 학습 파이프드림(PipeDream)은 대규모 신경망 모델을 여러 장치에 나누어 학습하는 파이프라인 병렬(pipeline parallelism) 방식의 비효율성을 개선하기 위해 제안된 분산 학습 기법이다. 특히 순전파와 역전파의 파이프라인 스케... 최신 태그: 시각 편집
- 06:252025년 11월 13일 (목) 06:25 차이 역사 +52 새글 파일:파이프드림 사용 시 학습 과정.png 편집 요약 없음 최신
- 06:242025년 11월 13일 (목) 06:24 차이 역사 +60 새글 파일:멀티 코어 학습 순서.png 편집 요약 없음 최신
- 06:042025년 11월 13일 (목) 06:04 차이 역사 +70 신경망 분산 학습 편집 요약 없음 최신 태그: 시각 편집
- 06:022025년 11월 13일 (목) 06:02 차이 역사 +8,032 새글 신경망 분산 학습 새 문서: 신경망 분산 학습(영어: distributed training of neural networks)은 인공신경망 모델을 여러 컴퓨팅 노드(예: GPU, 서버)에 분산시켜 동시에 학습함으로써 학습 속도를 높이고 더 큰 모델과 데이터셋을 다루기 위한 기술이다. ==개요== 신경망 분산 학습은 단일 장치의 메모리와 연산 능력으로 처리하기 어려운 대규모 데이터셋과 딥러닝 모델을 효율적으로 학습하기 위해 등장하... 태그: 시각 편집
- 05:522025년 11월 13일 (목) 05:52 차이 역사 +3,998 새글 링 올 리듀스 새 문서: 링 올 리듀스(Ring All-Reduce)는 분산 딥러닝 및 고성능 컴퓨팅(HPC) 환경에서 다수의 노드(주로 GPU) 간에 데이터를 효율적으로 집계하고 공유하기 위해 사용되는 올 리듀스(All-Reduce) 알고리즘의 한 형태이다. ==개요== 링 올 리듀스는 모든 노드를 링(Ring) 형태로 연결하여, 각 노드가 자신의 텐서를 여러 조각(chunk)으로 분할한 뒤 인접한 노드와 데이터를 교환하며 기울기(g... 태그: 시각 편집
- 05:512025년 11월 13일 (목) 05:51 차이 역사 +98 새글 파일:링 올 리듀스 동작 순서 4.png 편집 요약 없음 최신
- 05:502025년 11월 13일 (목) 05:50 차이 역사 +98 새글 파일:링 올 리듀스 동작 순서 3.png 편집 요약 없음 최신
- 05:492025년 11월 13일 (목) 05:49 차이 역사 +98 새글 파일:링 올 리듀스 동작 순서 2.png 편집 요약 없음 최신
- 05:482025년 11월 13일 (목) 05:48 차이 역사 +98 새글 파일:링 올 리듀스 동작 순서 1.png 편집 요약 없음 최신
- 05:452025년 11월 13일 (목) 05:45 차이 역사 0 파라미터 서버 편집 요약 없음 최신 태그: 시각 편집
- 05:442025년 11월 13일 (목) 05:44 차이 역사 +4,273 새글 올 리듀스 새 문서: 섬네일|올 리듀스 방식 작동 구조 올 리듀스(All-Reduce)는 분산 딥러닝 및 고성능 컴퓨팅(HPC) 환경에서 여러 노드(예: GPU)가 계산한 데이터를 집계하고, 그 결과를 모든 노드에 다시 배포하는 집합 통신 연산이다. ==개요== 올 리듀스는 각 노드가 독립적으로 계산한 기울기(gradient) 또는 텐서 값을 서로 공유하고 합산 또는 평균한 뒤, 그 결과를 모든... 최신 태그: 시각 편집
- 05:432025년 11월 13일 (목) 05:43 차이 역사 +98 새글 파일:올 리듀스.png 편집 요약 없음 최신
- 05:382025년 11월 13일 (목) 05:38 차이 역사 +3,469 새글 파라미터 서버 새 문서: 섬네일|파라미터 서버(싱글과 멀티 서버 방식) 파라미터 서버(Parameter Server)는 대규모 분산 머신러닝에서 모델 파라미터(가중치)를 관리하고 동기화하기 위해 사용되는 분산 시스템 구조이다. ==개요== 파라미터 서버 아키텍처는 여러 개의 워커(worker) 노드가 각자 데이터 샘플을 사용해 기울기(gradient)를 계산하고, 중앙 또는 분산된 서버(serv... 태그: 시각 편집
- 05:362025년 11월 13일 (목) 05:36 차이 역사 +77 새글 파일:파라미터 서버.png 편집 요약 없음 최신
- 05:132025년 11월 13일 (목) 05:13 차이 역사 +1,158 Medusa (인공지능) 편집 요약 없음 최신 태그: 시각 편집
- 05:112025년 11월 13일 (목) 05:11 차이 역사 +32 추측 디코딩 편집 요약 없음 최신 태그: 시각 편집
