프로젝트 소개
Transformers는 텍스트, 컴퓨터 비전, 오디오, 비디오 및 멀티모달 모델을 포함하는 머신러닝 작업을 위해 설계된 오픈 소스 모델 정의 프레임워크입니다. 이는 머신러닝 생태계 전반의 중앙 허브 역할을 하며, 주요 학습 프레임워크(Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning 등), 추론 엔진(vLLM, SGLang, TGI 포함) 및 llama.cpp, mlx와 같은 인접 모델링 라이브러리와의 호환성을 보장합니다.
### 주요 특징
- **통합 API:** 수백 가지 모델 아키텍처에 대해 학습, 평가 및 추론을 수행할 수 있는 일관된 인터페이스를 제공합니다.
- **Pipeline API:** 텍스트 생성, 자동 음성 인식, 이미지 분류 및 시각적 질의응답을 포함한 여러 모달리티에 걸쳐 빠른 추론을 가능하게 하는 고수준 추상화를 제공합니다.
- **프레임워크 상호 운용성:** 사용자가 단일 모델을 PyTorch, JAX, TensorFlow 2.0 간에 원활하게 이동할 수 있도록 합니다.
- **Hugging Face Hub 통합:** 100만 개 이상의 사전 학습된 모델 체크포인트에 직접 액세스할 수 있는 기능을 제공합니다.
- **사용자 정의 가능한 내부 구조:** 모델 아키텍처는 최소한의 추상화로 설계되어 내부 구조가 노출되므로, 연구자와 개발자가 모델 파일을 독립적으로 쉽게 사용자 정의하고 반복 개선할 수 있습니다.