미로의 개발노트

transformers

Transformers 5.22.2, 분산 실행과 템플릿 샌드박스 보완

소식 기준일 · 블로그 공개

NCCL 장치 지정 경로와 Jinja 샌드박스를 손봤다.

발표 내용

Transformers 5.22.2는 분산 실행에서 장치 ID를 NCCL에만 지정하도록 수정하고 Jinja 샌드박스 방어를 강화했다. 대형 기능 추가보다 분산 실행과 보안 수정에 집중한 패치다.

확인할 부분

분산 학습과 채팅 템플릿을 함께 쓰는 환경이라면 두 기능을 따로 테스트해야 한다. 장치 초기화와 템플릿 렌더링은 서로 다른 실행 단계에서 문제가 드러날 수 있다.

출처