연구진은 잊음과 가소성 외에 지속적 학습 성능 격차를 설명하는 요인으로 데이터 공관찰의 중요성을 강조했어요.
데이터 접근 제약을 해제하고 안정성과 가소성을 조절하면서 데이터 공관찰이 주는 표현상의 이점을 체계적으로 조사했답니다.
지도 학습과 자기 지도 학습 모두에서 데이터 조각을 점진적으로 추가하는 시나리오에서 데이터 공관찰이 잊음 방지 및 가소성 조절을 넘어 일반화 성능 향상에 기여한다는 것을 입증했어요.
기존 지식 증류 방식은 지식 유지에만 효과적이지만, 메모리 재생 방식은 잊음 방지 외에도 데이터 공관찰의 이점을 재도입하는 역할을 한다는 점을 밝혔어요.