OCR(광학 문자 인식)은 인쇄되거나 손으로 쓴 텍스트를 기계로 인코딩된 텍스트로 변환하는 작업입니다. OCR은 문서 전자화 및 신원 인증과 같은 다양한 시나리오에서 널리 사용되었습니다. OCR은 주요 정보를 등록하는 수작업을 크게 줄이고 대용량 문서를 이해하기 위한 진입 단계 역할을 할 수 있으므로 정확한 OCR 시스템은 디지털 트랜스포메이션 시대에 중요한 역할을 합니다.
오픈 소스 커뮤니티와 연구원들은 OCR 정확도, 사용 용이성, 사전 훈련된 모델과의 통합, 확장 및 유연성을 개선하는 방법에 집중하고 있습니다. 제안된 많은 프레임워크 중 PaddleOCR이 최근 주목을 받고 있습니다. 제안된 프레임워크는 계산 효율성의 균형을 유지하면서 높은 정확도를 얻는 데 중점을 둡니다. 또한 사전 학습된 중국어 및 영어 모델을 통해 중국어 기반 시장에서 인기를 얻고 있습니다. 참조 PaddleOCR GitHub 리포지토리 자세한 내용은.
AWS에서는 기계 학습(ML) 전문 지식 없이도 바로 사용할 수 있는 통합 AI 서비스도 제안했습니다. 문서에서 테이블 및 양식과 같은 구조화된 데이터 및 텍스트를 추출하려면 다음을 사용할 수 있습니다. 아마존 텍사스. ML 기술을 사용하여 모든 유형의 문서를 읽고 처리하여 수동 작업 없이 텍스트, 필기, 표 및 기타 데이터를 정확하게 추출합니다.
오픈 소스 프레임워크를 사용하여 고유한 OCR 모델을 개발할 수 있는 유연성을 원하는 데이터 과학자를 위해 완전 관리형 ML 서비스도 제공합니다. 아마존 세이지 메이커. SageMaker를 사용하면 ML 수명 주기 전반에 걸쳐 MLOps 모범 사례를 구현할 수 있으며, ML 프로젝트를 프로덕션 환경에 배치하기 위한 획일적인 무거운 작업을 줄이기 위한 템플릿 및 도구 집합을 제공합니다.
이 게시물에서는 SageMaker의 PaddleOCR 프레임워크 내에서 맞춤형 모델을 개발하는 데 집중합니다. ML 개발 수명 주기를 살펴보고 SageMaker를 사용하여 모델을 구축 및 교육하고 궁극적으로 모델을 웹 서비스로 배포하는 방법을 설명합니다. PaddleOCR을 사용하여 이 솔루션을 설명하지만 SageMaker에서 사용할 임의의 프레임워크에 대한 일반적인 지침이 적용됩니다. 이 게시물과 함께하기 위해 샘플 코드도 제공합니다. GitHub 저장소.
PaddleOCR 프레임워크
널리 채택된 OCR 프레임워크인 PaddleOCR에는 풍부한 텍스트 감지, 텍스트 인식 및 종단 간 알고리즘이 포함되어 있습니다. 기본 탐지 및 인식 모델로 DB(Differentiable Binarization)와 CRNN(Convolutional Recurrent Neural Network)을 선택하고 일련의 최적화 전략을 거쳐 산업용 애플리케이션에 대해 PP-OCR이라는 일련의 모델을 제안합니다.
PP-OCR 모델은 일반적인 시나리오를 대상으로 하며 다양한 언어의 모델 라이브러리를 구성합니다. PaddleOCR의 다음 그림과 같이 텍스트 감지, 상자 감지 및 수정, 텍스트 인식의 세 부분으로 구성됩니다. 공식 GitHub 저장소. 연구 논문을 참조할 수도 있습니다. PP-OCR: 실용적인 초경량 OCR 시스템
보다 구체적으로 PaddleOCR은 세 가지 연속 작업으로 구성됩니다.
- 텍스트 감지 – 텍스트 감지의 목적은 이미지에서 텍스트 영역을 찾는 것입니다. 이러한 작업은 간단한 분할 네트워크를 기반으로 할 수 있습니다.
- 상자 감지 및 수정 – 각 텍스트 상자는 후속 텍스트 인식을 위해 수평 직사각형 상자로 변환되어야 합니다. 이를 위해 PaddleOCR은 텍스트 방향을 결정하기 위해 텍스트 방향 분류기(이미지 분류 작업)를 훈련할 것을 제안합니다.
- 텍스트 인식 – 텍스트 상자가 감지되면 텍스트 인식기 모델은 각 텍스트 상자에 대해 추론을 수행하고 텍스트 상자 위치에 따라 결과를 출력합니다. PaddleOCR은 널리 사용되는 방법 CRNN을 채택합니다.
PaddleOCR은 상업적 효과에 필적하는 고품질의 사전 훈련된 모델을 제공합니다. 감지 모델, 방향 분류기 또는 인식 모델에 대해 사전 학습된 모델을 사용하거나 사용 사례에 맞게 각 개별 모델을 미세 조정하고 재학습할 수 있습니다. 중국어 번체 및 영어 감지의 효율성과 효과를 높이기 위해 텍스트 인식 모델을 미세 조정하는 방법을 설명합니다. 우리가 선택한 사전 훈련된 모델은 ch_ppocr_mobile_v2.0_rec_train, 중국어, 영어, 숫자 인식을 지원하는 경량 모델입니다. 다음은 홍콩 신분증을 이용한 추론 결과의 예시이다.
다음 섹션에서는 SageMaker를 사용하여 사전 훈련된 모델을 미세 조정하는 방법을 안내합니다.
SageMaker를 사용한 MLOps 모범 사례
SageMaker는 완전 관리형 ML 서비스입니다. SageMaker를 사용하면 데이터 과학자와 개발자가 ML 모델을 빠르고 쉽게 구축 및 교육한 다음 프로덕션 준비 관리 환경에 직접 배포할 수 있습니다.
많은 데이터 과학자들은 ML 수명 주기를 가속화하기 위해 SageMaker를 사용합니다. 이 섹션에서는 SageMaker가 ML 실험에서 프로덕션화까지 어떻게 도움을 줄 수 있는지 설명합니다. 실험 문구(코드 개발 및 실험)에서 운영 문구(모델 빌드 워크플로 및 배포 파이프라인의 자동화)에 이르기까지 ML 프로젝트의 표준 단계에 따라 SageMaker는 다음 단계에서 효율성을 가져올 수 있습니다.
- 다음을 사용하여 데이터를 탐색하고 ML 코드를 빌드합니다. 아마존 세이지 메이커 스튜디오 노트북
- SageMaker 교육 작업으로 모델을 교육하고 조정합니다.
- 모델 제공을 위해 SageMaker 엔드포인트가 있는 모델을 배포합니다.
- 다음을 사용하여 워크플로 조정 Amazon SageMaker 파이프 라인.
다음 다이어그램은 이 아키텍처와 워크플로를 보여줍니다.
SageMaker를 모듈 방식으로 사용할 수 있다는 점에 유의하는 것이 중요합니다. 예를 들어 로컬 IDE(통합 개발 환경)로 코드를 빌드하고 SageMaker에서 모델을 교육 및 배포하거나 자체 클러스터 컴퓨팅 소스에서 모델을 개발 및 교육하고 워크플로 오케스트레이션 및 SageMaker 파이프라인을 사용할 수 있습니다. SageMaker 엔드포인트에 배포합니다. 즉, SageMaker는 자신의 요구 사항에 맞게 조정할 수 있는 개방형 플랫폼을 제공합니다.
우리의 코드를 참조하십시오 GitHub 저장소 코드 구조를 이해하려면 README를 참조하세요.
SageMaker 프로젝트 프로비저닝
당신이 사용할 수 Amazon SageMaker 프로젝트 당신의 여행을 시작합니다. SageMaker 프로젝트를 사용하면 Git 리포지토리의 버전을 관리하여 팀 간에 보다 효율적으로 협업하고, 코드 일관성을 보장하고, 지속적 통합 및 지속적 전달(CI/CD)을 활성화할 수 있습니다. 노트북은 모델 구축 및 실험에 유용하지만 ML 문제에 대해 작업하는 데이터 과학자 및 ML 엔지니어 팀이 있는 경우 코드 일관성을 유지하고 더 엄격한 버전 제어를 유지하기 위해 더 확장 가능한 방법이 필요합니다.
SageMaker 프로젝트는 PaddleOCR 통합을 단순화하기 위한 필수 구성 요소를 포함하는 사전 구성된 MLOps 템플릿을 생성합니다.
- CI/CD 도구와 통합된 처리, 교육 및 추론을 위한 사용자 정의 컨테이너 이미지를 빌드하기 위한 코드 리포지토리입니다. 이를 통해 사용자 지정 Docker 이미지를 구성하고 Amazon Elastic Container Registry (Amazon ECR)을 사용할 준비가 되었습니다.
- 데이터 준비, 훈련, 모델 평가 및 모델 등록을 위한 단계를 정의하는 SageMaker 파이프라인. 이렇게 하면 ML 프로젝트가 프로덕션에 들어갈 때 MLOps가 준비될 수 있습니다.
- 코드 버전 제어를 위한 Git 리포지토리, 모델 버전이 포함된 모델 그룹, 모델 빌드 파이프라인을 위한 코드 변경 트리거 및 모델 배포 파이프라인을 위한 이벤트 기반 트리거와 같은 기타 유용한 리소스.
SageMaker 시드 코드를 사용하여 표준 SageMaker 프로젝트를 생성하거나 조직에서 팀 구성원을 위해 생성한 특정 템플릿을 생성할 수 있습니다. 이 게시물에서는 표준을 사용합니다. 이미지 구축, 모델 구축 및 모델 배포를 위한 MLOps 템플릿. Studio에서 프로젝트를 만드는 방법에 대한 자세한 내용은 Amazon SageMaker Studio를 사용하여 MLOps 프로젝트 생성.
SageMaker Studio Notebooks로 데이터 탐색 및 ML 코드 빌드
SageMaker Studio 노트북은 컴퓨팅 인스턴스와 파일 스토리지를 미리 설정할 필요가 없기 때문에 빠르게 시작할 수 있는 협업 노트북입니다. 많은 데이터 과학자들은 ML 코드를 개발하고, 라이브러리 API를 빠르게 디버깅하고, 훈련 스크립트를 검증하기 위해 작은 데이터 샘플로 작업을 실행하는 데 이 웹 기반 IDE를 사용하는 것을 선호합니다.
Studio 노트북에서는 TensorFlow, PyTorch, Pandas 및 Scikit-Learn과 같은 일반적인 프레임워크에 대해 사전 구축된 환경을 사용할 수 있습니다. 미리 빌드된 커널에 종속성을 설치하거나 고유한 영구 커널 이미지를 빌드할 수 있습니다. 자세한 내용은 다음을 참조하십시오. Amazon SageMaker Studio에 외부 라이브러리 및 커널 설치. Studio 노트북은 SageMaker 교육 작업, 배포 또는 기타 AWS 서비스를 트리거하는 Python 환경도 제공합니다. 다음 섹션에서는 Studio 노트북을 교육 및 배포 작업을 트리거하는 환경으로 사용하는 방법을 설명합니다.
SageMaker는 강력한 IDE를 제공합니다. 데이터 과학자가 선호하는 개발 환경을 유연하게 사용할 수 있는 개방형 ML 플랫폼입니다. PyCharm 또는 Visual Studio Code와 같은 로컬 IDE를 선호하는 데이터 과학자의 경우 로컬 Python 환경을 사용하여 ML 코드를 개발하고 SageMaker를 사용하여 확장 가능한 관리 환경에서 교육할 수 있습니다. 자세한 내용은 PyCharm IDE를 사용하여 Amazon SageMaker에서 TensorFlow 작업 실행. 견고한 모델이 있으면 SageMaker를 사용하여 MLOps 모범 사례를 채택할 수 있습니다.
현재 SageMaker는 다음을 제공합니다. SageMaker 노트북 인스턴스 Jupyter 노트북 환경을 위한 레거시 솔루션입니다. Docker 빌드 명령을 실행할 수 있는 유연성이 있고 SageMaker 로컬 모드를 사용하여 노트북 인스턴스 학습. 또한 코드 리포지토리에서 PaddleOCR에 대한 샘플 코드를 제공합니다. ./train_and_deploy/notebook.ipynb.
SageMaker 프로젝트 템플릿으로 사용자 정의 이미지 빌드
SageMaker는 빌드 및 런타임 작업을 위해 Docker 컨테이너를 광범위하게 사용합니다. SageMaker로 쉽게 자신의 컨테이너를 실행할 수 있습니다. 자세한 기술 정보는 고유한 훈련 알고리즘 사용.
그러나 데이터 과학자로서 컨테이너를 구축하는 것은 간단하지 않을 수 있습니다. SageMaker 프로젝트는 이미지 구축 CI/CD 파이프라인을 통해 사용자 지정 종속성을 관리하는 간단한 방법을 제공합니다. SageMaker 프로젝트를 사용할 때 사용자 정의 컨테이너 Dockerfile을 사용하여 교육 이미지를 업데이트할 수 있습니다. 단계별 지침은 다음을 참조하십시오. 이미지 구축 CI/CD 파이프라인으로 Amazon SageMaker 프로젝트 생성. 템플릿에 제공된 구조를 사용하여 이 리포지토리에서 제공된 코드를 수정하여 PaddleOCR 교육 컨테이너를 빌드할 수 있습니다.
이 게시물에서는 처리, 훈련 및 추론을 위한 사용자 지정 이미지 구축의 단순성을 보여줍니다. GitHub 리포지토리에는 세 개의 폴더가 있습니다.
이러한 프로젝트는 유사한 구조를 따릅니다. 훈련 컨테이너 이미지를 예로 들어 보겠습니다. 그만큼 image-build-train/ 저장소에는 다음 파일이 포함되어 있습니다.
- 구성하는 데 사용되는 codebuild-buildspec.yml 파일 AWS 코드빌드 이미지를 빌드하고 Amazon ECR에 푸시할 수 있습니다.
- 모든 종속성과 교육 코드가 포함된 Docker 빌드에 사용되는 Dockerfile입니다.
- 인수로 구성할 수 있는 모든 하이퍼파라미터(예: 학습률 및 배치 크기)가 있는 학습 스크립트의 train.py 진입점입니다. 이러한 인수는 훈련 작업을 시작할 때 지정됩니다.
- 종속성.
코드를 해당 저장소에 푸시하면 트리거됩니다. AWS 코드 파이프라인 훈련 컨테이너를 구축할 수 있습니다. 사용자 지정 컨테이너 이미지는 이전 그림과 같이 Amazon ECR 리포지토리에 저장됩니다. 추론 이미지를 생성하기 위해 유사한 절차가 채택됩니다.
SageMaker 교육 SDK로 모델 교육
알고리즘 코드가 검증되고 컨테이너에 패키징된 후 SageMaker 교육 작업을 사용하여 모델을 교육할 관리 환경을 프로비저닝할 수 있습니다. 이 환경은 임시적입니다. 즉, 별도의 안전한 컴퓨팅 리소스(예: GPU) 또는 다중 GPU 분산 환경에서 코드를 실행할 수 있습니다. 교육이 완료되면 SageMaker는 결과 모델 아티팩트를 아마존 단순 스토리지 서비스 (Amazon S3) 지정하는 위치. 모든 로그 데이터와 메타데이터는 AWS 관리 콘솔, 스튜디오 및 아마존 클라우드 워치.
교육 작업에는 다음과 같은 몇 가지 중요한 정보가 포함됩니다.
- 훈련 데이터를 저장한 S3 버킷의 URL
- 작업의 출력을 저장하려는 S3 버킷의 URL
- SageMaker가 모델 교육에 사용할 관리형 컴퓨팅 리소스
- 훈련 컨테이너가 저장된 Amazon ECR 경로
훈련 작업에 대한 자세한 내용은 다음을 참조하십시오. 기차 모형. 훈련 작업에 대한 예제 코드는 다음에서 사용할 수 있습니다. 실험 기차 노트북.ipynb.
SageMaker는 하이퍼파라미터를 CreateTrainingJob 의 Docker 컨테이너에서 사용 가능한 요청 /opt/ml/input/config/hyperparameters.json 파일.
사용자 지정 훈련 컨테이너를 진입점으로 사용하고 인프라에 대한 GPU 환경을 지정합니다. 모든 관련 하이퍼파라미터는 각 개별 작업 구성을 추적하고 실험 추적과 비교할 수 있도록 매개변수로 자세히 설명됩니다.
데이터 과학 프로세스는 매우 연구 중심적이기 때문에 여러 실험이 동시에 실행되는 것이 일반적입니다. 이를 위해서는 다양한 실험, 다양한 알고리즘, 시도된 잠재적으로 다른 데이터세트 및 하이퍼파라미터를 모두 추적하는 접근 방식이 필요합니다. Amazon SageMaker 실험을 사용하면 ML 실험을 구성, 추적, 비교 및 평가할 수 있습니다. 우리는 또한 이것을 보여줍니다 실험 기차 노트북.ipynb. 자세한 내용은 Amazon SageMaker 실험으로 기계 학습 관리.
모델 제공을 위한 모델 배포
배포, 특히 실시간 모델 제공의 경우 많은 데이터 과학자가 운영 팀의 도움 없이는 수행하기 어려울 수 있습니다. SageMaker를 사용하면 훈련된 모델을 프로덕션 환경에 간편하게 배포할 수 있습니다. SageMaker Python SDK. 모델을 SageMaker 호스팅 서비스에 배포하고 실시간 추론에 사용할 끝점을 얻을 수 있습니다.
많은 조직에서 데이터 과학자는 엔드포인트 인프라를 유지 관리할 책임이 없습니다. 그러나 모델을 끝점으로 테스트하고 올바른 예측 동작을 보장하는 것은 실제로 데이터 과학자의 책임입니다. 따라서 SageMaker는 이를 위한 도구 및 SDK 세트를 추가하여 배포 작업을 단순화했습니다.
게시물의 사용 사례의 경우 실시간, 대화형, 저지연 기능을 원합니다. 실시간 추론 이 추론 워크로드에 이상적입니다. 그러나 각 특정 요구 사항에 맞는 많은 옵션이 있습니다. 자세한 내용은 추론을 위한 모델 배포.
사용자 지정 이미지를 배포하기 위해 데이터 과학자는 다음 그림과 같이 SageMaker SDK를 사용할 수 있습니다.
. create_model 요청, 컨테이너 정의에는 다음이 포함됩니다. ModelDataUrl 모델 아티팩트가 저장되는 Amazon S3 위치를 식별하는 매개변수입니다. SageMaker는 이 정보를 사용하여 모델 아티팩트를 복사할 위치를 결정합니다. 그것은 아티팩트를 복사합니다. /opt/ml/model 추론 코드에서 사용할 디렉터리입니다. 그만큼 serve 과 predictor.py 배포를 시작할 때 로드되는 모델 아티팩트와 함께 제공을 위한 진입점입니다. 자세한 내용은 호스팅 서비스에서 고유한 추론 코드 사용.
SageMaker Pipelines로 워크플로 조정
마지막 단계는 코드를 종단 간 ML 워크플로로 래핑하고 MLOps 모범 사례를 적용하는 것입니다. SageMaker에서 DAG(방향성 비순환 그래프)인 모델 구축 워크로드는 SageMaker Pipelines에 의해 관리됩니다. 파이프라인은 오케스트레이션 및 데이터 계보 추적을 지원하는 완전 관리형 서비스입니다. 또한 Pipelines는 SageMaker Python SDK와 통합되어 있으므로 이전에 교육 단계에서 사용한 고급 Python 인터페이스를 사용하여 프로그래밍 방식으로 파이프라인을 생성할 수 있습니다.
구현을 설명하기 위해 파이프라인 코드의 예를 제공합니다. 파이프라인.py.
파이프라인에는 데이터 세트 생성을 위한 전처리 단계, 학습 단계, 조건 단계 및 모델 등록 단계가 포함됩니다. 각 파이프라인 실행이 끝날 때 데이터 과학자는 버전 제어를 위해 모델을 등록하고 가장 성능이 좋은 모델을 배포할 수 있습니다. SageMaker 모델 레지스트리는 모델 버전, 카탈로그 모델을 관리하고 특정 모델의 승인 상태로 자동화된 모델 배포를 트리거하는 중앙 위치를 제공합니다. 자세한 내용은 모델 레지스트리에 모델을 등록하고 배포합니다.
ML 시스템에서 자동화된 워크플로 오케스트레이션은 모델 성능 저하, 즉 모델 드리프트를 방지하는 데 도움이 됩니다. 데이터 편차를 조기에 사전에 감지하면 모델 재교육과 같은 수정 조치를 취할 수 있습니다. 편차가 감지된 후 SageMaker 파이프라인을 트리거하여 모델의 새 버전을 재교육할 수 있습니다. 파이프라인의 트리거는 다음으로 결정할 수도 있습니다. Amazon SageMaker 모델 모니터, 생산 중인 모델의 품질을 지속적으로 모니터링합니다. 정보를 기록하는 데이터 캡처 기능을 통해 Model Monitor는 데이터 및 모델 품질 모니터링, 편향 및 특성 속성 드리프트 모니터링을 지원합니다. 자세한 내용은 데이터 및 모델 품질, 편향 및 설명 가능성에 대한 모델 모니터링.
결론
이 게시물에서는 OCR 작업을 위해 SageMaker에서 PaddleOCR 프레임워크를 실행하는 방법을 설명했습니다. 데이터 과학자가 SageMaker에 쉽게 참여할 수 있도록 알고리즘 구축에서 훈련, 실시간 추론을 위한 웹 서비스로 모델 호스팅에 이르기까지 ML 개발 수명 주기를 살펴보았습니다. 제공된 템플릿 코드를 사용하여 임의의 프레임워크를 SageMaker 플랫폼으로 마이그레이션할 수 있습니다. ML 프로젝트에 사용해 보고 성공 사례를 알려주십시오.
저자에 관하여
준이(재키) 리우 AWS의 수석 응용 과학자입니다. 그녀는 기계 학습 분야에서 다년간의 업무 경험을 가지고 있습니다. 그녀는 공급망 예측 알고리즘, 광고 추천 시스템, OCR 및 NLP 분야의 기계 학습 모델 구축 솔루션 개발 및 구현에 대한 풍부한 실무 경험을 보유하고 있습니다.
얀웨이 추이, PhD는 AWS의 기계 학습 전문가 솔루션 아키텍트입니다. 그는 IRISA(컴퓨터 과학 및 랜덤 시스템 연구소)에서 기계 학습 연구를 시작했으며 컴퓨터 비전, 자연어 처리 및 온라인 사용자 행동 예측 분야에서 인공 지능 기반 산업 응용 프로그램을 구축한 경험이 있습니다. AWS에서 그는 도메인 전문 지식을 공유하고 고객이 비즈니스 잠재력을 발휘할 수 있도록 돕고 대규모 기계 학습을 통해 실행 가능한 결과를 이끌어냅니다. 일 외에는 독서와 여행을 즐깁니다.
첸 이안 Amazon Lab 126의 소프트웨어 개발자입니다. 그녀는 개인화, 자연어 처리 및 컴퓨터 비전을 포함한 다양한 분야에서 기계 학습 기반 제품을 개발하는 데 10년 이상의 경험을 가지고 있습니다. 그녀는 일 외에는 장거리 달리기와 자전거 타기를 좋아합니다.
