주석

데이터에 주의를 기울여 주석을 달고 해당 항목에 대한 모든 멘션에 주석을 달았는지 확인하십시오. 주석이 정확하지 않으면 결과가 좋지 않을 수 있습니다.

입력 데이터에는 주석을 달려는 PDF의 복제본과 같은 중복된 내용이 포함되어서는 안 됩니다. 샘플이 중복되면 테스트 세트가 오염되어 학습 프로세스, 모델 지표 및 모델 동작에 부정적인 영향을 미칠 수 있습니다.

모든 문서에 주석을 달아야 하며, 주석이 없는 문서는 적법한 개체가 없기 때문이지 과실로 인한 것이 아님을 확인하십시오. 예를 들어, “J Doe는 14년 동안 엔지니어로 일했습니다”라는 문서가 있는 경우 “J Doe”와 “John Doe”에 대한 주석도 제공해야 합니다. 그렇게 하지 않으면 모델이 혼동을 하여 모델이 “J Doe”를 ENGINEER로 인식하지 못할 수 있습니다. 이는 동일한 문서 내에서, 또는 문서 간에도 일관되어야 합니다.

일반적으로 주석을 많이 달면 더 나은 결과를 얻을 수 있습니다.

최소한의 문서와 주석으로 모델을 학습시킬 수 있지만 데이터를 추가하면 일반적으로 모델이 향상됩니다. 모델의 정확도를 높이려면 주석이 달린 데이터의 양을 10% 늘리는 것이 좋습니다. 변경되지 않고 다른 모델 버전에서 테스트할 수 있는 테스트 데이터세트에 대해 추론을 실행할 수 있습니다. 그런 다음 후속 모델 버전의 지표를 비교할 수 있습니다.

실제 사용 사례와 최대한 유사한 문서를 제공하십시오. 패턴이 반복되는 합성 데이터는 피해야 합니다. 입력 데이터는 과적합을 방지하고 기본 모델이 실제 예제를 보다 잘 일반화할 수 있도록 최대한 다양해야 합니다.

문서는 단어 수 측면에서 다양해야 합니다. 예를 들어, 학습 데이터의 모든 문서가 짧으면 결과 모델이 긴 문서에서 개체를 예측하기 어려울 수 있습니다.

사용자 지정 개체를 실제로 감지할 때 사용할 것으로 예상되는 것과 동일한 데이터 분포(추론 시간)를 학습에 적용해 보십시오. 예를 들어, 추론 시 개체가 없는 문서를 보내려는 경우 이 문서도 교육 문서 세트에 포함되어야 합니다.